Si è svolta martedì 16 giugno, presso la sala stampa della Camera dei Deputati, la conferenza stampa di presentazione della lettera aperta alla società intitolata “Per una visione realistica dell’intelligenza artificiale”, firmata fino ad ora da più di 350 ricercatori operanti in istituzioni di ricerca pubbliche e private in Italia e nel mondo.
La lettera, promossa dal sottoscritto e da Walter Quattrociocchi, di Sapienza Università di Roma, ha l’obiettivo di riportare la discussione sull’intelligenza artificiale (IA) su basi più realistiche, sfrondandola da visioni antropomorfizzate, oscillanti tra il salvifico e l’apocalittico.
Siamo stati ospiti della cortese disponibilità del vicepresidente della Camera, l’On. Anna Ascani, che ha aperto l’evento ringraziandoci per l’iniziativa e riconoscendo l’importanza di averla portata in una sede in cui c’è necessità di conoscere ciò che si deve poi regolamentare. Sul tema dell’IA la Camera sta operando da tempo a diversi livelli, in collaborazione col mondo accademico. C’è consapevolezza dei rischi, ma anche delle opportunità, di cui i cittadini italiani potrebbero beneficiare, con la piena contezza che si tratta di una tecnologia estremamente sofisticata, che però non può sostituire l’essere umano. È quindi importante, ha concluso, il messaggio che questa lettera sta portando.
Successivamente, Quattrociocchi ha brevemente presentato le motivazioni della lettera, che sono di riempire un vuoto narrativo creato da questa frenetica e, per certi versi, inaspettata avanzata della intelligenza artificiale generativa (IAgen), che simula conoscenza al livello dei migliori esperti, senza realmente possederla. Si è creato un racconto che, in alcuni casi, è slegato dalla realtà di ciò che è oggettivamente e galileianamente verificabile. Non si vuole escludere il dibattito delle opinioni, ma distinguere tra opinioni, visioni ed evidenza sperimentale, approccio che è fondamentale soprattutto nel trattare temi astratti quali quello dell’intelligenza e della coscienza. Questo approccio scientifico è, paradossalmente, diventato più difficile negli ultimi anni, dove il dominio dei social nella sfera della comunicazione premia la suggestività rispetto alla precisione. Obiettivo della lettera è favorire lo sviluppo di una comprensione solida di questa innovazione tecnologica, con la collaborazione di accademia, politica e mondo dell’informazione.
A seguire, Andrea Cerroni, sociologo della scienza e della tecnologica, dell’Università di Roma Tre, ha ricordato che anche la tecnologia porta dentro di sé una visione del mondo e un modello di società, definito da chi quella tecnologia l’ha costruita. Inoltre, i dati su cui queste tecnologie si basano sono selezionati da qualcuno che li ha scelti in base alle sue esigenze ed obiettivi. Si tratta di un processo legittimo, ma su cui spesso non c’è trasparenza. Nel caso specifico dell’IAgen ciò può condurre a oligopoli cognitivi e logiche opache, inducendo gli utenti a scambiare ciò che essi producono per ciò che è assolutamente vero. Ha inoltre ricordato che, anche chi fa scienza, non produce “La Verità” ma ciò che sembra essere una ragionevole spiegazione dei fenomeni cui assistiamo.
Poi, Andrea Orlandini, dell’Istituto di Scienze e Tecnologie Cognitive del CNR, ha parlato dell’apparente semplificazione derivante dall’IAgen, che rende facilmente accessibili a tutti campi della conoscenza anche complessi, per i quali però spesso non si posseggono le conoscenze per valutare l’affidabilità di risposte che, essendo generate su base statistica, sono inevitabilmente destinate a contenere quelle che vengono chiamate “allucinazioni”, cioè sequenze statisticamente plausibili ma errate. La lettera, ha aggiunto, vuole separare il contesto scientifico, in cui i diversi punti di vista – magari in disaccordo tra loro – sono esposti con un approccio basato su rigore logico ed evidenza sperimentale, da quello informativo-divulgativo che, in un settore in rapidissima evoluzione, conduce alle volte a semplificazioni errate ed esagerazioni fuorvianti, spesso anche sotto la spinta di fortissimi interessi economici.
A concludere il primo giro di riflessioni scientifiche, Salvatore Orlando, del Dipartimento di Diritto ed Economia dell’Impresa di Sapienza, che ha iniziato rinforzando la precedente osservazione di Cerroni, facendo notare che il dato non viene oggettivamente reperito in natura, ma è “raccolto” da un soggetto, che opera quindi non solo una sua selezione su “cosa” raccogliere, ma decide anche come e quando raccogliere questi elementi su cui poi si costruiscono interpretazioni e teorie. Dopo di che ha sottolineato, da giurista, che si può parlare di vere e proprie “decisioni” solo in presenza di un essere umano, o di un soggetto del diritto. Ha infine ricordato la pericolosità dell’autorizzazione data dall’Artificial Intelligence Act all’acquisizione e trattamento da parte delle piattaforme dei dati sensibili di tutti per poter prendere decisioni in merito all’eventuale rimozione dei contenuti.
L’On. Mascaretti, nell’apprezzare l’iniziativa e la riflessione di buon senso sulla percezione dell’IAgen da parte della società, ha stigmatizzato alcune recenti iniziative culturali e politiche di antropomorfizzazione di questa tecnologia, che hanno conosciuto una vasta diffusione mediatica che non contribuisce ad una reale comprensione dei suoi meccanismi. Ha poi esposto un interessante e calzante paragone su come la diffusione dell’automobile nel dopoguerra ha portato una gran massa di italiani a conoscere angoli del Bel Paese (e non solo) che loro non potevano precedentemente raggiungere e conoscere, così la tecnologia dell’intelligenza artificiale generativa (IAgen) consente a moltissime persone l’accesso a domìni di conoscenza precedentemente ostici, e quindi fuori dalla portata della comprensione di massa. Ha concluso ricordando gli interessi commerciali che ci sono dietro gli strumenti di IAgen, apprezzando la nostra iniziativa per spingere anche il mondo della comunicazione ad affrontare questo tema su basi più realistiche, aspetto di estrema importanza soprattutto per le generazioni più giovani.
Nel mio intervento ho dapprima ripreso il paragone dell’On. Mascaretti, osservando i vantaggi che l’IAgen può apportare, magari aiutare a capire una diagnosi medica o una sentenza, ma anche i rischi connessi agli errori che potrebbero essere presenti in queste spiegazioni, che sono ineliminabili, perché matematicamente legati a come questi sistemi costruiscono il loro output. In aggiunta ho ricordato come le giovani generazioni siano quelle più indifese, in virtù della loro inesperienza ed incompleta conoscenza. Come ho discusso nel mio recente articolo, vi sono evidenze sperimentali di come la disponibilità di strumenti di IAgen che non hanno vincoli sul loro uso conduca gli studenti in formazione a saltare quella fase di fatica cognitiva che è inscindibile dal processo di acquisizione di conoscenze e abilità. Quindi, se non vogliamo perdere la possibilità per le prossime generazioni di acquisire quelle competenze cognitive di alto livello sempre più necessarie in una società digitale sempre più complessa, bisognerà discutere e riflettere su cosa si può fare.
Nel secondo giro sono intervenuti l’On. Iaria che ha apprezzato il richiamo del manifesto a spiegare cosa sia davvero l’intelligenza artificiale, che non è umana, mito che va assolutamente sfatato, aggiungendo che è necessario imparare ad usare questi strumenti che saranno sempre più presenti nel mondo del lavoro. A seguire l’On. Caso, che ha ribadito che il fulcro è comprendere questa tecnologia ed è necessario usare questi strumenti per innovare la didattica e usarli per facilitare l’apprendimento. Ha infine discusso l’importanza di possedere il controllo di questi strumenti, attualmente detenuto da privati e al di fuori del contesto europeo. Altrimenti il rischio è che essi creino un nuovo digital divide. Questo è un punto fondamentale su cui gli stati, anche in una dimensione di collaborazione europea, devono essere in grado di intervenire, considerando l’IAgen come un “bene comune”.
Quattrociocchi ha ripreso lo spunto di questa tecnologia come bene comune, ribadendo però l’importanza di garantirne e assicurarne l’affidabilità. Questi strumenti producono output simili a quelli degli esseri umani, che però hanno la capacità di verificare le proprie affermazioni, mentre l’IAgen nasce per ottimizzare la plausibilità linguistica. Il problema è che poi, anche sotto la spinta commerciale delle piattaforme, si salta da questa al piano cognitivo. Questo sta già facendo danni all’università, ha affermato Quattrociocchi sulla base della sua esperienza personale, con studenti che producono tesi e progetti scritti benissimo, di cui però non hanno una reale comprensione. Ha concluso ricordando che se l’IAgen non acquisisce una solida affidabilità non sarà in grado di assicurarsi un ritorno economico.
La conferenza è terminata con brevi riflessioni degli altri colleghi. Cerroni ha ricordato che l’IAgen non va vista come uno strumento che permette di abbreviare i tempi complessivi, ma di scaricarsi delle attività ripetitive e meccaniche, concentrandosi sul lavoro cognitivamente più elevato. Orlandini ha rimarcato la necessità di informare in modo positivo, considerando che si tratta di strumenti molto sofisticati, che acquisiscono nuovi elementi che fanno emergere nuovi comportamenti emergenti, che vanno studiati, ma contestualizzandoli nel modo giusto. Orlando ha osservato che nel mondo del diritto l’interpretazione delle norme, la loro ermeneutica, è soggetta a un’evoluzione che però gli strumenti di IAgen non vedono perché rimandano sempre alle interpretazioni quantitativamente prevalenti che però sono le più vecchie. Dal punto di vista della cultura giuridica si tratta quindi di un atteggiamento reazionario che taglia il raccordo creato tra la società e la legge, basato appunto sulle interpretazioni più moderne.
Io ho concluso concordando che sono strumenti fondamentali di controllo del consenso, il che richiede che tutti i ricercatori che hanno firmato la lettera aperta continuino ad operare per la diffusione di una loro migliore comprensione nell’interesse di tutti.
(I lettori interessati potranno dialogare con l’autore, a partire dal terzo giorno successivo alla pubblicazione, su questo blog interdisciplinare.)
