Magnifica Humanitas e non solo, ecco le vere sfide dell’intelligenza artificiale. Parla il prof. Giustozzi

Professor Giustozzi, ieri hai presenziato alla presentazione in Vaticano dell’enciclica Magnifica Humanitas sull’Intelligenza Artificiale alla presenza di Papa Leone XIV. Nel corso dell’evento c’è stata una convergenza dei relatori nel mettere in rilevo cinque valori ricorrenti nell’enciclica che peraltro possono essere largamente condivisi da a credenti e non credenti: libertà, verità, uguaglianza, trasparenza e bene comune. Secondo te in che misura l’intelligenza artificiale può promuovere libertà e non il rischio di dipendenza o alienazione dell’individuo e della comunità?

Premetto che, da tecnologo, sono ancora convinto nonostante tutto che le tecnologie siano in sé neutre, e dunque tutto dipende dall’uso che se ne fa. Penso anche che tutte le tecnologie sviluppate dall’Uomo nella sua storia siano sostanzialmente classificabili come amplificatori: di forza, di velocità, di percezione, di computazione… di capacità umane in genere.

L’intelligenza artificiale non fa eccezione, anche se è forse la tecnologia più potente e versatile che abbiamo sinora sviluppato. E, grazie al recente salto di paradigma (mi riferisco allo sviluppo del modello basato sui Transformer) che ha consentito di rendere praticamente realizzabile l’IA generativa, siamo oggi probabilmente solo agli albori di una rivoluzione profonda nel modo di relazionarci con le macchine, con la società e con noi stessi.

È dunque cruciale il modo in cui l’IA verrà utilizzata: da un lato infatti può amplificare magnificamente le capacità dei singoli e della collettività facilitando il progresso comune, ma dall’altro può creare dei nuovi paradisi artificiali – non lisergici ma non per questo meno pericolosi – in grado di attirare i più fragili verso spirali autoreferenziali di dipendenza ed estraniazione. Il confine tra valorizzare le relazioni umane e scimmiottarle è labile e scivoloso, e ricordiamoci sempre che il lato oscuro è sempre più affascinante… ma letale.

L’esempio da manuale già c’è, e risale a oltre sessant’anni fa. È la storia di ELIZA, il primo chatbot della storia sviluppato al MIT da Joseph Weizenbaum negli anni ‘60 del secolo scorso, che era in grado di sostenere una credibile conversazione nel ruolo di uno psicoterapeuta di scuola rogersiana. In realtà ELIZA era stato creato proprio allo scopo di demistificare l’IA, mostrando come l’uso accorto di qualche bieco trucco semantico potesse dare l’impressione della comprensione da parte della macchina: ma paradossalmente finì per essere consigliato dal Ministero della Salute statunitense come reale sussidio terapeutico nelle cliniche per malattie mentali, un vero e proprio counselor virtuale ante litteram, peraltro con grande scorno del suo autore.

In un’epoca dominata da bolle mediatiche, campagne di disinformazione e post verità, in che misura l’intelligenza artificiale può contribuire alla ricerca delle verità terrena e a sviluppare il metodo scientifico?

In ultima analisi, la moderna IA non è che il culmine dell’evoluzione del concetto di “macchina da calcolo” o “macchina analitica” che trova le sue origini, e la sua giustificazione, in quello che Gottfried Wilhelm Leibniz scriveva nel lontano 1670: “Non è possibile che studiosi e scienziati, anziché elaborare e confrontare nuove teorie perdano le proprie ore come schiavi nelle fatiche del calcolo, che potrebbe essere affidato a chiunque se si potessero usare delle macchine”.

Se le calcolatrici prima, e gli elaboratori poi, ci hanno liberato dall’onere del calcolo manuale automatizzandone i procedimenti, l’IA di oggi ci libera da quelle “attività intellettuali del second’ordine” che concernono i processi di apprendimento e di astrazione della conoscenza. Automatizzando le attività di analisi semantica e cognitiva l’IA consente infatti non solo di estrarre significati dai contenuti analizzati ma, e soprattutto, di rielaborare l’appreso per produrre nuove relazioni e anche nuova conoscenza originale.

A tal proposito non si può non menzionare la recentissima e straordinaria impresa di un modello di OpenAI il quale non solo ha prodotto un controesempio alla congettura sulle distanze unitarie nel piano formulata da Erdős nel 1946, ma soprattutto per farlo ha collegato creativamente due branche della matematica che venivano considerate del tutto slegate tra loro, aprendo così nuovi ed inaspettati fronti sul piano della ricerca pura che erano sfuggiti per decenni ai migliori esperti del mondo.

Dunque l’IA come “amplificatore del pensiero” può, se bene impiegata, favorire l’applicazione del metodo scientifico in tantissimi settori, favorendo o accelerando il raggiungimento di risultati che sarebbero invece molto più difficili da conseguire in modo tradizionale.

La professoressa congolese Leocadie Lushombo ha ricordato che per i minatori africani le miniere delle terre rare in cui lavorano in pessime condizioni di lavoro possono trasformarsi in tombe. L’intelligenza artificiale – che senza alcune terre rare non potrebbe funzionare – può contribuire a mitigare le loro condizioni e più in generale le diseguaglianze sociali a partire dai lavoratori più poveri e disagiati?

Ancora una volta credo che la soluzione non vada cercata nello strumento ma in chi, e come, dovrebbe usarlo. Il problema in questo caso è quello di instaurare modelli sostenibili di produzione in Paesi che non sono solamente poveri, ma vengono deliberatamente mantenuti in uno stato di arretratezza socio-economica che consente di tollerare, se non addirittura giustificare, regimi lavorativi pressoché schiavistici.

Usare l’IA per sviluppare modelli produttivi alternativi, che ad esempio migliorino l’efficienza nella filiera produttiva e consentano di redistribuirne il valore così da migliorare le condizioni di vita dei lavoratori più disagiati, è certamente possibile a tavolino: ma tutto ciò non sarebbe accettato dal sistema attuale che, fondandosi sull’ipocrisia dei portatori di interesse, specula sulla povertà e sfrutta la corruzione per mantenere uno status quo il quale consente ai pochi soggetti interessati di massimizzare i propri profitti. In altre parole: con l’IA si può promuovere il cambiamento, ma l’IA da sola non è il cambiamento.

Un’altra parola chiave della mattinata è stata bene comune. Per ora le piattaforme di intelligenza artificiale sono di proprietà di pochi colossi privati americani o di imprese cinesi possedute o strettamente controllate dallo Stato/partito. E’ possibile (e se la risposta é affermativa) come utilizzarle per il bene comune?

Vedo in questo un forte parallelismo con quella che è stata la “rivoluzione dell’informatica” agli inizi degli anni ‘80 dello scorso secolo. Fino a quel momento tutta l’informatica nel mondo si faceva coi famosi “mainframe”, enormi elaboratori che occupavano intere stanze, consumavano quantità straordinarie di energia, erano accuditi da caste di tecnici in camice bianco, e soprattutto costavano così tanto che solo le più grandi aziende potevano permetterseli: in cambio tuttavia servivano le esigenze decine, centinaia o addirittura migliaia di utenti mediante i cosiddetti “terminali”. All’epoca questo modello centralizzato era l’unico concepibile, e qualche costruttore di computer si azzardò persino ad affermare che per soddisfare tutte le necessità di calcolo al mondo sarebbe stata sufficiente una dozzina di grossi mainframe sparsi sul pianeta.

Sappiamo bene come andò invece a finire: lo sviluppo della tecnologia permise ben presto di produrre “calcolatori su un singolo chip” relativamente limitati ma economici (i microprocessori), dando così l’avvio all’era rivoluzionaria del “calcolo personale”. Questo concetto, dapprima anarchico e creativo, passando dapprima per i vari primordiali tentativi di strutturazione fatti da Apple, Commodore e IBM, è diventato successivamente un paradigma standard dell’informatica a partire dagli anni ‘90 per sfociare infine negli oggetti “smart” di oggigiorno. Oggi il mainframe c’è ancora, non è scomparso: ma è diventato un oggetto di nicchia, che serve solo in casi di specifica necessità.

Ecco: al momento per fare IA servono supercalcolatori immensi ed immensamente energivori, e dunque costosissimi. Ciò ne limita lo sviluppo, e ne consente l’adozione solo a pochissime organizzazioni dotate di capacità e risorse straordinarie. Al momento questo modello di “IA centralizzata” sembra essere l’unico concepibile. Ma diversi ricercatori, soprattutto in Cina, stanno dimostrando che è possibile sviluppare modelli più efficienti di rappresentazione ed elaborazione delle grandissime masse di dati che servono per generare le inferenze, consentendo così di impiegare hardware meno sofisticato per elaborarle. Stanno inoltre nascendo modelli “verticali” di IA ancora meno avidi di risorse, in quanto barattano la generalità con l’efficienza. Tutto ciò, assieme al continuo aumento delle prestazioni dell’hardware, fa presumere che prima o poi il modello attuale di “IA centralizzata” potrebbe lasciare il passo ad un modello decentralizzato basato su istanze di “IA personali” che girino su hardware di ridotte dimensioni. Questo, a sua volta, potrebbe portare ad una “democratizzazione dell’IA” così come è avvenuto per la “democratizzazione del calcolo” nel passaggio dal mainframe al personal computer.

Christopher Olah, cofondatore di Anthropic, ha accennato ad alcuni misteri nel funzionamento delle piattaforme. A cosa ha voluto alludere e come si può ottenere una maggiore trasparenza?

Il problema principale delle attuali IA è che sono “imprevedibili” e “inspiegabili”: ovvero i razionali delle loro scelte, ciò che giustifica il loro comportamento, rimangono oscuri anche agli stessi progettisti. In linea di massima, infatti, non solo non è possibile prevedere come una IA si comporterà in una certa situazione, ma neppure capire perché in una data situazione si è comportata in quel certo modo.

Ciò dipende dal fatto che il comportamento di una IA non è meccanicamente determinato dai suoi algoritmi ma dipende dalla sua esperienza, sia quella ottenuta nella fase di addestramento che quella che si sviluppa costantemente durante il normale esercizio. Le IA di oggi sono dunque una sorta di oracoli: forniscono risposte spesso corrette e anche utili, ma nessuno è in grado di capire perché. Questo ovviamente non va bene in molte situazioni pratiche, quando non basta avere una risposta ma è necessario comprendere i passaggi che hanno portato a formularla, non fosse altro che per validarne la solidità.

La sfida dell’IA odierna è dunque quella di produrre modelli “spiegabili”, sui quali potremo riporre la nostra fiducia non in modo fideistico ma basandoci su dati oggettivi e passaggi conseguenziali. La sfida è aperta, e le ricerche sono in corso.