Su sollecitazione di colleghi della ricerca e dell’analisi tecnologica negli Stati Uniti, rilancio l’iniziativa Pacing the Frontier. Nel nostro Paese il dibattito sull’intelligenza artificiale oscilla ancora troppo spesso tra entusiasmo acritico e formalismo regolatorio, mentre presta poca attenzione alle tensioni che stanno emergendo direttamente nei laboratori dove questi sistemi vengono progettati, io ne ho parlato sul mio saggio Vaticano Zero Day, grazie al quale mi ha fatto conoscere alla comunità tech della Silicon Valley.
La piattaforma Pacing the Frontier ha pubblicato una dichiarazione che, mentre scrivo, ha raccolto quasi 1.300 firme di ricercatori e dipendenti delle principali aziende di frontiera dell’AI, tra cui OpenAI, Anthropic, Google DeepMind e Meta.
L’iniziativa si inserisce in un dibattito più ampio che negli ultimi anni ha visto figure come Yoshua Bengio, Premio Turing 2018, richiamare con crescente insistenza l’attenzione sui rischi sistemici di un’accelerazione tecnologica priva di adeguati meccanismi di controllo.
Non firmano attivisti esterni né critici dell’intelligenza artificiale. Firmano ingegneri, data scientist ed esperti di sicurezza che quei modelli li progettano, li addestrano e li valutano ogni giorno.
Il documento e ciò che raccontano i laboratori
La dichiarazione è volutamente prudente. Non chiede di fermare la ricerca né di imporre immediatamente nuovi vincoli alle aziende. Chiede al governo degli Stati Uniti di promuovere un’iniziativa internazionale per sviluppare strumenti tecnici e istituzionali che consentano, qualora fosse necessario, di rallentare in modo coordinato il ritmo dello sviluppo man mano che la ricerca sull’IA diventa sempre più automatizzata, in parte riflette anche quanto scritto nell’Enciclica Magnifica Humanitas.
La parte più interessante, tuttavia, non è il testo del manifesto, ma le testimonianze personali che accompagnano molte firme. È lì che il linguaggio istituzionale lascia spazio al racconto diretto della trasformazione in corso.
Alex Cloud, membro del Technical Staff di Anthropic, descrive così l’evoluzione del proprio lavoro:
«Un anno fa scrivevo il mio codice e usavo Claude per suggerire aggiunte e trovare risposte alle mie domande. Ora non scrivo più codice. Fornisco istruzioni di alto livello a Claude e lui esegue esperimenti per testare le idee al posto mio, a una velocità che non avrei mai potuto raggiungere da solo. Prevedo che questa tendenza continuerà, forse fino al punto in cui lo sviluppo dell’IA sarà drasticamente più rapido di oggi e richiederà un intervento umano pressoché nullo.»
Da questa esperienza nasce anche una delle immagini più ricorrenti tra i firmatari, ovvero il paragone con la corsa agli armamenti nucleari.
Leo Gao, membro del Technical Staff di OpenAI, scrive:
«Il mondo è intrappolato in una corsa mortale verso un’esplosione di intelligenza artificiale, dove la capacità dell’IA di creare IA sempre migliori raggiunge un punto critico, proprio come una reazione a catena nucleare incontrollata. Rallentare ci darebbe il tempo necessario per far sì che tutto vada per il meglio, ma nessun singolo attore è disposto a fermarsi unilateralmente. Per sopravvivere, dobbiamo coordinarci per rallentare la corsa.»
Un riferimento che ritorna anche nelle parole di Will Yager, ricercatore di Anthropic:
«Come la scissione dell’atomo, l’intelligenza artificiale racchiude il potenziale sia di immensi benefici che di immensi rischi. Il mondo dovrebbe prendersi il tempo necessario per farlo nel modo giusto.»
Non è tanto la metafora in sé a colpire, quanto il fatto che essa emerga spontaneamente da chi lavora ogni giorno all’interno dei laboratori più avanzati.
La trappola del mercato
Il cuore della questione non sembra essere una conversione etica dell’industria, bensì un problema classico dell’economia degli incentivi.
Ogni laboratorio può riconoscere la necessità di investire maggiormente nella sicurezza, ma nessuno può permettersi di rallentare da solo senza rischiare di perdere terreno rispetto ai concorrenti. È il dilemma del prigioniero applicato alla corsa per l’intelligenza artificiale generale.
Lo riconosce apertamente Swante Scholz di Google:
«Temo che la mia azienda stia contribuendo alle dinamiche della corsa all’IA che rendono molto più probabili i rischi catastrofici o esistenziali derivanti dall’IA. La proposta qui presentata per moderare l’evoluzione mi sembra un tentativo più che ragionevole di ridurre questi rischi.»
Grace Atwood, Technical Staff di Anthropic, chiarisce che la proposta non mira a fermare l’innovazione, ma a modificare gli incentivi competitivi del settore:
«In tutto il settore, le pressioni commerciali nella corsa all’IA continuano ad aumentare, spingendo tutti ad andare avanti a velocità sempre maggiore. Nel frattempo, la sicurezza riceve un’attenzione reattiva, benintenzionata e momentanea, prima che si torni subito alla corsa. Rallentare non significa diminuire il ritmo della ricerca e sviluppo, ma piuttosto, come settore, riorientare intenzionalmente una parte maggiore delle nostre capacità verso la sicurezza.»
Lo scollamento tra ciò che viene discusso all’interno dei laboratori e la percezione esterna emerge con particolare forza nella testimonianza anonima di un ricercatore di Anthropic:
«La società non è preparata all’intelligenza artificiale, e questo mi terrorizza. Quando parlo con i politici, o con chiunque al di fuori dei laboratori di ricerca all’avanguardia, sembra che molti pensino ancora che queste capacità siano solo una trovata di marketing. Non si rendono conto che il dibattito all’interno delle aziende verte sulla possibilità che l’IA si evolva al di fuori del nostro controllo entro due o quattro anni.»
Oltre la narrazione
Sarebbe un errore leggere questo manifesto come un verbale di resa o come una richiesta di sospendere immediatamente lo sviluppo dell’intelligenza artificiale.
La dichiarazione è molto più misurata. Chiede alle istituzioni di costruire gli strumenti tecnici, giuridici e internazionali che rendano possibile, qualora se ne presentasse la necessità, un rallentamento coordinato della corsa tecnologica. Non introduce alcun vincolo operativo immediato.
È proprio questa cautela a renderla interessante.
Da un lato emerge il riconoscimento, da parte degli stessi sviluppatori, che l’autoregolamentazione volontaria difficilmente può funzionare quando gli incentivi economici premiano sistematicamente la velocità.
Dall’altro si apre un interrogativo meno discusso, ovvero quello della regulatory capture. Una regolazione costruita intorno ai grandi laboratori potrebbe infatti rafforzare proprio gli operatori già dominanti, gli unici a disporre delle risorse economiche, giuridiche e organizzative necessarie per rispettare nuovi standard e contribuire alla loro definizione.
Non è un caso che, nello stesso scenario competitivo, convivano strategie opposte. Da una parte chi invoca meccanismi di coordinamento internazionale, dall’altra la posizione sostenuta da Mark Zuckerberg e Meta, secondo cui una maggiore apertura dei modelli rappresenterebbe il modo migliore per evitare un’eccessiva concentrazione del potere tecnologico.
Restano, infine, le testimonianze dirette di chi questi sistemi li costruisce. Quando sviluppatori come Teddy Lee o Ali Egal affidano ai propri commenti frasi come «Le cinture di sicurezza e i limiti di velocità salvano vite» oppure «Pensate a tutto ciò che amiamo», il punto non è tanto il tono emotivo delle parole.
Il dato realmente significativo è un altro: per la prima volta una parte consistente di chi opera nei laboratori più avanzati descrive apertamente un conflitto tra la velocità imposta dal mercato e la capacità delle istituzioni di comprenderne e governarne le conseguenze. È probabilmente in questo scarto, più ancora che negli annunci delle aziende o nelle dichiarazioni dei governi, che oggi si gioca una parte decisiva del futuro dell’intelligenza artificiale.
(Estratto dalla newsletter Il Substack di Luigi)
