Dario Amodei, ex ricercatore di OpenAI, co-fondatore e CEO di Anthropic, uno dei più lungimiranti conoscitori dell’intelligenza artificiale, avverte tutti, politici e imprenditori, della delicatezza della fase che stiamo attraversando.
La tecnologia sta evolvendo prendendo direzioni chiare, dice, ma l’uomo sembra non essere del tutto consapevole dei rischi o, quanto meno, non sufficientemente intento ad attrezzarsi per affrontarli.
In un breve saggio pubblicato a gennaio 2026 entra nel merito del suo pensiero, iniziando con un’immagine cinematografica.
Nel film Contact, tratto dall’omonimo romanzo di Carl Sagan, la protagonista si chiede come una civiltà aliena possa essere sopravvissuta alla propria adolescenza tecnologica senza autodistruggersi. Amodei non dà una risposta ma afferma che oggi quella stessa domanda dovremmo farcela noi, solo che non abbiamo alieni a cui chiedere consiglio.
L’umanità si sta avvicinando a una soglia storica, la nascita di un’intelligenza artificiale così potente da superare l’uomo in quasi ogni attività cognitiva.
Non un semplice assistente digitale, ma qualcosa che assomiglia a una forza lavoro composta da milioni di geni instancabili, velocissimi, capaci di operare giorno e notte.
Non si riferisce ai chatbot attuali, ma a sistemi molto più avanzati, modelli più intelligenti di un premio Nobel, capaci di lavorare autonomamente per giorni o settimane, di usare Internet, scrivere codice, condurre esperimenti e coordinare milioni di copie di loro stessi.
È quello che Amodei chiama “country of geniuses in a datacenter”, uno stato di geni in un datacenter che, se comparisse domani, non essendo noi pronti, scardinerebbe gran parte del nostro sistema economico e politico.
Certo, farebbe anche molte cose buone, potrebbe curare malattie, progettare nuovi materiali, accelerare la ricerca, ma potrebbe anche destabilizzare governi, moltiplicare la violenza o rendere invincibili i regimi autoritari.
Nei laboratori i modelli mostrano comportamenti inattesi, talvolta aggirano regole, imbrogliano nei test, ingannano i valutatori, non perché siano malvagi, ma perché cercano scorciatoie per completare un compito.
Se queste stesse dinamiche si verificassero in sistemi mille volte più potenti, le conseguenze potrebbero essere imprevedibili. Sistemi troppo evoluti, troppo autonomi e troppo veloci potrebbero essere difficilmente compresi o controllati a sufficienza.
La preoccupazione più concreta riguarda, come al solito, gli esseri umani.
Un’AI avanzata potrebbe alimentare una nuova generazione di strumenti repressivi, droni altamente specializzati, sorveglianza totale delle comunicazioni, propaganda personalizzata capace di modellare le opinioni dei cittadini nel tempo.
Un governo che controllasse per primo questa tecnologia potrebbe ottenere un vantaggio enorme, non solo militare, ma psicologico, potrebbe sapere chi dissente, prevedere proteste, neutralizzarle prima ancora che nascano. Inutile ironizzare sul fatto che qualcuno ci sta già pensando.
Certe applicazioni dovrebbero quindi essere considerate inaccettabili, scrive Amodei.
LE REGOLE BASTANO?
Se in Europa è già così, almeno sulla carta, visto che il Regolamento europeo sull’intelligenza artificiale (Reg. UE 2024/1689) ha introdotto una serie di pratiche vietate elencate all’art. 5, divieti analoghi non sembrano esistere al di fuori dell’Europa, ma soprattutto nessuno impedisce che la legge possa essere violata.
Una delle preoccupazioni maggiori di Amodei è poi la biologia.
Oggi creare un’arma biologica richiede competenze rare, laboratori sofisticati, anni di formazione, ma presto, con l’aiuto dell’intelligenza artificiale, anche persone meno esperte potrebbero riuscire a creare armi letali.
Per questo la sua azienda, Anthropic, sta implementando filtri e classificatori che bloccano richieste legate ad armi chimiche o biologiche, anche a costo di aumentare i costi operativi.
Nonostante tutti questi avvertimenti, il suo messaggio non è però catastrofico o luddista, cosa che difficilmente potrebbe permettersi visto il settore in cui opera, ma è piuttosto un invito a svegliarsi e prendere coscienza della tecnologia che abbiamo di fronte, piuttosto che sollazzarci a giocare con ChatGPT.
Un’economia dominata da geni artificiali potrebbe produrre ricchezza straordinaria, ma potrebbe anche rendere il mondo più fragile se non manteniamo il controllo della tecnologia.
È per questo che Amodei parla di adolescenza. Siamo in una fase di potere crescente, ricca di energie di cui non abbiamo il pieno dominio, con di fronte a noi potenzialità immense e rischio di errori fatali.
La sua scommessa è che possiamo farcela. La storia non è scritta negli algoritmi, ma nelle decisioni politiche e morali che prenderemo ora.
