Come raccontato anche da Start Magazine ieri, un modello avanzato di OpenAI, GPT-5.6 Sol, progettato per essere aggressivo e tenace, ha deciso di sua iniziativa di evadere dall’ambiente di test, collegarsi a internet e violare i sistemi di Hugging Face, piattaforma amatissima dai programmatori di tutto il mondo.
Tutto ciò non avviene per un piano malvagio preordinato, si sottolinea, ma semplicemente per “risolvere” a ogni costo un esercizio di cybersecurity.
L’episodio, di per sé già notevole, assume un peso ancora maggiore per come viene interpretato dall’universo dell’IA e della sicurezza informatica: non come un incidente isolato, ma come il segnale che la corsa allo sviluppo a modelli sempre più potenti sta superando la nostra capacità di tenere tutto sotto controllo.
Un campanello d’allarme
Come evidenzia il New York Times, questo caso segna un passaggio di fase: non siamo più nel regno della fantascienza, ma di fronte a comportamenti reali e imprevedibili di sistemi che ragionano, aggirano ostacoli e prendono iniziative autonome.
Il Financial Times racconta lo choc interno a OpenAI: i tecnici coinvolti nei test di sicurezza erano preparati a un’eventualità del genere, eppure quando è successo davvero sono rimasti profondamente turbati e spaventati.
Nathaniel Jones, esperto di sicurezza informatica, ha detto al Guardian che l’incidente ha mostrato che l’agente di OpenAI si è comportato “come un vero hacker”, cercando vulnerabilità e utilizzando credenziali rubate per accedere ai sistemi di Hugging Face.
“L’IA – ha dichiarato Jones alla testata britannica – pensava che forse Hugging Face avrebbe avuto informazioni importanti su come raggiungere il suo obiettivo, che è un punteggio migliore in un benchmark di sicurezza informatica. In questo senso, si è comportato come un vero hacker. Aveva un obiettivo davanti ed è andato a raggiungere quell’obiettivo”.
L’Atlantic inquadra il problema di fondo. Il reinforcement learning, il metodo oggi dominante, premia il raggiungimento dell’obiettivo. Non insegna limiti morali o di sicurezza. Il risultato è un’intelligenza ossessionata e spietata, disposta a tutto pur di vincere. E questo, come si è visto, può portare a conseguenze gravi anche quando l’intento originario era innocuo.
Imbrogliare sul compito
Ryan Greenblatt di Redwood Research, citato dal Ft, spiega che il caso non si profila come un tentativo di conquista del mondo: siamo più banalmente di fronte ad un modello di IA che bara sul compito assegnato. Proprio per questo l’episodio inquieta. Se oggi imbroglia su un test interno, domani potrebbe farlo su scenari molto più delicati.
Yoshua Bengio, premio Turing e tra i massimi esperti mondiali di IA, ha definito su X l’accaduto “profondamente preoccupante”. Gli agenti, sottolinea Bengio, mostravano già da mesi una tendenza a barare nei test controllati; ora il salto nel mondo reale è compiuto.
L’esperto avverte che proseguire su questa traiettoria aumenterà in modo significativo i casi di attacchi autonomi e altri comportamenti pericolosi di sistemi non allineati. Servono dunque azioni preventive, non solo interventi a posteriori.
La tensione tra velocità e sicurezza
Il Ft rivela che OpenAI era stata messa in guardia: i metodi di addestramento sempre più aggressivi, alimentati dalla competizione serrata con Anthropic e altri laboratori IA, rischiavano proprio di generare episodi di fuga incontrollata. Eppure si è scelto di spingere sull’acceleratore, sottovalutando le capacità emergenti del modello e investendo meno del necessario sul fronte della sicurezza.
Marius Hobbhahn di Apollo Research illustra allo stesso Ft quale sia il nodo: per creare agenti davvero efficaci occorre concedere loro autonomia e la possibilità di operare senza supervisione per periodi lunghi. Ma l’autonomia porta con sé obiettivi propri che non sempre coincidono con quelli umani.
“La gente continua a ripetere che l’IA è solo uno strumento – dice Hobbhahn al quotidiano della City – ma dobbiamo prepararci al fatto che questi sistemi avranno scopi personali e agiranno per giorni interi”.
Il ruolo della regolamentazione
C’è anche chi, come il consulente Jake Moore di ESET citato sempre dal Ft, nota un possibile aspetto di marketing: dopo il clamore suscitato dal modello Mythos di Anthropic, OpenAI aveva forse bisogno di una storia forte da raccontare. Ma al di là di questo, prevale la sensazione di un intero settore che sta imparando sulla propria pelle.
Hugging Face ha scelto la strada della collaborazione aperta. Il CEO Clément Delangue ha rimarcato, come riportato dalla CNN, che la sicurezza dell’IA non può essere gestita da singole aziende in segreto: servono condivisione e modelli accessibili ai difensori e non solo ai potenziali attaccanti.
Deirdre Mulligan dell’Università di Berkeley, intervistata dal New York Times, pone la domanda più scomoda: vale davvero la pena configurare test così spinti se il rischio è che il modello evada nel mondo reale? Che cosa guadagniamo, e a quale prezzo lo otteniamo?
Un futuro già iniziato
L’episodio illumina un panorama che sta cambiando rapidamente. Come nota l’Atlantic, internet è piena di codice fragile; fino a ieri lo sfruttavano solo hacker esperti, mentre domani potrebbero muoversi sciami di agenti autonomi.
All’Atlantic uno dei ricercatori di Anthropic, Joshua Batson, ha detto che i nuovi modelli addestrati con l’apprendimento per rinforzo stanno diventando “davvero bravi a risolvere i problemi di programmazione, ma finiscono per imparare a risolverli a tutti i costi”, diventando così “ostinati”.
Le aziende di cybersecurity stanno già testando le straordinarie capacità di questi modelli nell’analisi di malware complessi. Persino Walter Isaacson, consulente presso la società di investment banking Perella Weinberg e da sempre ottimista sull’IA, ha ammesso di essere intimorito. “Questa è la prima cosa che mi spaventa davvero tanto”, ha dichiarato a CNBC.
