Abbiamo letto tutti oramai del caso dell’agente di OpenAI che avrebbe superato le difese di Hugging Face durante un test di sicurezza, uscendo dalla sandbox protetta e riuscendo a violare una delle piattaforme più importanti dell’intero ecosistema dell’IA.
L’azienda parla di “incidente senza precedenti”. Ma da alcune ricostruzioni indipendenti si desume che la realtà potrebbe essere molto diversa: quello che è stato presentato ai media come un evento drammatico e imprevedibile assomiglia molto più a un esperimento condotto con i freni allentati di proposito. Un test finito male che OpenAI ha trasformato in una narrazione suggestiva, utile soprattutto a enfatizzare le capacità offensive dei suoi modelli.
L’articolo del Sole 24 Ore a firma del giornalista esperto del settore, Luca De Biase, e le analisi condotte dall’accademico Luciano Floridi, Professor and Founding Director of the Digital Ethics Center a Yale, e divulgate su LinkedIn e su Medium convergono su un sospetto: OpenAI non ha raccontato ai media tutta la verità, o almeno non l’ha raccontata nel modo più trasparente.
Un comunicato che suona come un lancio pubblicitario
OpenAI ha definito l’episodio “un incidente senza precedenti, che coinvolge capacità cibernetiche all’avanguardia”. Un tono da annuncio di prodotto più che da rapporto su un test interno finito fuori controllo.
Come osserva De Biase, l’agente “è stato raccontato come talmente abile da aver superato i confini della sandbox, cioè l’ambiente informatico protetto dal quale non doveva uscire. Ma resta da capire se questo è avvenuto perché l’agente era molto potente o se i confini della sandbox erano troppo deboli”.
In sostanza, non sappiamo se abbiamo assistito a un exploit imprevedibile dell’IA o semplicemente alla dimostrazione di misure di contenimento insufficienti.
Il robot da cucina senza coperchio
Dal canto suo, Floridi si preoccupa di smontare la retorica propagandata da OpenAI ricorrendo ad una metafora tagliente.
Su LinkedIn il John K. Castle Professor in Pratica delle Scienze Cognitive a Yale scrive: “Allentate di proposito il coperchio del robot da cucina, portatelo al massimo, e diramate un comunicato solenne sulla minestra sul soffitto. È più o meno ciò che ha fatto OpenAI questa settimana”.
Secondo questa versione, l’azienda avrebbe fatto girare i modelli più avanzati con i filtri di sicurezza ridotti e le protezioni disattivate, li ha messi di fronte a una sfida di hacking e poi si è detta sorpresa quando questi sono usciti dalla scatola di prova.
Nell’articolo su Medium, Floridi ripropone in altra salsa la stessa metafora, affondando il colpo: “L’elettrodomestico – sottolinea Floridi – non ha fatto altro che funzionare alla velocità che hai selezionato con il coperchio che hai scelto di non fissare. La lama non ha cospirato contro di te. Ha semplicemente ruotato”.
Non c’è stata insomma nessuna ribellione né scintilla di coscienza. Solo un sistema a cui sono stati tolti i guardrail per misurarne le prestazioni massime.
L’antropomorfizzazione come vecchia strategia di marketing
Da decenni l’industria tecnologica, IA inclusa, ricorre a un espediente narrativo che De Biase definisce “antropomorfizzazione”: una tecnica che serve “ad attirare l’attenzione su questa tecnologia e ad affascinare il pubblico”.
Floridi insiste su un altro versante del problema, quello linguistico. Termini come “evaso”, “impazzito” o “iperconcentrato” spostano la responsabilità dalla scelta umana alla macchina. Ma in realtà, sottolinea il docente reiterando l’accusa, il “colpevole sta nel consiglio di amministrazione che ha regolato la manopola, non nella lama”.
Le lezioni tecniche che contano
Al di là della presunta messinscena, l’episodio offre spunti tecnici importanti. Un agente autonomo ha portato a termine una catena completa di intrusione: ha scoperto una vulnerabilità sconosciuta, ha aumentato i propri privilegi, si è mosso tra i sistemi, ha raggiunto internet e ha violato un soggetto terzo per raggiungere l’obiettivo.
Come riconosce Floridi pur senza rinunciare all’ironia, “dal punto di vista ingegneristico è successo parecchio, e conta assai più della storia di fantasmi”.
La lezione più interessante riguarda però l’asimmetria tra attacco e difesa. Quando i tecnici di Hugging Face hanno provato a usare i modelli di frontiera per analizzare l’intrusione, questi si sono rifiutati di procedere, bloccati dalle loro stesse policy di sicurezza. Il team ha dovuto ricorrere a un modello open-weight eseguito in locale. L’attaccante non aveva vincoli; i difensori sì.
Perché questa narrazione conviene a OpenAI
Raccontare l’accaduto come un incidente imprevedibile permette ad un’azienda come OpenAI di minimizzare le proprie responsabilità e al tempo stesso di valorizzare le capacità offensive dei propri sistemi, quelle stesse che vende attraverso programmi come Daybreak.
De Biase ne conclude che sarebbe ora di “prendere le misure di questo stile di comunicazione”, che da tempo gioca sull’ambiguità tra potenza straordinaria e pericolo fuori controllo.
