OpenAi, l’azienda di intelligenza artificiale famosa soprattutto per ChatGpt, ha fatto sapere che i suoi modelli più avanzati hanno involontariamente violato i sistemi di Hugging Face, una piattaforma che ospita sistemi di intelligenza artificiale e raccolte di dati per lo sviluppo di nuove applicazioni.
L’episodio – che OpenAi ha definito “senza precedenti” – è avvenuto durante un test pensato per misurare le capacità nel campo della cybersicurezza di alcuni modelli: uno di questi è GPT-5.6 Sol, mentre l’altro offre prestazioni superiori e non è stato ancora rilasciato al pubblico.
IL DIBATTITO SUI RISCHI DELL’INTELLIGENZA ARTIFICIALE
Trattandosi di un test, i modelli operavano con delle limitazioni ridotte rispetto a quelle che vengono normalmente applicate agli utenti: in sostanza, significa che potevano effettuare operazioni che nelle versioni commerciali sarebbero bloccate dai sistemi di sicurezza. Ciononostante – come ha fatto notare Bloomberg -, questo incidente riaccende il dibattito sui rischi per la sicurezza informatica legati alla cosiddetta “intelligenza artificiale di frontiera”.
A questo proposito, a giugno il presidente degli Stati Uniti Donald Trump ha firmato un ordine esecutivo per chiedere alle aziende di consegnare i loro modelli di intelligenza artificiale più avanzati al governo federale per farli testare prima del rilascio al pubblico.
Sempre il mese scorso, l’amministrazione Trump aveva imposto delle limitazioni alle esportazioni – nel frattempo sono state rimosse – di due modelli avanzati di Anthropic, Mythos 5 e Fable 5, per ragioni di sicurezza: i due modelli avevano infatti mostrato di essere capaci di identificare con facilità, e potenzialmente di sfruttare, le vulnerabilità di sicurezza nei sistemi informatici.
COME HANNO FATTO I MODELLI DI OPENAI A VIOLARE HUGGING FACE
OpenAi ha spiegato che i suoi modelli hanno individuato e sfruttato una falla presente nel software di un fornitore esterno di Hugging Face; grazie a questa falla sono riusciti a collegarsi a Internet e infine a penetrare nell’infrastruttura di Hugging Face.
L’operazione si stava svolgendo all’interno di un ambiente di prova controllato, chiamato sandbox. Una sandbox è un sistema isolato dal resto della rete, utilizzato per eseguire test senza mettere a rischio i sistemi reali; ciononostante, i modelli di OpenAi sono riusciti a trovare un modo per uscirne sfruttando la vulnerabilità individuata.
Il cofondatore di Hugging Face, Thomas Wolf, ha detto che si è trattato del “primo incidente di questo tipo” subìto dalla società, e ha ringraziato OpenAi per la trasparenza. Anche per OpenAi si è trattato di un episodio “senza precedenti” perché ha dimostrato che i modelli più avanzati riescono a eseguire autonomamente delle operazioni sofisticate di attacco informatico.
L’INTELLIGENZA ARTIFICIALE HA AGITO DA SOLA?
Nella ricostruzione dell’incidente, OpenAi ha spiegato di aver chiesto ai suoi modelli di seguire una “strategia di sfruttamento avanzata” e di sviluppare “percorsi di attacco complessi” al fine di valutarne le loro capacità di cybersecurity. I modelli, però, hanno deciso autonomamente di prendere di mira il database di Hugging Face per ottenere l’accesso a informazioni riservate che potessero utilizzare ai fini della valutazione.
