L’agente di intelligenza artificiale che sarebbe sfuggito al controllo di OpenAi (ma ci sono dubbi sul fatto che le cose siano andate esattamente così) e avrebbe violato i sistemi di Hugging Face, avrebbe compromesso anche l’account di un cliente di un’altra società tecnologica, la statunitense Modal Labs. Lo ha scritto Reuters sulla base delle informazioni ricevute da un dirigente dell’azienda e altre due fonti.
I sistemi di Modal Labs, invece, non sarebbero stati violati.
UN PASSO INDIETRO: COS’È SUCCESSO TRA OPENAI E HUGGING FACE?
La settimana scorsa OpenAi ha raccontato che un suo agente di intelligenza artificiale, durante un test all’interno di un ambiente controllato e isolato dalla rete (in gergo sandbox), ha individuato e sfruttato una falla nel software di un fornitore esterno di Hugging Face, riuscendo a collegarsi a Internet e infine a penetrare nell’infrastruttura di Hugging Face.
OpenAi ha parlato di un episodio “senza precedenti”, ma alcuni esperti hanno sollevato dei dubbi. Per esempio, il giornalista del Sole 24 Ore Luca De Biase ha detto che resta ancora da capire se l’agente sia riuscito a superare la sandbox “perché l’agente era molto potente o se i confini della sandbox erano troppo deboli”. Il professor Luciano Floridi di Yale, invece, ha riassunto la situazione così: “allentate di proposito il coperchio del robot da cucina, portatelo al massimo, e diramate un comunicato solenne sulla minestra sul soffitto. È più o meno ciò che ha fatto OpenAi”.
COSA C’ENTRA MODAL LABS
Hugging Face non ha indicato il nome del fornitore che ospitava la sandbox nella quale è avvenuto l’incidente. Akshat Bubna, direttore tecnologico di Modal Labs, ha spiegato che l’agente di OpenAi ha sfruttato una vulnerabilità presente nel codice di un cliente ospitato sulla piattaforma di Modal.
Più nel dettaglio, quel cliente aveva lasciato accessibile su Internet un punto di accesso (endpoint) privo di protezioni: in pratica, chiunque poteva utilizzarlo per eseguire del codice all’interno delle sue sandbox. Reuters ha utilizzato una similitudine efficace: è una situazione paragonabile a lasciare aperta la porta di un edificio, dove chiunque può potenzialmente entrarvi senza troppe difficoltà.
UN HACKERAGGIO PIÙ ESTESO DI QUANTO RIVELATO DA OPENAI
La compromissione del cliente di Modal Labs, dunque, è stata la fase iniziale dell’operazione di hackeraggio contro Hugging Face dell’agente di OpenAi; mostra però come quest’ultimo abbia operato su un numero di sistemi più ampio di quanto fosse emerso finora. OpenAi non ha rilasciato commenti su questo episodio specifico.
