Mentre il governo Usa ha messo al bando Anthropic, l’Agenzia per la sicurezza nazionale degli Stati Uniti (Nsa) starebbe utilizzando il suo avanzato modello di intelligenza artificiale per condurre attacchi informatici.
È quanto ha rivelato il Financial Times, secondo cui la startup di IA fondata da Dario Amodei sta aiutando la Nsa a implementare il suo potente modello Mythos per operazioni informatiche offensive, integrando ingegneri all’interno dell’agenzia nonostante la battaglia legale in corso con il Pentagono.
In realtà già a metà aprile la testata americana Axios aveva riferito dell’utilizzo di Mythos da parte dell’agenzia, nonostante alti funzionari del Dipartimento della Difesa – che sovrintende alla Nsa – insistano sul fatto che l’azienda rappresenti un “rischio per la catena di approvvigionamento”.
All’inizio di marzo infatti il Dipartimento della Difesa ha ufficialmente designato Anthropic come rischio per la catena di approvvigionamento, affermando che l’azienda minacciava la sicurezza nazionale. Da parte sua Anthropic sostiene come l’inserimento nella lista nera sia una ritorsione per le sue posizioni sulla sicurezza dell’Intelligenza artificiale. Tale etichetta, che impedisce alla società di ottenere contratti federali, è solitamente riservata alle organizzazioni provenienti da paesi stranieri ostili, sottolinea Afp. E la diatriba è sfociata in tribunale, con la causa ancora in corso.
Dunque le “esigenze di cybersicurezza del governo sembrano prevalere sulla disputa tra il Pentagono e Anthropic” commentava Axios. Mythos è considerato uno dei modelli più avanzati per la ricerca di vulnerabilità informatiche, tanto che le sue capacità sono oggetto di discussioni da parte di diversi governi preoccupati dalle possibili applicazioni di tale strumento.
Tutti i dettagli.
COSA STA SUCCEDENDO TRA LA SOCIETÀ GUIDATA DA AMODEI E LA NSA
Secondo il Ft che cita due fonti, l’azienda con sede a San Francisco ha inserito circa una mezza dozzina di dipendenti all’interno dell’Nsa come cosiddetti ingegneri “dislocati sul campo” per guidare l’uso della tecnologia e personalizzare i modelli per applicazioni specifiche.
Non è ancora chiaro se gli ingegneri di Anthropic stiano assistendo l’Nsa in operazioni attive. Tuttavia, una persona vicina alla situazione ha affermato che Mythos sarebbe utile per infiltrarsi nelle reti di nazioni come la Cina o l’Iran, ha aggiunto il quotidiano finanziario britannico.
“Il modo migliore per costruire una buona difesa è costruire un buon attacco”, ha affermato al Ft una persona vicina ad Anthropic, sostenendo che gli avversari probabilmente stanno sviluppando le proprie tecnologie offensive basate sull’intelligenza artificiale. “Se [Mythos] non viene utilizzato per creare agenti d’attacco, gli avversari troveranno un modo per farlo.”
LE IMPLICAZIONI LEGATE A MYTHOS
Finora Anthropic ha evitato di rendere disponibile Mythos al pubblico, sostenendo che le sue capacità potrebbero essere utilizzate anche per sviluppare strumenti di attacco informatico.
All’inizio di questa settimana, la società ha annunciato la distribuzione di Mythos a 150 organizzazioni in 15 paesi, ampliando notevolmente l’accesso al sistema oltre Stati Uniti e Regno Unito. Inizialmente, la società aveva limitato l’accesso a Mythos a circa 40 organizzazioni.
L’APPELLO LANCIATO DA ANTHROPIC
Nel frattempo, proprio ieri Anthropic ha rivolto un appello ai principali enti, aziende e laboratori dediti allo sviluppo di sistemi di intelligenza artificiale di valutare la possibilità di rallentare il ritmo di sviluppo, suggerendo che i sistemi di IA si stanno evolvendo così rapidamente da poter presto essere in grado di migliorarsi autonomamente senza intervento umano, con possibili rischi significativi per la società.
La possibilità di rallentare lo sviluppo globale dell’IA sarebbe “probabilmente un bene”, ha affermato l’azienda il 5 giugno in un post sul blog. Nel documento firmato dalla responsabile dell’istituto di ricerca interno, Marina Favaro, e dal cofondatore Jack Clark, l’azienda sollecita lo sviluppo di meccanismi internazionali per rallentare o sospendere temporaneamente lo sviluppo delle Ia di frontiera, consentendo alla ricerca sulla sicurezza e alle istituzioni di tenere il passo con l’evoluzione tecnologica.
Nel post pubblicato da Anthropic si paragona l’idea alla regolamentazione internazionale delle armi nucleari. Qualsiasi meccanismo di sospensione dovrebbe anche garantire che i laboratori di IA meno scrupolosi non continuino segretamente a lavorare per far progredire la tecnologia durante la pausa.
