Meta permetterà al governo Usa di usare il suo modello di Intelligenza artificiale Llama.
L’annuncio del 4 novembre è arrivato pochi giorni dopo che Reuters aveva riferito che ai ricercatori di Pechino avevano utilizzato una versione precedente di Llama per sviluppare applicazioni di difesa per l’ala militare del governo cinese.
Ciò è contro la politica di utilizzo accettabile del colosso di Menlo Park: l’azienda fondata e guidata da Mark Zuckerberg in genere ne proibisce l’uso per “militari, bellici, industrie o applicazioni nucleari, [e] spionaggio”. Allo stesso tempo, Meta ha abbracciato il rilascio aperto di molti dei suoi modelli di intelligenza artificiale, tra cui Llama.
Stiamo vivendo una corsa all’oro dell’intelligenza artificiale. Aziende come OpenAI e Microsoft stanno cercando di guadagnare milioni di dollari da sistemi di intelligenza artificiale proprietari che promettono la luna. Molti di questi sistemi sono chiusi, una scatola nera in cui gli input e i dati di addestramento sono scarsamente compresi dall’utente finale, spiega Gizmodo.
Mark Zuckerberg ha preso Meta in modo diverso. In un post di luglio, Zuckerberg ha detto che “l’intelligenza artificiale open source è la strada da seguire”.
“L’open source non implica necessariamente che il software sia gratuito e ha trovato applicazione in diversi ambiti tecnologici tra cui i modelli di intelligenza artificiale”, ha commentato il 29 novembre sul Sole 24 Ore Paolo Benanti, teologo e unico italiano membro del Comitato sull’IA delle Nazioni Unite, nonché Presidente del Comitato per l’AI di Palazzo Chigi.
Tutti i dettagli.
LA CINA HA SFRUTTATO IL MODELLO DI AI DI META PER LA DIFESA
Secondo il rapporto di Reuters, sei ricercatori cinesi di tre diverse istituzioni con legami con l’Esercito Popolare di Liberazione (PLA) hanno pubblicato un documento sull’IA a giugno. I ricercatori hanno raccolto Llama 13B, una prima versione del modello di linguaggio di grandi dimensioni open source di Meta, e lo hanno addestrato su dati militari con l’obiettivo di creare uno strumento in grado di raccogliere ed elaborare informazioni e aiutare a prendere decisioni.
Il nuovo strumento di intelligenza artificiale incentrato sull’esercito, chiamato ChatBit, ha lo scopo di raccogliere ed elaborare informazioni di intelligence e offrire informazioni accurate e affidabili per il processo decisionale operativo.
Secondo l’articolo, ChatBIT è “ottimizzato per attività di dialogo e di risposta alle domande in campo militare”. Si è scoperto che superava altri modelli di intelligenza artificiale che avevano all’incirca il 90% delle capacità del potente ChatGPT-4 di OpenAI. I ricercatori non hanno spiegato in dettaglio come hanno definito le prestazioni o specificato se il modello di intelligenza artificiale fosse stato messo in servizio, aggiunge Reuters.
LA POSIZIONE DI META SULL’UTILIZZO DI LLAMA DA PARTE DELLA CINA
“Qualsiasi utilizzo dei nostri modelli da parte dell’Esercito Popolare di Liberazione è non autorizzato e contrario alla nostra politica di utilizzo accettabile”, ha detto Molly Montgomery, direttore delle politiche pubbliche di Meta, a Reuters in un’intervista telefonica.
IL COMMENTO DEGLI ESPERTI
“È la prima volta che ci sono prove sostanziali che gli esperti militari dell’Esercito Popolare di Liberazione in Cina hanno sistematicamente ricercato e cercato di sfruttare la potenza degli LLM open source, in particolare quelli di Meta, per scopi militari”, ha affermato Sunny Cheung, ricercatore associato presso la Jamestown Foundation specializzato in tecnologie emergenti e a duplice uso in Cina, tra cui l’intelligenza artificiale.
ZUCKERBERG FAUTORE DELL’APPROCCIO OPEN SOURCE PER LLAMA
Nel post pubblicato lo scorso luglio, Zuckerberg invocava sistemi gold standard open source come Unix e Linux.
“C’è un dibattito in corso sulla sicurezza dei modelli di intelligenza artificiale open source e la mia opinione è che l’intelligenza artificiale open source sarà più sicura delle alternative”, ha affermato il ceo di Meta. “Penso che i governi concluderanno che è nel loro interesse supportare l’intelligenza artificiale open source perché renderà il mondo più prospero e sicuro”.
L’ANALISI DI PADRE BENANTI
“L’open source non implica necessariamente che il software sia gratuito e ha trovato applicazione in diversi ambiti tecnologici tra cui i modelli di intelligenza artificiale. In questo caso significa indicare che non solo il codice sorgente ma, in alcuni casi, anche i parametri e l’architettura, sono resi pubblicamente disponibili. Personalmente più che dell’open source sono sostenitore, anche per l’amicizia personale con Richard Stallmann, del cosiddetto software libero”, ha scritto padre Benanti.
“Il termine open source, nato nel 1998, ha un focus più pragmatico – ha proseguito Benanti – sulla collaborazione aperta e sulla qualità del software. Le licenze del software libero sono progettate per garantire che il software rimanga sempre libero per tutti gli utenti e spesso includono clausole di “copyleft”, che impongono che qualsiasi modifica o distribuzione del software mantenga le stesse libertà originali”.
“I POTENZIALI RISCHI ETICI”
“Allo stato attuale la politica di utilizzo accettabile di Meta vieta l’uso di Llama 3, il nuovo modello, per scopi militari, bellici o nucleari, spionaggio e altre attività dannose. Tuttavia, l’ampio accesso a Llama per scopi di sicurezza nazionale solleva preoccupazioni sull’escalation della corsa agli armamenti basata sull’intelligenza artificiale e sui potenziali rischi etici”, ha aggiunto il teologo sul quotidiano confindustriale.
“Tuttavia, questo ci mostra i confini dell’etica in questa frontiera dell’intelligenza artificiale: l’open source ottimizza la collaborazione collettiva solo come strumento di perfezionamento del software e si espone troppo facilmente a possibili usi e strumentalizzazioni che possono tradire la buona fede e le intenzioni di tutti gli sviluppatori che hanno contribuito, volontariamente e gratuitamente, a rendere il software così performante e che ora non hanno nessuna voce in capitolo sull’uso lecito o illecito del software. Mai come oggi la differenza tra due parole come aperto e libero sembra così importante” ha concluso padre Benanti.
