Innovazione

Perché Google, Microsoft e Facebook chiedono moderazione per l’IA del Pentagono

di

Amazon Microsoft

Il Defense Innovation Board, composto da membri di Google, Microsoft e Facebook, elogia il potere dell’IA militare ma lancia l’allarme su possibili danni o conflitti involontari.

 

Il Pentagono dice che l’intelligenza artificiale aiuterà l’esercito americano a diventare ancora più potente. Ma la scorsa settimana il Defense Innovation Board, un gruppo consultivo composto da dirigenti di Google, Microsoft e Facebook ha proposto linee guida etiche per evitare che l’IA militare possa andare fuori strada.

IL DEFENSE INNOVATION BOARD HA MESSO IN GUARDIA SU DANNI O CONFLITTI INVOLONTARI

Come riferisce Wired, il consiglio è venuto dal Defense Innovation Board, creato sotto l’amministrazione Obama per aiutare il Pentagono a sfruttare le competenze dell’industria tecnologica, e presieduto da Eric Schmidt, ex CEO e presidente di Google. L’anno scorso, il dipartimento ha chiesto al gruppo di sviluppare principi etici per i suoi progetti di IA. E giovedì scorso l’organismo ha pubblicato una serie di principi in un rapporto in cui si elogia la potenza dell’IA militare, mettendo però anche in guardia da danni o conflitti involontari.

RISCHIO INSTABILITA’ E GUERRA

“Ora è il momento – si legge nel rapporto – di tenere discussioni serie sulle norme di sviluppo e uso dell’IA in un contesto militare molto prima che ci sia un incidente”. Una sezione che riflette sui potenziali problemi dell’IA cita “impegni involontari che portano all’instabilità internazionale” o, più chiaramente, alla guerra.

IL PENTAGONO SPINGE PER L’IA PER COMPETERE CON CINA E RUSSIA

Il Pentagono ha dichiarato prioritaria a livello nazionale la rapida espansione dell’uso militare dell’IA ovunque, dal campo di battaglia al back office. Una strategia di difesa nazionale aggiornata pubblicata l’anno scorso dice che l’IA è necessaria per stare davanti ai rivali che si appoggiano a nuove tecnologie per competere con la potenza statunitense, come Cina e Russia. Il nuovo Joint AI Center mira ad accelerare i progetti costruiti sulla tecnologia commerciale AI, ampliando una strategia testata nell’ambito di Project Maven, che ha attinto a Google e altri per applicare l’apprendimento automatico alle riprese di sorveglianza dei droni.

I CINQUE PRINCIPI ETICI DA ADOTTARE

Il rapporto del Defense Innovation Board stabilisce cinque principi etici che, secondo il Comitato per l’innovazione della difesa, dovrebbero governare tali progetti. Il primo è che gli esseri umani dovrebbero rimanere responsabili dello sviluppo, dell’uso e dei risultati dei sistemi AI del dipartimento. Altri principi dell’elenco descrivono pratiche che si potrebbe sperare siano già standard per qualsiasi progetto tecnologico del Pentagono. Uno afferma che i sistemi di IA dovrebbero essere testati per l’affidabilità, mentre un altro afferma che gli esperti che costruiscono sistemi di IA dovrebbero capire e documentare ciò che hanno fatto. Infine si chiede al dipartimento Usa di adottare misure per evitare pregiudizi nei sistemi di IA che potrebbero inavvertitamente danneggiare le persone, e che l’IA del Pentagono dovrebbe essere in grado di rilevare danni non voluti e disattivarsi automaticamente se si verifica, o permettere la disattivazione da parte di un essere umano.

PER ORA NESSUN IMPEGNO AD ADOTTARE I PRINCIPI ETICI

Le raccomandazioni, sostiene Wired, evidenziano come l’IA è ora vista come centrale per il futuro della guerra e di altre operazioni del Pentagono, ma anche come la tecnologia si basi ancora sul giudizio e la moderazione umana. Tuttavia, sebbene il Pentagono abbia chiesto al Defense Innovation Board di sviluppare i principi dell’IA, non si è impegnato ad adottarli. Anche se alcune dichiarazioni come quelle del tenente generale Jack Shanahan, direttore del Joint Artificial Intelligence Center, su un rafforzamento dell’impegno etico del Pentagono, sembrerebbero far ben sperare.

IN CHE MODO GOOGLE E MICROSOFT SI OCCUPANO DI QUESTIONI MILITARI

Se accettate, le linee guida potrebbero stimolare una maggiore collaborazione tra l’industria tecnologica e l’esercito americano. Le relazioni sono state messe a dura prova dalle proteste dei dipendenti sul lavoro del Pentagono presso aziende come Google e Microsoft. Google ha deciso di non rinnovare il suo contratto Maven e ha rilasciato i propri principi di IA dopo che migliaia di dipendenti hanno protestato per la sua esistenza. Microsoft è stata nominata la scorsa settimana come la vincitrice a sorpresa di un contratto cloud del Pentagono da 10 miliardi di dollari, noto come JEDI, destinato ad alimentare un’ampia modernizzazione della tecnologia militare, compresa l’IA.

ISCRIVITI ALLA NOSTRA NEWSLETTER

Iscriviti alla nostra mailing list per ricevere la nostra newsletter

Iscrizione avvenuta con successo, ti dovrebbe arrivare una email con la quale devi confermare la tua iscrizione. Grazie, il tuo Team Start Magazine

Errore

Articoli correlati