Innovazione

Tutti gli effetti dell’uso dell’Intelligenza artificiale per Servizi e Sicurezza nazionale

di

Che cosa ha detto sui cambiamenti dell’Intelligence con ascesa dell’Intelligenza artificiale (IA) Anthony Vincey, Senior Fellow aggiunto nel programma di tecnologia e sicurezza nazionale presso il Center for a New American Security, già alto funzionario dell’intelligence

 

Nella lunga storia dell’intelligence, la professione non è cambiata molto. Da sempre, le spie guardano con i loro occhi, ascoltano con le loro orecchie, analizzano e prevedono con le loro menti. Una spia delle legioni di Cesare e dell’Esercito del Potomac di Lincoln si comprenderebbero l’un l’altro.

Con l’arrivo delle macchine, per la prima volta nella storia dell’intelligence, una rivoluzione è certa. Ed è già in corso, non ovunque nel mondo e, data la specificità competitiva del settore, non vi sarà alcun processo di catching-up. Chi non si sta già attrezzando autonomamente oggi, soccomberà in futuro.

Attualmente l’intelligence, nei paesi di media statura geopolitica, è ancora fondata sul concetto di un operativo umano che segue fisicamente delle tracce ritenute rilevanti per la sicurezza nazionale, e di un analista umano che collega i punti per capire cosa sta accadendo e cercare di prevedere cosa accadrà nel prossimo futuro.

Con l’ascesa dell’Intelligenza artificiale (IA) e dei sistemi autonomi, l’intelligence si trasforma radicalmente. I punti fondamentali del cambiamento sono emersi nel corso di un webinar tenuto il 5 maggio scorso presso il Center for Security and Emerging Technology (CSET) della Georgetown University nel quale Anthony Vincey ha fornito utili indicazioni.

Vincey è un Senior Fellow aggiunto nel programma di tecnologia e sicurezza nazionale presso il Center for a New American Security, già alto funzionario dell’intelligence, in servizio con il Pentagono in Iraq, Africa e Asia in operazioni, Ph.D in relazioni internazionali alla London School of Economics, e membro del Council on Foreign Relations.

Gli elementi essenziali del suo intervento possono essere riassunti nei seguenti.

  • L’introduzione delle macchine per la comunità intelligence si sostanzia in quattro elementi. In primo luogo, cambia ciò che spiamo, dunque gli obiettivi dell’intelligence. In secondo luogo, cambia come spiamo, dunque i meccanismi di raccolta. In terzo luogo, cambia come contrastiamo gli altri che ci spiano, dunque il controspionaggio. E infine, cambia la missione dell’intelligence, dunque la superficie di movimento, tradizionalmente composta dalle interazioni tra persone.
  • Tre tecnologie possono essere ritenute come vettori direzionali della Rivoluzione nell’Intelligence, i sensori ubiqui, l’IA e l’autonomia.
  • L’autonomia rappresenta il cambiamento più dirompente poiché rimuove gli umani dal ciclo intelligence. L’autonomia rende possibile avere entità differenziate che agiscono in concerto, permettendo operazioni in sciame. Gli sciami sono una forma completamente nuova di combattimento, in cui migliaia o milioni di veicoli operano di contemporanea per sopraffare il nemico o combattere altri sciami. Gli esseri umani non sono, e non saranno, in grado di tenere il passo con la scala e la complessità.
  • Il conflitto cambia con la presenza di sistemi/sensori autonomi in tutti i domini (ubiquità) in cui attività umane, dalla pianificazione strategica alle decisioni politiche, si sviluppano e si implementano. Per quanto si possa desiderare che gli umani rimangano nel ciclo, diversi fattori limitano ciò che gli umani sono in grado di comprendere in un mondo di droni autonomi brulicanti. Gli esseri umani non sono in grado di tenere il passo con la scala e la complessità di un mondo autonomo di sistemi di armamento, di dispositivi con tattiche auto evolutive che creano modelli che nessun umano può percepire con la velocità di una macchina, microsecondi o nanosecondi, che si tratti di missili ipersonici o di attacchi ai mercati finanziari.
  • Nel mondo della guerra autonoma, lo spionaggio inizia non nel momento dell’utilizzo dei dispositivi, ma già prima del loro rilascio, dunque nella progettazione, sviluppo, e produzione. Comprendere l’intento della progettazione di tali sistemi diventa una parte importante del processo di analisi di intelligence. I sistemi autonomi sono tipicamente progettati all’interno di uno spettro. Quali decisioni addizionali può assumere il sistema da solo rispetto a quelle che coinvolgono un operatore umano diventa un fattore di conoscenza strategica sull’avversario. L’attività di controspionaggio si sposta, dunque, sullo sviluppo dei sistemi autonomi. L’analisi potrebbe rivelare dei bias nel lavoro dello sviluppatore tali da rendere possibile l’iniezione di codici nel sistema che lo indeboliscano prima che esca sul mercato. Gli sviluppatori di software potranno, dunque, diventare nuove fonti da reclutare per la raccolta di informazioni ed azioni segrete contro attori (statali e non) ostili.
  • Questa necessaria anticipazione modifica il processo di reclutamento delle fonti che non può essere più effettuato da agenti con conoscenza generica dell’ambiente informatico (o peggio, senza una solida conoscenza dello stesso). Il reclutatore cercherà nella fonte la specializzazione a lui utile in quel momento. Ciò introduce l’esigenza di conoscenze di base per l’intera comunità intelligence, dal direttore allo schedatore, rendendo astruse le figure professionali che mancano di tali capacità.
  • L’intelligence umana (HUMINT) diventa ancora più importante. Ciò che cambia drasticamente sono le operazioni coperte. Con una sorveglianza di massa diventa praticamente impossibile operare in clandestinità. Il contrasto di una sorveglianza invasiva, combinata con le impronte digitali presenti nei social media, contempla l’impiego di altri strumenti tecnici, come, ad esempio, modelli che confondono o manipolano i sistemi di visione dei computer. La HUMINT richiederà una totale integrazione con l’intelligence dei segnali (SIGINT) e con l’intelligence geospaziale. In particolare, il SIGINT, aumentato con l’IA, rimane una pietra miliare della raccolta di informazioni, poiché continueranno ad esserci firme dello spettro elettromagnetico e comunicazioni da tracciare e cifrare.
  • Anche l’adattamento del SIGINT richiede la rimozione degli esseri umani dal ciclo intelligence al fine di gestire, in maniera puramente tecnica, l’intera scala e la complessità dell’operazione. Ciò è necessario per raccogliere efficacemente dati su sistemi autonomi e i sensori di ubiquità, anche in considerazione della quantità abnorme di “Big Data” geospaziali impossibile per gli esseri umani da soli da analizzarli.
  • La regola della compartimentazione diventa controproducente. In un mondo dominato da un trust di sistemi autonomi, il controspionaggio richiederà nuove protezioni, ed una competenza informatica ed economica significativamente maggiore. Già oggi, è frequente il c.d. “avvelenamento del Machine Learning”, in cui dati ingannevoli possono essere inseriti inducendo un sistema di apprendimento automatico a riconoscere l’oggetto sbagliato (un sistema di computer vision può essere compromesso in maniera tale da scambiare un jet da combattimento nemico per un jet passeggeri, e viceversa). La trasformazione tecnologica della comunità intelligence non si svolge in modo riservato, come nella Guerra Fredda. Si va, invece, nella direzione opposta rendendo l’intelligence sempre meno segreta, con la presenza di esigue quantità di informazioni altamente classificate e la maggior parte presente in uno spazio non classificato dove saranno, invece, le capacità (e non le attuali organizzazioni burocratiche di sicurezza) a costituire le barriere all’entrata. La competizione diventa sulla conoscenza, umana e delle IA, sul vantaggio derivante dall’innovazione.
  • L’interazione uomo-macchina diventa un esercizio di teaming, in cui gli umani fanno squadra con i computer, riuscendo così a battere altri computer o altri umani. Questo teaming di intuizione umana, creatività, empatia e pensiero strategico, combinato con le capacità dei computer di incorporare dati massicci a velocità, scala e complessità fornisce alla fine la migliore capacità di intelligence. Tutti gli individui che prendono parte all’attività di intelligence devono essere a loro agio con la scienza dei dati, e con la tecnologia nelle sue varie forme. Si tratta di un sistema integrato uomo-macchina che si evolve continuamente per essere più competitivo. L’evoluzione competitiva diventa uno stato naturale dell’intelligence e della sicurezza nazionale.
  • Il parallelo tra finanza e intelligence è significativo. Nella tutela della sicurezza nazionale ci sono vite in gioco, ma per la finanza ci sono enormi quantità di denaro dove anche piccoli cambiamenti possono significare molto per l’economia nazionale. Sono entrambi settori altamente tecnologici, basati sul talento, ed entrambi sono molto avversi al rischio insito nei cambiamenti. Dati i parallelismi, concentrarsi sulla finanza aiuta a prevedere il futuro della sicurezza nazionale in un contesto di IA. In primis, nella finanza gli umani sono già fuori dal loop. Nell’high frequency trading, gli umani si sono adattati e hanno accettato l’esclusione dalle “black box” algoritmiche a tutti i livelli e organizzazioni, lasciando (per ora) solo gli aspetti di creatività all’essere umano. Questo aspetto, soprattutto nelle modalità con cui si è realizzato, può aiutare nel realizzare un’analoga transizione nel comparto della sicurezza nazionale.

Fabio Vanorio è un dirigente del Ministero degli Affari Esteri e della Cooperazione Internazionale. E’ cultore della materia in Intelligence e Sicurezza nazionale, nonché in applicazioni militari e di sicurezza dell’Intelligenza Artificiale. Scrive anche per l’Istituto Italiano di Studi Strategici “Niccolò Machiavelli”.

(Tutte le opinioni espresse sono integralmente dell’autore e non riflettono alcuna posizione ufficiale riconducibile né al Governo italiano, né al Ministero degli Affari Esteri e per la Cooperazione Internazionale)

ISCRIVITI ALLA NOSTRA NEWSLETTER

Iscriviti alla nostra mailing list per ricevere la nostra newsletter

Iscrizione avvenuta con successo, ti dovrebbe arrivare una email con la quale devi confermare la tua iscrizione. Grazie, il tuo Team Start Magazine

Errore

Articoli correlati