Innovazione

Perché le spie umane sono in via d’estinzione

di

spie

Pubblichiamo un estratto di “Intelligence hyper-loop — come la considerazione del concetto “human-in-the-loop” è vitale per la rivoluzione digitale dello spionaggio” a cura di Fabio Vanorio e Francesco D’Arrigo per l’Istituto Italiano di Studi Strategici “Niccolò Machiavelli”

 

Il concetto di Human-In-The-Loop può ostacolare la diffusione della tecnologia all’interno della “National Security Enterprise” in una condizione di intensa politicizzazione dell’Intelligence. Nella “Rivoluzione Digitale”, il contributo della politica al miglioramento tecnologico della “National Security Enterprise” è scadente soprattutto a causa della limitata conoscenza sia dei meccanismi e delle priorità dell’Intelligence Loop, sia dei concetti base dell’Intelligenza Artificiale (Machine Learning, Big Data, e 5G).

Successivamente al ricevimento di macroindirizzi informativi da parte dell’autorità di governo, spesso generici ed incompleti, nella seconda fase dell’Intelligence Loop (Pianificazione e Direzione), la Comunità Intelligence deve dettagliare i propri piani di ricerca informativa in modo indipendente per poter operare al massimo delle sue potenzialità, proponendo priorità ai decisori politici da perseguire in una prospettiva globale. Queste proposte, pur finalizzate al conseguimento dei macro-indirizzi ricevuti, spesso si scontrano con l’agenda dei decisori, a sua volta frequentemente non nota alla “National Security Enterprise”. Le micro-esigenze informative dei decisori politici, talvolta, non vengono condivise con la Comunità Intelligence per mancanza di fiducia, per timori di compromissioni (in presenza di fughe di notizie), o semplicemente perché è la politica a non conoscere cosa l’Intelligence le può fornire di utile.

Per ottenere la fiducia del decisore politico, spesso la “National Security Enterprise” sposta l’intera sua attività di ricerca informativa verso i micro-obiettivi individuali di membri del governo, del parlamento, o di altre élite politiche dando vita alla c.d. “politicizzazione dell’Intelligence”. Poiché la somma delle microesigenze dei singoli politici non è uguale ai macro-indirizzi informativi per la realizzazione del bene pubblico-Intelligence, detta politicizzazione va a danno dell’indipendenza che dovrebbe essere alla base di una delle funzioni vitali dello Stato, ossia la tutela della sicurezza nazionale. Problemi nel rapporto tra “National Security Enterprise” (il produttore di nuova conoscenza) e i decisori politici (i consumatori di nuova conoscenza) possono sorgere in ogni fase dell’Intelligence Loop (Johnson, Lock K. 1986). In primo luogo, bias cognitivi e comportamentali dovuti alla presenza dell’Uomo nel ciclo possono porsi ad ostacolo nell’offrire prodotti di analisi competitivi scevri da considerazioni soggettive (spesso camuffate dietro l’appellativo di “esperienza”).

Peggio ancora, quando l’Intelligence raccolta viene veicolata – ancora grezza e non contestualizzata – negli edifici governativi, questa subisce un processo di appesantimento causato da errori individuali nell’interpretazione, da pressioni burocratiche nel dover (o voler) necessariamente “leggere” determinate evidenze (che in realtà una accurata analisi avrebbe evitato). La differenza tra questa realtà distorta e una situazione ideale di valutazioni affidabili è una “zona grigia” composta da ipotesi sbagliate, valutazioni manipolate, analisi imprecise e parzialità.

Consapevole dell’esistenza di pregiudizi e disinformazioni mescolate a fatti veritieri, la leadership della “National Security Enterprise”, alla fine, spesso decide di optare per dati che possono essere misurati – ad esempio, dai dispositivi di sorveglianza -, cercando di rendere accurati e coerenti i propri rapporti e le proprie valutazioni (Brewer, Bracken 1984).

Un aereo spia di ricognizione è qualcosa di tangibile rispetto ad una fonte umana clandestina: scatta fotografie, e la sua esistenza può essere dimostrata (in contesti democratici) davanti a Commissioni parlamentari in caso di richieste di stanziamenti o di inchieste (Burrows 1986). In secondo luogo, la politicizzazione dell’Intelligence ha conseguenze negative sulle scelte operative, orientando le preferenze verso fonti tecniche (TECHINT e SIGINT, in primis) rispetto alle fonti umane (HUMINT). L’Intelligence, infatti, non può mai parlare esplicitamente di “covert action” davanti alle Commissioni parlamentari (George 2020). Per i politici, le “azioni clandestine” sono qualcosa di astratto, quindi inutili (e pericolose) per il loro consenso elettorale. Inoltre, le gigantesche corporazioni aerospaziali fanno pressione per contratti di sorveglianza e hardware con i Ministeri della Difesa. La HUMINT, invece, non ha sostenitori così influenti e ha in più costi enormi in termini di potenziale compromissione di identità e documenti, e perdita di vite umane.

Date le pressioni di cui sopra, si comprende perché i politici siano poco incentivati a stanziare ingenti stanziamenti di bilancio per investimenti ad alta tecnologia, quando non siano funzionali al miglioramento del consenso politico.

Solo un’azione congiunta tra la leadership dell’Intelligence e il complesso militare-industriale può esercitare adeguate azioni di lobbying per creare maggiore attenzione verso detti investimenti.

LA RESISTENZA CULTURALE ALLA TECNOLOGIA ALL’INTERNO DELLA COMUNITÀ INTELLIGENCE

Il concetto di Human-In-The-Loop può rappresentare un ostacolo alla diffusione della tecnologia all’interno della National Security Enterprise in presenza di “resistenza culturale”.

La leadership della “National Security Enterprise” è sempre più incline a guardare all’Intelligenza Artificiale e ai lavori basati sull’automazione per soddisfare la crescente domanda di nuova conoscenza con una forza lavoro minore. La tecnologia moderna, inoltre, richiede l’aggiornamento (e talvolta la sostituzione) delle infrastrutture e delle attrezzature esistenti. Entrambi gli argomenti rafforzano una “resistenza culturale” da parte degli addetti ai lavori. Esiste una fisiologica avversione degli esseri umani verso il progresso tecnologico dovuta alla modifica delle gerarchie esistenti nei posti di lavoro, ed alla necessità di aggiornare le loro competenze e di cambiare i loro metodi di lavoro.

Il rischio maggiore di questa “resistenza culturale” è quello di creare nuova disoccupazione in presenza di casi di sabotaggio (cioè minacce endogene all’organizzazione) contro le politiche di innovazione. Una recente indagine sull’adozione della Robotic Process Automation (RPA) in Europa ha rilevato che uno degli ostacoli più critici alla crescita della RPA è “l’ostruzionismo”, con il 33% degli intervistati che definisce la “resistenza organizzativa al cambiamento” come il principale ostacolo (Jones, Bakker 2018). La “resistenza culturale” è decisamente un ostacolo significativo alla competitività digitale della Comunità Intelligence.

Le spie umane, come tradizionalmente considerate, sono in via di estinzione non potendo contrastare (nonostante i tentativi dei “tradizionalisti”) la forza devastante della tecnologia sul terreno. Le spie di oggi hanno lo stesso problema di ieri: la necessità di essere invisibili. Ciò che è cambiato è il nemico. Oltre ad ingannare altri esseri umani, gli agenti devono oggi anche raggirare le macchine. Nel 2018, al GEOINT Symposium di Tampa (Florida), ospitato dalla U.S. Geospatial Intelligence Foundation, Dawn Meyerriecks, vicedirettore della CIA (Central Intelligence Agency) responsabile dell’innovazione digitale, ha affermato3 che nell’era dei social media le difficoltà per gli agenti operativi a lavorare sotto una falsa identità sono crescenti. Nel 2005, le identità segrete della CIA avevano specifiche caratteristiche digitali: una casella postale in Virginia e un Social Security Number.

Oggi, inserendo questi indicatori in un database open-source, è possibile ottenere una lista di identità degne di un’ulteriore sorveglianza per ogni controspionaggio straniero (Lord (2015). Secondo Meyerriecks, con alcuni progressi nella localizzazione satellitare e nell’Intelligence geospaziale, le spie umane non avranno alcuna possibilità di affermarsi contro la prossima generazione di Intelligenza Artificiale. Per questo l’Agenzia sta cambiando il target passando dall’agente straniero alla Macchina. Amazon e Google hanno perfezionato strumenti e infrastrutture per l’analisi di grandi insiemi di dati per identificare e persino prevedere modelli di business fraudolenti. Gli stessi strumenti possono identificare attività clandestine, morfologicamente simili alle frodi. Cercando in vaste aree di informazioni digitali alla ricerca di indicatori specifici che potrebbero indicare un’identità di copertura, i computer valutano istantaneamente se l’identità di un individuo è probabile che sia reale o falsa, in base alla quantità e alle caratteristiche dei dati disponibili relativi a tale identità.

Con simili scenari così ostili agli esseri umani, comportamenti di ostruzionismo nel lavorare fianco a fianco con le Macchine possono creare inefficienze tali nella diffusione dell’alta tecnologia da giustificare, nel prossimo futuro, l’avvio di un progressivo processo di sostituzione tra Uomo e Macchina.

(QUI IL REPORT INTEGRALE)

Articoli correlati