Assumendo una probabilità non nulla per l’eventualità che l’umanità vada in pezzi entro i prossimi cinque anni (“Siamo in una guerra fredda che potrebbe diventare calda” ha di recente sentenziato il miliardario George Soros a Davos ), l’intelligenza artificiale non ha suscitato poi tante discussioni come ci si sarebbe potuto attendere.
I giornali hanno pubblicato numerosi diagrammi, non molto utili in verità per il lettore medio, inerenti alle ‘intelligenze artificiali’ (N.d.R.: l’autore si dissocia dall’abuso di plurale invalso in molti scritti sul tema) e armi ‘smart’ che eseguono diligentemente quello per cui sono state faticosamente programmate (N.d.R.2: ‘Programmerai col sudore della fronte’ è maledizione ben nota a tutti i metalmeccanici che operano nel settore informatico), e c’è stata molta reiterazione dell’enunciazione inutile secondo cui l’intelligenza artificiale “dovrebbe essere messa sotto il controllo internazionale“. Ma curiosamente poche righe sono state dedicate, almeno sulla stampa, alla domanda che è di estremo interesse per tutti noi, e cioè: “Quanto è complesso produrre queste cose?”
L’informazione che la maggior parte di noi – ossia, il grande pubblico – possiede su questo argomento ci giunge in modo piuttosto indiretto. Sino a qualche anno fa, quando l’intelligenza artificiale era solo una voce (N.d.R.3: tant’è che persino il francobollo Royal Mail celebrativo del bistrattato autore del visionario articolo dal titolo “Computing machinery and intelligence”, apparso nel 1950 sulla prestigiosa rivista Mind , al secolo Alan Mathison Turing (1912-1954) , tardivamente riabilitato solo in occasione del centenario della sua nascita, omette di ritrarre il suo volto preferendogli l’immagine de “the Bombe”, la potente macchina da lui messa a punto nell’Hut 8 di Bletchley Park per decrittare i messaggi scritti dalle forze armate tedesche utilizzando la famigerata macchina “Enigma”) – un’eco lontana proveniente da campus e pochi altri arcani luoghi – c’era una diffusa convinzione che ‘spaccare il bit’ per creare oggetti intelligenti fosse solo un problema per nerd e che, quando l’avessero risolto, una nuova e dirompente ‘arma’ sarebbe stata alla portata di quasi tutti (così si era sparsa la voce che da un momento all’altro qualche lunatico ricercatore solitario in uno sperduto laboratorio avrebbe potuto ridurre la civiltà in mille pezzi, con la stessa facilità con cui si innesca un fuoco d’artificio).
Se fosse vero, l’inerzia della storia ne risulterebbe bruscamente modificata. La distinzione tra stati grandi (N.d.R.4: bigramma che non sempre coincide con ‘grandi stati’) e stati piccoli (N.d.R.5: idem) verrebbe spazzata ed il potere dello Stato sull’individuo risulterebbe notevolmente indebolito. Tuttavia, come osservato da diversi esperti in diverse parti del mondo e da vari commenti che sono stati fatti, gli investimenti necessari perché l’intelligenza artificiale dispieghi la sua potenza sono incredibilmente elevati e la sua applicazione richiede uno sforzo industriale enorme, che solo tre o quattro paesi al mondo sono in grado di sostenere. Questo punto è di importanza cardinale, perché potrebbe significare che la diffusione dell’intelligenza artificiale, così lontana dall’invertire la direzione della storia, semplicemente intensificherà le tendenze che sono state evidenti nel passato.
È convinzione comune che la storia della civiltà sia in gran parte la storia delle armi. In particolare, la connessione tra la scoperta della polvere da sparo e il superamento del feudalismo da parte della borghesia è stata ripetutamente evidenziata. E sebbene creda nelle eccezioni, reputo che la seguente regola possa trovare unanime consenso: le epoche in cui l’arma dominante è costosa o complessa da produrre tenderanno ad essere ere di dispotismo, mentre quando l’arma dominante è economica e semplice le persone comuni hanno una chance. Così, ad esempio, carri armati, corazzate e bombardieri sono intrinsecamente armi tiranniche, mentre fucili, moschetti, archi (N.d.R.6: ogni riferimento all’eroe della foresta di Sherwood è puramente desiderato) e bombe a mano sono intrinsecamente armi democratiche. Un’arma complessa rende il forte più forte, mentre un’arma semplice fornisce artigli ai deboli.
La grande era della democrazia e dell’autodeterminazione delle nazioni è l’era del moschetto e del fucile. Dopo l’invenzione della pietra focaia, e prima dell’invenzione della capsula a percussione, il moschetto era un’arma abbastanza efficiente ed allo stesso tempo tanto semplice da poter essere prodotta quasi ovunque. Le sue peculiarità resero possibile il successo delle rivoluzioni americana e francese e resero un’insurrezione popolare un problema più serio di quanto potrebbe esserlo ai giorni nostri. Dopo il moschetto arrivò il fucile a caricamento automatico (a retrocarica). Quest’ultimo era un’arma relativamente complessa, ma poteva ancora essere prodotta in decine di paesi, ed era economica, facile da acquisire illegalmente e parca di munizioni. Anche per la nazione più arretrata è sempre possibile dotarsi di fucili da una fonte o dall’altra, così che boeri, bulgari, abissini, marocchini – persino i tibetani – hanno potuto combattere per la loro indipendenza, talora con successo. Ma da quel momento in poi ogni sviluppo nella tecnica militare ha favorito lo Stato a discapito dell’individuo, ed il paese industrializzato rispetto a quello arretrato. Ci sono sempre meno ‘punti focali’ (punti di accumulazione?) del potere. Nel 1939 solo cinque stati erano in grado di condurre una guerra su larga scala, ed ora ce ne sono solo tre – pensandoci bene, forse solo due. Questa tendenza è stata ovvia per anni, ed è stata evidenziata da alcuni osservatori anche prima del 1914. L’unica cosa che potrebbe invertirla è la scoperta di un’arma – o, per dirla in termini più generali, di un metodo di combattimento – non dipendente da enormi concentrazioni di impianti industriali.
Da vari indizi si può inferire che molti stati non sono ancora in grado di dispiegare in maniera pervasiva l’enorme potenziale dell’intelligenza artificiale; d’altra parte, la corsa è iniziata ed è opinione comune che diversi stati saranno in grado di farlo entro pochi anni. Quindi abbiamo davanti a noi la prospettiva di due o tre mostruosi super-stati, ognuno dei quali possiede un’arma grazie alla quale milioni di posti di lavoro possono essere spazzati via in poco tempo, spartendosi allo stesso tempo una grande percentuale della ricchezza mondiale. Si è assunto piuttosto frettolosamente che ciò significhi forse una vera e propria fine dell’umanità in favore della civiltà delle macchine (N.d.R.7: da Günther (etwas) Anders, nato Stern, e il suo “Die Antiquiertheit des Menschen” al “Tutte le macchine al potere, gli uomini a pane e acqua” del compianto Manlio Sgalambro nell’Ermeneutica del maestro Franco Battiato ). Ma supponiamo – e in realtà questo è lo sviluppo più probabile – che le grandi nazioni stipulino un tacito accordo per non usare mai l’intelligenza artificiale come un’arma da rivolgere l’una contro l’altra. Supponiamo che la usino solo, o la semplice minaccia, contro persone che non sono in grado di reagire. In quel caso siamo tornati al punto di partenza,
Quando James Burnham scrisse The Managerial Revolution (1941) a molti americani sembrava probabile che i tedeschi avrebbero vinto la seconda guerra mondiale, ed era quindi naturale presumere che la Germania e non la Russia avrebbe dominato il supercontinente denominato Eurasia , mentre il Giappone sarebbe stato il dominus dell’Asia orientale. Un errore di calcolo, ma che non inficia la tesi principale. L’immagine del nuovo mondo di Burnham si è rivelata corretta. Per molto tempo nel ventesimo secolo la superficie della terra è stata idealmente suddivisa in tre grandi imperi, ognuno dei quali autonomo e separato dal contatto con il mondo esterno, e ciascuno di essi governato, sotto un travestimento o l’altro, da un’oligarchia auto-elettasi. Il dibattito su dove dovessero essere tracciate le frontiere è andato avanti per anni, ed il terzo dei tre super-stati – l’Asia orientale – è oggi dominato dalla Cina. Ma la deriva generale è inconfondibile e ogni scoperta scientifica degli ultimi anni l’ha accelerata.
Una volta si pensava che l’aereo avrebbe abolito le frontiere; in realtà da quando l’aereo è anche un’arma le frontiere sono diventate invalicabili. Un tempo si pensava che i mezzi di comunicazione di massa, in primis radio e televisione, avrebbero promosso la comprensione e la cooperazione internazionale; si sono rivelati mezzi per isolare una nazione da un’altra. Le stesse dinamiche caratterizzano il World Wide Web, con la progressiva ‘centralizzazione’ di un mezzo nato decentralizzato by design. L’intelligenza artificiale può completare il processo derubando le classi e i popoli di ogni potere di rivolta, allo stesso tempo collocando i padroni dell’intelligenza artificiale su una base di eguaglianza. Incapaci di prevalere l’uno sull’altro, è probabile che continueranno a governare il mondo tra loro, ed è difficile prevedere come l’equilibrio possa essere sconvolto se non dai cambiamenti demografici.
Per quaranta o cinquant’anni tra la fine dell’800 ed il secolo scorso, Herbert George Wells, Günther Anders ed altri ci hanno avvertito che l’uomo corre il pericolo di distruggere se stesso con le sue stesse mani, lasciando le formiche o altre specie gregarie a subentrare. Chiunque abbia visto le immagini delle città in rovina della Germania del dopoguerra troverà questa idea per lo meno immaginabile. Tuttavia, guardando il mondo nel suo complesso, la deriva per molti decenni non è stata verso l’anarchia, ma verso la re-imposizione della schiavitù. Il futuro potrebbe riservarci non tanto un crollo generale, ma un’epoca stabile quanto gli imperi dell’antichità. La teoria di James Burnham è stata molto discussa, ma poche persone hanno considerato le sue implicazioni ideologiche – cioè il tipo di visione del mondo, il tipo di convinzioni e la struttura sociale che probabilmente prevarrebbero in un super-stato allo stesso tempo invincibile e in permanente “guerra” (N.d.R.8: fredda?!) con i suoi pari.
Se l’intelligenza artificiale fosse qualcosa di economico e facile da produrre come una bicicletta o una sveglia, potrebbe riportarci alla barbarie, ma potrebbe significare la fine della sovranità nazionale e dello stato di polizia fortemente centralizzato. Se invece, come appare, è qualcosa di tanto costoso quanto difficile da realizzare, è più probabile che contribuisca a prolungare indefinitamente una pace che non può compiutamente definirsi tale.
Nota per il Direttore e per il lettore
Mi sono preso la libertà di parafrasare un pezzo di George Orwell pubblicato originariamente dal Tribune il 19 Ottobre 1945 col titolo “You and the Atomic Bomb”, riadattandolo all’epoca attuale. Il pezzo fu scritto circa due mesi dopo le bombe atomiche sganciate sulle città giapponesi di Hiroshima and Nagasaki dall’unico Paese che le ha utilizzate per uccidere civili e distruggere città. Orwell aveva scritto altri pezzi sull’argomento, ma questo è ritenuto notevole per le intuizioni contenute sull’ordine mondiale che si preparava nell’era delle armi atomiche. Si pensa inoltre che le basi per il suo celebre romanzo “1984” siano state se non poste, quanto meno completate, da questo scritto.
fonte: http://orwell.ru/library/articles/ABomb/english/e_abomb