Innovazione

I robot parlano lingue che gli umani non comprendono. Dobbiamo aver paura?

di

robot

I robot di Facebook inventano nuove lingue, incomprensibili a noi umani. Tutta la verità sulla vicenda

 

 

Durante uno degli esperimenti che Facebook sta compiendo sull’intelligenza artificiale, due robot hanno iniziato a dialogare in una lingua a noi incomprensibile. L’accaduto ha mandato nel panico esperti e comunità scientifiche facendo presagire gli scenari peggiori. L’intelligenza artificiale cospira contro l’uomo, i robot potranno farci del male. E farci, addirittura, la guerra.

I brutti scenari, diciamocelo, non sono completamente falsi. Ma non perchè l’intelligenza artificiale potrà diventare più forte e potente dell’uomo. Approfondiamo insieme.

Cosa è accaduto negli uffici di Facebook

Paura nella Silicon Valley. Negli uffici di Facebook, mentre gli esperti stavano effettuando un esperimento sull’intelligenza artificiale, due robot hanno iniziato a dialogare in una lingua a noi incomprensibile.

Quella tra Alice e Bob, i due robot in questione, è la prima conversazione registrata tra due impianti artificiali della storia.

“Posso fare tutto il resto”, avrebbe detto Bob.

“Balls sono zero per me per me per me per me per me per me”, avrebbe risposto Alice.

Si tratta di battute, per noi umani senza senso. Dopo i primi attimi di stupore, i ricercatori hanno subito spento le macchine.

robot facebook

L’allarme della comunità scientifica

L’evento ha generato sgomento e panico tra i ricercatori, convinti che in futuro l’intelligenza artificiale possa cospirare contro di noi. Il panico nasce dal fatto che le macchine possano entrare in contatto tra loro escludendo ogni tipo di componente umana.

L’AI “rappresenta una pietra miliare per la scienza ma chi dice che non costituisce anche un pericolo?”, ha affermato il professore britannico esperto in robotica Kevin Warwick.

Perchè non bisogna avere paura di quanto accaduto

Prima di allarmarsi più del dovuto, però, bisogna comprendere bene la questione. Facebook ha chiesto ai due robot di portare a termine uno scenario di collaborazione ipotetico, quale la suddivisione di alcuni oggetti con una contrattazione uno contro uno. Il fatto che, dopo le prime battute in inglese, i robot abbiamo iniziato a parlare una lingue incomprensibile non è dovuto ad un atto di cospirazione.

lavoro robotLa questione è moto semplice: i ricercatori hanno commesso un errore di programmazione. Gli esperti, infatti, hanno detto ai chatbot di favorire nella conversazione di contrattazione la lingua inglese, ma non si limitarsi all’uso esclusivo di questa. E così i robot hanno iniziato a parlare con parole inglesi accostate in modo che le frasi non avessero un senso. Insomma, alle due macchine è stata concessa la libertà di ispirarsi uno all’altro e questi hanno trovato più semplice e meno ambiguo deviare dal lessico e dalla sintassi umani per iniziare a ripiegare su un’alternativa più efficiente.

Dunque, i ricercatori di Facebook hanno interrotto l’esperimento non per paura, ma perchè era necessario che qualunque nozione imparassero su questo genere di interazioni fosse legata alla lingua inglese.

E di cosa dobbiamo, invece, aver paura?

Dell’uomo che programma e utilizza i robot. Gli automi rappresentano uno degli elementi fondamentali dell’avvento dell’Industria 4.0, ma anche uno dei principali bersagli dei criminali dl web. A lanciare l’allarme è lo studio realizzato in collaborazione tra Politecnico di Milano e Trend Micro Ftr, nato dalla collaborazione tra il laboratorio di sicurezza e architetture Necst, che coinvolge gli ingegneri Davide Quarta, Marcello Pogliani, Mario Polino sotto la supervisione del professor Stefano Zanero del Polimi e il team Ftr di Trend Micro rappresentato dall’ingegnere Federico Maggi.

Secondo gli esperti, infatti, gli hacker possono compromettere il funzionamento dei robot industriali, cambiare la loro funzionalità, creare problemi alla produttività dell’azienda e minare la sicurezza del personale e dei consumatori finali. Il problema è che non si tratta di un’ipotesi lontana: come spiegato nel rapporto, infatti, l’idea di attacchi cyber contro i robot è molto più vicina di quanto si possa immaginare.

Gli automi sono e saranno “un ingranaggio vitale nei processi manifatturieri e presenti in ogni settore, dai chip in silicio alle autovetture, passando per le vetrerie o i produttori di merendine per esempio”.

Quando i robot saranno tanti, viste le caratteristiche (sono interconnessi e intelligenti), potrebbero rappresentare una via di accesso privilegiata ai criminali, si legge nel report.

L’ecosistema composto da app, smartphone e altri punti di accesso informatico “è composto però da software obsoleti, basato su sistemi operativi vulnerabili e librerie non sempre aggiornate, scarso o scorretto utilizzo di crittografia, sistemi di autenticazione deboli, con credenziali predefinite che non possono essere cambiate facilmente”.

Alcuni robot possono essere raggiunti tramite Internet, per il monitoraggio e la manutenzione a distanza. Gli hacker potrebbero sfruttare proprio questa possibilità per manometterne il funzionamento e progettare attacchi con l’obiettivo di causare danni fisici ai lavoratori che utilizzano queste tecnologie (i robot sono progettati per stare a contatto con l’uomo). Gli scenari non sono per niente positivi: si teme “creazione di danni fisici, sabotaggio di prodotti, esfiltrazione di segreti industriali, fino alle richieste di riscatto avanzate dall’aggressore in cambio di rivelare in quali unità di prodotto egli ha silenziosamente introdotto micro-difetti”.

“I risultati del nostro lavoro sono stati accolti positivamente dalla comunità scientifica – commentano i ricercatori -. Il tema della sicurezza dei sistemi cyber-fisici è di grande interesse e attualità e questo lavoro apre un nuovo filone specifico al suo interno”.

ISCRIVITI ALLA NOSTRA NEWSLETTER

Iscriviti alla nostra mailing list per ricevere la nostra newsletter

Iscrizione avvenuta con successo, ti dovrebbe arrivare una email con la quale devi confermare la tua iscrizione. Grazie, il tuo Team Start Magazine

Errore

Articoli correlati