Perché Amazon (dopo Ibm) sospende Rekognition

Amazon di Jeff Bezos vieta l’utilizzo da parte degli agenti di polizia della propria tecnologia di riconoscimento facciale, Amazon Rekognition, per un anno

 

Continua la messa al bando della tecnologia di riconoscimento facciale da parte delle big tech statunitensi. Ieri Amazon ha annunciato che vieterà l’uso da parte della polizia per un anno della sua tecnologia di riconoscimento facciale, Rekognition.

La moratoria di un anno di Amazon arriva dopo che lunedì Ibm ha comunicato il ritiro dal business del riconoscimento facciale.

Le prese di posizioni giungono nel momento in cui le società tecnologiche si trovano ad affrontare un maggiore controllo sui loro contratti con la polizia. Sullo sfondo le repressioni da parte delle forze dell’ordine delle proteste dei movimenti Black Lives Matter che stanno scuotendo gli Stati Uniti.

Nelle scorse settimane il fondatore e ceo di Amazon, Jeff Bezos, ha parlato a sostegno del movimento Black Lives Matter ma la società non ha fornito una ragione concreta per questa decisione oltre a richiedere la regolamentazione federale della tecnologia di riconoscimento facciale.

IL SOFTWARE REKOGNITION

Rekognition fa parte di Amazon Web Services, la divisione di cloud computing del colosso tech di Seattle.

AWS ha lanciato Rekognition nel 2016, descrivendolo in un breve post sul blog come “un servizio che semplifica l’aggiunta di analisi delle immagini alle applicazioni” e “rileva oggetti, scene e volti nelle immagini”.

Il software sfrutta l’apprendimento automatico per confrontare rapidamente un’immagine acquisita dall’account di social media di una persona per cercare una corrispondenza da un database di centinaia di migliaia di foto segnaletiche.

SOSPENSIONE DI UN ANNO

Amazon ha deciso dunque di vietare temporaneamente alla polizia di utilizzare la sua tecnologia di riconoscimento facciale. La moratoria sarà di un anno.

LE MOTIVAZIONI DELLA SOCIETÀ DI BEZOS

La società non ha fornito una spiegazione concreta della sua scelta, limitandosi a citare la necessità di una regolamentazione federale: “Stiamo spingendo per normative governative più rigorose sull’uso etico delle tecnologie di riconoscimento facciale e il Congresso sembra pronto a raccogliere la sfida. Speriamo che questa moratoria di un anno possa dare al Congresso tempo sufficiente per attuare le regole appropriate e siamo pronti a fornire aiuto se richiesto”.

Ma la decisione di Amazon è frutto del timore, denunciato da attivisti e gruppi per i diritti civili, che le forze dell’ordine possano utilizzare la tecnologia per identificare le persone che partecipano alle manifestazioni contro le violenze degli agenti, scoppiate dopo la morte di George Floyd.

LA DECISIONE DOPO L’ANNUNCIO DI IBM

L’annuncio segue di due giorni un annuncio simile di Ibm, che ha parlato di rischio di violazioni dei diritti umani e della privacy e citato ricerche che indicano che la tecnologia di riconoscimento facciale subisce distorsioni in base all’età, alla razza e all’etnia.

In una lettera al Congresso, l’amministratore delegato Arvind Krishna ha condannato il software utilizzato “per la sorveglianza di massa, la profilazione razziale, le violazioni dei diritti umani e delle libertà fondamentali”.

CONTROVERSIE PRIMA ANCORA DELLE PROTESTE ATTUALI

Il riconoscimento facciale è stato un argomento controverso per Amazon ancor prima dell’ultima ondata di proteste a livello nazionale contro la violenza della polizia. Negli ultimi due anni una dozzina di organizzazioni per i diritti civili guidate dall’American Civil Liberties Union (Aclu) hanno protestato contro Rekognition, per via della potenziale violazione dei diritti umani e le evidenze che la tecnologia è meno accurata nell’identificare le persone di colore.

NON COSÌ PRECISO

Uno studio del 2019 curato da Joy Buolamwini, ricercatrice presso il MIT Media Lab ha dimostrato che mentre gli uomini con la pelle più chiara erano identificati correttamente, fino al 35% delle donne con la pelle più scura erano identificate erroneamente.

CONTRARI A REKOGNITION ANCHE GLI AZIONISTI DI AMAZON

Questi studi hanno allarmato anche gli azionisti di Amazon. Tanto che l’anno scorso il 2,4% degli azionisti ha votato a favore del divieto di vendere il software alle agenzie governative.

LE FORZE DELL’ORDINE CHE SI AFFIDANO A REKOGNITION

Al momento l’ufficio dello sceriffo della Contea di Washington, in Oregon, è l’unico dipartimento di polizia che Aws accredita sul sito come cliente Rekognition. Amazon ha rifiutato di commentare il numero totale di dipartimenti di polizia che utilizzano il suo software.

L’UTILIZZO CONSENTITO

Tuttavia, Amazon ha fatto sapere che consentirà di utilizzare Rekognition per monitorare il lavoro a favore delle vittime della tratta di esseri umani e per ritrovare bambini scomparsi.

MA AMAZON RING?

Se Rekognition viene messo in stand-by, almeno per un anno, resta operativa un’altra tecnologia controversa di Amazon. Come riporta Cnbc, più di 1.000 dipartimenti di polizia negli Stati Uniti hanno collaborazioni con Ring, la società di sicurezza con campanello intelligente di proprietà di Amazon. Queste partnership consentono alla polizia di richiedere filmati dalle telecamere di sicurezza Ring, sollevando problemi di privacy.

Sembrano essere i pochi limiti alla capacità della polizia di applicare il software Amazon Rekognition ai filmati video ottenuti da Ring. L’anno scorso Ring ha risposto alla Cnn che le sue politiche non regolano il modo in cui i dipartimenti di polizia gestiscono o archiviano prove video.

I PARADOSSI

Per questi motivi i critici restano scettici alla mossa di Amazon: come può la società appoggiare la giustizia sociale da un lato e continuare a consentire alle forze dell’ordine l’uso di una tecnologia in gran parte non regolamentata dall’altro?

LA STRETTA SU MICROSOFT

Tornando al riconoscimento facciale, dopo Ibm e Amazon, resta operativo Microsoft. L’Aclu e altri oppositori della tecnologia stanno ora chiedendo a Microsoft di abbandonare i suoi servizi di riconoscimento facciale forniti tramite il servizio cloud Azure.

“Anche Microsoft deve prendere una posizione”, ha dichiarato la ricercatrice del Mit Joy Buolamwini.

.@jovialjoy on Amazon one-year facial recognition moratorium: “@Microsoft also needs to take a stand. More importantly our lawmakers need to step up. We cannot rely on self-regulation or hope companies will choose to reign in harmful deployments of the technologies they develop.” https://t.co/F2Ta3D2Leo

— Khari Johnson (@kharijohnson) June 10, 2020