Innovazione

Perché molti dipendenti di Google sono in rivolta

di

Google

Tempesta di critiche su Google dopo l’uscita dalla società di Timnit Gebru, pioniera nello studio dell’etica nell’intelligenza artificiale

 

Dipendenti e accademici in rivolta contro Big G.

Oltre 1200 dipendenti di Google e più di 1500 ricercatori accademici hanno firmato una lettera aperta di protesta contro il colosso di Mountain View.

Il motivo è l’uscita dalla società di Timnit Gebru, una delle scienziate afroamericane più note e rispettate nel campo dell’etica dell’intelligenza artificiale, che ha denunciato su Twitter di essere stata licenziata da Google per aver espresso critiche ai suoi sforzi sulla diversità ed evidenziato i pregiudizi dei sistemi di AI.

Google ha detto ai dipendenti che si è dimessa.

Timnit Gebru ha contribuito a migliorare l’immagine pubblica di Google come azienda che eleva gli scienziati informatici neri e mette in dubbio gli usi dannosi dell’intelligenza artificiale.

Tutti i dettagli.

COS’È SUCCESSO FRA GOOGLE E TIMNIT GEBRU

Timnit Gebru era co-responsabile tecnico del team Ethical AI di Google fino a mercoledì scorso.

Gebru ha scritto sul social che è stata silurata dopo aver inviato una email (dal titolo “Mettere a tacere le voci emarginate in ogni modo possibile”) ad un gruppo femminile interno e ad altri colleghi che lavorano nell’unità AI della compagnia.

Una email in cui esprime frustrazione sui programmi di Google riguardanti la diversità ed evoca un suo studio del 2018 sui pregiudizi razziali e di genere nei software di riconoscimento facciale, che lo scorso novembre un dirigente dell’azienda le aveva chiesto di ritrattare.

IL DOCUMENTO DELLA DISCORDIA

Gebru aveva recentemente lavorato a un documento che esamina i rischi dello sviluppo di sistemi informatici che analizzano enormi database di linguaggio umano. Lo studio menziona la nuova tecnologia di Google, utilizzata nella sua attività di ricerca.

Oltre a segnalare i potenziali pericoli di pregiudizio razziale, il documento ha anche citato il costo ambientale di sprecare così tanta energia per eseguire i modelli. Una questione importante per un’azienda che si vanta del suo impegno a essere carbon neutral dal 2007 mentre si sforza di diventare ancora più verde.

L’USCITA DALLA SOCIETÀ GUIDATA DA SUNDAR PICHAI

La scienziata aveva riferito di aver tentato di negoziare con Google, offrendo di rimuovere il suo nome dallo studio in cambio di una spiegazione completa delle obiezioni della società e di una discussione su come gestire meglio questi problemi in futuro, minacciando di dimettersi in caso di mancata risposta.

Google ha respinto la sua richiesta e le ha comunicato di aver accettato le sue dimissioni.

“Mi sono sentita come se mi avessero censurato e ho pensato che questo poteva avere implicazioni in tutte le ricerche etiche sull’intelligenza artificiale”, aveva commentato Gebru a Wire.

LA POSIZIONE DI JEFF DEAN, CAPO DELL’AI DI GOOGLE

Come riporta la Cnn, in un’e-mail inviata giovedì ai dipendenti di Google Research che ha pubblicato venerdì, Jeff Dean, capo dell’intelligenza artificiale di Google, ha detto ai dipendenti il ​​suo punto di vista. “Gebru è stato coautore di un articolo ma non ha dato all’azienda le due settimane necessarie per esaminarlo prima la sua scadenza. Il documento è stato rivisto internamente — ha scritto — ma “non ha soddisfatto i nostri requisiti per la pubblicazione”.

Dean ha aggiunto: “Sfortunatamente, questo particolare documento è stato condiviso solo con un giorno di preavviso prima della scadenza. Abbiamo bisogno di due settimane per questo tipo di revisione e poi invece di attendere il feedback dei revisori, è stato approvato per la presentazione e inviato”.

Da qui le dimissioni “accettate” per Gebru.

IL LAVORO DI GEBRU NEL CAMPO DELL’AI

Timnit Gebru è celebre nel mondo dell’etica dell’intelligenza artificiale. Ha lavorato anche in Apple sviluppando gli algoritmi per i primi iPad e ha conseguito il dottorato presso lo Stanford Artificial Intelligence Laboratory.

È co-fondatrice del gruppo Black in AI, che promuove l’occupazione e la leadership dei neri nel settore. È nota per lo studio del 2018 cofirmato con Joy Buolamwini, ricercatrice del Massachusetts Institute of Technology, che ha rilevato pregiudizi razziali e di genere nel software di riconoscimento facciale.

CHE FINE HA FATTO IL MOTTO “DON’T BE EVIL”?

La vicenda rischia di essere un brutto colpo all’immagine e alla credibilità dell’azienda guidata da Sundar Pichia, il cui motto originale era “Don’t Be Evil” (“Non fare del male”).

LE PRECEDENTI PROTESTE DEI DIPENDENTI DI GOOGLE

La brusca partenza di Gebru si aggiunge ad anni di tensioni, comprese diverse dimissioni e licenziamenti, nel dipartimento di intelligenza artificiale e altre organizzazioni di Google a causa della diversità e se gli sforzi dell’azienda per ridurre al minimo i potenziali danni dei suoi servizi sono sufficienti.

Nell’estate 2018 Google abbandonò il progetto Maven del Pentagono. Il progetto utilizza software di visione artificiale per analizzare automaticamente i filmati raccolti dai droni militari statunitensi. Big G fu costretto nella decisione dalle proteste dei dipendenti che pretendono Big G sia fuori dal war business.

Sempre nel 2018 i dipendenti di Google hanno firmato una lettera aperta invitando la società a cancellare il progetto Dragonfly riguardo un motore di ricerca censurato per il mercato cinese che avrebbe consentito la sorveglianza statale.

LE PROSSIME SFIDE DI BIG G

Il modo in cui gestirà la sua iniziativa sull’etica dell’AI e il dissenso interno scatenato dall’uscita di Gebru sarà il primo ostacolo che il colosso di Mountain View dovrà affrontare nel nuovo anno. Senza dimenticare l’accusa da parte del dipartimento di giustizia Usa di approfittare della sua posizione dominante per soffocare la concorrenza.

ISCRIVITI ALLA NOSTRA NEWSLETTER

Iscriviti alla nostra mailing list per ricevere la nostra newsletter

Iscrizione avvenuta con successo, ti dovrebbe arrivare una email con la quale devi confermare la tua iscrizione. Grazie, il tuo Team Start Magazine

Errore

Articoli correlati