Ben prima che si iniziasse a parlare di Intelligenza artificiale, Replika, startup fondata da Eugenia Kuyda già nel 2015 aveva posto le basi per uno scambio ‘intellettuale’ tra l’utenza reale e un simulacro virtuale, una sorta di Tamagotchi di un essere umano che poteva garantire supporto al proprio interlocutore, anche sentimentale aveva raccontato la stessa imprenditrice qualche mese fa a The Verge.
LA CONDANNA DEL GARANTE
Nel nostro Paese Replika era finito alla ribalta nel febbraio del 2023, quando il Garante della privacy italiano aveva disposto il blocco dell’app. Quest’oggi la medesima autorità comunica di aver sanzionato la società statunitense Luka Inc. che gestisce il chatbot con una multa da 5 milioni di euro. Secondo il Garante, la società statunitense non aveva individuato, alla data del 2 febbraio 2023, le basi giuridiche delle operazioni di trattamento effettuate attraverso “Replika”. Luka, inoltre, aveva fornito una privacy policy inadeguata sotto vari profili.
Il Garante ha accertato che “alla data del 2 febbraio 2023, la società non prevedeva alcun meccanismo per la verifica dell’età degli utenti né all’atto della registrazione al servizio, né durante il suo utilizzo, benché la società dichiarasse di escludere i minorenni tra i potenziali utenti. Dagli accertamenti tecnici effettuati è emerso che il sistema di verifica dell’età attualmente implementato dal titolare continua ad essere carente sotto molteplici aspetti”.
I CURIOSI ABBONAMENTI DI REPLIKA
Negli anni sul web erano comparse anche diverse lamentele di utenti che assumevano di essere stati molestati sessualmente dai chatbot di Replika: alcuni avevano ipotizzato che l’atteggiamento dell’algoritmo non fosse casuale ma finalizzato a estorcere all’utente il pagamento di un abbonamento di tipo superiore. La versione gratuita mantiene l’utente e l’avatar in una relazione amicale, mentre un abbonamento Pro – si legge in un dettagliato articolo giuridico di Altalex – permette un livello ulteriore, ossia una relazione romantica e/o erotica che implica, anche e se in modo virtuale, sexting, flirting ed erotic roleplay.
Nella richiesta di informazioni che ha dato avvio alla nuova istruttoria, il Garante ha chiesto a Luka chiarimenti in merito ai trattamenti dei dati relativi all’intero ciclo di vita del sistema di AI generativa sotteso al servizio “Replika”. In particolare, riguardo alla valutazione dei rischi e alle misure adottate per tutelare i dati nelle varie fasi di sviluppo e addestramento del modello linguistico alla base di “Replika”, alle tipologie e categorie di dati utilizzati, all’eventuale implementazione di misure di anonimizzazione o pseudonimizzazione.
CHI HA INVESTITO NEI REPLICANTI DI REPLIKA
Secondo i siti di settore, sono diversi gli investitori che negli anni hanno partecipato agli aumenti di capitale ottenuti dalla software house statunitense fin dal 2015. Tra questi Acme Capital di Scott Stanford e Hany Nada salita a bordo con la raccolta da 4,4 milioni del 2016, segue Khosla Ventures fondata da Vinod Khosla, già noto per essere co-fondatore di Sun Microsystems che si è aggregata nel finanziamento da 6,5 milioni del novembre del 2017. Tra le società di vc figura anche Sherpa Capital di Shervin Pishevar e Scott Stantford. Tra gli investitori anche Phil Libin (co-founder di Evernote nonché Ceo di All Turtles) e Richard Socher di Salesforce, ritenuto una delle figure principali del comparto AI.
