Business is business. Sebbene OpenAI affermi di avere a cuore la salute mentale dei suoi utenti, in barba alle restrizioni inizialmente applicate per tutelarla, ha annunciato di puntare a “trattare gli adulti come adulti” lanciando un chatbot per consentire conversazioni erotiche con ChatGPT – sulla scia di quanto già fatto da Elon Musk con Grok.
“TRATTARE GLI ADULTI DA ADULTI”
Con un post su X, Sam Altman, Ceo di OpenAI, ha annunciato una nuova versione di ChatGPT che allenterà le attuali restrizioni, permettendo anche la generazione di contenuti erotici per utenti adulti verificati. La decisione fa parte del principio aziendale di “trattare gli utenti adulti come adulti”.
“A dicembre, quando implementeremo più completamente la verifica dell’età e come parte del nostro principio di ‘trattare gli adulti come adulti’, permetteremo ancora di più, come i contenuti erotici per adulti verificati”, ha scritto Altman, il quale ha inoltre anticipato che un aggiornamento imminente permetterà agli utenti di personalizzare la personalità del chatbot, scegliendo tra uno stile amichevole, risposte più “umane” o un uso abbondante di emoji: “Le prossime versioni del chatbot saranno in grado di comportarsi in modo più umano – ma solo se lo desideri, non perché vogliamo massimizzare l’uso”.
UN DISCUTIBILE CAMBIAMENTO DI ROTTA
La scelta di OpenAI arriva dopo che l’azienda è stata citata in giudizio dai genitori di Adam Raine, un sedicenne californiano che si è tolto la vita ad aprile. La causa, intentata ad agosto, accusa OpenAI di omicidio colposo. Secondo i documenti presentati, ChatGPT avrebbe fornito ad Adam consigli specifici su come suicidarsi, incluso un aiuto nella stesura di una bozza di lettera d’addio.
Lo stesso mese OpenAI aveva reso ChatGPT “piuttosto restrittivo per assicurarsi di agire con cautela rispetto a problematiche di salute mentale”. Tali cambiamenti erano stati annunciati con un post sul blog del sito di OpenAI, che però ora non sembra più disponibile.
“Ci rendiamo conto che questo lo ha reso meno utile/piacevole per molti utenti che non avevano problemi di salute mentale, ma vista la gravità della questione volevamo fare le cose nel modo giusto”, ha scritto adesso Altman, aggiungendo che ora l’azienda è “riuscita a mitigare i problemi più gravi di salute mentale” grazie ai suoi nuovi strumenti.
(QUALI) CONTROLLO DELL’ETÀ E STRUMENTI DI SICUREZZA
OpenAI ha dichiarato che introdurrà un sistema di verifica dell’età più completo entro dicembre, necessario per accedere ai contenuti erotici. L’azienda, tuttavia, non ha fornito dettagli sui metodi di verifica, ma ha comunicato che sta sviluppando una tecnologia di previsione dell’età basata sul comportamento dell’utente – il che non lascia certo ben sperare visti i fallimentari tentativi messi finora in pratica.
A settembre infatti è stata lanciata una versione di ChatGPT per minori di 18 anni, con reindirizzamento automatico a contenuti adeguati all’età e blocco dei materiali grafici e sessuali. A ottobre, sono stati introdotti nuove opzioni di parental control, che – idealmente – consentono ai genitori di collegare il proprio account a quello dei figli e personalizzare le risposte ricevute, con conseguenze ancora sconosciute.
LE REAZIONI E I TIMORI DEGLI ESPERTI
L’introduzione di contenuti erotici ha sollevato preoccupazioni tra esperti e legislatori. Jenny Kim, partner dello studio legale Boies Schiller Flexner, ha dichiarato: “Come faranno a garantire che i bambini non possano accedere alle parti di ChatGPT riservate agli adulti e che forniscono contenuti erotici?”. Ad aprile, TechCrunch ha riferito che OpenAI stava permettendo a utenti registrati come minori di generare contenuti erotici espliciti.
“OpenAI, come gran parte delle big tech in questo settore, sta usando le persone come cavie”, ha aggiunto Kim, che è anche coinvolta in una causa contro Meta, in cui si sostiene che l’algoritmo di Instagram danneggi la salute mentale degli adolescenti. Un sondaggio del Centre for Democracy and Technology ha rilevato che uno studente su cinque dichiara di avere avuto, o di conoscere qualcuno che ha avuto, una relazione romantica con un’IA.
Negli Stati Uniti, la Federal Trade Commission (Ftc) ha avviato un’indagine sulle interazioni tra i chatbot e i minori. Inoltre, una proposta di legge bipartisan presentata al Senato prevede che gli utenti possano richiedere risarcimenti ai creatori dei chatbot in caso di danni.
In California, il governatore Gavin Newsom ha posto il veto a un disegno di legge che avrebbe vietato i chatbot “compagni” per minori, affermando che è “fondamentale che gli adolescenti imparino a interagire in modo sicuro con i sistemi di IA” ma, allo stesso tempo, ha approvato una legge che mira a tutelarli.
IL DIBATTITO SUI CONTENUTI EROTICI E L’IA
La scelta di OpenAI segue quella dell’azienda xAI di Musk, il quale ha già introdotto chatbot sessualmente espliciti con Grok, che propone due avatar virtuali, uno maschile e uno femminile, con cui gli utenti possono impostare il livello di “spontaneità” nelle risposte e negli atteggiamenti, scegliendo una modalità “piccante” e meno filtrata.
Secondo Bbc, la mossa potrebbe aiutare OpenAI ad attrarre più abbonati paganti e aumentare la sua quota di mercato. Tuttavia, rappresenta un cambiamento rispetto alla posizione espressa dallo stesso Altman ad agosto, quando dichiarò di non voler integrare un “avatar di sex bot” in ChatGPT, ritenendolo positivo per il mondo, ma non utile per vincere la corsa all’intelligenza artificiale.
MERCATO IN ESPANSIONE, MA ANCORA NON REDDITIZIO
Alla fine il tutto si ridurrebbe banalmente a una questione di entrate. Stando al Guardian, infatti, i ricavi di OpenAI sono in crescita, ma l’azienda non è ancora redditizia. “Nessuna azienda ha mai avuto il tipo di adozione che ha avuto OpenAI con ChatGPT – ha dichiarato alla Bbc Rob Lalka, professore alla Tulane University e autore di The Venture Alchemists -. Dovevano continuare a spingere lungo quella curva di crescita esponenziale, cercando di ottenere il massimo dominio del mercato possibile”.
