L’Autorità garante della concorrenza e del mercato (Agcm) ha avviato un’indagine formale contro DeepSeek, un sistema di intelligenza artificiale gestito dalle società cinesi Hangzhou DeepSeek e Beijing DeepSeek, per una possibile pratica commerciale scorretta. Secondo quanto rilevato, l’azienda non avrebbe informato in modo adeguato gli utenti – in particolare quelli italiani – che i suoi modelli di IA possono generare risposte “inesatte, fuorvianti o inventate”, note nel settore come “allucinazioni”.
COSA RIMPROVERA IL GARANTE A DEEPSEEK
L’indagine del Garante nei confronti di Deepseek riguarda la mancanza di informazioni chiare e immediate per gli utenti sui limiti del sistema. In particolare, durante l’uso dell’intelligenza artificiale (IA) non compare alcun avviso specifico che segnali il rischio di ricevere risposte sbagliate o inventate né in homepage né nelle pagine di registrazione e di accesso.
“L’unico disclaimer presente nelle finestre di dialogo dei modelli di IA di Deepseek (“AI-generated, for reference only”: Figura 1) appare eccessivamente generico e dunque non idoneo a informare il consumatore medio in modo chiaro, immediato e sufficientemente comprensibile della possibilità che si possa incorrere in ‘allucinazioni’. Tale disclaimer appare inoltre soltanto in lingua inglese, anche ove si interloquisca con il sistema in lingua italiana”, afferma l’Autorità.
INFORMAZIONI NASCOSTE
“La descritta omissione informativa – aggiunge l’Agcm – non può dirsi colmata da quanto contenuto nei ‘Terms of Use’, ai quali infatti si accede solo tramite apposita ricerca, scrollando cioè l’homepage fino al fondo e facendo apposito click all’hyperlink ‘Terms of Use’ riportato all’interno della sezione ‘Legal & Safety'”.
Sebbene, infatti, in questa sezione la società ammetta i limiti del servizio, specificando che le informazioni generate dall’IA non devono essere considerate consigli professionali e che l’utente si assume ogni responsabilità per l’uso dei contenuti, questi termini sono difficili da trovare, generici e, ancora una volta, soltanto in inglese.
PERCHÉ È GRAVE
Questa omissione è considerata grave dall’Autorità perché le persone ormai si rivolgono alle IA per molte questioni, anche sensibili come la salute, finanza, diritto.
Il rischio è quindi che gli utenti possano essere indotti in errore perché Deepseek fa sembrare i contenuti più affidabili di quanto realmente siano, può portare a decisioni importanti basate su informazioni errate e compromette una scelta consapevole, violando il Codice del consumo.
COSA DEVE FARE DEEPSEEK…
Il Garante ha quindi stabilito che Deepseek ha 30 giorni di tempo per fornirle una serie di informazioni. In particolare, è tenuta a indicare: l’elenco completo dei servizi di IA offerti in Italia, eventualmente distinguendo tra quelli gratuiti e quelli a pagamento; la data della prima disponibilità al pubblico italiano di ciascun servizio di IA di cui al punto precedente; la data del loro primo caricamento sotto forma di app sugli app store. Deve inoltre specificare se al momento del caricamento dell’app su tali store il mercato italiano sia stato espressamente incluso tra quelli abilitati, ma anche eventuali ulteriori modalità attraverso cui è possibile per gli utenti italiani fruire dei servizi, oltre che eventuali modalità di promozione/diffusione in Italia dei servizi, per esempio, comunicati stampa o paper di ricerca.
Deepseek dovrà inoltre indicare il numero complessivo di utenti italiani che hanno usato i suoi servizi, dal momento del lancio e fino a marzo 2025; indicare le modalità di determinazione e/o classificazione di un utente come “utente italiano”; descrivere la struttura del gruppo societario; indicare ogni altro elemento ritenuto utile alla valutazione del caso in esame.
…E COSA RISCHIA SE NON LO FA
In caso di mancata risposta, DeepSeek potrebbe incorrere in sanzioni che vanno da 2.000 a 20.000 euro e che possono raggiungere i 40.000 euro, nel caso fornisca informazioni false. Il procedimento si concluderà entro 270 giorni.
