Quale medicina prendere, a cosa corrispondono certi sintomi e quale dieta prediligere in particolari condizioni di salute sono domande che andrebbero rivolte a un medico, ma in quanti prima o al posto di recarsi nello studio di un professionista non hanno chiesto a Google?
Fino a poco tempo fa per trovare la risposta solitamente si scorrevano i risultati proposti, almeno quelli della prima pagina, ma da quando Google ha introdotto AI Overview, la sua funzione basata sull’intelligenza artificiale che genera una risposta mostrata in cima a tutto il resto, il traffico dei siti si è notevolmente ridotto e spesso gli utenti si reputano soddisfatti di aver fugato in poco tempo (troppo poco forse) questioni che meriterebbero di essere approfondite.
Tuttavia, lo scorso gennaio, un’inchiesta del Guardian aveva evidenziato come tali risposte potessero fornire informazioni sanitarie false o fuorvianti, con possibili rischi per gli utenti. Dopo le segnalazioni, Google ha rimosso AI Overview per alcune, ma non tutte, le ricerche mediche. Inoltre, a distanza di oltre un mese, continua a non essere stato fatto ancora abbastanza per tutelare gli utenti con adeguati disclaimer.
ALCUNI (GRAVI) ERRORI DI AI OVERVIEW
Uno in particolare, tra gli esempi riportati nell’inchiesta del Guardian, è stato definito dagli esperti “veramente pericoloso”: alla domanda su cosa mangiare in caso di tumore al pancreas, AI Overview di Google suggeriva di evitare cibi ad alto contenuto di grassi. Tuttavia, secondo Pancreatic Cancer UK, si trattava di un’indicazione “completamente errata”, perché in questi pazienti un adeguato apporto calorico è fondamentale per affrontare terapie come chemioterapia o interventi chirurgici.
Un altro caso riguardava i test di funzionalità epatica. Alla richiesta del “range normale” per gli esami del sangue del fegato, il sistema forniva numerosi valori numerici senza contesto e senza distinguere per età, sesso, etnia o nazionalità. La direttrice del British Liver Trust, Pamela Healy, aveva dichiarato: “Molte persone con malattie del fegato non mostrano sintomi fino agli stadi avanzati, per questo è così importante sottoporsi a test. Ma ciò che AI Overview di Google indica come ‘normale’ può differire drasticamente da ciò che è effettivamente normale.
“È pericoloso perché significa che alcune persone con gravi malattie del fegato potrebbero pensare di avere un risultato normale e non recarsi agli appuntamenti di follow-up”, ha aggiunto Healy.
Anche le ricerche sui tumori femminili avevano restituito informazioni giudicate scorrette. In un caso, il pap test veniva indicato come esame per il tumore vaginale. Athena Lamnisos, amministratrice delegata della The Eve Appeal, aveva commentato: “Non è un test per rilevare il cancro, e certamente non per il cancro vaginale”, ha detto l’amministratrice delegata della The Eve Appeal, Athena Lamnisos, aggiungendo che “questa è informazione completamente sbagliata”.
L’inchiesta, prosegue il Guardian, aveva inoltre rilevato risposte ritenute problematiche anche su condizioni di salute mentale. Stephen Buckley, responsabile delle informazioni di Mind, aveva parlato di “consigli molto pericolosi” che risultavano “errati, dannosi o potevano indurre le persone a evitare di cercare aiuto”.
DISCLAIMER E AVVERTIMENTI…
A distanza di poco più di un mese, una nuova analisi del Guardian ha esaminato un ulteriore aspetto: la presenza e la visibilità degli avvertimenti che invitano a consultare un medico.
Google ha dichiarato che AI Overview “incoraggia le persone a cercare pareri medici professionali” e che, “quando appropriato”, suggerisce di rivolgersi a un medico direttamente nel testo della sintesi. Inoltre, ha sottolineato che è presente un disclaimer che specifica: “Queste informazioni hanno solo scopo informativo. Per consigli medici o diagnosi, consultare un professionista. Le risposte generate dall’IA possono contenere errori”.
…INSUFFICIENTI
Secondo il Guardian, tuttavia, questo avviso non compare nella schermata iniziale in cui viene mostrato il riepilogo, ma solo dopo aver cliccato su “Mostra altro”, e appare in fondo al testo aggiuntivo, con un carattere più piccolo e chiaro.
Facendo una prova, questo è il risultato:
COSA DICONO ESPERTI DI IA E SALUTE
Esperti di intelligenza artificiale e rappresentanti di organizzazioni sanitarie intervistati dal Guardian hanno sottolineato l’importanza della visibilità di tali avvertimenti. Pat Pataranutaporn, ricercatore del Massachusetts Institute of Technology, ha spiegato: “La mancanza di avvertenze quando gli utenti ricevono inizialmente informazioni mediche crea diversi pericoli critici. I disclaimer funzionano come un punto di intervento cruciale. Rompono la fiducia automatica e spingono gli utenti a interagire in modo più critico con le informazioni ricevute”.
Gina Neff, professoressa alla Queen Mary University of London, ha dichiarato che “il problema delle risposte scadenti di AI Overview è voluto” e che “AI Overview è progettato per la velocità, non per l’accuratezza, e questo porta a errori nelle informazioni sanitarie, che possono essere pericolosi”.
Anche Tom Bishop, responsabile delle informazioni ai pazienti presso Anthony Nolan, ha chiesto maggiore evidenza per gli avvisi: “Quel disclaimer deve essere molto più evidente, solo per far sì che le persone si fermino e pensino… ‘È qualcosa che devo verificare con il mio team medico prima di agire?’”.
LA DIFESA DI GOOGLE
Dopo la prima inchiesta del Guardian, Google aveva definito le risposte di AI Overview “utili” e “affidabili”, spiegando che si tratta di sintesi generate dall’IA per offrire una panoramica essenziale su un argomento o una domanda. Aveva inoltre aggiunto che la maggior parte di queste è accurata e che l’azienda interviene quando emergono errori o mancanze di contesto.
Un portavoce di Google ha poi affermato che è “inaccurato suggerire che AI Overview non incoraggi le persone a cercare pareri medici professionali” e che l’azienda investe significativamente nella qualità dei contenuti generati, in particolare su temi legati alla salute.
