L’integrazione dell’intelligenza artificiale nei dispositivi medici ha portato a un aumento delle segnalazioni di lesioni ai pazienti e malfunzionamenti, con oltre 1.300 prodotti autorizzati dalla Food and drug administration (Fda) che ora utilizzano questa tecnologia. Un’inchiesta di Reuters, basata su documenti della Fda, cause legali e interviste con medici, scienziati e regolatori, rivela che aziende del settore come Johnson & Johnson, Integra LifeSciences, Samsung Medison e Medtronic si trovano al centro del dibattito sulla sicurezza mentre l’ente regolatore statunitense – a causa dei tagli dell’amministrazione Trump – affronta una significativa carenza di personale specializzato necessaria per monitorare l’afflusso di nuovi software.
IL CASO TRUDI
Al centro del dibattito c’è il sistema di navigazione chirurgica TruDi, utilizzato negli interventi per la sinusite cronica. Nel 2021 la divisione Acclarent di Johnson & Johnson annunciò l’integrazione di algoritmi di machine learning, definendola “un balzo in avanti” per l’assistenza chirurgica.
Tuttavia, dopo l’aggiornamento software, le segnalazioni alla Fda sono drasticamente aumentate. Mentre prima dell’IA erano stati registrati meno di 10 malfunzionamenti, dopo l’aggiornamento sono arrivate oltre 100 segnalazioni di problemi ed eventi avversi. Tra i casi più gravi, strumenti chirurgici indicati erroneamente hanno provocato perdite di liquido cerebrospinale, perforazioni della base del cranio e almeno due ictus.
LE CAUSE LEGALI
Almeno due pazienti hanno avviato cause legali sostenendo che l’IA di TruDi abbia contribuito alle loro lesioni. In particolare, una donna di Fort Worth (Texas) ha denunciato gravi danni neurologici dopo un ictus causato da una lesione dell’arteria carotide durante una procedura di sinuplastica. Le denunce accusano Acclarent e altre aziende di aver ignorato problemi noti e di aver abbassato gli standard di sicurezza per accelerare la commercializzazione del dispositivo, nonostante gli avvertimenti sui rischi sollevati da alcuni consulenti medici.
Johnson & Johnson e Integra LifeSciences, attuale proprietaria del TruDi, negano qualsiasi nesso tra IA e lesioni, sostenendo che le segnalazioni Fda “non dimostrano alcuna connessione causale”.
MEDTRONIC, SAMSUNG E GLI ALTRI
Ma quello di TruDi non è un caso isolato. Oggi, afferma Reuters, la Fda ha autorizzato oltre 1.357 dispositivi medici che utilizzano l’intelligenza artificiale, più del doppio rispetto al 2022. Tra i malfunzionamenti segnalati ci sono monitor cardiaci impiantabili della serie LINQ di Medtronic, che in almeno 16 casi non avrebbero riconosciuto ritmi cardiaci anomali o pause. Sebbene l’azienda abbia ammesso che la sua tecnologia AccuRhythm AI può classificare erroneamente alcuni eventi, ha precisato che “nessuna di queste segnalazioni ha comportato danni ai pazienti” e che molti episodi erano legati a una confusione dell’utente finale.
Altri report riguardano Sonio Detect, software di ecografia prenatale di Samsung Medison, accusato di identificare erroneamente parti del corpo fetale. Samsung Medison ha dichiarato che non ci sono problemi di sicurezza né richieste da parte della Fda.
Inoltre, una ricerca pubblicata su JAMA Health Forum ha evidenziato che 60 dispositivi medici con IA sono stati collegati a 182 richiami, spesso entro il primo anno dall’autorizzazione, un tasso doppio rispetto ai dispositivi tradizionali.
TAGLI CHE POSSONO COSTARE LA VITA
La situazione, considerate le politiche del presidente degli Stati Uniti Donald Trump, non può che peggiorare. La capacità della Fda di valutare la sicurezza dei dispositivi basati su IA è infatti stata compromessa da recenti tagli al personale e riforme amministrative. Sotto l’amministrazione Trump e l’azione del dipartimento per l’Efficienza del governo (Doge), l’agenzia ha perso circa un terzo degli esperti della sua unità di salute digitale e 15 scienziati del team incaricato di testare gli algoritmi per evitare le “allucinazioni” o dati falsi.
Andrew Nixon, portavoce del dipartimento per la Salute, ha ribadito che “a sicurezza dei pazienti è la massima priorità della Fda ed è al centro del nostro lavoro per proteggere e promuovere la salute pubblica”, tuttavia il carico di lavoro per i revisori rimasti è quasi raddoppiato. Inoltre esperti come il dottor Alexander Everhart sostengono che “l’approccio tradizionale della Fda alla regolamentazione dei dispositivi medici non sia adeguato a garantire che le tecnologie abilitate dall’IA siano sicure ed efficaci”, specialmente perché molti dispositivi arrivano sul mercato senza essere testati direttamente sui pazienti.
