Il vero rischio dell’AI non è ChatGPT: sono tutti gli altri o, per essere più precisi, i siti e le app – ad esempio Use.ai – che sono utilizzati nelle convinzione che si tratti del servizio ufficiale di OpenAI. Il rischio è condividere, anche solo registrandosi, dati personali e informazioni confidenziali nell’ambito di regole opache con le quali tali elementi saranno registrati e condivisi.
Del resto, fin da quando, come individui e come organizzazioni, si è abbandonata l’idea che i dati risiedessero esclusivamente all’interno dei propri PC per adottare servizi in cloud, si è compreso quanto la sicurezza non si limiti più ad installare un buon antivirus, ma riguardati comportamenti personali virtuosi e progettazione dei processi accorti.
La diffusione dell’Intelligenza Artificiale Generativa sta richiedendo di percorrere la stessa strada. La domanda non è più quale chatbot sia migliore tra ChatGPT e Claude, ma come si possa governare un fenomeno molto più ampio: la diffusione della Shadow AI, cioè l’utilizzo spontaneo, non autorizzato e spesso inconsapevole e quindi rischioso di strumenti di intelligenza artificiale all’interno delle organizzazioni. Si tratta di un fenomeno alimentato dalla naturale ricerca di efficienza da parte delle persone, ma che rischia di entrare rapidamente in conflitto con la sicurezza delle informazioni, la compliance normativa, la tutela del know-how aziendale.
Un rischio crescente è poi quello rappresentato dai cosiddetti AI Worms.
Alcuni ricercatori hanno infatti dimostrato come l’intelligenza artificiale possa essere impiegata per rendere questi attacchi ancora più autonomi, adattivi ed efficaci. Ma il valore di questo concetto va oltre la sua definizione tecnica. Gli AI Worms ci ricordano che il rischio non deriva più soltanto dal malware che tenta di entrare nei nostri sistemi, ma anche dagli strumenti AI che scegliamo volontariamente di utilizzare ogni giorno. Sempre più frequentemente, infatti, le persone affidano il proprio lavoro a chatbot non ufficiali, versioni “potenziate” dei modelli più noti, bot Telegram, aggregatori che promettono di utilizzare contemporaneamente più modelli linguistici o applicazioni che offrono gratuitamente funzionalità normalmente a pagamento. In cambio però ottengono dati prodotti dal caricamento spontaneo di
contratti, offerte commerciali, presentazioni interne, dati finanziari e soprattutto registrano problematiche, spesso anche personali, di cui sono oggetto le conversazioni individuali. Concedere con leggerezza autorizzazioni per accedere alla posta elettronica, a Google Drive, ai calendari aziendali o ai repository documentali, senza chiederci chi stia realmente ricevendo quei permessi e quali garanzie offra sul trattamento delle informazioni richiede una crescente attenzione a gestire, come individui e come organizzazioni, nuovi rischi. Si tratta infatti di cedere informazioni preziose tanto per finalità commerciali quanto, nei casi peggiori, per campagne di phishing estremamente credibili o per furti di identità digitale.
Molte delle piattaforme non sono necessariamente pericolose: alcune utilizzano le API ufficiali dei principali modelli linguistici e adottano misure di sicurezza adeguate. Il problema è che l’utente medio difficilmente possiede gli strumenti per distinguerle da servizi improvvisati, cloni o applicazioni sviluppate con logiche completamente diverse. Un’interfaccia simile a quella di ChatGPT trasmette automaticamente un senso di affidabilità che, nella realtà, potrebbe non esistere. Le aziende stanno investendo risorse importanti nella cybersecurity: parallelamente, però, i dipendenti – soprattutto in assenza di regole chiare – si trovano a utilizzare strumenti AI senza alcuna supervisione dell’IT, creando un ecosistema parallelo che sfugge completamente alle procedure di sicurezza aziendali. È per questo motivo che il tema della sicurezza dell’intelligenza artificiale non può essere affrontato esclusivamente come una questione tecnologica.
Dal febbraio 2025 l’AI Act europeo ha introdotto un principio destinato ad avere un impatto significativo sulle organizzazioni: non basta adottare strumenti conformi, ma occorre sviluppare un adeguato livello di AI literacy, cioè di competenza e consapevolezza nell’utilizzo dell’intelligenza artificiale da parte delle persone che operano all’interno dell’azienda. Una policy interna non può limitarsi a stabilire quali chatbot siano autorizzati, ma deve aiutare le persone a comprendere quali dati possano essere condivisi, quali autorizzazioni non debbano mai essere concesse con leggerezza, come riconoscere un servizio affidabile, quali verifiche effettuare prima di integrare un nuovo strumento nei processi di lavoro.
