Negli ultimi uno o due anni, le aziende hanno iniziato a utilizzare i cosiddetti agenti di intelligenza artificiale come veri e propri “dipendenti”, includendoli persino nei propri organigrammi – scrive il New York Times.
Emma Wiles, professoressa alla Boston University che studia l’impatto dell’IA sui lavoratori, si è imbattuta in questo fenomeno a ottobre, durante una conferenza in cui due dirigenti delle risorse umane hanno affermato che trattare gli agenti IA come veri dipendenti era un modo per aumentare la produttività e per dare alle loro aziende un vantaggio competitivo.
IL PROBLEMA DEL CONTROLLO E DEGLI ERRORI
Ma quando Wiles e tre collaboratori del Boston Consulting Group hanno approfondito la questione, hanno scoperto una falla. In un esperimento che ha coinvolto decine di aziende con dipendenti che utilizzavano l’intelligenza artificiale, i ricercatori hanno scoperto che i manager tendevano a esaminare i documenti con meno attenzione quando veniva loro detto che erano stati prodotti da un dipendente con intelligenza artificiale. Questi manager non si accorgevano di errori che altri manager, informati di star esaminando il lavoro di un essere umano, invece avevano individuato.
RESPONSABILITÀ E PERCEZIONE DEGLI ERRORI
Wiles ha ipotizzato che i manager non ritenessero di loro responsabilità individuare gli errori commessi dai dipendenti che si occupano di intelligenza artificiale. Se qualcosa andava storto, potevano attribuirne la colpa al team tecnico o ai dirigenti che, in primo luogo, avevano voluto assumere dipendenti con competenze in intelligenza artificiale. “Ma non è un tuo problema”, ha affermato, rispecchiando la mentalità dei manager riguardo al proprio ruolo.
I LIMITI NOTI DELL’IA NELLE AZIENDE
Negli anni trascorsi dall’avvento dell’intelligenza artificiale, molte aziende si sono rese conto dei difetti insiti in questa tecnologia e, talvolta, hanno adottato misure per porvi rimedio. Sanno che i modelli di IA possono essere discriminatori nei confronti di determinati gruppi di persone, come le minoranze etniche. Sanno che i chatbot possono fornire risposte sicure ma errate alle domande. Sanno che a volte i bot rivelano informazioni che dovrebbero rimanere private.
PROBLEMI PIÙ SOTTILI E INCERTEZZA
Mentre le aziende si affrettano a integrare l’IA nelle loro operazioni quotidiane, i ricercatori stanno scoprendo difetti più sottili. In linea di principio, anche questi difetti potrebbero essere corretti. Ad esempio, le aziende potrebbero ritenere i manager direttamente responsabili degli errori commessi dai loro subordinati che utilizzano l’IA. In pratica, la maggior parte degli utenti aziendali sembra essere beatamente ignara di questi problemi, il che fa temere che la promessa dell’IA di una maggiore produttività e di ingenti risparmi sui costi possa essere vanificata.
“INCOGNITE SCONOSCIUTE” E BIAS
Anche i ricercatori che studiano l’intelligenza artificiale potrebbero essere a conoscenza solo di una minima parte dei problemi introdotti da questa tecnologia. “Esiste un’infinità di incognite sconosciute”, ha affermato Wiles. Un difetto ben documentato ma sottovalutato dei modelli di intelligenza artificiale è la loro tendenza a privilegiare i lavori prodotti dall’intelligenza artificiale stessa.
Uno studio del 2025 pubblicato su The Proceedings of the National Academy of Sciences ha rilevato che diversi modelli linguistici di grandi dimensioni avevano una scarsa considerazione per i testi scritti da esseri umani, creando una “forma potenzialmente rilevante di pregiudizio implicito ‘anti-umano'”.
IMPATTO SULLE RISORSE UMANE
Molte aziende sembravano però inconsapevoli di questo problema, o quantomeno incapaci di immaginare come potesse avere ripercussioni devastanti sulle loro attività. Quando un gruppo di studiosi lo ha illustrato in un successivo articolo, scoprendo che i modelli di intelligenza artificiale utilizzati dalle aziende per valutare i curriculum tendono a privilegiare quelli redatti con l’ausilio dell’IA rispetto a quelli scritti interamente da esseri umani, la questione ha attirato l’attenzione di alcuni responsabili delle risorse umane.
POSSIBILI CORREZIONI E RISCHI FUTURI
In linea di principio, sviluppatori e utenti di IA possono correggere questi pregiudizi. Jiang e Xu, ad esempio, hanno scoperto di poter ridurre il pregiudizio anti-umano semplicemente istruendo i modelli a concentrarsi sulla qualità del materiale scritto che valutano, ed evitando di considerare l’autore. Ma i ricercatori nel campo dell’IA non possono correggere i pregiudizi di cui non sono a conoscenza, e diversi studiosi hanno affermato che l’impatto di questi pregiudizi non rilevati potrebbe aumentare. Un modo in cui ciò potrebbe accadere è se i modelli futuri venissero addestrati su dati prodotti dai modelli attuali senza la dovuta attenzione, creando una sorta di circolo vizioso.
IL CIRCOLO VIZIOSO E LE “INCOGNITE” SOCIALI
In tal caso, “sembra probabile la tendenza a consolidare prospettive e comportamenti esistenti”, ha affermato Shayne Longpre, ricercatore di intelligenza artificiale e fondatore della Data Provenance Initiative , un gruppo che monitora le infrastrutture di intelligenza artificiale. E poi ci sono i punti ciechi che derivano non tanto dall’IA in sé, quanto dal modo in cui gli esseri umani la utilizzano.
L’USO UMANO DELL’IA NELLA RICERCA
Gli studiosi che si rivolgono all’intelligenza artificiale in ogni fase del processo di ricerca – chiedendo all’IA quali quesiti valga la pena studiare; chiedendo il suo parere su come rispondere a tali quesiti; utilizzandola per analizzare i dati; affidandosi a essa per la stesura dei risultati – potrebbero inavvertitamente restringere la portata del loro lavoro.
UNIFORMITÀ DEL PENSIERO E CHATBOT
“A livello individuale non ce ne accorgiamo necessariamente”, ha affermato Cecilie Steenbuch Traberg, psicologa presso la Copenhagen Business School e autrice di un recente studio sull’argomento. “Quando si interagisce con un chatbot, questo aiuta a trovare idee, e si potrebbe pensare che il risultato sia ottimo, ma a livello collettivo la situazione appare piuttosto uniforme. Tutti parlano allo stesso modo.”
I RISULTATI DELLA RICERCA SUI MANAGER
Wiles, che ha studiato il modo in cui gli esseri umani gestiscono i dipendenti dotati di intelligenza artificiale, ha affermato che le carenze non erano necessariamente intrinseche alla tecnologia, ma sono sorte quando gli esseri umani l’hanno adottata senza prestare sufficiente attenzione a ciò che poteva andare storto.
Lei e i suoi colleghi hanno intervistato più di 1.000 manager aziendali e hanno scoperto che circa un terzo ha affermato che le proprie organizzazioni si riferivano all’IA come a un “compagno di squadra o dipendente” e che quasi un quarto ha dichiarato che il proprio datore di lavoro includeva agenti di IA negli organigrammi. “Lo chiamiamo Scout”, ha detto un manager ai ricercatori durante un’intervista, riferendosi a un agente di IA. “Tecnicamente è un collega alla pari all’interno del team”.
ESPERIMENTO SULLA VALUTAZIONE DEI DOCUMENTI
Wiles e i suoi colleghi hanno consegnato a tutti i manager intervistati una serie di cinque documenti contenenti errori, dando loro 20 minuti per esaminarne il maggior numero possibile. In alcuni casi, hanno comunicato ai manager che il lavoro era stato svolto da un dipendente dotato di intelligenza artificiale; in altri casi, da uno strumento di intelligenza artificiale; e in altri ancora, da un essere umano.
In generale, la fonte dichiarata dei documenti non influiva in modo significativo sul grado di accuratezza con cui i manager li esaminavano. Ma i manager delle aziende che includevano agenti di intelligenza artificiale nei loro organigrammi hanno individuato un numero significativamente inferiore di errori quando è stato loro comunicato che stavano revisionando il lavoro di un dipendente dotato di intelligenza artificiale.
LO SCENARIO CHE CI ATTENDE
“Chi gestisce persone tende a pensare che ‘se qualcuno del mio team commette un errore, la responsabilità è mia'”, ha spiegato Wiles, ed è per questo che controlla attentamente il lavoro dei suoi subordinati. I manager sembrano anche dare per scontato di essere responsabili del lavoro prodotto da uno strumento di intelligenza artificiale inanimato. Tuttavia, i manager delle aziende che impiegano IA non sembrano sentire la stessa responsabilità per il lavoro di questi ultimi.
La sua conclusione è questa: negli ultimi secoli, studiosi e leader aziendali hanno sviluppato una serie di pratiche affidabili per la gestione degli esseri umani. Ma la psicologia della gestione dell’intelligenza artificiale antropomorfizzata è profondamente diversa, e “ci stiamo avventurando alla cieca”. Temeva che il problema stesse per peggiorare. Alla stessa conferenza in cui aveva sentito per la prima volta i responsabili delle risorse umane decantare le virtù dei loro dipendenti dotati di intelligenza artificiale, uno di loro si era spinto ancora oltre, affermando che presto la sua azienda avrebbe avuto dipendenti con intelligenza artificiale a gestire gli esseri umani. “Nella sala calò il silenzio”, ha ricordato Wiles. “Avremo bisogno di qualcuno che studi anche quello”, ha aggiunto.
(Estratto dalla rassegna stampa estera a cura di eprcomunicazione)
