Una sola persona afferma di aver scritto quest’anno 113 articoli accademici sull’intelligenza artificiale, 89 dei quali saranno presentati questa settimana in occasione di una delle principali conferenze mondiali sull’IA e l’apprendimento automatico, sollevando interrogativi tra gli scienziati informatici sullo stato della ricerca nel campo dell’IA, scrive The Guardian.
IL CASO DI KEVIN ZHU
L’autore, Kevin Zhu, ha recentemente conseguito la laurea in informatica presso l’Università della California, Berkeley, e ora gestisce Algoverse, una società di ricerca e mentoring sull’IA per studenti delle scuole superiori, molti dei quali sono suoi coautori negli articoli. Lo stesso Zhu si è diplomato al liceo nel 2018.
Gli articoli che ha pubblicato negli ultimi due anni trattano argomenti quali l’uso dell’IA per localizzare i pastori nomadi nell’Africa subsahariana, per valutare le lesioni cutanee e per tradurre i dialetti indonesiani. Sul suo profilo LinkedIn, vanta la pubblicazione di “oltre 100 articoli di conferenze di alto livello nell’ultimo anno”, che sono stati “citati da OpenAI, Microsoft, Google, Stanford, MIT, Oxford e altri”.
L’ALLARME SULLE PUBBLICAZIONI DI MASSA
Gli articoli di Zhu sono un “disastro”, ha affermato Hany Farid, professore di informatica a Berkeley, in un’intervista. “Sono abbastanza convinto che l’intera faccenda, dall’inizio alla fine, sia solo vibe coding”, ha detto, riferendosi alla pratica di utilizzare l’IA per creare software.
Farid ha richiamato l’attenzione sulle prolifiche pubblicazioni di Zhu in un recente post su LinkedIn, che ha suscitato discussioni su altri casi simili tra i ricercatori di IA, i quali hanno affermato che la loro disciplina, recentemente diventata popolare, deve affrontare una valanga di articoli di ricerca di bassa qualità, alimentata dalle pressioni accademiche e, in alcuni casi, dagli strumenti di IA.
In risposta a una domanda del Guardian, Zhu ha affermato di aver supervisionato i 131 articoli, che erano “sforzi di squadra” gestiti dalla sua azienda, Algoverse. L’azienda richiede 3.325 dollari a studenti delle scuole superiori e universitari per un’esperienza di mentoring online selettiva di 12 settimane, che comprende l’assistenza nella presentazione dei lavori alle conferenze. […]
STANDARD DI REVISIONE NELL’IA
Gli standard di revisione per la ricerca sull’IA differiscono dalla maggior parte degli altri campi scientifici. La maggior parte del lavoro nell’ambito dell’IA e dell’apprendimento automatico non viene sottoposta ai rigorosi processi di revisione tra pari di campi come la chimica e la biologia; invece, gli articoli vengono spesso presentati in modo meno formale in occasione di importanti conferenze come NeurIPS, uno dei principali incontri mondiali sull’apprendimento automatico e l’IA, dove Zhu è previsto che presenti.
Il caso di Zhu evidenzia una questione più ampia nella ricerca sull’IA, ha affermato Farid. Conferenze come NeurIPS sono sommerse da un numero crescente di contributi: quest’anno NeurIPS ha ricevuto 21.575 articoli, rispetto ai meno di 10.000 del 2020. Un’altra importante conferenza sull’intelligenza artificiale, la International Conference on Learning Representations (ICLR), ha registrato un aumento del 70% delle proposte annuali per la conferenza del 2026, con quasi 20.000 articoli, rispetto a poco più di 11.000 per la conferenza del 2025. […]
PRESSIONI SU STUDENTI E ACCADEMICI
Nel frattempo, studenti e accademici stanno affrontando una pressione crescente per accumulare pubblicazioni e stare al passo con i loro colleghi. Secondo gli accademici, è raro produrre un numero a due cifre – figuriamoci a tre cifre – di articoli accademici di alta qualità nel campo dell’informatica in un anno. Farid afferma che a volte i suoi studenti hanno “codificato” gli articoli per aumentare il numero delle loro pubblicazioni.
“Molti giovani vogliono entrare nel mondo dell’IA. C’è una vera e propria frenesia in questo momento”, ha affermato Farid.
UN PROCESSO DI REVISIONE SEMPRE PIÙ FRAGILE
NeurIPS revisiona gli articoli che gli vengono sottoposti, ma il suo processo è molto più rapido e meno approfondito rispetto alla revisione scientifica standard tra pari, ha affermato Jeffrey Walling, professore associato alla Virginia Tech. Quest’anno, la conferenza ha utilizzato un gran numero di dottorandi per esaminare gli articoli, il che, secondo un presidente di area di NeurIPS, ha compromesso il processo. “La realtà è che spesso i revisori della conferenza devono esaminare decine di articoli in un breve periodo di tempo e di solito le revisioni sono poche o nessuna”, ha affermato Walling. […]
L’INVITO A STARE ALLA LARGA DALLA RICERCA IN IA
Farid afferma che ora consiglia agli studenti di non dedicarsi alla ricerca sull’IA, a causa della “frenesia” che caratterizza questo campo e dell’elevato volume di lavori di bassa qualità prodotti da persone che sperano di migliorare le proprie prospettive di carriera. “È un vero caos. Non si riesce a stare al passo, non si riesce a pubblicare, non si riesce a fare un buon lavoro, non si riesce a riflettere”, ha affermato.
IL PARADOSSO: TRA LAVORI SCADENTI E OPERE ECCELLENTI
Da questo processo sono comunque scaturiti molti lavori eccellenti. È memorabile il documento di Google sui trasformatori, Attention Is All You Need (L’attenzione è tutto ciò che serve), la base teorica dei progressi nell’IA che hanno portato a ChatGPT, presentato al NeurIPS nel 2017.
Gli organizzatori del NeurIPS concordano sul fatto che la conferenza è sotto pressione. In un commento al Guardian, un portavoce ha affermato che la crescita dell’IA come campo ha portato a “un aumento significativo delle proposte di articoli e a un maggiore valore attribuito all’accettazione peer-reviewed al NeurIPS”, mettendo “a dura prova il nostro sistema di revisione”.
Gli articoli presentati da Zhu erano in gran parte destinati a workshop all’interno di NeurIPS, che hanno un processo di selezione diverso da quello della conferenza principale e sono spesso il luogo in cui vengono presentati i lavori all’inizio della carriera, hanno affermato gli organizzatori di NeurIPS. Farid ha affermato di non trovare questa una spiegazione sostanziale per il fatto che una persona abbia messo il proprio nome su più di 100 articoli. […]
LA CRISI DELLA LETTERATURA SCIENTIFICA
La sensazione di declino è così diffusa che trovare una soluzione alla crisi è diventato oggetto di articoli scientifici. Un documento di posizione del maggio 2025, una versione accademica e basata su prove scientifiche di un editoriale di un quotidiano, redatto da tre scienziati informatici sudcoreani che hanno proposto una soluzione alle “sfide senza precedenti poste dall’aumento dei contributi presentati, accompagnato da crescenti preoccupazioni sulla qualità della revisione e sulla responsabilità dei revisori”, ha vinto un premio per il lavoro eccezionale alla Conferenza internazionale sul machine learning del 2025.
L’INVASIONE DI ARXIV E LA PERDITA DI ORIENTAMENTO
Nel frattempo, dice Farid, le grandi aziende tecnologiche e le piccole organizzazioni che si occupano di sicurezza dell’IA ora scaricano il loro lavoro su arXiv, un sito un tempo riservato alle pre-pubblicazioni poco consultate di articoli di matematica e fisica, inondando Internet di lavori presentati come scientifici, ma non soggetti a standard di revisione.
Il costo di tutto questo, dice Farid, è che è quasi impossibile sapere cosa sta realmente accadendo nell’IA, sia per i giornalisti, sia per il pubblico, sia persino per gli esperti del settore: “Non hai alcuna possibilità, nessuna possibilità come lettore medio di cercare di capire cosa sta succedendo nella letteratura scientifica. Il tuo rapporto segnale/rumore è praticamente uno. Riesco a malapena ad andare a queste conferenze e capire cosa diavolo sta succedendo”.
(Estratto dalla rassegna stampa estera a cura di eprcomunicazione)
