Tre paragrafi, tratti da tre diverse recensioni di hotel. Riuscite a individuare quali, se ce ne sono, sono stati generati dall’intelligenza artificiale?
“L’hotel si trova in una posizione ottimale per tutto. Ci sono tantissimi posti dove mangiare e bere. L’hotel stesso è sempre animato. La taverna al piano terra è assolutamente da non perdere. Cibo, servizio, prezzi e atmosfera erano ottimi.”
“Un buon hotel, anche se la camera aveva le dimensioni di un ascensore ben arredato. Ho dormito bene, la doccia era eccellente, il personale era cordiale. La colazione era affollata ma ben organizzata. Ci tornerei, anche se probabilmente non con una valigia troppo grande.”
“Ottima base per un viaggio a Londra. La camera era tranquilla, il letto comodo e tutto funzionava esattamente come doveva. Il personale era disponibile senza essere invadente. Un soggiorno sereno e senza complicazioni dall’inizio alla fine.”
Come pensi di esserti comportato? La maggior parte delle persone, afferma Claire Hardaker, docente di linguistica forense all’Università di Lancaster, indovina questo tipo di valutazione solo nel 60% dei casi, scrive The Guardian.
Il suo test online, Bot or Not, chiede agli utenti di identificare le recensioni false in una serie di 15. Questo tasso di successo medio potrebbe sorprendere chi è convinto di riuscire a individuare i testi scritti dall’intelligenza artificiale a 50 passi di distanza. Quando a maggio sono stati sollevati dubbi sull’autenticità di un racconto premiato di Jamir Nazir, gli utenti dei social media si sono affrettati a condannarlo. Nazir ha poi dichiarato a The Atlantic di non aver utilizzato l’IA.
I FALSI INDIZI DELLA SCRITTURA ARTIFICIALE
Hardaker afferma che i suoi intervistati tendono ad affidarsi ad alcune rapide regole empiriche per identificare il linguaggio generato dall’IA, tra cui la presenza di cliché e l’uso dei trattini. Anche la «regola del tre», in cui parole o frasi sono disposte in un trio armonioso, è considerata un indizio rivelatore. «Le persone hanno imparato criteri di valutazione molto semplicistici e ora li applicano freneticamente ovunque.»
C’è però un problema: questi «indizi» sono caratteristici anche della scrittura umana, sulla quale, dopotutto, sono stati addestrati i grandi modelli linguistici (LLM) che li producono. «Si potrebbe risalire a Charles Dickens e dire che usava l’IA, perché anche lui utilizzava il trattino lungo». E gli oratori conoscono la regola del tre sin da quando Giulio Cesare pronunciò Veni, vidi, vici. Nei nostri esempi di recensioni di hotel, solo la prima era autentica. L’avete notata? […]
PERCHÉ È COSÌ DIFFICILE DISTINGUERE UMANI E MACCHINE
Le testate giornalistiche, tra cui il Guardian, ricevono un numero crescente di reclami su testi presumibilmente generati dall’IA. Tra questi vi sono osservazioni su particolari espressioni linguistiche, ma anche segnalazioni di refusi ed errori grammaticali. In un caso, la parola «after» è stata inavvertitamente duplicata in una frase. «Non riesco a immaginare che un redattore o un correttore di bozze umano possa trascurare una cosa del genere», ha scritto un lettore, dimostrando una commovente fiducia nelle nostre capacità di revisione.
Il problema è che non solo l’IA si allena sulla scrittura umana, ma gli esseri umani sono stilisticamente influenzati dall’IA; questa interazione crea una sorta di labirinto linguistico. A meno che un autore non lo ammetta, è difficile stabilire con certezza se un singolo testo sia stato scritto dall’IA o meno. Questa incertezza è terreno fertile per la paranoia.
E se si è tentati di ricorrere a uno strumento di screening commerciale per distinguere l’umano dalla macchina, anche questo comporta delle incertezze, afferma Hardaker. «Dato che alcuni di noi scrivono naturalmente in un modo che potrebbe essere percepito come simile a quello dell’IA» – cita ad esempio le persone neurodivergenti – «questo verrà rilevato come testo generato dall’IA. Inoltre, è possibile modificare l’output dell’IA per farlo sembrare più umano. Se si inserisce quel tipo di contenuto in un rilevatore di IA, si otterranno risultati assurdi». Avendo ricoperto il ruolo di testimone esperta in tribunale, è «estremamente scettica» riguardo alla loro efficacia. […]
COME L’IA STA CAMBIANDO IL LINGUAGGIO
Ogni giorno vengono pubblicate enormi quantità di testi generati dall’IA – dai testi pubblicitari agli abstract accademici e alla narrativa. Allo stesso tempo, la sua presenza si fa sempre più incombente nelle nostre vite attraverso suggerimenti automatici nelle e-mail, risultati di ricerca con la dicitura «Panoramica IA» e le risposte alle nostre domande ai chatbot. A questo livello di esposizione, non si tratta più di chiedersi se l’IA stia cambiando il linguaggio, sia nel modo in cui parliamo che in quello in cui scriviamo; la domanda è: in che modo. E dovremmo opporci o accoglierla?
Sappiamo da tempo che i modelli di linguaggio (LLM) generano testi che, in media, possono differire leggermente dalla scrittura umana. Spesso ciò diventa evidente solo quando si esaminano grandi quantità di materiale. Un ricercatore dall’occhio attento ha collegato l’improvvisa popolarità della parola inglese «delve» (ovvero “ricercare”) agli LLM già nel 2024, dopo aver effettuato una ricerca in un database di articoli scientifici. Altre “parole chiave” che le IA tendono a usare in modo eccessivo includono “showcase”, “boast”, “underscore”, “garner”, “align”, “surpass” e “intricate”. Ma, ancora una volta, qualsiasi singolo testo potrebbe utilizzare questo vocabolario in modo del tutto innocente.
In un ulteriore colpo di scena, alcuni ricercatori ritengono che il fenomeno di “delve” potrebbe non essere imputabile ai modelli stessi, ma agli esseri umani incaricati di valutarli e guidarli in un processo noto come “apprendimento per rinforzo con feedback umano” (RLHF). Per i lavoratori che sono “sottopagati, stressati e sotto pressione per i tempi”, sembra che “certe parole siano trattate come indicatori di qualità” e il modello venga inavvertitamente addestrato a utilizzarle più spesso. In altre parole, “delve” potrebbe dovere la sua ascesa fulminea al fatto che non sembra il tipo di parola che un’IA userebbe. (Un’altra ipotesi secondo cui sarebbe apparsa più spesso perché caratteristica dell’inglese usato in Nigeria, dove vivevano molti lavoratori RLHF, non trova conferma nei dati.) […]
L’INFLUENZA DELL’IA SUL NOSTRO MODO DI PARLARE
Stanno ora emergendo prove del fatto che alcuni aspetti del linguaggio tipico dei modelli di linguaggio di grandi dimensioni (LLM) si siano diffusi nel mondo “reale”, modificando il modo in cui gli esseri umani usano la lingua anche quando le IA non sono presenti. Uno studio ha analizzato migliaia di conversazioni spontanee e ha scoperto che parole come “delve” e “boast” hanno registrato un picco di utilizzo dopo il rilascio di ChatGPT. Un altro studio ha mostrato che la frequenza di “delve” negli abstract accademici è in realtà diminuita dopo che la parola è stata messa in evidenza sui social media, segno che l’influenza dell’IA potrebbe manifestarsi in modi complessi.
Ma tutto questo ha importanza? Il linguaggio cambia continuamente: le parole vanno e vengono di moda, e le nuove tecnologie sono sempre state una delle forze trainanti di questo fenomeno. L’IA sembra però generare livelli di ansia particolarmente elevati. Perché? «Penso che ciò che spaventa le persone sia l’idea di invadere la sensibilità, di diventare il nuovo essere umano», afferma Hardaker. Dal 2023 ha esteso il progetto Bot or Not al parlato e alla musica, e ha notato quanto visceralmente le persone reagiscano quando una canzone che hanno apprezzato si rivela essere stata composta ed eseguita da una macchina.
Gary Shteyngart, romanziere che insegna scrittura creativa alla Columbia University, ha notato una reazione emotiva altrettanto forte tra i suoi studenti di fronte alla prospettiva della letteratura generata dall’IA. «Quando uno dei miei studenti laureati ha detto: “Come esperimento, scriverò una parte di questo testo con l’IA”, gli altri studenti si sono arrabbiati tantissimo, al punto da scrivermi delle lettere in cui mi dicevano quanto fosse terribile». […]
CIÒ CHE L’IA SA FARE E CIÒ CHE ANCORA NON SA FARE
Un modo per concepire il linguaggio, dice, è come una serie di livelli, con le parole alla base seguite da frasi, proposizioni, frasi composte, fino ad arrivare alla struttura narrativa. «L’IA è davvero brava ai livelli inferiori. Ha imparato molte delle nostre strutture sintattiche e quindi tutto sembra ben strutturato e grammaticalmente corretto. Ma più si sale di livello, meno è efficace».
L’arco narrativo di una storia è particolarmente difficile da rendere in modo convincente per l’IA.
«Se si affida a un’IA la stesura di una narrazione, questa può fare un lavoro piuttosto buono nel creare una sequenza di eventi e far sì che alla fine accada qualcosa. Ma non sarebbe una narrazione molto avvincente», continua. «Non accadrebbe nulla di sorprendente o interessante. E se ci fosse qualcosa di sorprendente, sembrerebbe generalmente un errore, piuttosto che un colpo di scena geniale».
L’ingrediente segreto di una grande scrittura rimane un mistero – anche per gli studiosi che la analizzano. «I linguisti non capiscono, in realtà, come funzioni il linguaggio ai suoi livelli più elevati», a livello di discorso, narrazione, incanto. «Non possiamo costruire una macchina in grado di fare qualcosa se non sappiamo come funziona». Abbiamo però un’idea di cosa possa ridursi tutto questo: la nostra natura fondamentalmente sociale e, legata a ciò, il fatto che siamo “wetware” – carne umana, con i suoi picchi di adrenalina, le scariche di dopamina, il desiderio di contatto sociale, tutti elementi che trovano espressione nella struttura del linguaggio e nel modo in cui lo usiamo.
IL CORPO, L’ESPERIENZA E LA SCRITTURA UMANA
Esistono due modelli generali in linguistica, spiega Stockwell: uno che vede il cervello come un computer, che analizza le strutture grammaticali e ne ricava il significato, e l’altro che lo considera fondamentalmente incarnato, cosa che si riflette nel linguaggio per il fatto che, in molte lingue, comprendiamo “vedendo” o tendiamo a considerare “sopra”, dove si trova la nostra testa, come positivo (ci sentiamo “su di giri” e “giù di morale”). «Uno degli aspetti chiave è che le attuali IA non hanno un corpo, non esistono nel mondo, quindi non sanno cosa si provi a essere nel mondo come esseri umani».
Per Shteyngart, la sensazione è essenziale: «Oggi è la prima giornata calda a New York. E se dovessi iniziare a scrivere un romanzo, penso che [questo] sarebbe più caldo. Penso che filtrerei ciò che so attraverso il calore della giornata. Penso che se mangiassi un pranzo davvero meraviglioso e mi sedessi a scrivere, ci sarebbe più sensualità nella mia scrittura».
«L’amore per il corpo e i suoi incontri con il mondo fisico sono ciò che anima alcune delle migliori opere letterarie. Quindi, mentre ne parlo, provo quasi compassione per questi modelli di linguaggio di grandi dimensioni (LLM), perché vengono rinchiusi in qualche orribile macchina nella Bay Area e semplicemente non sanno quanto sia meravigliosa la vita».
IL RISCHIO DELL’OMOLOGAZIONE LINGUISTICA
Un effetto molto temuto dell’uso di massa dei modelli di linguaggio di grandi dimensioni (LLM) è che agiscano come una forza appiattitrice – spianando la varietà e l’idiosincrasia del linguaggio umano in una sorta di poltiglia beige. Si tratta di una preoccupazione legittima, per quanto possa valere, anche se non è nuova. Da tempo ci si preoccupa degli effetti omogeneizzanti del cinema e della televisione americani sull’accento e sul vocabolario, e ci sono sottogeneri linguistici – l’eufemismo politico, le chiacchiere del servizio clienti, il gergo terapeutico – che si sono diffusi ben oltre il loro territorio d’origine più di quanto molti vorrebbero. La cosa fondamentale, però, è che la loro influenza tende a generare una reazione contraria – e non c’è motivo di pensare che questa volta le cose andranno diversamente.
In effetti, la nostra capacità di innovazione potrebbe, in ultima analisi, essere proprio ciò che distingue veramente la scrittura umana – in particolare quella letteraria – dall’IA. «Il punto centrale di un modello di linguaggio a grande scala (LLM) è che viene addestrato sul linguaggio esistente. Quindi è sempre retrò», afferma Stockwell. «Potrei usare un’IA e dirle: “Scrivimi un racconto nello stile di Virginia Woolf”, e lei farebbe un lavoro discreto. Ma ciò che non puoi chiederle è: “Scrivimi una storia nello stile unico del prossimo grande e serio innovatore letterario”. Non potrebbe assolutamente farlo.»
Questo perché, ancora una volta, le manca l’ambiente sociale e il corpo che danno origine alle motivazioni tipicamente umane. «Perché qualcuno fa qualcosa di nuovo in una forma d’arte come la scrittura letteraria? Può essere per fastidio o irritazione nei confronti di ciò che è venuto prima. Oppure perché qualcuno vede le cose in modo diverso dalla massa, o a volte semplicemente perché le persone sono irrequiete e vogliono fare qualcosa di diverso, o sono un po’ pazze o isolate». […]
GLI SCRITTORI DI FRONTE ALL’INTELLIGENZA ARTIFICIALE
L’originalità è così importante per la romanziera Jennifer Egan che si è completamente isolata dalla tecnologia. «Sento il pericolo di un contagio, per usare una metafora piuttosto forte», mi dice. «So che hanno rubato alcune [delle mie] cose, e non posso farci nulla, ma non darò loro nemmeno una parola in più volontariamente». Anthropic ha utilizzato copie piratate di libri, compresi i romanzi della Egan, per addestrare il proprio chatbot Claude; la maggior parte dei modelli di linguaggio (LLM) utilizza il linguaggio proveniente da singole query come dati di addestramento aggiuntivi. Sembra esasperata: «Non voglio prendere parte a questo tipo di spam linguistico che stanno proponendo.»
La politica di tolleranza zero non le impedisce di diventare paranoica. «Mi sono state segnalate un paio di scelte stilistiche che tradiscono l’IA, e si dà il caso che siano cose che mi piacciono. Ad esempio, adoro i trattini lunghi, ma ora mi ritrovo a esaminarne ogni singolo uso molto più di quanto facessi prima. Ho anche notato che tendo a usare le serie di tre elementi. Quindi mi ritrovo a mettere in discussione anche quelle. In realtà non mi dispiace, perché il punto è proprio quello di non scrivere qualcosa che chiunque altro potrebbe aver scritto.»
Che tipo di consiglio darebbe a uno scrittore più giovane che ora si sta muovendo in questo ambito? Dovrebbero praticare una sorta di “igiene dell’IA”? “Ora sembrerò la tipica persona della generazione del baby boom, il mio consiglio è: state alla larga, cazzo. Cioè, ok, usatela per scrivere e-mail. Usatela pure per trovare spunti di ricerca. Ma se volete diventare scrittori: imparate a scrivere. Dai. Mi chiederei davvero perché ci sia l’impulso di usarla.”
Non tutti sono così astinenti. Jeannette Winterson, che ha scritto molto sull’IA e sull’arte, mi dice: “Ogni scrittore può fare la propria scelta. Gli esseri umani sono animali che usano strumenti. Questa è stata la nostra storia di successo. Al momento tutta l’IA, compresa quella generativa, è uno strumento. Lavorerei con un LLM? Certo! Perché no?”.
(Estratto dalla rassegna stampa estera a cura di eprcomunicazione)
