Il romanziere Ewan Morrison è rimasto allarmato, anche se divertito, nello scoprire di aver scritto un libro intitolato Nine Inches Pleases a Lady (Nove pollici soddisfano una donna). Incuriosito dai limiti dell’intelligenza artificiale generativa (AI), aveva chiesto a ChatGPT di dargli i titoli dei 12 romanzi che aveva scritto, scrive The Guardian.
“Ne ho scritti solo nove”, dice. “Sempre desideroso di accontentare, ha deciso di inventarne tre”. Il “nine inches” del titolo falso che ha inventato è stato rubato da una volgare poesia di Robert Burns. “Non mi fido di questi sistemi quando si tratta della verità”, dice Morrison. Non ha ancora scritto Nine Inches, “né il suo sequel, Eighteen Inches”, ride. Il suo ultimo libro, For Emma, che immagina chip di IA impiantati nel cervello, parla dei costi umani della tecnologia.
QUANDO IL RIFIUTO PERSONALE DIVENTA UNA SCELTA ETICA
Morrison tiene d’occhio le macchine, come ChatGPT di OpenAI, e le loro capacità, ma si rifiuta di utilizzarle nella sua vita e nel suo lavoro. È uno dei sempre più numerosi oppositori attivi: persone terrorizzate dal potere dell’IA generativa e dal suo potenziale dannoso, che non vogliono alimentare il mostro; persone che hanno semplicemente deciso che è un po’ una sciocchezza e che crea più problemi che vantaggi; e persone che preferiscono semplicemente gli esseri umani ai robot.
Online è facile trovare sostenitori dell’IA che liquidano i refusenik come luddisti ignoranti o, peggio, hipster presuntuosi. Probabilmente io rientro in entrambe le categorie, dato che ho interessi decisamente “amish” (giochi da tavolo, giardinaggio, allevamento di animali) e scrivo per il Guardian.
I miei amici si affidano a ChatGPT per consigli genitoriali e conosco qualcuno che lo usa tutto il giorno per il suo lavoro di consulenza, ma io non lo uso più da quando l’ho provato per divertimento dopo il suo lancio nel 2022.
Certo, ChatGPT avrebbe potuto fare un lavoro migliore, ma questo articolo è stato scritto a mano utilizzando parole organiche provenienti dal mio studio di scrittura artigianale. Avrei potuto ipotizzare i pensieri dei miei intervistati saccheggiando i loro post sui social media e i loro articoli di ricerca, come avrebbe fatto ChatGPT, ma è stato molto più divertente prendere il telefono e parlare, da essere umano a essere umano. Due dei miei intervistati sono stati interrotti dai loro animali domestici e ognuno di loro mi ha fatto ridere in qualche modo (confesso: l’IA ha poi trascritto il rumore). […]
SUPERINTELLIGENZA O SUPERMARKETING?
Morrison è stato coinvolto nella discussione da quelli che ora definisce “timori allarmistici sul potenziale della superintelligenza e dell’IA fuori controllo. Più mi addentro nell’argomento, più mi rendo conto che si tratta di una finzione che è stata propinata agli investitori di tutto il mondo per indurli a investire miliardi – in realtà, mezzo trilione – nella ricerca della superintelligenza artificiale. È una fantasia, il prodotto di un venture capital impazzito”.
Ci sono anche violazioni del copyright – l’IA generativa viene addestrata su materiale esistente – che minacciano lui come scrittore e sua moglie, la sceneggiatrice Emily Ballou. Nell’industria dell’intrattenimento, dice, si usano “algoritmi di IA per determinare quali progetti vengono approvati, e questo significa che siamo bloccati a rifare il passato. Gli algoritmi dicono ‘Più dello stesso’, perché è tutto ciò che possono fare”.
TUTTI I MOTIVI PER DIRE ‘NO’ ALL’IA
Morrison dice di avere una lunga lista di lamentele. “Si sono accumulate negli ultimi anni”. È preoccupato per la perdita di posti di lavoro (Bill Gates ha recentemente previsto che l’IA porterà a una settimana lavorativa di due giorni). Poi ci sono “la dipendenza dalla tecnologia, l’impatto ecologico, il danno al sistema educativo: il 92% degli studenti ora utilizza l’IA”. È preoccupato per il modo in cui le aziende tecnologiche ci spiano per personalizzare l’IA ed è inorridito dall’uso di armi dotate di IA in Ucraina. “Lo trovo eticamente ripugnante”.
Altri citano ragioni simili per non utilizzare l’IA. April Doty, narratrice di audiolibri, è sconvolta dal costo ambientale: la potenza di calcolo necessaria per eseguire una ricerca e ottenere una risposta dall’IA è enorme. “Mi fa infuriare il fatto che non sia possibile disattivare le panoramiche dell’IA nella ricerca Google”, afferma. “Ogni volta che cerchi qualcosa, in pratica stai bruciando il pianeta”. Ha iniziato a utilizzare altri motori di ricerca. “Ma siamo sempre più circondati da essa e non c’è un interruttore per spegnerla. Questo mi fa arrabbiare”. Dove può, dice, “ho deciso di non usare l’IA”.
Nel suo campo, è preoccupata per il numero di libri che vengono “letti” dalle macchine. […]
UN CONFRONTO INESISTENTE
Emily M Bender, professoressa di linguistica all’Università di Washington e coautrice di un nuovo libro, The AI Con, ha molti motivi per non voler utilizzare modelli linguistici di grandi dimensioni (LLM) come ChatGPT. “Ma forse la prima è che non mi interessa leggere qualcosa che nessuno ha scritto”, afferma. “Leggo perché voglio capire come qualcuno vede qualcosa, e non c’è nessun ‘qualcuno’ all’interno delle macchine sintetizzatrici di testo”. È solo un collage fatto con le parole di molte persone diverse, dice.
Si sente “lasciata indietro”, come direbbero gli appassionati di IA? “No, per niente. La mia reazione è: ‘Dove stanno andando tutti?’” Ride come per dire: da nessuna parte.
“Quando ci rivolgiamo ai media sintetici piuttosto che a quelli autentici, perdiamo il contatto umano”, afferma Bender. “Questo vale sia a livello personale, per ciò che otteniamo dal contatto con gli altri, sia in termini di forza della comunità”. Cita Chris Gilliard, ricercatore nel campo della sorveglianza e della privacy. “Ha sottolineato un punto molto importante, ovvero che questo può essere visto come una mossa tecnologica delle aziende per isolarci gli uni dagli altri e per fare in modo che tutte le nostre interazioni siano mediate dai loro prodotti. Non ne abbiamo bisogno, né noi né le nostre comunità”. […]
UNA TECNOLOGIA CHE DISUMANIZZA
Alcuni hanno resistito finora, ma stanno realizzando con riluttanza che potrebbero finire per usarla. Tom, che lavora nel settore IT per il governo, non usa l’IA nel suo lavoro tecnico, ma ha scoperto che i colleghi la usano in altri modi. La promozione è in parte decisa sulla base delle valutazioni annuali che devono scrivere, e lui ha chiesto a un manager che lo aveva impressionato come avesse fatto, pensando che ci avesse impiegato giorni. “Mi ha detto: ‘Ci ho messo solo 10 minuti, ho usato ChatGPT’”, ricorda Tom.
“Mi ha suggerito di fare lo stesso, ma io non sono d’accordo. Gliel’ho fatto notare e lui mi ha risposto: ‘Beh, probabilmente non otterrai nulla se non lo fai’“. Utilizzare l’IA gli sembrerebbe un imbroglio, ma Tom teme che rifiutarsi di farlo ora lo metta in una posizione di svantaggio. ”A questo punto mi sembra quasi di non avere altra scelta se non quella di usarla. Forse dovrò mettere da parte i principi morali”.
Altri, nonostante i loro dubbi, ne limitano l’uso e la utilizzano solo per compiti specifici. Steve Royle, professore di biologia cellulare all’Università di Warwick, utilizza ChatGPT per il “lavoro di routine” di scrittura di codici informatici per analizzare i dati“. […]
L’IA generativa, secondo la regista e scrittrice Justine Bateman, “è una delle peggiori idee che la società abbia mai avuto”. Lei dice di detestare il modo in cui ci rende incapaci. “Stanno cercando di convincere le persone che non sono in grado di fare cose che fanno facilmente da anni, come scrivere e-mail o preparare una presentazione. Vogliono che tua figlia ti scriva una favola della buonanotte sui cuccioli”.
UN FUTURO DA ZOMBIE DIGITALI
Arriveremo al punto, dice con una risata amara, “in cui diventeremo essenzialmente solo un sacco di pelle, organi e ossa, nient’altro. Non sapremo nulla e ci verrà ripetuto continuamente che non siamo in grado di fare nulla, il contrario di ciò che la vita ha da offrire.
Rinunciare a ogni tipo di decisione, come dove andare in vacanza, cosa indossare oggi, con chi uscire, cosa mangiare. La gente lo sta già facendo. Non dovrai elaborare il dolore, perché avrai caricato le foto e i messaggi vocali di tua madre che è appena morta, e lei potrà parlarti ogni giorno tramite videochiamata con l’intelligenza artificiale. Uno dei modi in cui distruggerà gli esseri umani, molto prima che ci sia un disastro nucleare, sarà lo svuotamento emotivo delle persone”.
Lei non è interessata. “È l’esatto contrario di ciò che voglio fare come regista e autrice. L’IA generativa è come un frullatore: ci metti milioni di esempi del tipo di cosa che vuoi e ti dà un miscuglio alla Frankenstein”. È un furto, dice, e una ripetizione. “Non ne uscirà nulla di originale, per la sua stessa natura. Chiunque utilizzi l’IA generativa e pensi di essere un artista sta bloccando la propria creatività”.
Alcuni studi, come la società di animazione Studio Ghibli, hanno giurato di non usare l’IA, ma altri sembrano sbavare all’idea. Nel 2023, il fondatore della Dreamworks Jeffrey Katzenberg ha detto che l’IA ridurrà i costi dei suoi film d’animazione del 90%. Bateman pensa che il pubblico si stancherà dei contenuti creati dall’IA. “Gli esseri umani reagiranno a questo come reagiscono al cibo spazzatura”, dice. […]
TECNOLOGICI, MA CON COSCIENZA
In realtà, tutte le persone con cui parlo sono in qualche modo tecnofile. Doty si descrive come “molto tecnologica”, ma aggiunge che apprezza le relazioni umane, minacciate dall’IA. “Continuiamo ad andare avanti come zombie verso un mondo in cui nessuno vuole davvero vivere”.
Royle programma e gestisce server, ma si definisce anche un “obiettore di coscienza dell’IA”. Bender è specializzata in linguistica computazionale ed è stata nominata da Time una delle 100 persone più influenti nel campo dell’IA nel 2023. “Sono una tecnologa”, dice, “ma credo che la tecnologia debba essere costruita dalle comunità per i propri scopi, piuttosto che dalle grandi aziende per i propri”. Aggiunge poi, con una risata: “I luddisti erano fantastici! Indosserei con orgoglio quella spilla”. Anche Morrison afferma: “Mi piacciono molto i luddisti, persone che si battono per proteggere i posti di lavoro che mantengono in vita le loro famiglie e le loro comunità”.
(Estratto dalla rassegna stampa estera a cura di eprcomunicazione)
