TwitterFacebookYouTubeLinkedInInstagramRSS

openai

Perché Altman rottama il comitato di sicurezza di Open Ai sull’Ia?

Dopo Ilya Sutskever, ex direttore scientifico di OpenAI, anche il suo braccio destro Jan Leike dice polemicamente addio al gruppo, dando corpo ai rumor di una faida interna e rafforzando le accuse di Elon Musk: “Dobbiamo comprendere come controllare Ia più intelligenti di noi. La cultura e i processi riguardanti la sicurezza sono passati in secondo piano rispetto a prodotti luccicanti”

Prosegue la telenovela di OpenAI, la startup – in cui Microsoft ha investito 11 miliardi di dollari – responsabile della principale Intelligenza artificiale generativa (per lo meno in termini di notorietà): ChatGpt. Dopo Ilya Sutskever, ex direttore scientifico di OpenAI, se ne va anche il suo braccio destro Jan Leike.

 

CHE STA SUCCEDENDO IN OPENAI?

Riportando la notizia dell’addio all’azienda dell’ingegnere russo, Start aveva dato risonanza alle voci di corridoio, sempre più insistenti, secondo le quali Sutskever (che lo scorso novembre aveva sfiduciato il Ceo Sam Altman (in foto), richiamato però a stretto giro per i tanti soldi in ballo) se ne fosse andato via sbattendo la porta.

 

IL TEAM PER CONTENERE L’INTELLIGENZA ARTIFICIALE

Ebbene, con le dimissioni di Jan Leike quei rumor vengono di fatto ufficializzati. Entrambi erano infatti membri promotori del Superalignment di OpenAI, un comitato interno pensato per porsi questioni morali contestualmente allo sviluppo di una tecnologia ignota e potenzialmente pericolosa, non solo per ciò che concerne l’elaborazione di deep fake particolarmente raffinati, ma anche per il suo impatto sul mondo del lavoro. OpenAI aveva promesso di allocare a tale nobile finalità il 20% della potenza di calcolo a disposizione.

Secondo le fonti di TechCrunch, però, la software house guidata da Sam Altman non ha mai fornito le risorse di calcolo necessarie, bloccando di fatto il lavoro del team. Team che, con l’addio di Sutskever prima e Leike immediatamente dopo, ora è di fatto decapitato e ridotto ai minimi termini.

 

“Ero a capo del super allineamento di OpenAI e abbandonare questo lavoro è una delle cose più difficili che abbia mai fatto – ha scritto Jan Leike su X – perché abbiamo bisogno urgentemente di capire come si possono guidare e controllare sistemi di IA più intelligenti di noi”.

LE ACCUSE DI LEIKE A OPENAI

Il post con cui l’ex membro della software house che ha appena alzato il velo su  Gpt-4o ha una evidente connotazione polemica: “Sono entrato in OpenAI perché pensavo fosse il posto migliore al mondo dove fare questo tipo di ricerca – ha spiegato sempre Leike – Tuttavia sono in disaccordo da un po’ di tempo con le priorità stabilite dalla leadership dell’azienda. Credo che gran parte della nostra larghezza di banda dovrebbe essere spesa per prepararci alla sicurezza, al monitoraggio, al super allineamento, e all’impatto sociale delle prossime generazioni di modelli [di Intelligenza artificiale generativa ndR]. Ma negli ultimi mesi il mio team ha dovuto lottare per avere la potenza di calcolo necessaria a questa cruciale ricerca”.

L’ULTIMO COLPO DI CODA DI SAM ALTMAN?

Le parole dell’ex dipendente danno corpo all’ipotesi secondo cui all’interno di OpenAI vi fossero due fazioni: quella guidata da Ilya Sutskever che voleva comprendere eventuali rischi legati allo sviluppo di algoritmi sempre più intelligenti, anche a costo di rallentarne la commercializzazione e quella di tutt’altro avviso capeggiata da Sam Altman, che avrebbe dalla sua soprattutto gli investitori. Tanto che, se in un primo momento, ovvero lo scorso novembre, il CdA era riuscito a defenestrare l’amministratore delegato, adesso sta accadendo l’opposto e in OpenAI sembra essere iniziata l’epurazione dei cesaricidi.

“OpenAI ha una responsabilità nei confronti dell’umanità. Ma negli ultimi anni, la cultura e i processi riguardanti la sicurezza sono passati in secondo piano rispetto a prodotti luccicanti”, l’accusa dell’ex capo del team preposto alle questioni etiche e morali della software house. Non è dato avere conferma circa la veridicità delle parole di Leike, ma il fatto in sé permette almeno di confermare che non è mai una buona idea quando la qualifica di controllore si confonde col ruolo del controllato. Accade per le imprese analogiche, accade evidentemente anche in quelle più hi-tech.

RINFORZATE LE ACCUSE MOSSE A OPENAI DA MUSK

Ora in Rete molti si chiedono se si stia profilando la creazione di una multinazionale senza scrupoli guidata da un uomo che sempre più osservatori dipingono come un villain stereotipato da film di 007. Potrebbe comunque anche trattarsi di una semplice trovata pubblicitaria sull’onda del vecchio adagio del “purché se ne parli”.

Lo stesso Elon Musk, tra i primi finanziatori di OpenAI e oggi feroce oppositore del Gruppo, lanciando la sua startup sull’Intelligenza artificiale generativa aveva sfruttato la paura per potenziali pericoli a fini promozionali. Sempre Musk, tuttavia, nel recente passato ha sottolineato in più occasioni che inizialmente la realtà che aveva finanziato era una no profit, mentre oggi persegue la finalità del lucro.

E MICROSOFT COSA DICE?

In tutto ciò, comunque, sarebbe interessante capire la posizione di Microsoft, principale sponsor di ChatGpt e soci, che da mesi va ripetendo che l’Ia porterà solo benefici per l’umanità solleticando l’appetito degli investitori privati e pubblici con mirabolanti promesse di ricadute economiche sul Pil (secondo una ricerca commissionata ad Ambrosetti la produttività del Sistema-Italia potrà aumentare fino al 18% grazie all’adozione di Intelligenza Artificiale Generativa). Come si pone il colosso di Redmond, ultimamente al centro delle polemiche per i numerosi licenziamenti in ambito gaming, di fronte alla questione?

Articoli correlati

Torna su