Il CEO di OpenAI Sam Altman indica tre finali per l’IA, due già scritti nel 2023

Il CEO di OpenAI, Sam Altman, ha presentato ai dipendenti una mappa dei possibili esiti della corsa alla superintelligenza. L’aspetto più significativo è quanto poco ci sia di nuovo. Dei tre scenari che ha illustrato, due sono molto vicini a idee che la sua stessa azienda aveva messo nero su bianco anni fa. Nessuno dei due è mai stato realizzato. Il terzo, quello finito sui giornali, è stato citato solo per essere subito scartato.

Al di là delle etichette, tutte le opzioni rispondono alla stessa domanda: chi avrà il controllo della capacità di calcolo su cui girano i modelli più avanzati? Le dichiarazioni attribuite ad Altman spiegano anche perché la questione continui a essere rimandata.

Cosa ha detto Sam Altman ai dipendenti di OpenAI sul futuro dell’IA

The Information ha riferito per primo della presentazione interna, citando persone a conoscenza dei fatti; in seguito ne hanno parlato anche The Decoder, Forbes e Latin Times. La ricostruzione si basa su fonti anonime. La prima opzione prevede un organismo internazionale sul modello dell’Agenzia internazionale per l’energia atomica, incaricato di imporre standard di sicurezza ai laboratori che sviluppano i modelli più avanzati: ispezionare i sistemi, richiedere verifiche, monitorare l’uso della capacità di calcolo e dell’energia. Secondo due persone citate da The Information, Altman sembrava favorevole all’idea.

Letture consigliateSam Altman, capo di OpenAI, all’ONU: «L’IA va costruita per le persone, non solo per far girare le macchine più in fretta…»

La seconda opzione è stata definita da Altman il «piano Demis», dal nome di Demis Hassabis, cofondatore di Google DeepMind, che circa dieci anni fa aveva proposto un’istituzione per l’IA sul modello del CERN. Nella versione di Altman, i principali laboratori si fonderebbero in un unico soggetto, o lavorerebbero sotto il suo ombrello, e questo fornirebbe modelli ai Paesi che collaborano.

La terza opzione è il «piano Eliezer», dal nome del teorico della sicurezza dell’IA Eliezer Yudkowsky. Uno sviluppatore arriva per primo a un’IA capace di migliorarsi da sola e sfrutta il potere economico che ne deriva per privare tutti i concorrenti della capacità di calcolo; nella formula diventata famosa, «fonderebbe le GPU di tutti gli altri». «Ovviamente penso che sia una pessima idea», avrebbe detto Altman, aggiungendo di averla inclusa per «completezza».

Nel 2023 OpenAI aveva già messo nero su bianco gran parte di queste opzioni

L’organismo di vigilanza è l’elemento più datato dell’elenco. In un post firmato da Altman, dal presidente di OpenAI Greg Brockman e dall’allora direttore scientifico Ilya Sutskever, l’azienda sosteneva che il mondo avrebbe probabilmente «prima o poi avuto bisogno di qualcosa come un’IAEA per le iniziative sulla superintelligenza»: un’autorità in grado di «ispezionare i sistemi, richiedere verifiche» e limitare la diffusione dei modelli oltre una certa soglia di capacità o di potenza di calcolo.

Lo stesso post delineava altre due strade. I principali governi, si leggeva, «potrebbero avviare un progetto di cui entrerebbero a far parte molte delle iniziative attuali», una soluzione molto simile alla fusione che Altman oggi attribuisce a Hassabis. Oppure il settore «potrebbe concordare collettivamente» che «il tasso di crescita delle capacità dell’IA all’avanguardia sia limitato a un certo ritmo annuale».

Quest’ultima proposta è un limite alla velocità di sviluppo. Secondo The Decoder, Altman si sarebbe lamentato in privato del fatto che ci siano troppo poche proposte praticabili per imporre un «limite di velocità» allo sviluppo dell’IA. Una proposta, però, la sua azienda l’aveva pubblicata. Quello che non ha mai creato è un organismo dotato del potere di farla rispettare.

Perché l’organismo di vigilanza resta sulla carta: OpenAI dice di non potersi fermare

La spiegazione è arrivata nel corso della stessa riunione. Altman avrebbe detto ai dipendenti che i primi due piani richiedono un intenso coordinamento e che OpenAI non può permettersi di cedere terreno proprio ora, mentre sia l’azienda sia Anthropic si avvicinano alla quotazione in borsa. Crypto Briefing ha esplicitato la logica degli investitori: le aziende che si preparano a quotarsi rafforzano il proprio vantaggio competitivo, non lo cedono a un consorzio.

Un’IAEA per l’IA richiederebbe inoltre che Washington e Pechino accettassero la presenza di ispettori nei loro laboratori più riservati. Per ora, osserva Forbes, persino una proposta statunitense affinché i due Paesi si informino a vicenda sugli incidenti pericolosi legati all’IA resta una bozza, non un accordo.

Al posto di un’IAEA, i laboratori stanno creando una FINRA

Il progetto di governance attualmente in corso non corrisponde a nessuna delle tre opzioni di Altman. OpenAI, Google e Anthropic stanno lavorando a un gruppo di autoregolamentazione, la Standards Authority for Frontier AI, sul modello della FINRA, l’organismo privato che vigila sui broker statunitensi. Latin Times descrive un sistema di test prima del rilascio, segnalazione degli incidenti e accreditamento dei revisori, ma privo di poteri vincolanti; inoltre, i tre laboratori non sono ancora d’accordo su chi dovrebbe testare i nuovi modelli. Mark Zuckerberg di Meta e Jensen Huang di Nvidia sostengono che regole di questo tipo proteggano soprattutto gli operatori già affermati, mentre una causa antitrust negli Stati Uniti sostiene già che il coordinamento sulla sicurezza tra i laboratori equivalga a un cartello.

Anche le etichette meritano una seconda lettura. L’immagine originale di Yudkowsky, «bruciare tutte le GPU», era un esperimento mentale sulla portata dell’intervento che un sistema allineato dovrebbe compiere per fermare una corsa irresponsabile; Yudkowsky ha scritto che non è qualcosa che vorrebbe davvero vedere accadere. Il «piano Eliezer» di Altman trasforma quel freno d’emergenza in una vittoria monopolistica. Secondo la ricostruzione del resoconto fatta da The Decoder, una fonte ha riferito che la battuta è stata interpretata come una frecciata a un concorrente, considerate le relazioni di Yudkowsky con Anthropic.

Secondo The Information, OpenAI intende decidere entro un anno quale strada seguire. L’organismo per gli standard del settore punta a partire tra la fine del 2026 e l’inizio del 2027.

Finché OpenAI non sceglierà, continuerà a percorrere l’unica strada che non figurava nel suo elenco: la corsa stessa.

Tag: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

Contenuti simili

Sam Altman definisce ‘sconsigliata’ la quotazione di OpenAI: la sicurezza non è l’unico motivo

OpenAI offre 42 miliardi di dollari a Washington per bloccare un disegno di legge che tasserebbe l’IA al 50%

Demis Hassabis su chi paga la sicurezza dell’IA: «I finanziamenti dovrebbero essere ingenti e arrivare soprattutto dall’industria»

Sam Altman sull’IA: «…è innegoziabile doverla usare»

Sam Altman: «Siamo ormai nella singolarità»

Demis Hassabis, presidente di Google DeepMind: l’AGI entro tre anni, ma le regole possono aspettare