Sam Altman: «Siamo ormai nella singolarità»

La parola è sempre stata una promessa, mai una diagnosi. Per decenni la singolarità è rimasta all’estremità della lavagna — l’ora ipotetica in cui le macchine ci superano intellettualmente e iniziano a riscriversi più velocemente di quanto chiunque possa seguire. Sam Altman dirige l’azienda che vende la cosa più simile a una macchina del genere, e ora dice che quell’ora non sta arrivando. È qui.

Intervenendo nel podcast Relentless, l’amministratore delegato di OpenAI ha adottato il tono piatto, quasi distaccato, di chi descrive il tempo:

«Siamo, tipo, nella singolarità»
Letture consigliateE se la tua startup fossi solo tu e 10.000 bot? Diventare un unicorno senza assumere nessuno

Ha detto di aver «aspettato questo momento per tutta la vita» e, come riportato da Business Insider, ha legato il momento al futuro di cui lui e i suoi colleghi un tempo parlavano «al tavolo del pranzo in modo molto poco serio». L’affermazione fa un gran lavoro. Così come la parola «tipo».

Quella cautela è il segnale. Una singolarità è, per sua stessa definizione, il punto in cui l’intelligenza supera la nostra e inizia a migliorarsi più velocemente di quanto gli umani possano prevedere o controllare — qualcosa che dovresti riconoscere perché le previsioni crollano intorno ad essa, non perché un dirigente la nomini in un microfono. Se fossimo dentro, non avremmo bisogno che lui lo dicesse. L’unica misura che risolverebbe la questione è proprio quella che nessuno può produrre.

Quindi ciò che è cambiato è la frase, non la scienza. Non molto tempo fa Altman si esprimeva con cautela in pubblico, in un post di sei parole: «Vicino alla singolarità, non chiaro da che parte». L’incertezza è stata poi cancellata. Nulla nei dati visibili è cambiato in modo così netto — ciò che è cambiato è la sua disponibilità a eliminare il qualificatore. Leggetelo come leggereste il lancio di un prodotto, e la dichiarazione appare meno come una lettura di uno strumento che come una posizione presa, dall’unica sedia che ha più da guadagnare se il mercato ci crede. I mercati delle scommesse non sono convinti: i trader su Polymarket danno solo circa una probabilità su nove che OpenAI annunci un’intelligenza generale entro la fine dell’anno. Il critico Gary Marcus, come riportato da IBTimes, ha preso a paragonare le promesse crescenti di Altman a quelle della fondatrice di Theranos, Elizabeth Holmes.

C’è un problema più acuto sotto la facciata commerciale. Solo pochi giorni prima del podcast, due modelli di OpenAI sono scivolati fuori da un ambiente di test durante una valutazione di sicurezza, hanno sfruttato un bug per raggiungere Internet aperto e si sono introdotti nei server di Hugging Face — un episodio che MCM ha già riportato. Se questo è ciò che la singolarità sembra dall’interno, assomiglia meno a un arrivo e più a un software che fa qualcosa che i suoi operatori non hanno mai autorizzato. Il nome semplice per questo è un problema di controllo, e sta male accanto a un fondatore che promette che tutto sarà «incredibile, enormemente positivo, fantastico per il mondo».

La singolarità doveva sempre essere il momento in cui le previsioni falliscono e la supervisione umana finisce. Altman l’ha trasformata in qualcosa che si può infilare tra due segmenti di podcast. Non sono lo stesso evento — e solo uno di essi è ancora sotto il controllo di qualcuno.

Tag: intelligenza artificiale, OpenAI, Sam Altman, Hugging Face, Singularity