IA

Sam Altman, CEO di OpenAI, dice che la frase sulla RAM è stata estrapolata: la trascrizione gli dà ragione a metà

Rispondeva a una domanda sull'inferenza di IA locale, non sui PC per il gaming. La sua tesi mette comunque la scarsità di memoria nei data center.
Adrian Kessler
Aggiungici su Google

Sam Altman vuole mettere nero su bianco che sta dalla parte di chi compra memoria per il proprio computer. L’amministratore delegato di OpenAI sostiene che una sua frase sui PC domestici che trattengono una parte della scarsa DRAM disponibile a livello mondiale sia stata decontestualizzata, e afferma di battersi da tempo perché il settore ne produca di più. La conversazione integrale gli dà ragione solo a metà: il contesto chiarisce che cosa intendesse, ma non cambia la destinazione verso cui, secondo il suo ragionamento, dovrebbero andare i chip finché durerà la carenza.

Ha risposto alle critiche su X dopo giorni di battute a sue spese, e ha anche lui alzato il tono scherzoso. Un utente gli ha chiesto di rinominare il suo account «Ram Altman». Lui ha risposto «ok yeah» e ha cambiato il nome visualizzato. Poi ha spiegato: «In realtà voglio che nel mondo ci sia un’enorme quantità di memoria e che le persone possano metterne quanta ne vogliono nei propri computer, ed è f***ing irritante che questa frase sia stata decontestualizzata». Ha aggiunto: «Da molto tempo sostengo che il mondo debba aumentare la produzione di memoria».

Che cosa ha detto davvero Altman a Cheeky Pint

La frase arriva da Cheeky Pint, il podcast condotto dal cofondatore di Stripe John Collison, che pubblica le trascrizioni integrali. Il passaggio recita: «Ma, dal punto di vista dell’allocazione globale, in realtà è piuttosto terribile che tutti abbiano una parte della limitata scorta mondiale di DRAM nei propri computer. E che venga utilizzata […] per il 5% del tempo. Se cerchi di affrontare una situazione in cui l’offerta è fortemente limitata, vuoi che il cloud raggiunga il massimo livello di utilizzo possibile».

La maggior parte degli articoli ha cominciato a riportare la citazione da quel punto. Ma quello che viene prima è importante. Collison gli aveva chiesto perché i prezzi elevati della memoria non stessero attirando nuovi produttori sul mercato. Altman aveva risposto che «in questo momento il meccanismo della mano invisibile non funziona». Per decenni, ha spiegato, un produttore di DRAM avrebbe «investito 20 miliardi di dollari di CapEx per ricavarne 19» e affrontato fasi di espansione e di crisi. Ora che ciascuna di quelle aziende può aspettarsi di generare, secondo la sua stima, «circa 100 miliardi di dollari di flusso di cassa libero in un anno», «tutte ricordano la propria storia. Quante volte hanno rischiato di fallire per aver costruito troppe fabbriche». Solo a quel punto ha parlato di chi vuole eseguire inferenze in locale: far girare modelli di IA open source sulle proprie macchine, dando per scontato che così si alleggerisca la pressione sui data center. La frase «è piuttosto terribile» era la sua replica a questa supposizione.

Più avanti, nella stessa conversazione, dice che il costo dell’energia e dei chip «dovrebbe scendere», che «se non scende, sarò molto triste» e che «l’offerta deve aumentare parecchio». Su questo punto specifico, la sua difesa regge. Parlava di inferenza IA a casa, non di PC da gaming o per il montaggio video, e nello stesso episodio ha chiesto un aumento della produzione.

Dove il contesto smette di essere d’aiuto

In un mercato con carenza di offerta, discutere di allocazione significa discutere di chi ottiene i chip. «Il massimo livello di utilizzo nel cloud» li destina ai data center, e OpenAI è uno dei maggiori acquirenti di quel mercato. Samsung e SK Hynix hanno firmato lettere d’intenti per fornire memoria al progetto infrastrutturale Stargate di OpenAI: secondo The Register, l’impegno riguarda circa 900.000 avvii mensili di produzione di wafer DRAM. Le lettere non sono vincolanti, ma mostrano quanto del mercato OpenAI intenda acquistare. Notebookcheck ha osservato che questo ragionamento è coerente anche con il modello di business di OpenAI: modelli chiusi, eseguiti nei suoi data center e venduti tramite abbonamento.

Persino l’affermazione più esplicita a favore dell’abbondanza nell’episodio non è di Altman. L’idea di un «eccesso di capacità di calcolo» in cui «chiunque voglia un computer, per qualsiasi motivo, possa averne uno» è il riassunto che Collison fa della sua posizione. Altman non gli ha risposto direttamente. Ha replicato parlando di data center e del costo, nell’arco di cinque anni, di un gigawatt di capacità: secondo la sua stima, circa 70 miliardi di dollari, una cifra che vorrebbe veder scendere a 20.

La cifra del 5% non ha alcuna fonte

Il numero che ha scatenato la polemica non è accompagnato da alcuna misurazione. PC Games Hardware ha osservato che indica per quanto tempo la memoria è occupata, non quanta memoria serva a una macchina: un sistema operativo conserva i dati nella cache e i programmi richiedono più memoria a intervalli. Anche un gigabyte che resta inattivo durante la notte deve essere disponibile quando si avvia un gioco o un modello locale. Inoltre, le persone eseguono l’IA sui propri dispositivi per ragioni che una percentuale di utilizzo non può cogliere, come la privacy, il controllo su un modello che un fornitore non può modificare di nascosto e il pagamento una tantum al posto di un abbonamento.

Su X è intervenuto anche Elon Musk, scrivendo: «Anche le persone hanno diritto alla loro RAM!». Come ha ricordato PC Games Hardware, la sua società di IA gestisce il data center Colossus a Memphis.

La carenza si riflette già sui prezzi nei negozi. Il 2 novembre Raspberry Pi ha aumentato di 80 dollari il prezzo del Raspberry Pi 5 da 16 GB, portandolo a 385 dollari, citando «la mancanza di forniture alternative di DRAM da 16 GB». PC Gamer, il cui articolo ha portato lo scambio su X all’attenzione di un vasto pubblico, ha scritto che gli appassionati di tecnologia e i gamer sono stati «tagliati fuori dai nuovi componenti hardware» da OpenAI e dal resto del settore dell’IA. L’episodio di Cheeky Pint è stato pubblicato il 29 ottobre, mentre le risposte di Altman su X sono arrivate nei primi giorni di novembre.

La soluzione che Altman propone è costruire più fabbriche. Per sua stessa ammissione, le aziende che dovrebbero realizzarle ricordano di aver rischiato quasi il fallimento l’ultima volta che qualcuno ha detto loro che quella fase di espansione sarebbe stata diversa. Finché non cambieranno idea, la memoria continuerà a essere allocata proprio nel modo che ha descritto: al compratore che paga di più e la tiene più occupata. E quel compratore è un data center, non un computer desktop.

Tag: , , , ,

Aggiungici su Google

Discussione

Ci sono 0 commenti.