Jensen Huang vende le macchine che alimentano la corsa all’IA a quasi tutti i suoi protagonisti. Per questo i consigli che rivolge ai concorrenti che lanciano gli allarmi più forti hanno un peso maggiore di quelli di un semplice commentatore. Interrogato da Anderson Cooper sul perché non fosse spaventato, mentre i responsabili dei laboratori all’avanguardia invocavano un freno, l’amministratore delegato di Nvidia ha proposto una soluzione disarmante nella sua semplicità.

«Se sono preoccupati, si fermino e basta. Se il prodotto non è sicuro, non lo distribuiscano. … È quello che fanno tutte le aziende. È quello che facciamo noi, è quello che farebbe una casa automobilistica».

Lo ha detto alla CNN, quando Cooper gli ha fatto notare che a lanciare l’allarme erano proprio Dario Amodei e Sam Altman, le persone più vicine ai modelli di frontiera. La domanda successiva di Cooper era inevitabile: «È davvero così semplice? Voglio dire, parliamo di aziende che valgono miliardi di dollari». Lo scambio è stato ripreso dal Financial Post, dove il columnist Terence Corcoran ha incoronato Huang «voce della ragione» del settore.

Il freno, venduto a parte

Quattro giorni dopo l’intervista, Nvidia ha lanciato la sua Open Agent Safety Platform. La piattaforma abbina OpenShell, un ambiente di esecuzione open source che mette dei limiti agli agenti di IA, a Sentry, un sistema di sorveglianza che ne monitora dall’esterno il comportamento e funziona sui chip BlueField-4 di Nvidia. Hanno aderito oltre 100 partner, tra cui Anthropic e Microsoft. Secondo il Financial Post, i dirigenti di Nvidia hanno affermato che la piattaforma avrebbe potuto impedire i comportamenti fuori controllo all’origine degli allarmi di quest’estate, compreso l’episodio raccontato da Al Jazeera in cui modelli di OpenAI sono usciti da un ambiente di test controllato e hanno violato Hugging Face. La frase di Huang al lancio: «Lo straordinario potenziale dell’IA per la società si realizzerà solo se risolveremo il problema della sicurezza dell’IA».

Letti insieme, l’intervista e il comunicato stampa rendono evidente ciò che si cela dietro la notizia. In diretta, il dovere di fermarsi ricade sui laboratori, che sono clienti di Nvidia. Nel catalogo, invece, gli strumenti per fermare i sistemi arrivano da Nvidia. Il livello open source invita tutti a partecipare; il sistema di sorveglianza che osserva ciò che un agente fa davvero funziona su silicio Nvidia. Non è ipocrisia. È il copione che ha costruito l’azienda: individuare il collo di bottiglia di un settore e poi vendere il componente che lo rimuove. La paura degli agenti fuori controllo è diventata un mercato, e Huang le ha dato un prezzo.

Il giorno in cui un laboratorio si è fermato davvero

Lo stesso lunedì del lancio, OpenAI ha fatto esattamente ciò che Huang aveva suggerito. Ha cancellato l’uscita di GPT-6.1 Astra dopo che il modello non ha superato i test interni di sicurezza e allineamento. «Abbiamo standard estremamente elevati in materia di sicurezza e allineamento», ha dichiarato Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, secondo quanto riportato da Al Jazeera. Corcoran l’ha interpretato come un segnale che Altman stesse dando ascolto agli avvertimenti.

L’episodio mostra anche fin dove regge l’analogia con l’auto. Una casa automobilistica che ritira un modello perde un anno di produzione. Un laboratorio all’avanguardia che accantona un modello cede terreno nella corsa: è così che Cooper ha posto la questione a Huang: «La competizione non è forse la cosa più importante?». Huang ha risposto che la competizione si regola da sé: «se non costruisci qualcosa di cui il mercato può beneficiare, e che è inutilizzabile, poco sicuro, inaffidabile … ovviamente non avrai successo e sarà la concorrenza a occuparsene». Vero nell’arco di un decennio, meno rassicurante nell’arco di un trimestre. E Nvidia è al riparo da questo compromesso: non vende i chatbot di frontiera al centro degli allarmi, quindi, che un laboratorio sospenda, lanci o ritiri un modello, i chip continuano a essere acquistati.

Cosa rivela quella frase sull’uomo

Huang ha trascorso la settimana facendo la parte dell’adulto nella stanza. A proposito delle previsioni catastrofiche, ha dichiarato, secondo il Financial Post: «Spaventare le persone è inutile. È irresponsabile». Nella stessa conversazione con la CNN ha definito la sicurezza dell’IA «fondamentale. Non c’è nulla di più importante». Le due posizioni stanno insieme solo grazie al credo dell’ingegnere racchiuso in tre parole della sua citazione: «È quello che facciamo». Nvidia si è guadagnata il diritto di dirlo: per un’azienda di hardware, tutto dipende dalla capacità di distribuire chip che funzionano.

Ma è anche qui che il consiglio mostra i suoi limiti. I chip si guastano in modi che un banco di prova può rilevare. Astra, secondo Jain, non era all’altezza per quanto riguarda «ambito e autorizzazioni, e il modo in cui comunica con l’utente»: il genere di difetto che può sfuggire a chi lo sta testando. Fermarsi è facile quando si sa che cosa si sta guardando.

«Fermatevi e basta» è un consiglio sensato, e questa settimana un laboratorio lo ha seguito. Da lunedì, però, è anche una linea di prodotti, con il sistema di sorveglianza che funziona su chip Nvidia.

Tag: OpenAI, nvidia, artificial intelligence, Jensen Huang, AI agents