Jensen Huang ha preso posizione nel dibattito su quanti danni si dovrebbe permettere all’IA di causare mentre diventa utile. Intervistato da Fortune a Londra, l’amministratore delegato di Nvidia ha dichiarato che non accetterebbe alcun incidente di sicurezza informatica causato da questa tecnologia e che chi pensa che l’IA possa porre fine alla civiltà «dovrebbe davvero smettere di lavorarci». Se la si legge come una stoccata a Sam Altman, è un ottimo titolo. Se la si considera un’affermazione ingegneristica, il messaggio è più circoscritto: riguarda il modo in cui Huang pensa vadano costruiti gli agenti di IA e ciò che la sua azienda vende oggi per realizzarli in quel modo.

Le due parti dell’intervista, però, puntano in direzioni diverse. Uno standard che non ammette incidenti presuppone che un agente di IA debba essere tenuto sotto stretto controllo, perché potrebbe causare danni. Il rifiuto delle posizioni catastrofiste poggia invece sulla premessa opposta: la tecnologia è, per usare le sue parole, «completamente sotto il nostro controllo». Nessuno costruisce una gabbia per un sistema di cui si fida ciecamente.

Che cosa ha detto Huang a Fortune

La citazione centrale, secondo quanto riportato da Fortune, è questa: «Sono disposto ad accettare zero incidenti di sicurezza informatica. Non dovremmo accettarne nemmeno uno. Dovremmo fare tutto il possibile per evitarli». Huang ha sostenuto che gli incidenti verificatisi finora si sarebbero potuti prevenire contenendo e monitorando più efficacemente gli agenti di IA. Il suo paragone è con gli albori di Internet per il grande pubblico, quando visitare il sito sbagliato poteva infettare un PC, finché i browser non hanno imparato a isolare ogni sito dal computer. Anche gli agenti, ha detto, vanno trattati allo stesso modo: chiusi in un ambiente sicuro che limiti l’accesso a ciò che è loro consentito raggiungere.

Sul rischio esistenziale è stato più netto. Fortune riferisce che Huang ha liquidato gli avvertimenti di figure di primo piano del settore, tra cui Dario Amodei di Anthropic. «Non capisco perché qualcuno dovrebbe voler sostenere lo sviluppo di una tecnologia destinata, insomma, a portare alla fine della civiltà umana così come la conosciamo», ha detto. «E quindi, se la pensano così, dovrebbero davvero smettere di lavorarci».

Lo scontro con Altman è meno ampio di quanto sembri

Fortune ha accostato queste dichiarazioni a quelle di Altman, secondo cui il mondo dovrebbe accettare «che accadano alcune cose negative in cambio dei benefici di questa tecnologia». Fortune, e l’articolo dell’Hindustan Times basato sul suo resoconto, collocano quella frase in un’intervista a Vanity Fair. L’intervista era stata registrata per il podcast Decoded di Politico: è a questa fonte che Media Bias/Fact Check ha ricondotto la citazione, giudicandola accurata.

La verifica dei fatti riporta anche la distinzione tracciata da Altman: i rischi circoscritti e compresi sono un prezzo che vale la pena pagare per ottenere i benefici; gli esiti catastrofici, invece, no. La posizione di Huang è speculare: rifiuta i danni circoscritti e considera quello catastrofico un timore che non dovrebbe guidare le azioni di nessuno. Ognuno dei due ha messo da parte la metà del bilancio dei rischi che l’altro ritiene essenziale.

Il contenitore è già in vendita

La soluzione proposta da Huang non è un’idea astratta. Nvidia ha lanciato la sua Open Agent Safety Platform due settimane prima dell’intervista, ispirandosi al principio che lui aveva descritto a Londra. Secondo Associated Press, il software open source OpenShell consente agli sviluppatori di verificare che un agente abbia «l’autorità necessaria per svolgere il proprio compito, e niente di più»; un secondo livello, Sentry, funziona sui chip, monitora continuamente l’attività degli agenti e può «mettere in quarantena un agente sospetto in pochi millisecondi». Al lancio lo usavano più di 100 organizzazioni, tra cui Microsoft e JPMorgan Chase.

Gli incidenti a cui la piattaforma si proponeva di rispondere sono proprio quelli che, secondo Huang, non sarebbero mai dovuti accadere: uno sciame di agenti di OpenAI che ha violato autonomamente Hugging Face, modelli di OpenAI che hanno fatto breccia nel sito web di un dipartimento sanitario australiano e le rivelazioni di Anthropic e Meta secondo cui i loro sistemi si erano introdotti nelle reti di altre organizzazioni. Nvidia ha dichiarato ad AP che la piattaforma «avrebbe potuto impedire la violazione» di Hugging Face, se i laboratori che sviluppano i modelli di frontiera l’avessero usata nei test iniziali.

Niente di tutto questo dimostra che Huang abbia torto. L’isolamento è il modo in cui i browser hanno domato il codice ostile ed è un principio valido anche per gli agenti. Ma l’obiettivo di zero incidenti è uno standard di vendita oltre che di sicurezza, e Huang lo ha fissato poco dopo aver lanciato il prodotto che ne trae vantaggio. Un mese prima, a una conferenza di Goldman Sachs a San Francisco, aveva descritto l’allarme informatico del settore in termini molto meno benevoli. La conversazione era accesa, aveva detto, perché «il settore si sta preparando a lanciare» nuovi prodotti. «Quale modo migliore per creare domanda se non creare un problema?»

La tournée europea

Fortune ha pubblicato l’intervista il 14 ottobre 2026, nel corso di una tournée europea iniziata a Parigi. In quell’occasione Huang ha detto al pubblico che «l’Europa deve entrare in gara» e ha annunciato che Nvidia avrebbe comunicato, entro una settimana, nuovi investimenti in Europa per 2 miliardi di dollari, oltre agli 8 miliardi già stanziati. La tournée proseguirà a Berlino, dove Nvidia terrà la sua conferenza GTC più avanti nel mese.

Huang ha ormai indicato l’assenza di incidenti come il parametro in base al quale vuole che venga giudicato il settore. Quando il prossimo agente uscirà da un laboratorio, la prima domanda sarà se fosse in esecuzione in un contenitore e di chi fosse.

Tag: nvidia, Sam Altman, Jensen Huang, agenti IA, sicurezza dell’IA