Nate Soares, il ricercatore di IA che ha smesso di risparmiare per la pensione

Nate Soares

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Nascita	1989
Professione	Ricercatore di intelligenza artificiale

Nate Soares ha ancora il conto pensionistico che aveva aperto quando lavorava a Google. Da circa dieci anni non ci versa più denaro. Non per trascuratezza: il presidente del Machine Intelligence Research Institute è convinto che un’intelligenza artificiale superumana probabilmente ucciderà tutti prima che lui diventi abbastanza vecchio da poterlo spendere, e ormai lo dice in pubblico con la calma imperturbabile di un ingegnere che legge il risultato di un test. «Non sono proprio uno che teme un’apocalisse occupazionale causata dall’IA», ha detto a un intervistatore questo autunno. «Sono uno che pensa che l’IA ucciderà tutti gli esseri umani». La domanda che guida il suo lavoro è quella che si rifiuta di considerare chiusa: chi si aspetta il peggio può ancora convincere chi sta costruendo questa tecnologia a fermarsi?

Ciò che rende difficile liquidarlo è il suo percorso. Soares non è un filosofo approdato tardi all’informatica. Ha studiato informatica ed economia alla George Washington University, poi ha scritto software per il governo federale: prima come ricercatore associato al National Institute of Standards and Technology, poi come consulente del Department of Defense, sviluppando strumenti per la National Defense University. In seguito sono arrivati Microsoft e Google, proprio il genere di aziende che oggi chiede ai governi di contenere.

Nel 2014, poco più che ventenne (è nato nel 1989), lasciò Google per una piccola organizzazione non profit di Berkeley, in California, che da anni si poneva una domanda che gran parte del settore considerava fantascienza: come si fa a indurre una mente più intelligente della propria a fare ciò che si intendeva? Come ricercatore del MIRI divenne il principale autore del programma di ricerca tecnica dell’istituto, scritto insieme a Benya Fallenstein e in seguito pubblicato con il titolo «Agent Foundations for Aligning Machine Intelligence with Human Interests». Nel gennaio 2015 quel programma fu citato in «Research Priorities for Robust and Beneficial Artificial Intelligence», il documento di Stuart Russell, Daniel Dewey e Max Tegmark che accompagnava una lettera aperta, nella quale si esortavano i ricercatori di IA a prendere sul serio il beneficio sociale dei loro sistemi tanto quanto le loro capacità grezze.

Nello stesso periodo nacque il documento che contribuì a dare al suo campo parte del suo vocabolario. «Corrigibility», scritto insieme a Fallenstein, Eliezer Yudkowsky e Stuart Armstrong e presentato a un workshop dell’AAAI all’inizio del 2015, affrontava un problema che sembra semplice, ma non lo è: un sistema abbastanza capace da risultare utile potrebbe anche essere abbastanza capace da opporsi a una correzione o allo spegnimento. Soares e Yudkowsky sostengono che quel documento introdusse l’espressione «AI alignment problem», oggi utilizzata proprio dai laboratori i cui piani loro contestano.

Più tardi, nel 2015, Soares subentrò a Luke Muehlhauser come direttore esecutivo del MIRI, incarico che mantenne per otto anni. Sotto la sua guida, l’istituto si concentrò sulla matematica astratta, non sui prodotti: teoria delle decisioni, incertezza logica, la questione formale di come un agente dovrebbe ragionare su se stesso. Fu coautore di «A Formal Approach to the Problem of Logical Non-Omniscience» con Scott Garrabrant e altri, e di «Cheating Death in Damascus», un articolo sulla teoria delle decisioni scritto con Benjamin Levinstein e pubblicato nel 2020 su The Journal of Philosophy. Nel 2017 tornò a Google per tenere una conferenza sui problemi aperti dell’allineamento, sostenendo che fossero più difficili di quanto il settore pensasse. Sul suo blog, Minding Our Way, scrisse anche Replacing Guilt, una serie di saggi sulla motivazione che oggi i lettori possono acquistare in forma di libro e che, in certi ambienti, lo ha reso più noto per i consigli su come lavorare che per qualsiasi cosa riguardi le macchine.

La svolta arrivò nel 2023. Il MIRI annunciò che avrebbe spostato l’attenzione dalla ricerca sull’allineamento alla sensibilizzazione dei responsabili politici e del pubblico, continuando comunque a sostenere parte del lavoro tecnico. Soares passò dalla carica di direttore esecutivo a quella di presidente e Malo Bourgon divenne amministratore delegato. Nel 2025 Soares disse a The Atlantic che si stava concentrando sulla sensibilizzazione dell’opinione pubblica, perché lo sviluppo dell’IA procedeva troppo rapidamente per consentire l’introduzione di adeguate misure di sicurezza.

Da questo cambiamento è nato If Anyone Builds It, Everyone Dies, scritto insieme a Yudkowsky e pubblicato da Little, Brown nel settembre 2025. La tesi è già nel titolo. Una superintelligenza costruita «usando tecniche anche solo lontanamente simili a quelle attuali» avrebbe ottime probabilità di portare all’estinzione dell’umanità; la ricerca sull’allineamento è ben lontana dall’essere pronta e solo una regolamentazione internazionale può impedire agli sviluppatori di lanciarsi in una corsa verso sistemi che gli autori considerano catastroficamente pericolosi. Nell’ottobre 2025 il libro è entrato nella lista dei bestseller del New York Times. Planeta ne ha pubblicato un’edizione spagnola, mentre Hayakawa Shobo ha dato alle stampe una traduzione giapponese nell’aprile 2026.

L’accoglienza ha messo in luce il punto debole dell’argomentazione. Alcune delle obiezioni più incisive sono arrivate da persone che condividono le preoccupazioni degli autori. Will MacAskill, uno dei fondatori del movimento dell’altruismo efficace, ha definito il libro deludente, sostenendo che si basasse su argomentazioni deboli, costruite attorno a un’analogia con l’evoluzione e a un presupposto non dichiarato: che il progresso dell’IA proceda per salti anziché per gradini. La recensione di Clara Collier su Asterisk era accompagnata da un titolo che riassumeva la frustrazione dei lettori ben disposti: «More Was Possible». C’è poi un aspetto scomodo su cui Soares si sofferma di rado. Il MIRI ha trascorso anni cercando di risolvere il problema dell’allineamento, per poi concludere che non sarebbe stato risolto in tempo: una posizione che si può leggere come onestà intellettuale o come ammissione del fallimento del programma di ricerca dell’istituto. Per difendere la propria certezza ricorre a un’analogia scacchistica: può essere sicuro che Magnus Carlsen lo batterebbe senza sapere quale pezzo gli darebbe scacco matto. Per i suoi critici, è proprio questo il problema: una previsione sul finale senza alcuna spiegazione delle mosse.

Niente di tutto questo lo ha reso più morbido. Nell’ottobre 2026, ospite di The Most Interesting Thing in AI, il podcast condotto da Nicholas Thompson, ha detto che le probabilità che l’umanità non abbia davanti a sé un altro decennio sono superiori al 50%, e ha spiegato perché non ha mai toccato il suo 401(k). Nella stessa conversazione ha insistito sul fatto che l’esito non sia già deciso. «Faccio tutto ciò che posso per impedire che accada. Non penso che sia inevitabile», ha detto, citando il saggio di C.S. Lewis «On Living in an Atomic Age», secondo cui, se la bomba fosse caduta, avrebbe dovuto trovare le persone impegnate in attività sensate e umane, non rannicchiate dalla paura. La sua versione: «Che ci trovi mentre facciamo pressione sui nostri governi perché firmino trattati di non proliferazione nucleare».

È il compito che ha scelto. È ancora presidente del MIRI e dedica il suo tempo a interviste, conferenze e briefing, con l’obiettivo di trasformare una preoccupazione di nicchia del mondo della ricerca in un accordo internazionale che fermi la corsa alla superintelligenza. Il conto pensionistico di Google è ancora aperto. Ha semplicemente smesso di scommetterci.

Tag: intelligenza artificiale, Google, sicurezza dell'IA, Eliezer Yudkowsky, Machine Intelligence Research Institute, Nate Soares

Persone correlate

Persone correlate

Discussione