Eliezer Yudkowsky, l’autore di fanfiction che ha trasformato la paura dell’IA in un bestseller

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Nascita	11 settembre 1979 Chicago, Stati Uniti
Professione	Scrittore e ricercatore di IA

Quando, secondo quanto riferito, Sam Altman illustrò ai dipendenti di OpenAI i possibili esiti della corsa alla superintelligenza, uno dei tre scenari aveva un nome proprio. Il «piano Eliezer» ipotizza che un singolo laboratorio arrivi per primo a un’IA capace di migliorarsi da sola e sfrutti il vantaggio per impedire a ogni rivale di accedere alla potenza di calcolo; Altman lo menzionò solo per definirlo terribile. La frase che accompagnò la notizia, «fondere le GPU di tutti gli altri», riecheggia un esempio usato dallo stesso Eliezer Yudkowsky in un saggio sui rischi dell’IA: tra le possibilità citò «bruciare tutte le GPU», aggiungendo subito: «Non è quello che penso vorreste davvero fare con un’AGI potente».

Che un amministratore delegato dia il suo nome a una strategia mostra fin dove siano arrivate le sue idee, e quasi tutto questo percorso si è compiuto sulla pagina. Yudkowsky è un ricercatore di IA senza laurea e, soprattutto, uno scrittore prolifico: centinaia di saggi per blog, un romanzo di Harry Potter di dimensioni epiche e un bestseller il cui titolo non lascia spazio a dubbi.

Nato a Chicago l’11 settembre 1979, è cresciuto in una famiglia ebrea ortodossa moderna; oggi è laico. Problemi di salute cronici lo costrinsero a lasciare la scuola media e non frequentò mai né le superiori né l’università. Nel 2000, a vent’anni, fondò il Singularity Institute for Artificial Intelligence, con il sostegno di Brian e Sabine Atkins e l’obiettivo di accelerare l’avvento dell’IA. Ben presto iniziò a preoccuparsi di ciò che si era proposto di costruire e, nel 2005, l’istituto studiava già come gestire i rischi di macchine più intelligenti dei loro creatori. Nel 2013 diventò il Machine Intelligence Research Institute, con sede a Berkeley.

Letture consigliateIl CEO di OpenAI Sam Altman indica tre finali per l’IA, due già scritti nel 2023

La scrittura prese davvero slancio nel novembre 2006, quando lui e l’economista Robin Hanson diventarono i principali autori di Overcoming Bias, un blog collettivo dedicato alla razionalità umana. Nel febbraio 2009 i suoi post furono il punto di partenza di LessWrong, un blog comunitario impegnato a «perfezionare l’arte della razionalità umana», che finì per diventare la principale casa online del movimento che si definisce razionalista. I suoi saggi, noti semplicemente come «The Sequences», affrontavano i bias cognitivi, il teorema di Bayes e i modi in cui le persone intelligenti ingannano sé stesse. Nel 2015 MIRI ne raccolse più di 300 in Rationality: From AI to Zombies; nel 2017 seguì Inadequate Equilibria, un breve libro sul perché le società lascino irrisolti problemi a cui si potrebbe porre rimedio. Stuart Russell e Peter Norvig discutono le sue proposte nel loro manuale di riferimento sull’IA, mentre Nick Bostrom lo cita in Superintelligence: Paths, Dangers, Strategies.

Poi arrivò il romanzo. Harry Potter and the Methods of Rationality, HPMOR per i fan, fu pubblicato a puntate su FanFiction.Net dal 28 febbraio 2010 al 14 marzo 2015: 122 capitoli e oltre 660.000 parole in tutto. La premessa modifica un solo dettaglio del canone. Petunia Evans sposa un professore di Oxford, Michael Verres, e Harry, rimasto orfano, cresce istruito a casa e formato alle scienze; così, quando arriva a Hogwarts, mette alla prova la magia con il metodo scientifico e non nasconde la propria insofferenza per le incongruenze del mondo magico. A Corvonero stringe amicizia con Draco Malfoy, Hermione Granger e il professor Quirrell. La trama si fa più cupa di quanto lascino intuire le battute, ma il vero tema è come pensare.

Le reazioni dei lettori furono nettamente contrastanti. Nel 2011 The Atlantic raccontò il putiferio scoppiato nei forum di fanfiction per il «trattamento blasfemo — o geniale — del canone» e citò lo scrittore di fantascienza David Brin, che lo definì «una serie formidabile, sottile, avvincente e stimolante». Il giurista William Baude si spinse oltre sul The Washington Post: «il miglior libro di Harry Potter mai scritto, anche se non è opera di J.K. Rowling». Amanda Silberling di TechCrunch lo trovò «davvero noiosissimo». Yudkowsky respinse la proposta di eliminare i riferimenti a Rowling e vendere la storia come un romanzo originale, seguendo la strada percorsa da Fifty Shades of Grey, nato come fanfiction di Twilight. «HPMOR è legato in modo fondamentale ai romanzi originali di Harry Potter e si può capire solo sullo sfondo di quelli», disse.

L’ironia della sua carriera è che l’uomo più associato agli allarmi sull’IA ha anche spinto altre persone a mettersi a costruirla. Nel febbraio 2023 Altman scrisse che Yudkowsky aveva «spinto molti di noi a interessarsi all’AGI», aveva contribuito a finanziare DeepMind ed era stato «determinante nella decisione di avviare openai». Quella primavera Yudkowsky firmò un editoriale su Time per chiedere una moratoria mondiale a tempo indeterminato sulle grandi campagne di addestramento dell’IA; in seguito, la rivista lo inserì nella lista delle 100 persone più influenti nel campo dell’IA del 2023.

Il suo libro più esplicito uscì il 16 settembre 2025. Scritto con il collega di MIRI Nate Soares e pubblicato da Little, Brown, If Anyone Builds It, Everyone Dies sostiene che i sistemi di IA moderni vengano fatti crescere, anziché progettati, e addestrati attraverso miliardi di pesi numerici che nemmeno i loro sviluppatori sono in grado di leggere; di conseguenza, nessuno può definire con affidabilità gli obiettivi di un sistema che finisca per essere più intelligente di noi. Secondo gli autori, l’umanità verrebbe sconfitta da una superintelligenza come gli esseri umani perdono contro il motore scacchistico Stockfish, e l’unica strada sicura è un arresto coordinato. Il libro entrò nelle classifiche dei bestseller del The New York Times, sia nella categoria della saggistica in copertina rigida sia in quella complessiva della saggistica.

Le recensioni furono divise quanto lo erano stati i lettori del romanzo. Sul The Guardian, David Shariatmadari lo trovò «chiaro quanto le sue conclusioni siano difficili da accettare». Ian Leslie, su The Observer, ne lodò la «chiarezza, verve e gioia a malapena trattenuta». Sul The New York Times Stephen Marche lo paragonò a un manuale di Scientology, mentre Adam Becker, su The Atlantic, fu ancora più netto: «Semplicemente, hanno torto».

Da allora il dibattito si è spostato sullo schermo. Yudkowsky è una delle voci, insieme a Yoshua Bengio e Timnit Gebru, di The AI Doc: Or How I Became an Apocaloptimist, il documentario di Daniel Roher sul diventare padre nell’era dell’IA, arrivato su Netflix il 15 settembre 2026. Il maghetto che conduce esperimenti controllati e il coautore che vuole fermare l’esperimento sono la stessa persona: uno scrittore che continua a chiedere ai lettori di seguire fino in fondo una catena di ragionamenti, per quanto scomodo possa essere il suo ultimo anello.

Tag: intelligenza artificiale, scrittori, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Contenuti simili

Sam Altman, capo di OpenAI, all’ONU: «L’IA va costruita per le persone, non solo per far girare le macchine più in fretta…»

Bill Gates: «L’IA sarà il più grande fattore di uguaglianza mai inventato o la peggiore fonte di ingiustizia»

Michael Polansky: l’architetto della ricerca oncologica che la fama altrui ha reso invisibile

Yann LeCun, il premio Turing che sfida i profeti dell’apocalisse dell’IA

OpenAI e Anthropic vogliono frenare l’IA, e così si scavano un fossato

Alex Karp bolla l’industria dell’IA come “marxista”: “…impadronirsi dei mezzi di produzione dei loro presunti partner”