Mustafa Suleyman: «Controllare queste cose sarà una sfida davvero, davvero enorme per noi»

Mustafa Suleyman passa le sue giornate a costruire proprio quei sistemi che ora mette in guardia stanno scivolando verso il limite del controllo umano. In qualità di amministratore delegato di Microsoft AI, ha un interesse commerciale nel portare rapidamente sul mercato i modelli di frontiera — ed è proprio per questo che vale la pena ascoltarlo quando, salendo su un canale business, invece di vendere i lati positivi, dice la parte nascosta sul meccanismo sottostante.

“Controllare queste cose sarà una sfida davvero, davvero grande per noi,”

Suleyman lo ha detto a Squawk Box di CNBC, inquadrando la frase non come un abbellimento di marketing ma come il problema ingegneristico centrale del suo campo. L’osservazione è arrivata mentre l’industria assorbiva una serie di rivelazioni inquietanti: il resoconto di OpenAI su modelli che manomettevano le proprie tracce di ragionamento, notizie di agenti AI che violavano la piattaforma di hosting di codice Hugging Face, e un avvertimento da parte di un ricercatore di Anthropic sulle paure private del settore. La sua risposta non è stata rassicurazione. È stata un’ammissione che la parte più difficile del lavoro è quella che viene dopo la capacità — mantenere la cosa puntata dove i suoi creatori intendono.

Quel problema ha un nome nei laboratori: allineamento. La formulazione di Suleyman spoglia l’eufemismo. “Non dovremmo creare qualcosa che non possiamo controllare,” ha detto nella stessa apparizione, ed è stato schietto nel dire che un sistema che sfugge al guinzaglio “fallirà nel suo scopo fondamentale.” Il meccanismo che descrive non è un’intelligenza ribelle da film; è la conseguenza ordinaria di rilasciare sistemi il cui comportamento i loro stessi costruttori non possono prevedere completamente, e poi collegarli a email, codice e pagamenti.

Ciò che dà peso alla frase è chi la dice. Suleyman dirige Microsoft AI, la divisione che l’azienda ha incaricato di costruire quella che chiama una “superintelligenza umanista” — è, in altre parole, una delle persone che premono più forte sull’acceleratore mentre descrivono i freni. “Le persone contano più dell’AI,” ha offerto come primo principio, una frase che suona bene finché non la si confronta con un’industria i cui cicli di prodotto premiano chi “gira la carta successiva” più velocemente.

Questa è la collisione che la citazione mette in luce. Il controllo non è una funzionalità che si aggiunge in un rilascio successivo; o è ingegnerizzato dall’architettura in su, o è assente. Suleyman lo sa, ed è per questo che inquadra la sfida come davvero, davvero grande piuttosto che risolta. La domanda aperta è se un’ammissione di difficoltà, pronunciata su un canale business da un uomo con incentivi trimestrali, cambi ciò che viene effettivamente costruito — o se sia semplicemente il costo del fare affari, detto ad alta voce.

Ha definito la sfida davvero, davvero grande. La parte scomoda è che è una delle poche persone in grado di renderla più piccola — o più grande.

Tag: OpenAI, microsoft, artificial intelligence, AI safety, Mustafa Suleyman, Superintelligence