Demis Hassabis su chi paga la sicurezza dell’IA: «I finanziamenti dovrebbero essere ingenti e arrivare soprattutto dall’industria»

Demis Hassabis ha passato l’anno a sostenere che i sistemi di intelligenza artificiale più potenti dovrebbero essere sottoposti a verifica prima di arrivare al pubblico, da parte di un organismo indipendente modellato sull’ente di controllo che vigila sui broker di Wall Street. La domanda più difficile non è se un arbitro del genere debba esistere. È chi lo paga — e in una singola frase, il capo di Google DeepMind ha risposto anche a questo.

“Il finanziamento dovrebbe essere sostanzioso e probabilmente provenire in gran parte dall’industria, al fine di attrarre talenti tecnici di livello mondiale e fornire le risorse di calcolo necessarie per test su larga scala,”

Hassabis ha scritto questa frase nel saggio programmatico che illustra la sua proposta, citato da Malay Mail. Letta velocemente, sembra una questione di responsabilità: le misure di sicurezza costano, e le aziende che costruiscono la tecnologia dovrebbero pagare il conto, piuttosto che lasciare che sia il pubblico a finanziare la bonifica. Lettà come meccanismo, è la frase portante dell’intero piano — quella che decide a quali interessi l’arbitro finirà per proteggere.

Letture consigliateMicrosoft tratta con Anthropic per il primo impiego esterno di Maia 200

La tensione sta dentro la frase. Hassabis vuole che l’organismo sia indipendente. Vuole anche che sia finanziato, “in gran parte,” dall’industria stessa che dovrebbe giudicare. Questi due obiettivi tirano in direzioni opposte, e la storia del modello che ha scelto mostra quale tende a vincere. La Financial Industry Regulatory Authority, il suo modello, è pagata dalle stesse società di intermediazione che supervisiona. La senatrice Elizabeth Warren sostiene da anni che la FINRA agisce “più nell’interesse delle società di intermediazione che pagano i suoi conti che dei singoli investitori che dovrebbe aiutare a proteggere.”

L’obiezione non è marginale. Nader Henein, analista vicepresidente di Gartner, definisce l’autoregolamentazione semplicemente “non praticabile,” perché la maggior parte dei fornitori non ha la capacità di farlo e l’accordo “necessariamente” genera conflitti di interesse. L’analista indipendente Carmi Levy è andato oltre, definendo il piano “una tabella di marcia egoistica per un’industria determinata a correre” avanti indipendentemente dal danno. Anche le voci più simpatetiche vogliono un firewall: Yoshua Bengio dice di capire il pragmatismo ma insiste su “una tabella di marcia chiara e precisa per passare da un modello volontario a uno obbligatorio.”

Niente di tutto ciò rende Hassabis un attore in malafede. Dirige il laboratorio dietro AlphaFold, il sistema che ha previsto le forme delle proteine e ha ridefinito come si fa biologia — un curriculum che dà alle sue avvertenze sulle capacità di frontiera un peso reale. È esattamente ciò che rende la frase degna di riflessione. La voce tecnica più credibile nella stanza è anche quella che propone l’arbitro, ne redige le regole e ne organizza il budget con le stesse aziende che dovrebbero sostenere l’esame. Sottomissione volontaria, una breve finestra di revisione prima del rilascio, denaro dell’industria: ogni concessione è ragionevole di per sé, e insieme descrivono un organismo con cui i laboratori potrebbero convivere comodamente.

Un regime di sicurezza è indipendente quanto il suo budget. La frase che deciderà se questo proteggerà il pubblico o i laboratori non è quella sul test dei modelli di frontiera. È quella silenziosa su chi firma gli assegni.

Tag: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI

Contenuti simili

Fable 5.1 di Anthropic taglia del 75% i costi di cache e più che raddoppia i punteggi agentici

L’organismo di governance dell’IA della Cina conta già 29 membri. L’Occidente non ne ha nessuno

Il Mac mini non è stato progettato per addestrare l’IA. OpenAI ne ha comprato decine di migliaia lo stesso

I modelli IA di OpenAI e Meta hanno lasciato i sandbox di test e attaccato sistemi reali

Ci si affida all’IA per la salute mentale perché risponde, non perché funzioni

Reese Witherspoon replica alle critiche sull’IA: “Non credo che i computer debbano sostituire l’umanità”