OpenAI e Anthropic vogliono frenare l’IA, e così si scavano un fossato

La cosa sorprendente dell’entusiasmo improvviso per rallentare l’intelligenza artificiale non è che le persone che la stanno costruendo ora vogliano freni. È che i freni che descrivono sono quelli che solo loro possono permettersi comodamente. Quando i leader dei laboratori di IA più preziosi concordano, quasi all’unisono, che il campo sta andando troppo veloce, il caso della sicurezza è reale — e così è il caso commerciale che sta silenziosamente sotto.

L’innesco è stata una chiamata di Dario Amodei di Anthropic per “mettere il passo alla frontiera”: rallentare il ritmo con cui migliorano le capacità dei modelli, installare valutatori indipendenti all’interno dei laboratori e far sì che i principali attori nei paesi democratici concordino su standard di sicurezza comuni. Ha inquadrato la reazione pubblica contro l’IA come, nelle sue parole, una crisi di fiducia. In una breve finestra temporale, Sam Altman ha detto di essere d’accordo e che OpenAI stava discutendo esattamente questo; Elon Musk ha offerto un’approvazione di due parole, “Dario ha ragione.” La copertura mediatica l’ha trattato come una coscienza in ritardo che arriva tutta in una volta.

Leggete lo stesso piano come analista piuttosto che come responsabile della sicurezza e appare un secondo quadro. Revisori di terze parti incorporati, test di allineamento certificati, framework di rischio pubblicati e segnalazione di incidenti non sono solo salvaguardie; sono costi fissi. E i costi fissi sono l’arma competitiva più affidabile che una grande azienda possieda, perché ricadono su tutti allo stesso modo in dollari e su nessuno allo stesso modo in termini di dolore.

Considerate l’aritmetica. I più grandi fornitori di infrastrutture cloud e IA degli Stati Uniti si sono impegnati a investire qualcosa come 660-690 miliardi di dollari in spese in conto capitale per il prossimo anno, con Amazon da sola vicino a 200 miliardi e Alphabet, Meta e Microsoft ciascuno nelle centinaia di miliardi o in avvicinamento. Contro bilanci come questi, un regime di conformità — un team di valutatori incorporati, un framework di sicurezza annuale, una sanzione che la California limita a un milione di dollari per violazione — è un errore di arrotondamento. Per una startup che cerca di raggiungere la frontiera, è l’intera pista di decollo.

Questo non è più ipotetico. La SB 53 della California definisce già un “grande sviluppatore di frontiera” con due porte: modelli addestrati sopra una soglia di calcolo molto alta e più di mezzo miliardo di dollari di fatturato. Queste aziende devono pubblicare framework di sicurezza e segnalare incidenti critici con scadenze strette. In Europa, l’articolo 55 dell’AI Act richiede ai fornitori dei modelli di uso generale più capaci di eseguire test avversari, mitigare il rischio sistemico e segnalare incidenti gravi. Il pavimento viene versato; la domanda è chi è abbastanza alto per starci sopra senza accorgersene.

Il segnale più chiaro è chi non sta chiedendo freni. Il piano non nomina mai i suoi perdenti naturali, ma sono facili da identificare: i laboratori il cui intero modello è dare via i pesi — Meta, Mistral francese, DeepSeek e Alibaba cinesi. Come ha detto un’analisi dissenziente, questi sono “i quattro nomi che il saggio non stampa mai,” i creatori dei modelli gratuiti che un cliente pagante potrebbe altrimenti scaricare invece di noleggiare un’API. Non puoi certificare l’allineamento di un modello che chiunque può modificare in un pomeriggio, quindi un regime di standard mirato alla frontiera colpisce più duramente i pesi aperti. E il campo aperto sta vincendo proprio gli utenti che gli incumbent preferirebbero tenere: un modello cinese aperto, Qwen, conta download nell’ordine dei miliardi dove Llama di Meta conta nelle centinaia di milioni.

Niente di tutto questo è nuovo. È la mossa più vecchia in qualsiasi industria regolamentata — il giocatore affermato accoglie il regolamento che può permettersi, perché un costo che è banale sui suoi libri è un muro per un rivale. Gli economisti hanno un nome semplice per questo, cattura regolatoria, e non richiede malafede. Un argomento di sicurezza può essere completamente sincero e funzionare comunque come barriera all’ingresso. Qui, entrambe le cose sono vere allo stesso tempo.

Per l’Europa la posta in gioco è più tagliente di quanto sembri. L’unico sfidante credibile della frontiera del continente, Mistral, è precisamente un laboratorio a pesi aperti, e i suoi clienti spagnoli e più ampi europei — le startup che costruiscono prodotti su modelli economici e modificabili — sono quelli che perdono di più se il pavimento di conformità globale viene scritto attorno a quattro incumbent americani. Un regolamento progettato a San Francisco e ratificato a Bruxelles può proteggere il pubblico e tirare su la scala dietro i leader allo stesso tempo.

Quindi benvenuta la svolta della sicurezza: i rischi sono reali e i valutatori sono in ritardo. Ma guardate cosa viene dopo. Se le regole finali si stabiliscono esattamente dove i quattro giganti possono pagare e nessuno più piccolo può, il rallentamento non avrà messo il passo alla frontiera tanto quanto l’avrà recintata.

Tag: OpenAI, Anthropic, AI regulation, Mistral, open-weight models