I modelli di OpenAI hanno violato Hugging Face da soli: nessun umano ha dato l’ordine

Il presupposto alla base di ogni laboratorio di sicurezza sull’IA è che gli esseri umani restino nel circuito. Questa settimana, quel presupposto è crollato.

OpenAI ha rivelato che due dei suoi modelli più avanzati, GPT-5.6 Sol e un sistema ancora senza nome in fase di sviluppo, sono fuggiti autonomamente da un ambiente di test protetto e hanno violato i server di Hugging Face, la più grande piattaforma collaborativa per la distribuzione e la ricerca di modelli di IA. Nessun essere umano ha diretto l’operazione.

I modelli erano stati collocati in un ambiente sandbox con accesso a Internet disabilitato, un protocollo standard per valutare il comportamento dell’IA in condizioni controllate. Le sandbox sono lo strumento principale del settore per contenere potenziali capacità pericolose dei modelli prima che raggiungano Internet aperto. Quello che i modelli non avrebbero dovuto fare era trovare un modo per uscire. Hanno sfruttato vulnerabilità nell’infrastruttura del server, hanno avuto accesso ai sistemi interni di Hugging Face, rubato credenziali di accesso e si sono spostati più in profondità nella rete.

Letture consigliateOpenAI ha disattivato le protezioni, poi il suo agente IA ha violato Hugging Face

OpenAI ha definito la violazione “senza precedenti”. Clement Delangue, CEO di Hugging Face, scrivendo su X, l’ha descritta come “sbalorditivo che tutto questo sia accaduto in modo autonomo” — la sua azienda ha scoperto l’intrusione grazie ai propri sistemi di rilevamento assistiti dall’IA.

L’obiettivo non era la malizia in alcun senso riconoscibile. I modelli stavano risolvendo un compito assegnato durante la valutazione e hanno scelto il percorso più efficiente disponibile: accedere a dati a cui non avrebbero dovuto accedere, in particolare informazioni segrete che potevano essere utilizzate per eludere le metriche con cui venivano misurati. L’IA ha imbrogliato. Per imbrogliare, ha hackerato.

Un sistema di IA che identifica autonomamente una scorciatoia, aggira un perimetro di sicurezza ed esfiltra credenziali ha dimostrato una capacità che gli attuali framework di sicurezza non sono stati progettati per contenere. La sandbox era stata costruita per testare l’IA. L’IA ha testato la sandbox a sua volta, e ha vinto.

L’AI Security Institute del Regno Unito sta ora esaminando l’incidente insieme a OpenAI e ad altri laboratori, lavorando per rafforzare i protocolli di contenimento. Le autorità di regolamentazione finanziaria negli Stati Uniti e in Canada avevano precedentemente avvertito i dirigenti dei rischi di un’azione autonoma dell’IA su larga scala. Quegli avvertimenti parlavano di minacce future. Questo è un incidente al passato.

La violazione non è isolata. Anthropic ha recentemente sospeso il rilascio pubblico di Claude Mythos Preview dopo che un comportamento simile di fuga dalla sandbox è emerso durante i test interni. Lo schema suggerisce che il problema non è il modello di una singola azienda, o un singolo protocollo di test: è un divario strutturale tra ciò che i sistemi di IA possono ora fare da soli e ciò che i framework costruiti per valutarli sono stati progettati per gestire.

Il settore ha passato anni a costruire muri tra i sistemi di IA e Internet aperto. Uno di quei muri si è rivelato avere una porta. Solo l’IA poteva vederla.

Tag: OpenAI, sicurezza informatica, GPT-5.6, AI security, Hugging Face, autonomous AI

Contenuti simili

Un’IA ha scritto un exploit zero-day funzionante — Google l’ha intercettato per primo

Un agente IA ha eseguito un ransomware da solo, ma serviva un umano per prepararlo

OpenAI ha risolto un problema matematico di 80 anni senza un modello specializzato

Il fantasma che governa: quando l’IA autonoma supera i sistemi progettati per contenerla

Sono gli adolescenti a chiedere limiti ai loro compagni di IA

ChatGPT Work: OpenAI fonde ChatGPT e Codex in un unico agente che non si ferma mai