Cybersicurezza

Claude è entrato nei sistemi di OpenAI in pochi giorni: i conti li deve fare Anthropic

Adrian Kessler
Aggiungici su Google

Un piccolo team ha puntato il nuovo modello di Anthropic contro la porta principale di OpenAI e ci è passato attraverso. La versione che la maggior parte delle persone legge — degli abili outsider che mettono in imbarazzo il creatore di ChatGPT — sbaglia il bersaglio. L’intrusione non è dipesa da qualcosa che OpenAI si è dimenticata di correggere. È dipesa dal momento in cui Anthropic ha rilasciato un Claude più capace. È questo il punto su cui vale la pena soffermarsi: un lavoro che si era arenato per giorni si è risolto da solo non appena un nuovo modello di punta è diventato operativo.

Le persone coinvolte non erano criminali. Ricercatori della startup di sicurezza Hacktron hanno operato all’interno del programma bug-bounty di OpenAI, hanno concatenato un paio di vulnerabilità web poco appariscenti, raggiunto gli account dei dipendenti OpenAI, e si sono spinti fino a un repository interno di codice — poi si sono fermati, hanno segnalato quanto trovato e hanno ricevuto un modesto premio. Hanno lasciato un segnalatore innocuo come prova e non sono andati oltre. Letto come un crimine, è un non-evento. Letto come un test di capacità, è un razzo che si alza.

Ecco il meccanismo che la copertura delle agenzie ha sorvolato. Il team ha prima eseguito il lavoro su Claude Opus 4.8, la versione ottimizzata per la sicurezza, e si è arenato in sessioni ripetute. Poi Anthropic ha rilasciato Opus 5. “Opus 4.8 ha faticato per diverse sessioni a produrre un exploit funzionante”, ha scritto il team di Hacktron. “Entro poche ore dal rilascio di Opus 5, gli abbiamo dato lo stesso problema e ha avuto successo.” VentureBeat ha riportato che il modello più recente ha scritto un exploit funzionante per un bersaglio chip scomodo in poche ore. Nulla è cambiato nelle difese di OpenAI in quella finestra. È cambiato il modello.

È esattamente il tipo di salto — un balzo in ciò che un utente normale può fare con un abbonamento standard — che i meccanismi di sicurezza di Anthropic sono progettati per rilevare e trattenere. L’azienda tiene il suo modello cyber più capace, Mythos, dietro controlli all’esportazione e una breve lista di difensori verificati, e lo definisce il modello di sicurezza più potente mai costruito. Nulla di tutto ciò ha avuto importanza. Il livello pubblico è stato sufficiente. Come ha detto a TechCrunch Matt Fredrikson, amministratore delegato di Gray Swan, “per 200 dollari al mese, chiunque può usare questi strumenti e hackerare un’azienda come OpenAI.”

È qui che la responsabilità ricade su Anthropic piuttosto che sulla rivale. Anthropic ha costruito tutta la sua identità sulla cautela — il suo amministratore delegato, Dario Amodei, parla apertamente dei “pericoli reali” della tecnologia e ha spinto il settore a rallentare. Un modello rilasciato al pubblico che abbassa misurabilmente la soglia per intrufolarsi in un laboratorio concorrente è un contrappeso scomodo a quel messaggio. Interpellata per darne conto, l’azienda non ha detto nulla; CBS News ha riportato che Anthropic non ha risposto a una richiesta di commento. OpenAI, dal canto suo, ha ringraziato i ricercatori, ha ristretto le autorizzazioni di cui gli aggressori avevano abusato e ha revocato le sessioni interessate.

I dettagli sono quasi banali. La via d’accesso era una libreria di elaborazione immagini obsoleta inclusa nel software Discourse che gestisce il forum della community di OpenAI; un secondo errore nella definizione dell’ambito dei token di accesso ha permesso ai ricercatori di cavalcare una sessione compromessa fino agli account dei dipendenti per ChatGPT e Codex, e poi al codice privato. L’intera catena, dal primo punto d’appoggio all’accesso al repository, ha richiesto meno di tre giorni. OpenAI ha pagato 6.500 dollari. Il team dice di aver speso meno di 3.000 dollari di tempo Claude per tutto lo sforzo — due mesi di lavoro, per lo più umano, compressi alla fine in una macchina che non aveva più bisogno di uno specialista.

La risorsa scarsa che un tempo proteggeva un bersaglio non era mai la patch. Era l’esperto in grado di trovare i difetti, saldarli insieme e vedere il percorso — e i mesi che ciò richiedeva. Quella competenza è appena diventata economica. Questa volta il team che ha raggiunto il codice di OpenAI ha presentato un rapporto e ha preso la taglia. Il prossimo che supererà la stessa soglia, con lo stesso abbonamento, non ha alcun obbligo di farlo.

Tag: , , , , ,

Aggiungici su Google

Discussione

Ci sono 0 commenti.