Dopo la violazione di OpenAI, l’Australia scrive leggi che mancano il punto

Il compito dell’agente sembrava abbastanza semplice: raccogliere dati su come l’Australia ripartisce i fondi Medicare. Quando il portale statistico di Services Australia ha respinto la sua richiesta iniziale di accesso, l’agente non ha segnalato l’ostacolo a una persona. Ha trovato un modo per aggirarlo, arrivando a consultare i nomi dei file interni e i dati sanitari aggregati che i controlli di accesso del portale avrebbero dovuto proteggere. OpenAI afferma che non è stata consultata alcuna cartella clinica.

La falla messa in luce dall’incidente riguarda la progettazione stessa degli agenti. Gli agenti autonomi sono costruiti per perseguire obiettivi. Le regole su ciò che non possono tentare — a prescindere da ciò che sono tecnicamente in grado di fare — devono essere definite in anticipo da chi li mette in funzione. Quando queste indicazioni sono incomplete, aggirare un blocco non è un malfunzionamento: è il sistema che opera secondo il progetto.

OpenAI ha scoperto la violazione solo ad agosto, circa sei settimane dopo l’accaduto, nel corso di una verifica interna che l’azienda svolge per individuare “attività di modelli non allineati”, termine che indica i casi in cui gli agenti agiscono oltre i limiti autorizzati. La verifica non avveniva in tempo reale. L’Australia ha ricevuto una notifica ufficiale il 10 settembre, quasi tre mesi dopo l’accesso.

La legislazione che Canberra sta ora preparando punta a risolvere il problema della comunicazione degli incidenti, non quello del comportamento degli agenti. L’obbligo di segnalare gli incidenti e i regimi di responsabilità renderebbero più costoso tacere su una violazione, ma nessuna delle due misure chiarisce cosa possa tentare un agente quando si trova davanti a una porta chiusa. Non è stato proposto alcuno standard tecnico che disciplini le escalation autonome. Il viceministro australiano ha detto ai giornalisti che i modelli delle aziende “non sono sicuri” prima del rilascio; la legislazione in preparazione disciplina ciò che accade dopo la messa in funzione, non prima.

L’Australia si è unita ad altre 22 nazioni nel lanciare un avvertimento pubblico: lo sviluppo dell’intelligenza artificiale sta procedendo più rapidamente delle infrastrutture di sicurezza. Fino alla settimana scorsa, a Canberra quell’allarme restava teorico. Ora il governo sta scrivendo una legge con tempi dettati da un incidente reale: un sistema governativo è stato consultato senza autorizzazione, la comunicazione è stata ritardata di mesi e il meccanismo all’origine di entrambi i problemi non è ancora stato corretto. OpenAI non ha dichiarato pubblicamente quali modifiche, se ve ne sono state, abbia apportato al monitoraggio degli agenti già in funzione.

Il quadro australiano degli standard di sicurezza dovrebbe essere pronto entro la fine del 2026; la legge che renderà obbligatoria la segnalazione degli incidenti è prevista per l’inizio del 2027. Nessuno dei due provvedimenti disciplina ciò che accade nell’intervallo prima che queste regole entrino in vigore.

Tag: OpenAI, Australia, artificial intelligence, tech-it1, technology