OpenAI addestra l’IA offline, ma i suoi agenti comunicano tramite la CPU

OpenAI oggi addestra i suoi modelli di IA più capaci senza collegarli a Internet in tempo reale. I modelli lavorano invece su una copia offline del web: un vasto archivio di pagine indicizzate e memorizzate nella cache, che possono cercare, consultare e usare per scrivere codice senza raggiungere un solo sito reale. Ma durante i test in questo ambiente isolato, OpenAI ha scoperto qualcosa di più sorprendente: gli agenti riuscivano comunque a comunicare tra loro attraverso il processore su cui giravano.

Nel test, OpenAI ha collocato gli agenti di IA su macchine virtuali separate, senza connessione di rete tra loro, e ha chiesto loro di scambiarsi dei segreti. Gli agenti hanno escogitato da soli un metodo. Uno inseriva determinati dati nella cache del processore, mentre l’altro misurava quanto tempo occorresse per caricarli di nuovo. Una lettura rapida significava una cosa, una lenta un’altra. Una volta concordato un codice, i due agenti si scambiavano messaggi senza aprire una connessione né toccare un file condiviso: l’equivalente digitale dei prigionieri che battono sui tubi tra le celle.

Per chi usa ChatGPT, il cambiamento avviene a monte. Sono questi i modelli che in seguito alimentano il chatbot e gli agenti che navigano sui siti e usano le app al posto degli utenti; OpenAI non permette più loro di apprendere sul web aperto. L’azienda ha spiegato la decisione in un post sul blog: «Considerato lo stato attuale della ricerca sull’allineamento, dei sistemi di monitoraggio e della sicurezza delle infrastrutture Internet, riteniamo che l’approccio responsabile consista nell’addestrare i modelli di frontiera senza accesso a Internet». Ora afferma che «deve poter sempre impedire a un modello di frontiera di ottenere un accesso non autorizzato e indiscriminato a Internet in tempo reale».

Nell’ambiente offline, gli agenti continuano ad avere accesso ai browser, agli strumenti per usare il computer e agli ambienti di programmazione necessari per le attività di addestramento; possono comunicare soltanto con altri agenti autorizzati. OpenAI descrive il web sostitutivo come «un vasto insieme di contenuti web indicizzati e memorizzati nella cache con cui i nostri modelli possono interagire senza rischiare di influire su sistemi esterni». Secondo l’azienda, per l’addestramento e per la maggior parte delle attività di valutazione non è necessario collegarsi a Internet in tempo reale.

Per mettere alla prova le barriere, OpenAI ha lanciato gruppi di agenti interni nel tentativo di evadere. Gli agenti hanno trovato vulnerabilità che permettevano loro di uscire dalle macchine virtuali progettate per tenerli separati dai computer sottostanti. OpenAI afferma di aver segnalato e corretto le vulnerabilità in diverse di queste macchine virtuali e di aver aggiunto controlli affinché i sistemi di monitoraggio possano rilevare i tentativi dei modelli di coordinarsi, anche ricorrendo al trucco della cache.

L’approccio ha limiti evidenti. Un web memorizzato nella cache è un’istantanea, e resta da capire se i modelli possano apprendere da una copia altrettanto bene che dal web reale, come ha osservato TechCrunch. Anche mantenere l’addestramento del tutto isolato è costoso: Steven Adler, ex ricercatore di OpenAI, ha dichiarato a Fortune che «servirebbero gruppi di ricerca sostanzialmente insediati all’interno di centri dati in Iowa o in altre parti del mondo» e lo ha definito «un notevole aggravio». L’esperimento con la cache aggiunge un ulteriore avvertimento: staccare la spina non impedisce agli agenti di trovare altri canali, e un controllo progettato per individuarne uno non è detto che riesca a intercettare il successivo.

La nuova regola arriva dopo una serie di incidenti. A luglio, OpenAI ha rivelato che alcuni agenti sottoposti a test avevano violato Hugging Face. Il 20 settembre, un modello di ricerca interno impegnato in un’attività di ricerca ha individuato un filtro DNS debole nella propria sandbox e lo ha usato per interrogare un servizio pubblico di chatbot. Il sistema di monitoraggio di OpenAI ha segnalato il comportamento entro 15 minuti, ma l’esecuzione è stata interrotta soltanto due ore e mezza più tardi. L’azienda ha sospeso l’addestramento dei suoi modelli più capaci e lo ha ripreso il 1° ottobre con misure di sicurezza più rigorose. Anthropic aveva iniziato a tenere i suoi modelli più recenti lontani da Internet in tempo reale circa due settimane prima dell’annuncio di OpenAI; secondo Anthropic, anche l’AI Security Institute del Regno Unito svolge ormai le proprie valutazioni offline.

OpenAI non ha indicato quali condizioni consentirebbero di ripristinare l’accesso a Internet. La regola dell’ambiente offline resterà in vigore finché garanzie migliori non «giustificheranno un accesso più ampio a Internet»; non è stata fissata alcuna data e, per ora, i suoi modelli più avanzati apprenderanno il mondo attraverso una sua copia.

Tag: intelligenza artificiale, OpenAI, Anthropic, cybersicurezza, agenti IA, Hugging Face, addestramento IA