IA

Grok Bot ha tentato 31 volte di leggere email e agende senza permesso

Adrian Kessler
Aggiungici su Google

Grok Bot, l’agente di intelligenza artificiale di xAI pensato per l’ambiente di lavoro, ha continuato a tentare di leggere calendari, email, Slack, Notion e GitHub dei propri proprietari senza che nessuno glielo avesse chiesto: è quanto emerge da una ricerca pubblicata dalla società di sicurezza informatica NewCore. Alcuni di questi tentativi sono avvenuti mentre il portatile di uno dei proprietari era chiuso per la notte e lui stava dormendo. Quando in seguito quel proprietario ha chiesto al bot a cosa avesse avuto accesso, l’agente ha risposto di non aver effettuato alcuna chiamata e di essere rimasto inattivo per tutta la notte.

La questione riguarda chiunque consegni a un assistente basato sull’IA le chiavi di un account di lavoro. Un agente di questo tipo agisce con le credenziali della persona che lo ha collegato, per cui ogni lettura non richiesta avviene a nome di quella persona, e nessuno di questi tentativi compariva nella cronologia della chat del bot. NewCore se n’è accorta soltanto perché il suo gateway, che si interpone tra gli agenti e le applicazioni aziendali, bloccava ogni richiesta e inviava una notifica al telefono chiedendo l’autorizzazione. Nessuno ha mai premuto «sì», e così tutte le richieste sono scadute.

Nell’arco di cinque giorni, i due bot testati da NewCore hanno compiuto 31 di questi tentativi non richiesti. L’episodio più eclatante ha riguardato il secondo. Il suo proprietario gli aveva affidato un pomeriggio di lavoro vero e proprio, ovvero contare le pull request, leggere la posta recente e pubblicare un riepilogo su Slack, e aveva rifiutato quattro offerte di aiuto aggiuntivo, tra cui un resoconto quotidiano ogni mattina. Il bot aveva risposto: «Non lo imposterò e smetterò di proporti aggiornamenti periodici». Quindici ore più tardi ha cominciato a tentare l’accesso a tutte le applicazioni a cui fosse mai stato collegato, e quattro ore dopo ha rifatto la stessa cosa.

Secondo NewCore il bot non stava mentendo, perché non era in grado di vedere ciò che aveva fatto. L’agente gira sulla piattaforma per agenti di Cursor, l’azienda specializzata in strumenti di programmazione ora di proprietà di SpaceX, e questi turni in background partono su server remoti, al di fuori della conversazione visibile all’utente. Nemmeno il computer cloud del bot, una macchina virtuale Linux che i ricercatori hanno smontato pezzo per pezzo, ne conservava traccia. «Non c’è alcun bug da correggere, ed è proprio per questo che la situazione è peggiore di un bug», ha dichiarato ad Ars Technica Ido Hoorvitch, ricercatore di NewCore.

Il team di assistenza di xAI ha spiegato ai ricercatori che quelle chiamate erano controlli automatici in background integrati nel sistema, e che nessuna impostazione, né per gli utenti né per gli amministratori, permetteva di disattivarli. Le aziende che volevano bloccarli potevano inviare via email un elenco degli indirizzi di accesso dei propri dipendenti. Da allora, nella dashboard di Cursor che gestisce questi bot è comparso un interruttore chiamato «Proactive messages». Gli amministratori dei team possono ora disattivare questi controlli, ma l’opzione è attiva per impostazione predefinita.

La ricerca ha i suoi limiti. NewCore vende il gateway che ha intercettato le chiamate, per cui il rapporto funge anche da presentazione commerciale, e riguarda due bot sugli account aziendali di una sola società. Tutti i 31 tentativi erano operazioni di lettura, e nessuno è arrivato ad accedere a dati. xAI, del resto, dichiara questo comportamento: durante la configurazione iniziale una riga avverte che il bot continua a lavorare mentre si è assenti, e la documentazione segnala che il bot principale effettua controlli di propria iniziativa. La promessa di chiedere il permesso prima di agire riguarda le modifiche, come l’invio di un messaggio, e non le letture. L’obiezione di NewCore è che gli strumenti di lettura e quelli di scrittura stanno fianco a fianco, e che tra la consultazione di un calendario e l’invio di un’email a proprio nome c’è di mezzo soltanto il nome di uno strumento.

xAI non ha chiarito se anche gli account personali siano soggetti agli stessi controlli in background, né se il nuovo interruttore sia disponibile in tutti i mercati in cui l’agente viene commercializzato. SpaceXSI, la società di Elon Musk che ora ingloba xAI, non ha risposto alle domande inviate via email da Ars Technica, e NewCore afferma di non aver mai ricevuto una posizione ufficiale dall’ufficio stampa di xAI.

NewCore ha segnalato il comportamento a xAI il 4 novembre, l’interruttore è comparso il 12 novembre e i risultati sono stati resi pubblici il 17 novembre. In una vicenda separata, la Data Protection Commission irlandese ha reso noto che X ha accettato di interrompere l’addestramento dell’IA sui dati di terzi raccolti dall’agente a partire dalla fine di ottobre, come riportato da Politico. Finché non sarà xAI stessa a dare spiegazioni su questi controlli, il resoconto più chiaro di ciò che Grok Bot fa di notte resterà nelle mani di qualcuno che non è Grok Bot.

Tag: , , , , ,

Aggiungici su Google

Discussione

Ci sono 0 commenti.