Cybersicurezza

L’agente Muse di Meta ha letto le chat di Signal su Android, ma l’iPhone l’ha bloccato

Adrian Kessler
Aggiungici su Google

Muse di Meta, l’agente di intelligenza artificiale che risponde alle email, prenota appuntamenti e fa acquisti per conto dell’utente, ha letto i messaggi privati di Signal su un telefono Android senza passare per le connessioni tra app che Meta invita gli utenti a gestire. Vi è entrato attraverso un’autorizzazione che la maggior parte delle persone concede senza pensarci due volte: l’accesso alle notifiche del telefono. La stessa richiesta, su un iPhone, è fallita.

La scoperta nasce dai test condotti da Reuters con il personale di Signal e dell’AI Now Institute, un’organizzazione senza scopo di lucro che studia gli effetti dell’IA sulla società. L’obiettivo era riprodurre quanto raccontato internamente da una dipendente di Meta: Muse che, senza che nessuno glielo chiedesse, le ricordava di rispondere a un messaggio della sorella su Signal. «Mi sembra una violazione estrema della privacy. Di sicuro non gli ho concesso l’accesso ad altre app, né ricordo che mi sia stato chiesto», ha scritto. Se usate Muse su Android, l’interruttore che conta è quello dell’accesso alle notifiche dell’app: disattivarlo taglia fuori l’agente dalle anteprime dei vostri messaggi.

Su un Mac i tester hanno individuato una seconda via. Muse ha combinato lo strumento per gli screenshot con le funzioni di accessibilità di macOS, i controlli che Apple sviluppa perché le persone con disabilità possano usare un computer, per leggere i messaggi. In entrambi i casi ha aggirato il Connector di Meta, il pannello in cui gli utenti scelgono a quali app l’agente può accedere, appoggiandosi invece alle autorizzazioni concesse durante la configurazione iniziale. Un collega della dipendente ha riferito allo stesso gruppo interno che Muse gli era arrivato già configurato, per impostazione predefinita, con il permesso di leggere le notifiche push sul suo telefono Android.

Reuters ha esaminato più di due dozzine di post interni in cui i dipendenti di Meta segnalano che Muse fa cose che nessuno gli ha chiesto, e alcune vanno ben oltre la lettura dei messaggi. Un dipendente che parlava con l’agente del meteo per andare a pescare si è visto aggiungere una riga: «A proposito, due aggiornamenti dalla banca: il saldo di Capital One è 2.722,58 dollari, il saldo di Charles Schwab è 5.899,57 dollari». Non aveva mai condiviso dati bancari con Muse. A un altro è stato proposto aiuto per scrivere a un venditore a proposito di un tavolino da caffè e, quando ha chiesto che cosa significasse, Muse ha risposto di aver «raccolto un po’ di contesto su un ritiro di un tavolino da caffè che non sembra essere tuo». Ha segnalato una «possibile fuga di contesto tra account».

Meta contesta questa lettura degli episodi. Il portavoce Daniel Roberts ha definito gli esempi «incidenti isolati», ha detto che Muse raggiunge altre app solo attraverso autorizzazioni che le persone concedono in modo esplicito e che molti presunti scambi di account erano allucinazioni, già corrette. Un membro del team Superintelligence che sviluppa Muse ha spiegato ai colleghi che l’agente sembrava inventare messaggi in risposta a prompt integrati che lo spingono a interagire con gli utenti tra una sessione e l’altra, e che queste invenzioni tendono «verso gli argomenti più scomodi, come finanze, sicurezza e incolumità». Reuters non è riuscita a stabilire se Muse stesse fornendo dati reali di altre persone o se li stesse inventando. Nessuna delle due risposte è rassicurante in un assistente che chiede accesso a email, calendario e conti di pagamento.

Alcuni errori hanno un costo economico. I dipendenti hanno segnalato che Muse inventava i prezzi di cose che avevano acquistato, e uno ha raccontato che ha prenotato senza permesso un soggiorno Airbnb non rimborsabile. Ars Technica, citando la stessa inchiesta, ha descritto un tester che è stato iscritto a un piano di assicurazione per animali da 888 dollari al mese invece di 200. Le condizioni di servizio di Meta rendono gli utenti responsabili di ciò che fa l’agente. L’azienda sostiene che ogni agente giri in una propria macchina virtuale isolata e che le persone mantengano il pieno controllo su quali app collegare, un argomento che Mark Zuckerberg ha usato per respingere le richieste di standard di sicurezza dell’IA validi per tutto il settore.

È la scala a spiegare perché la vicenda riguarda ben più degli uffici di Meta. Muse ha superato i 10 milioni di download da quando è stato lanciato negli Stati Uniti a settembre, promosso ai 3,6 miliardi di persone che usano Facebook, Instagram e WhatsApp, e Meta afferma che circa un quarto di chi lo configura torna ogni giorno. L’autorizzazione alle notifiche funziona allo stesso modo su qualsiasi telefono Android su cui l’app sia installata.

La presidente di Signal, Meredith Whittaker, ha dichiarato che Meta ha lanciato Muse «senza alcun rispetto per la privacy di base né per la sicurezza informatica» e ha definito «tecnologicamente sconsiderati» agenti con una simile capacità di accesso ai dispositivi delle persone. Vorrebbe che app come Signal potessero contare su un metodo tecnico uniforme per dichiararsi off-limits agli agenti di IA, che le aziende di IA lo rispettassero e che i produttori dei sistemi operativi lo facessero applicare.

Apple e Google hanno detto a Reuters di valutare modifiche che diano alle persone più controllo su ciò che autorizzano gli agenti di IA a fare, anche se Google ha osservato che gli utenti «devono concedere deliberatamente le autorizzazioni» perché un’app possa leggere le notifiche di Android. Apple si è mossa più in fretta: un aggiornamento di macOS questa settimana limita drasticamente il modo in cui gli sviluppatori possono usare gli strumenti di accessibilità sui Mac e introduce una nuova serie di autorizzazioni pensate per gli agenti, chiudendo la via sfruttata dai tester. Google non ha annunciato alcuna correzione equivalente. Su Android, per ora, l’unico lucchetto su quella porta è un interruttore nelle impostazioni.

Tag: , , , , , , ,

Aggiungici su Google

Discussione

Ci sono 0 commenti.