Affari e finanza

Meredith Whittaker, la presidente di Signal che vede negli agenti IA una porta sul retro

Penelope H. Fritz
Aggiungici su Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Nascita2000
ProfessionePresidente della Signal Foundation
PremiPremio Helmut Schmidt Future

Venerdì Signal ha attivato un’impostazione che la maggior parte dei suoi utenti non noterà mai. Sui nuovi iPhone l’app ora impedisce a Siri, l’intelligenza artificiale di Apple, di leggere ciò che compare sullo schermo all’interno di una chat e blocca per impostazione predefinita gli screenshot; su Android, invece, chiude la finestra ogni volta che Gemini di Google prova a dare un’occhiata. Meredith Whittaker, presidente di Signal, ha annunciato di persona la novità e, nello stesso post, ha ammesso che non basta. Gli agenti che Apple, Google e Microsoft stanno integrando nei loro sistemi operativi possono ancora accedere a ciò che è archiviato sul dispositivo e, su un Mac, Signal non può fermarli in alcun modo. Whittaker l’ha definita una minaccia esistenziale per l’app che guida.

Lo scontro le calza a pennello, ma mette anche a nudo il dilemma al centro della sua carriera. Whittaker ha passato oltre dieci anni dentro Google prima di diventare una delle critiche più taglienti del modello di business che quel lavoro finanziava. Oggi guida un servizio di messaggistica senza scopo di lucro che si rifiuta di raccogliere dati, non vende nulla e dipende dai donatori, ma che deve vivere su telefoni costruiti proprio dalle aziende i cui prodotti di intelligenza artificiale lei giudica sconsiderati. Signal può cifrare un messaggio da un capo all’altro. Non può cifrare il sistema operativo.

Il suo ingresso nel mondo della tecnologia è stato tutt’altro che scontato. Whittaker ha studiato retorica e letteratura inglese all’Università della California a Berkeley ed è entrata in Google nel 2006, dove è rimasta per tredici anni. Ha fondato il gruppo Open Research, che collaborava con accademici e sviluppatori open source su misurazione della neutralità della rete, privacy e sicurezza, ed è stata cofondatrice di M-Lab, il Measurement Lab, una rete aperta diventata la maggiore fonte pubblica di dati sulle prestazioni di internet.

La misurazione le ha insegnato a diffidare delle affermazioni prive di prove. Nel 2017, dopo un simposio ospitato dalla Casa Bianca, ha cofondato con la ricercatrice Kate Crawford l’AI Now Institute presso la New York University. L’istituto studiava che cosa l’intelligenza artificiale faccia alle persone su cui viene usata, più che ciò che sa fare in una demo, e i suoi rapporti tornavano continuamente su una tesi: il problema più profondo riguardava meno il codice distorto che la proprietà di questi sistemi e i bersagli contro cui vengono puntati. In seguito ha ricoperto la Minderoo Research Professorship alla NYU ed è stata direttrice della facoltà di AI Now; oggi ne è la consulente principale.

Quella tesi l’ha messa in rotta di collisione con il suo datore di lavoro. Nel 2018 ha scritto una petizione contro il Project Maven, un contratto del Pentagono nell’ambito del quale Google sviluppava strumenti di visione artificiale per il programma di droni degli Stati Uniti. Oltre tremila dipendenti l’hanno firmata e Google non ha rinnovato il contratto. Pochi mesi dopo è stata tra le principali organizzatrici del Google Walkout, quando più di ventimila dipendenti hanno lasciato la scrivania dopo le notizie di una buonuscita da 90 milioni di dollari versata ad Andy Rubin, dirigente accusato di molestie sessuali. Whittaker ha raccontato in seguito che Google l’ha punita intimandole di abbandonare il lavoro presso AI Now. Ha lasciato l’azienda nel luglio 2019.

Nella stessa estate ha dichiarato alla Commissione Scienza della Camera dei Rappresentanti che i sistemi di intelligenza artificiale possono radicare i pregiudizi e ha chiesto tutele per i lavoratori del settore tecnologico che denunciano irregolarità. All’inizio del 2020 si è spinta oltre davanti alla Commissione Sorveglianza della Camera, sostenendo che il problema del riconoscimento facciale non era soltanto l’accuratezza, ma il potere di chi lo impiega su persone che ne hanno meno, e chiedendone la cessazione. Dal novembre 2021 è stata consulente senior sull’intelligenza artificiale della presidente della Federal Trade Commission, Lina Khan.

Signal l’ha assunta nel settembre 2022 come prima presidente, una carica creata insieme ai vertici dell’app. Signal non ospita pubblicità e non ha dati degli utenti da vendere, e Whittaker ha detto apertamente che gestirla costa circa 50 milioni di dollari l’anno. Gran parte dei suoi primi tempi alla guida è stata dedicata a spiegare perché un servizio di messaggistica che conserva quasi nulla dei suoi utenti abbia comunque bisogno di un grande team di ingegneri e di donatori costanti, e perché l’alternativa sia essere pagati in sorveglianza.

I suoi detrattori indicano i limiti di questo modello. Il protocollo di cifratura di Signal protegge già le conversazioni di WhatsApp, eppure l’app resta una frazione delle dimensioni del prodotto di Meta costruito sulla sua crittografia, e la capacità di Whittaker di fare pressione sui governi poggia in larga parte su un’unica minaccia: che Signal lasci un paese piuttosto che indebolire la propria cifratura. L’ha puntata contro l’Unione europea e, di nuovo a giugno, contro il Regno Unito. La minaccia è credibile perché un’app finanziata da donazioni non ha azionisti da accontentare, ma rende anche la risposta di Signal ai regolatori più simile a un esilio che a una trattativa. L’episodio che ha portato all’app la maggiore ondata di attenzione ha mostrato una distanza analoga. Quando, nel marzo 2025, si è scoperto che alti funzionari statunitensi avevano discusso piani militari in un gruppo Signal a cui era stato aggiunto per errore un giornalista, Whittaker ha difeso la cifratura definendola il gold standard della comunicazione privata e ha fatto notare che nessuna applicazione può impedire di aggiungere la persona sbagliata a una chat. Una visibilità di quelle dimensioni è difficile da rifiutare e ancora più difficile da controllare.

Da allora la sua attenzione si è spostata dai governi alle aziende che producono i dispositivi. A Davos, a gennaio, ha definito pericolosi per i servizi cifrati gli agenti di intelligenza artificiale integrati nei sistemi operativi, avvertendo che un sistema dotato di accesso root può essere dirottato. In un’intervista a Bloomberg a giugno ha detto che i chatbot non sono tuoi amici e ha descritto un assistente con accesso ai suoi dati di pagamento e al suo account Signal come una sorta di backdoor. Questa settimana, alcuni test condotti da Reuters con il personale di Signal e di AI Now hanno rilevato che l’agente Muse di Meta leggeva le chat di Signal su Android tramite l’accesso alle notifiche, e Whittaker ha definito tecnologicamente sconsiderati gli agenti con una portata di questo tipo.

Nel 2023 TIME l’ha inserita nella sua prima lista delle persone più influenti nell’intelligenza artificiale. Nel maggio 2024 ha ricevuto ad Amburgo l’Helmut Schmidt Future Prize, conferito da Die Zeit e dai suoi partner per il lavoro su democrazia e tecnologia, e nel luglio 2025 è entrata nel consiglio di amministrazione del gruppo editoriale tedesco Hubert Burda Media.

Ciò che accadrà ora dipende meno da Signal che da Apple, Google e Microsoft. Whittaker ha chiesto a tutte e tre un sistema documentato che permetta alle app di tenere gli agenti di intelligenza artificiale lontani dai propri schermi e dai propri dati, e Signal afferma di essere cautamente ottimista sul fatto che Google e Apple stiano dialogando. Se lo costruiranno, il blocco attivato questa settimana diventerà uno standard del settore. In caso contrario, il servizio di messaggistica più riservato sul mercato continuerà a distribuire soluzioni di ripiego contro i telefoni su cui funziona, e la sua presidente continuerà a dirlo pubblicamente.

Tag: , , , , , , ,

Aggiungici su Google

Discussione

Ci sono 0 commenti.