Cybersicurezza

Sette laboratori cinesi di IA hanno copiato 151 milioni di conversazioni Claude in segreto

Adrian Kessler

Sette aziende cinesi di intelligenza artificiale hanno passato mesi ad alimentare silenziosamente i propri modelli con risposte rubate a Claude, e Anthropic ha ora fatto i nomi di tutte e sette. I laboratori — Alibaba, DeepSeek, Moonshot AI, Xiaomi, Zhipu, MiniMax e SenseTime — hanno utilizzato reti di account fraudolenti per instradare le conversazioni dei loro utenti verso Claude, raccogliere le risposte e usarle per addestrare modelli concorrenti più economici. Il processo si chiama distillazione e, per la scala documentata da Anthropic, è la più grande operazione non autorizzata di addestramento di IA mai resa pubblica.

Alibaba ha condotto la campagna più grande. Tra maggio e luglio 2026, la sua operazione ha registrato 151 milioni di scambi con Claude utilizzando oltre 3.500 account fraudolenti, con un picco di circa 3 milioni di conversazioni rubate al giorno. Moonshot AI — l’azienda dietro l’assistente Kimi usato da decine di milioni di persone — ha effettuato 23 milioni di scambi e reindirizzato circa 300.000 sessioni attive dei propri clienti attraverso Claude tramite una rete proxy di 5.380 account falsi. DeepSeek ha registrato 12,1 milioni di scambi in 14 giorni. Zhipu, Xiaomi, MiniMax e SenseTime hanno aggiunto centinaia di migliaia di scambi, con SenseTime che ha compiuto l’insolito passo di acquistare trascrizioni di Claude direttamente da fornitori terzi di dati.

Il volume è impressionante, ma il contenuto conta di più. Anthropic ha dichiarato che gli scambi rubati includevano informazioni sensibili di singoli utenti, grandi multinazionali e organizzazioni legate allo Stato. La distillazione tratta per progettazione gli output dell’IA come materiale di addestramento anonimo, ma queste non erano sessioni anonimizzate. Erano conversazioni in tempo reale da Kimi, Xiaomi AI e altre app cinesi, passate attraverso Claude in tempo reale, prima di essere reimmesse nelle pipeline di addestramento dei laboratori.

La tecnica funziona perché gli output di un modello più forte possono insegnare a un modello più piccolo ad approssimare lo stesso ragionamento — la stessa logica che uno studente applica quando studia le risposte risolte di un professore. I laboratori stavano esternalizzando la parte più difficile dello sviluppo dell’IA a Claude e ai suoi utenti, senza pagare e senza dichiararlo. Anthropic afferma di aver rilevato le campagne a partire da febbraio 2026, con le operazioni più grandi proseguite fino a luglio.

Nessuna delle sette aziende ha risposto pubblicamente al resoconto di Anthropic. Questo silenzio è notevole: la distillazione è una tecnica standard nella ricerca sull’IA, ma condurla su scala industriale utilizzando account fraudolenti, violando i termini di servizio di un concorrente e coinvolgendo dati personali in tempo reale degli utenti, va oltre qualsiasi cosa l’industria abbia mai documentato in precedenza.

Anthropic ha preso provvedimenti per chiudere l’esposizione. L’azienda sta bandendo gli account dei rivenditori da regioni in cui il suo servizio non è ufficialmente supportato, tra cui Cina, Russia e Iran. Ha inoltre aggiornato Claude per riassumere il suo ragionamento interno prima di fornire una risposta finale — un cambiamento volto a rendere più difficile per i concorrenti replicare le tracce grezze di ragionamento. Un nuovo sistema chiamato ‘preserved thinking’ crittografa queste tracce in modo che non possano essere estratte tramite manipolazione dei prompt.

Le contromisure affrontano il vettore di attacco tecnico ma lasciano aperta una domanda più difficile. Chiunque abbia usato Kimi, l’assistente AI di Xiaomi, o le altre app interessate durante il periodo documentato potrebbe aver visto le proprie conversazioni catturate e processate attraverso Claude all’insaputa. Anthropic non ha detto se notificherà gli utenti interessati, e i laboratori cinesi non si sono impegnati a rivelare la pratica ai propri clienti.

Tag: , , , , , ,

Discussione

Ci sono 0 commenti.