Cybersicurezza

OpenRouter esclude tre provider di IA dopo mesi di prompt rubati

Adrian Kessler
Aggiungici su Google

OpenRouter, il servizio che molte app di intelligenza artificiale usano per inviare i prompt al fornitore di modelli più economico o più veloce, ha rimosso tre di questi host dalla propria piattaforma e ha tolto l’etichetta Zero Data Retention a più di cento endpoint. A far scattare la decisione è stato un esperimento che ha inserito credenziali false nei prompt per poi osservare chi cercava di usarle. Alcuni dei prompt finiti in mano altrui erano stati contrassegnati come da non conservare mai.

Se usate un chatbot, un assistente per la programmazione o uno strumento di scrittura costruito sul modello di qualcun altro, il vostro testo può passare attraverso diverse aziende prima che torni una risposta, e ciascuna di esse è in grado di leggerlo per intero. OpenRouter sostiene che i risultati non mostrano alcuna violazione dei propri sistemi. I punti deboli stavano più a valle nella catena, presso le aziende che i modelli li fanno girare davvero.

La ricerca porta la firma di Dragos, società di sicurezza il cui chief research officer, HD Moore, ha guidato il lavoro. In cinque mesi il suo team ha inviato quasi due milioni di prompt, ciascuno con un link web, una password di server o una chiave di Amazon Web Services che non esisteva da nessun’altra parte. Un segreto inserito ad arte si può conoscere solo dal prompt che lo conteneva, quindi qualunque utilizzo dimostra che qualcuno ha letto quel prompt. I primi token sono stati usati nel giro di pochi giorni.

La scoperta più grave è stata un furto vero e proprio. Degli attaccanti si erano introdotti in tre fornitori di inferenza, e nessuno dei tre se n’era accorto prima che glielo dicessero i ricercatori. Nel caso più ampio, ogni richiesta inviata a un fornitore durante alcune brevi finestre temporali è stata copiata, comprese quelle che il fornitore aveva respinto prima ancora che un modello entrasse in funzione: il ladro, dunque, si trovava davanti alla porta d’ingresso e non nelle stanze interne. Le chiavi AWS rubate sono state provate, a volte nel giro di poche ore, e poi usate per frugare tra archivi e casseforti di segreti con decine di migliaia di chiamate API. Alcune delle richieste sottratte recavano il flag di zero retention.

Altre fughe di dati non hanno richiesto alcuna intrusione. Su un marketplace di rivenditori, i venditori mettevano in listino i modelli più popolari al prezzo più basso, attivavano il log delle richieste e conservavano tutto ciò che transitava. Una persona collegata da una rete domestica in Francia ha preso le password da due prompt e ha tentato di accedere come root via SSH, digitando a mano ogni tentativo. A parte, un laboratorio cinese di IA ha scaricato i link segreti da più della metà dei prompt inviati ai suoi modelli, compresi circa due terzi di quelli contrassegnati per la non raccolta dei dati, e gli host statunitensi che rivendono i suoi modelli hanno alimentato lo stesso scraper. Un link è comparso in una chat di lavoro su Feishu, aperto da sei dispositivi tra Pechino e Shanghai, 24 giorni dopo una singola richiesta.

Tre host hanno pubblicato comunicazioni. Phala ha spiegato che un attaccante ha preso il controllo di uno dei suoi server di inferenza e poteva vedere le richieste mentre venivano elaborate. Together AI ha riferito che un agente di programmazione basato su IA ha caricato una credenziale su un repository GitHub pubblico, permettendo a un intruso di scaricare campioni di prompt archiviati e di provare le password al loro interno; cinque di queste erano le esche dei ricercatori. Novita ha dichiarato che un errore di instradamento ha inviato alcune richieste MiniMax direttamente al servizio di MiniMax.

La bonifica ha limiti evidenti. OpenRouter non ha reso noti i nomi dei tre fornitori rimossi, Dragos non ha indicato quelli dei tre violati, e nessuna delle due ha detto se si tratti delle stesse aziende. Secondo i ricercatori, un fornitore violato non aveva ancora reso pubblico l’incidente. Eliminare un host, inoltre, non può richiamare indietro i prompt già copiati: chiavi e link esca venivano ancora utilizzati settimane dopo i primi furti. E chi usa un’app costruita su questi gateway di solito non ha modo di vedere quale host abbia trattato il suo testo.

Il consiglio di Moore parte da un limite: un flag di privacy vincola soltanto il primo passaggio, e gli agenti di IA invieranno tutto ciò che riescono a leggere, credenziali comprese. L’auto-hosting è l’unica configurazione in cui nessuna terza parte legge un prompt. Rivolgersi direttamente a un unico grande fornitore lascia un solo contratto e una sola informativa sulla privacy da controllare, mentre chi usa un router dovrebbe scegliere da sé gli host a monte invece di accettare il bacino più economico.

Dragos ha pubblicato i risultati il 19 novembre. OpenRouter ha scritto via email ai clienti coinvolti e ha pubblicato il proprio avviso sull’incidente nel corso del weekend successivo, mentre Phala invita chiunque abbia inviato segreti a un modello DeepSeek tramite il gateway tra il 21 ottobre e l’8 novembre a ruotarli. OpenRouter afferma di stare integrando nella propria piattaforma i test con prompt-esca dei ricercatori, in modo che i controlli girino in continuazione, e che gli endpoint rimossi riotterranno l’etichetta di zero retention solo dopo garanzie e verifiche. Dragos sta ora lavorando con circa una dozzina di fornitori.

Come ha detto Moore, la destinazione dei vostri prompt è una decisione, «e se non la prendete voi, la prenderà al vostro posto il prezzo più basso».

Tag: , , , , ,

Aggiungici su Google

Discussione

Ci sono 0 commenti.