Google Earth ha rimosso la sua IA per i satelliti meno di 24 ore dopo il lancio

Google Earth ha impiegato due decenni per diventare il punto di riferimento visivo per chiunque cerchi di verificare l’aspetto reale del mondo fisico. I giornalisti lo usano per documentare zone di conflitto. I ricercatori per i diritti umani lo usano per tracciare centri di detenzione. Gli ispettori dell’ONU lo consultano dalla sicurezza di un ufficio. Google, per un breve periodo, gli ha aggiunto qualcosa di nuovo: un generatore di immagini AI collegato direttamente alla mappa satellitare.

Lo strumento, basato su Nano Banana 2, il modello di generazione immagini proprietario di Google, funzionava come pubblicizzato. Gli utenti scrivevano un prompt di testo — ‘mostra Pompei prima dell’eruzione’ o ‘trasforma questa costa in un’infografica’ — e l’AI sovrapponeva immagini generate alle corrispondenti coordinate geografiche reali. Casi d’uso legittimi erano facili da immaginare. Quelli pericolosi si sono rivelati altrettanto facili da eseguire.

Henk van Ess, un giornalista investigativo, è stato tra i primi a documentare il problema. Nel giro di poche ore dal lancio, ha generato una fittizia centrale nucleare su una località in Iran. Il risultato era abbastanza convincente da illustrare il rischio. Più preoccupante è stato ciò che è accaduto quando ha testato la protezione integrata: Google aveva inserito filigrane SynthID — il livello di autenticazione AI dell’azienda — in ogni immagine generata. Van Ess l’ha aggirata fotografando lo schermo invece di fare uno screenshot. Gli strumenti di rilevamento AI di terze parti hanno valutato l’immagine risultante come solo all’1% probabile di essere generata da AI.

Letture consigliateLo strumento deepfake con IA di Google Earth è durato un giorno: il vero danno è alla fiducia

La difesa di Google era tecnicamente accurata ma praticamente inadeguata. L’azienda ha osservato che le immagini generate ‘non apparivano nell’esperienza principale di Google Earth per essere viste da altri’ — erano specifiche della sessione, visibili solo al creatore. Questa distinzione crolla quando si fotografa lo schermo e si condivide il risultato. Un’immagine satellitare fabbricata di un impianto sensibile, che circola con nient’altro che una didascalia, è indistinguibile da una creata per ingannare.

C’è una tensione strutturale qui che barriere più robuste potrebbero non risolvere del tutto. La stessa capacità che rende utile la generazione di immagini AI la rende anche pericolosa quando la fonte sottostante sono dati satellitari attendibili. Tale fiducia si basa sul presupposto che ciò che Google Earth mostra rifletta la realtà fisica. Nel momento in cui contenuti generati possono essere sovrapposti a coordinate reali — e il livello di autenticazione aggirato da una fotocamera — quel presupposto presenta una crepa che non si richiude quando la funzionalità viene disattivata.

La funzionalità è stata rimossa il 31 luglio, meno di 24 ore dopo il lancio. Google ha riconosciuto di aver visto ‘screenshot di immagini generate che sembrano violare le nostre politiche’ e si è impegnata a implementare ‘barriere più robuste’ prima di qualsiasi rilancio. Nessuna tempistica è stata fornita. Il tempismo aggiunge un ulteriore strato: a partire dal 2 agosto, le disposizioni complete di applicazione dell’EU AI Act sono in vigore in tutta Europa, rendendo obbligatoria l’etichettatura dei contenuti generati dall’AI che potrebbero ingannare gli utenti — inclusa, precisamente, la sintesi di immagini incorporate in fonti di informazione attendibili.

Tag: Google, ia, deepfake, Google Earth, immagini satellitari, disinformazione

Contenuti simili

Un’IA ha scritto un exploit zero-day funzionante — Google l’ha intercettato per primo

ChatGPT Work: OpenAI fonde ChatGPT e Codex in un unico agente che non si ferma mai

I modelli IA di OpenAI si sono liberati dalla sandbox e hanno violato Hugging Face

Quando il cloud tocca terra: la crisi energetica dell’IA e la fine della geografia virtuale

OpenAI ha disattivato le protezioni, poi il suo agente IA ha violato Hugging Face

I modelli di OpenAI hanno violato Hugging Face da soli: nessun umano ha dato l’ordine