Microsoft ha definito lo scraping dell’IA «il più grande furto di lavoro della storia» nei suoi documenti interni

Uno scienziato di Microsoft ha dato un nome a ciò che l’azienda stava costruendo, e quel nome non era lusinghiero. Analizzando il modo in cui i grandi modelli linguistici apprendono dal web aperto, lo ha definito «il più grande furto di lavoro nella storia umana». La frase era stata scritta per uso interno. Oggi è un documento in tribunale.

L’espressione sta facendo il giro come una prova schiacciante: il dipendente del colosso dell’IA che definisce il proprio modello di business un furto. Ma leggerla così è riduttivo. Ciò che i documenti desecretati mostrano davvero è un’azienda che ha compreso il meccanismo che stava monetizzando, lo ha descritto in parole chiare e ha comunque messo il prodotto sul mercato. La parte interessante non è l’insulto. È lo schema che c’è sotto.

Il documento appartiene a Brent Hecht, direttore della scienza applicata di Microsoft, ed è emerso nella causa per violazione del diritto d’autore che il New York Times ha intentato contro OpenAI e Microsoft. Hecht sosteneva che addestrare i modelli su opere pubblicate senza alcun compenso costituiva «un furto sbalorditivo di proporzioni senza precedenti». Una presentazione interna separata entrava ancora più nel dettaglio del meccanismo: avvertiva che la strategia di Microsoft per i contenuti basati sull’IA aveva innescato un «circolo vizioso» che avrebbe «danneggiato le prestazioni dei nostri modelli e l’intero web allo stesso tempo». I grandi modelli linguistici, si legge in una riga, sono «un prodotto che distrugge la propria catena di approvvigionamento».

Letture consigliateMeta lancia un modello AI gratuito e accusa OpenAI di concentrare il potere

Quell’ultima frase è l’intera storia in sette parole. Un chatbot che risponde a una domanda direttamente nella barra di ricerca elimina la ragione per cliccare sulla pagina da cui ha appreso. Meno clic significano meno entrate per i siti che producono i testi, il che significa che meno di loro sopravvivono, il che significa meno testi umani freschi su cui addestrare il modello successivo. Microsoft non ha teorizzato questo circolo vizioso dall’esterno. I suoi stessi dati lo hanno misurato: il motore di risposta di Copilot ha ridotto il tasso di clic verso il sito del Times fino al 93 percento rispetto alla ricerca normale.

I documenti quantificano anche il lato degli input dello scambio. I dati di addestramento intermedi di OpenAI contenevano oltre 91.000 copie di opere del Times, del Daily News e del Center for Investigative Reporting. Un set di dati tratto da Common Crawl conteneva oltre due milioni di documenti dal solo sito nytimes.com. Una raccolta denominata Project Mango includeva almeno 160.000 opere uniche di editori di notizie. I documenti descrivono paywall aggirati e avvisi di copyright rimossi dal testo prima che venisse inserito nel modello.

Nemmeno i dirigenti di OpenAI erano ingenui riguardo all’effetto. Nick Turley, che dirige ChatGPT, viene citato mentre descrive i prodotti come «in gran parte sostitutivi» del giornalismo e definisce il cambiamento una «minaccia esistenziale» per gli editori. È la stessa conclusione a cui è giunto Hecht, solo con una qualifica diversa.

Ecco perché il linguaggio usato conta al di là dell’imbarazzo. Microsoft ha preso le distanze dalle dichiarazioni, dicendo al tribunale che la sua posizione effettiva è conforme al diritto d’autore, e nessuna delle due società ha voluto commentare la fuga di notizie. Ma una difesa basata sul fair use dipende in parte da ciò che un’azienda sapeva e intendeva. Documenti in cui i suoi stessi scienziati danno un nome al danno — furto, catena di approvvigionamento distrutta, web svuotato — non sono opinioni che l’azienda possa semplicemente sconfessare. Vengono letti come la prova che il meccanismo era stato compreso prima di essere messo in scala.

Il web da cui questi modelli hanno imparato è stato costruito da persone che presumevano ci fosse un lettore dall’altra parte. I file di Microsoft mostrano che l’azienda sapeva, per iscritto, che quel lettore veniva progettato per essere eliminato, e ha continuato a costruire.

Tag: OpenAI, microsoft, AI training data, Brent Hecht, copyright lawsuits, The New York Times

Contenuti simili

OpenAI ha disattivato le protezioni, poi il suo agente IA ha violato Hugging Face

Alex Karp bolla l’industria dell’IA come “marxista”: “…impadronirsi dei mezzi di produzione dei loro presunti partner”

Microsoft ha corretto 570 vulnerabilità di sicurezza Windows in un mese. L’IA ne ha trovate la maggior parte

Bill Gates: «L’IA sarà il più grande fattore di uguaglianza mai inventato o la peggiore fonte di ingiustizia»

I modelli di OpenAI hanno violato Hugging Face da soli: nessun umano ha dato l’ordine

I giganti tecnologici comprano le voci che non appartenevano a nessuno