Twitch addestra l’IA di Amazon con i tuoi stream in modo predefinito e nasconde l’opt-out

L’impostazione è arrivata in silenzio, nascosta in un menu di sicurezza che la maggior parte degli streamer non apre mai: un singolo interruttore che decide se tutto ciò che trasmettono diventa carburante per l’intelligenza artificiale di Amazon. Su Twitch, quell’interruttore è già acceso. Per tenere il proprio lavoro fuori dai dati di addestramento, bisogna sapere che esiste, trovarlo e spegnerlo da soli.

Questa è la parte che le guide su come disattivare spesso tralasciano. L’opt-out non è la storia. L’impostazione predefinita è la storia, e così anche la ragione che l’azienda fornisce per questo.

Interrogato durante una live aziendale sul perché la funzionalità venga attivata anziché disattivata, il chief product officer di Twitch, Mike Minton, non ha usato il solito linguaggio sull’empowerment degli utenti. «Se fosse opt-in, nessuno farebbe l’opt-in» ha detto. «Questa è onestamente la risposta. Quindi sarà attivo di default». È una cosa rara: un dirigente che descrive ad alta voce un meccanismo di consenso costruito per tenere a bada il consenso.

Letture consigliateInstagram testa un’etichetta ‘AI creator’ e lascia la scelta ai creator

Ciò che conta come dati di addestramento qui è quasi tutto. Stando allo stesso Twitch, gli streaming di un canale, le trasmissioni passate, le clip, gli highlight, la chat e il testo e le immagini sulla pagina possono essere tutti utilizzati per addestrare modelli Amazon il cui compito dichiarato è generare o sintetizzare testo, audio, immagini e video. L’azienda che possiede la piattaforma ottiene un corpus in continuo aggiornamento di performance umane dal vivo. Le persone che le generano ottengono un interruttore di cui non sapevano nulla.

Inquadriamolo come ciò che sta accadendo ad Amazon piuttosto che allo streamer, e la forma cambia. Amazon non sta raschiando un sito rivale. Possiede il tubo, il pubblico e ora anche il flusso di addestramento, e ha trasformato un decennio di lavoro dei creator in un fossato di dati proprietario per modelli che un giorno potrebbero generare proprio quei contenuti che quei creator vendono. L’opt-out è l’indizio. Regola solo l’addestramento futuro, non gli anni già accumulati, e Minton ha ammesso di non sapere cosa sia stato fatto con quel materiale. «Non conosco davvero la risposta a quella domanda» ha detto.

Twitch è, in modo imbarazzante, in vantaggio rispetto ai pari sulla carta. YouTube addestra sui caricamenti dei creator senza alcun opt-out, e Meta fa lo stesso su Facebook e Instagram senza offrirne alcuno. Un interruttore, per quanto nascosto, è più di quanto entrambi diano. Ma questa è l’industria che si auto-valuta su una curva. La domanda a cui un proprietario di piattaforma dovrebbe rispondere non è se offre meno coercizione di Google. È se le persone il cui lavoro addestra i loro modelli hanno acconsentito. Il capo prodotto di Twitch ha già risposto: se glielo chiedessero chiaramente, avrebbero detto di no.

Spegnere l’impostazione non stacca la macchina. Twitch continuerà a usare AutoMod, sottotitoli, raccomandazioni e strumenti pubblicitari sui contenuti dei canali, e dice che questi non conservano dati per costruire nuovi modelli. L’opt-out inoltre non fa nulla riguardo al fatto che parole e immagini di uno streamer emergano nelle chat di altri canali. Non c’è modo di vedere chi ha fatto opt-in e chi no, nessuna contabilità pubblica del consenso su una piattaforma che ha appena reso il consenso l’impostazione predefinita che nessuno ha scelto.

L’interruttore si trova in fondo a un menu, un’opzione tra tante, facile da non vedere. Questo era il design. Sulla più grande piattaforma di live streaming di Internet, il costo di non leggere le clausole scritte in piccolo è ora un ruolo permanente e non retribuito come dati di addestramento per l’azienda che possiede il palcoscenico.

Tag: amazon, IA generativa, Mike Minton, Streamer, Twitch

Contenuti simili

I migliori film in streaming da vedere ora: la lista del critico è una piccola ribellione contro l’algoritmo

Per Hinton l’IA che usiamo ogni giorno è già cosciente, e si litiga su una parola

Meta evita il suo prossimo processo sulla dipendenza senza pagare, e il tuo feed non cambierà

Lo strato d’identità che internet non ha mai avuto si costruisce adesso, sotto pressione sintetica

NVIDIA ha posato i binari dell’economia IA — e nessuno ha tracciato un percorso alternativo

Internet non è morto. Siamo noi che abbiamo iniziato a comportarci come bot