IA

Con le nuove condizioni di Wells Fargo gli errori dell’agente IA li paga il cliente

Susan Hill
Aggiungici su Google

Wells Fargo riscrive il contratto che regola app e sito della banca: tutto ciò che un agente AI esterno fa all’interno del conto di un cliente verrà considerato un atto del cliente stesso. L’istituto dichiara che eseguirà le istruzioni dell’agente senza verificarle, che non controllerà ciò che l’agente fa e che tratterà gli errori dell’agente come errori del cliente. «L’utilizzo di qualsiasi agente AI è A VOSTRO ESCLUSIVO RISCHIO», si legge nelle nuove condizioni, scritto in maiuscolo.

Per chi ha affidato la password del conto a un bot per gli acquisti o a un assistente per il budget, cambia chi paga quando il software sbaglia. Un doppio pagamento, un ordine piazzato dieci volte o un bonifico innescato da una pagina web trappola ricadrebbero sul titolare del conto e non sulla banca, salvo che una legge disponga diversamente. Nessuno deve firmare nulla: i clienti che continuano a usare l’online banking dopo la modifica si considerano consenzienti. «I consumatori autorizzano obiettivi, non ogni singolo clic», ha dichiarato a Wired Kacy Kim, docente di marketing alla Bryant University che studia il comportamento dei consumatori.

La definizione è ampia. Wells Fargo chiama «AI Agent» qualsiasi software che compia «azioni autonome, semi-autonome o non autonome» per conto di qualcuno, il che va ben oltre i chatbot venduti come assistenti personali. Il cliente si sobbarca il costo di un agente che interpreta male le istruzioni, fa cose che nessuno ha chiesto, agisce su «input manipolati» o va oltre l’autorità che gli è stata conferita. Gli agenti utilizzati da persone che il cliente autorizza ad accedere al conto sono soggetti alle stesse regole, e i minori di 18 anni non possono collegarne alcuno.

Anche disattivare un agente spetta al cliente. Le condizioni prevedono che sia il cliente a revocarne l’accesso, a conservare la prova di averlo fatto e a consegnarla se la banca la richiede. Finché non lo comunicano a Wells Fargo, i clienti restano responsabili di qualunque cosa faccia l’agente. È la stessa logica della norma statunitense sui trasferimenti elettronici, la Regulation E, che considera autorizzati i trasferimenti effettuati da chi abbia ricevuto la carta o le credenziali di accesso, finché non si chiede alla banca di bloccarli.

Wells Fargo lascia comunque entrare gli agenti, collocandosi sul versante più permissivo di un settore che sta chiudendo le porte. Secondo Wired, JPMorgan Chase ha modificato le proprie condizioni per vietare gli agenti di terze parti che accedono con le credenziali del cliente, Bank of America ha avvertito i clienti di non condividere i loro accessi con gli agenti, e Citibank e PNC hanno aggiunto avvisi propri. Morgan Stanley ha bloccato gli agenti di terze parti sulle sue piattaforme, ha riferito Axios. Wells Fargo si è riservata il diritto di interrompere le connessioni usate dagli agenti o di bloccare del tutto qualsiasi agente.

La resistenza va oltre il mondo bancario. Amazon ha impedito all’agente Muse di Meta di effettuare acquisti sul proprio store, e United Airlines ha dichiarato che i bot personali non potranno acquistare voli per i viaggiatori. American Express è la rara eccezione nel resoconto di Wired: ha detto che alcuni errori degli agenti, come l’ordine di troppe unità di un articolo, potrebbero in futuro dare diritto a un rimborso se l’acquirente non riesce a recuperare il denaro dal rivenditore.

Quanto la nuova formulazione cambierà le cose nella pratica non è chiaro. Le sue clausole rimandano ripetutamente a «legge o regolamento», e nessun tribunale si è ancora pronunciato su chi sostenga la perdita quando un agente attivato dal cliente fa qualcosa che il cliente non aveva mai inteso. Anche il pubblico è ristretto. «Tutti i nostri dati mostrano che la maggior parte delle persone non sa nemmeno cosa siano gli agenti, figuriamoci usarli», ha dichiarato a Wired Sucharita Kodali, analista di Forrester. E le banche non sono contrarie agli agenti in quanto tali. «Stanno chiudendo la porta agli agenti esterni e costruendo i propri», ha detto Luca Cian, docente della University of Virginia che studia psicologia dei consumatori e IA. L’assistente di IA generativa di Wells Fargo ha già gestito più di un miliardo di interazioni.

Le nuove condizioni riguardano soltanto i clienti dell’online e mobile banking di Wells Fargo negli Stati Uniti, e tutte le banche citate finora sono americane. Nell’Unione europea le norme sui pagamenti spingono già le app che leggono o spostano denaro verso connessioni autorizzate fornite dalla banca anziché verso una password condivisa, il che lascia meno spazio agli agenti che accedono come se fossero il cliente.

Il contratto aggiornato di Wells Fargo entra in vigore martedì 24 novembre e si applica a chiunque continui a usare il sito o l’app della banca dopo quel giorno. Il divieto di JPMorgan sugli agenti basati su credenziali è arrivato a fine ottobre, lo stesso giorno in cui Bank of America ha inviato il suo avviso. Wells Fargo si è inoltre riservata la possibilità di obbligare i clienti a registrare i propri agenti presso la banca, il che le darebbe un elenco dei bot che dice di non controllare.

Tag: , , , , ,

Aggiungici su Google

Discussione

Ci sono 0 commenti.