Ci si affida all’IA per la salute mentale perché risponde, non perché funzioni

Qualcosa è cambiato silenziosamente nel modo in cui le persone affrontano le notti peggiori. Quando la mente si rivolta contro se stessa e non c’è nessuno da chiamare, una quota crescente di adulti apre ora un chatbot — non perché sia convinta che capisca, e spesso nemmeno perché aiuta, ma perché risponde. È questo il nucleo scomodo di una vasta nuova indagine sulla salute mentale, ed è più strano di quanto il titolo suggerisca.

La lettura ovvia è una storia di fiducia: persone che affidano la propria vita interiore alle macchine. Ma la fiducia è la lente sbagliata. Ciò che i numeri descrivono non è davvero un verdetto sulla bontà della tecnologia. È un verdetto sulla disponibilità — il fatto semplice che il chatbot c’è, e il professionista no.

Lo studio, condotto dall’assicuratore AXA con il sondaggista Ipsos su 19.000 adulti in 18 paesi, ha rilevato che il 63% ha già fatto ricorso a strumenti di IA con domande sulla propria salute mentale. Ciò che rende il dato degno di attenzione è la contraddizione che gli sta accanto. Circa il 45% si è detto insoddisfatto delle risposte ottenute. Eppure il 38% ha dichiarato di fidarsi di queste piattaforme più che di un professionista umano della salute mentale. Le persone sono insoddisfatte dei consigli e ci ricorrono comunque.

Questo ha senso solo se la qualità non è mai stata il fattore decisivo. Un chatbot è costruito per produrre una risposta fluente, non corretta; non ha alcun dovere di cura e nessun obbligo di escalation quando rileva che qualcuno è in pericolo. Si limita a rispondere, all’istante, gratis, senza un referral o un’attesa di mesi. «L’IA è disponibile 24 ore su 24, 7 giorni su 7, è gratuita ed è lì sul tuo telefono quando sei solo alle 23», ha detto il responsabile della salute di AXA. Questa è l’intera proposta di valore. Ed è anche l’intero problema.

L’indagine accenna al costo dello scambio. Tra le persone che usano un chatbot per questioni di salute mentale, il 42% ha dichiarato di seguire quasi sempre i consigli che riceve — e il 28% ha affermato che seguire una raccomandazione del chatbot li ha portati a comportamenti dannosi. Uno strumento senza responsabilità clinica viene trattato come un primo soccorritore dalle persone meno in grado di assorbire una risposta sbagliata.

Mettete questo a confronto con il modo in cui i sistemi sanitari formali stanno adottando la stessa tecnologia, e due mondi paralleli si delineano. Un’istantanea separata dell’ufficio europeo dell’OMS, la prima del genere in tutti i ventisette Stati membri dell’UE, ha rilevato che quasi tre quarti usano già la diagnostica assistita dall’IA e circa sei su dieci impiegano chatbot per sostenere il coinvolgimento dei pazienti. Dentro la clinica, l’IA arriva avvolta in supervisione, governance e meccanismi di responsabilità medica. Fuori, sul lato consumer, gli stessi modelli sottostanti funzionano senza tutto questo — nessuna trasparenza su ciò che possono e non possono fare, nessun passaggio di consegne quando appare un rischio.

Le persone che cadono nel secondo sistema sono, in netta maggioranza, quelle escluse dal primo. Come ha detto un medico che ha scritto sull’indagine, le persone stanno integrando l’IA nella propria vita emotiva «non come un componente aggiuntivo di un sistema sanitario ben funzionante, ma piuttosto come un punto di accesso accessibile a un’assistenza che per la maggior parte è rimasta fuori portata». Il motore è il costo e l’accesso, non la convinzione che la macchina sappia di più. La cifra dell’insoddisfazione ne è la prova: gli utenti sanno distinguere. La usano comunque, perché l’alternativa è il nulla.

Niente di tutto ciò sostiene che l’IA non abbia un posto nella salute mentale. I clinici ne vedono uno reale — triage, continuità tra le visite, un ponte per persone che altrimenti non avrebbero nulla. Ma la versione che si diffonde più velocemente è quella non governata, e si diffonde proprio dove la posta in gioco è più alta. La soluzione che continua a emergere è poco affascinante: strumenti che dichiarino chiaramente ciò che non sono, e che passino la persona a un umano qualificato nel momento in cui percepiscono che qualcuno è a rischio.

La sala d’attesa non si è svuotata perché le persone sono guarite. Si è svuotata perché, per la maggior parte di loro, la porta non è mai stata aperta. L’IA non ha vinto una discussione sull’assistenza. Ha semplicemente alzato il telefono — e nessuno all’altro capo è obbligato ad accorgersi quando la chiamata va male.

Tag: chatbot, OMS, salute digitale, salute mentale IA, sondaggio AXA Ipsos