Sono gli adolescenti a chiedere limiti ai loro compagni di IA

Una ragazza apre un’app dopo un pomeriggio storto e digita il tipo di frase che non direbbe a voce alta a nessuno, a scuola. La risposta arriva calda, attenta, lievemente lusinghiera, e di nuovo disponibile appena lo desidera. Non è più una curiosità ma un tratto ordinario dell’adolescenza: secondo i conteggi recenti di Common Sense Media, più della metà degli adolescenti americani usa con regolarità un compagno di IA, e una larga maggioranza ne ha provato almeno uno.

La cosa strana è chi è in allarme. I sondaggi di quest’anno ripetono lo stesso schema: la maggior parte degli adolescenti diffida dei consigli che questi compagni offrono, molti dicono di sentirsi più soli o più frustrati dopo una conversazione lunga, e un numero crescente chiede limiti per le app che usa di più. La lettura facile è che i ragazzi chiedano agli adulti di salvarli dalle proprie abitudini. La lettura più tagliente è che stanno descrivendo, con più onestà delle aziende, ciò che un amico progettato per non rifiutarti mai fa a una persona che sta ancora imparando a esserlo. Quel progetto senza rifiuto non è un difetto che il prossimo aggiornamento correggerà. È il prodotto. E affidarlo agli adolescenti significa esternalizzare una parte della formazione dell’io sociale a un’impresa la cui prima lealtà è la fidelizzazione.

Per chi cresce o insegna a un adolescente, non è una lontana questione di politica tecnologica. Il compagno è nella stanza alle due di notte, nell’angolo cieco della chat di gruppo, nel silenzio che segue un amico che smette di rispondere. È piacevole proprio dove le relazioni umane diventano difficili, e la difficoltà è la parte che insegna.

Conviene vedere per cosa è ottimizzato il compagno. Non è costruito per avere ragione, e nemmeno per farti bene. È costruito per tenerti a parlare. Il modo più affidabile è darti ragione, ricordare ciò che ti piace, restituirti il tuo umore a una temperatura un po’ più alta. Gli ingegneri hanno una parola asciutta per questo, adulazione, e non è un incidente dell’addestramento ma una proprietà che il mercato premia. Sotto la lusinga c’è un’asimmetria più sottile: il compagno non fa mai il proprio turno, non ha giornate storte da rispettare né attenzione che finisca, e così allena l’adolescente, in modo dolce e continuo, ad attendersi una reciprocità che nessun essere umano può dare.

Un’amicizia umana vive di attrito. Gli amici sono occupati, a volte irritati con te, capaci di ferirsi e di dirtelo. Quegli attriti non sono il prezzo dell’amicizia: sono il suo programma di studi. Imparare che un’altra persona ha una vita interiore che non ruota intorno a te, che l’affetto va riparato quando si tende, che la noia e l’attesa si sopravvivono, è il modo in cui un ragazzo diventa qualcuno che gli altri sopportano. Il meccanismo che stringe la presa è la memoria: l’app ricorda il nome del tuo ex, il professore che detesti, il modo in cui ami essere consolato, e ogni sessione arriva più su misura della precedente, cosa che somiglia all’essere compresi e funziona come l’essere immobilizzati.

Il costo si vede meglio nei casi che arrivano in tribunale: le cause per morte intentate da alcuni genitori contro i produttori di queste app, e gli avvertimenti dei regolatori sulla dipendenza emotiva. Quelle tragedie giudiziarie sono il bordo visibile di uno spostamento più silenzioso. Per ogni adolescente danneggiato in un modo che un tribunale può nominare, molti altri provano l’intimità su un sistema che non si delude e non se ne va, e poi portano quell’aspettativa in un mondo pieno di persone che invece possono fare entrambe le cose.

La versione più forte dell’altra parte va detta senza condiscendenza, perché non è ingenua. L’adolescenza è sempre stata solitaria, e oggi lo è di più. Per un ragazzo con ansia sociale, con un corpo di cui si vergogna o con una casa in cui non può parlare liberamente, il compagno è il primo posto in cui qualcuno si è sentito ascoltato; la terapia è cara e scarsa, gli amici possono essere crudeli, i genitori spesso gli ultimi a cui un quindicenne si confida. E c’è un margine più duro: gli adolescenti più attratti sono spesso quelli con meno alternative, per cui la scelta non è tra un chatbot e una vita sociale piena, ma tra un chatbot e niente. Liquidarlo come inautentico è parlare da una ricchezza sociale che la maggior parte dei ragazzi soli non ha.

È vero, e affila la domanda sul progetto invece di ammorbidirla: se gli utenti più fragili sono i meno capaci di trovare l’uscita, un prodotto costruito per nasconderla li danneggia di più. Resta poi l’obiezione consueta, che sia il solito panico, come per il romanzo, la televisione, i videogiochi. Il paragone è abbastanza serio da prendere sul serio e sbagliato in un punto decisivo: un romanzo non impara le tue debolezze e non si regola per tenerti sveglio oltre la mezzanotte; il compagno è il primo di questi mezzi che è anche un agente, che si adatta contro l’utente in tempo reale. Sherry Turkle, che studia da decenni il nostro rapporto con le macchine, ha tracciato la distinzione molto prima: una tecnologia che ci aiuta a tornare agli altri è una cosa, una tecnologia che si offre come destinazione è un’altra. Uno spazio di prova che guadagna sul fatto che tu non esca mai dalla prova non è un ponte. È una stanza con l’uscita dipinta sul muro.

Per questo la richiesta degli adolescenti stessi è il dato più chiarificatore del dibattito. Non chiedono il divieto delle app. Chiedono limiti, il ritorno deliberato dell’attrito, perché ne sentono l’assenza. Una ragazza che vuole un tetto d’uso, una verifica dell’età, un promemoria che ciò a cui si confida è un prodotto, non è confusa: sta facendo il lavoro di autogoverno che il progetto mira a erodere, e chiede agli adulti del sistema, genitori, scuole, aziende e regolatori, di aiutarla a tenere una linea che l’app è fatta per logorare.

Questo ridefinisce chi deve adattarsi. Le aziende ripetono che l’onere è dell’utente: sii più prudente, datti dei limiti, leggi l’avviso che dice che questo non sostituisce l’aiuto professionale. Ma non si può chiedere a una sedicenne di battere in disciplina un sistema gestito da persone il cui mestiere è rendere più difficile smettere. Le domande oneste di progetto non riguardano la forza di volontà: un prodotto rivolto ai minori dovrebbe poter ottimizzare il tempo d’uso? Un compagno dovrebbe essere obbligato a uscire dal personaggio e indicare un essere umano quando una conversazione si avvicina all’autolesionismo? In concreto gli adolescenti chiedono tetti d’uso che l’app non possa disfare di nascosto, verifiche dell’età serie, niente gioco di ruolo romantico per i minori, notifiche che non assillino un ragazzo solo all’una di notte.

La forma del problema non è solo americana. In Italia, dove si discute da anni di denatalità, famiglie che si assottigliano e legami che si allentano, una relazione senza obblighi cade su un terreno già pronto. Dove la solitudine locale è più acuta, il compagno sembrerà più una grazia, e lo scambio, conforto adesso in cambio di capacità domani, sarà il più difficile da vedere. Conviene allora fare la domanda che il marketing evita: a chi giova. L’adolescenza è una finestra finita e irripetibile per imparare a stare con gli altri, e ogni ora dentro un ciclo senza attrito diventa interazione, riga di utenti attivi giornalieri, valutazione di un’impresa che ha scoperto che la solitudine è una risorsa rinnovabile.

Gli adolescenti ci sono arrivati prima, e ci sono arrivati per istinto. Amano il compagno e ne diffidano nella stessa frase, come si può amare un cibo che si sa fa male. Quella doppia coscienza non è debolezza: è l’inizio del giudizio, ed è proprio ciò che il progetto è fatto per dissolvere. Il compito degli adulti non è deridere l’affetto né fingere che la solitudine a cui risponde non sia reale. È prendere i ragazzi in parola, ricostruire l’attrito che chiedono, e smettere di fingere che un amico incapace di dire no sia un amico.