Per Hinton l’IA che usiamo ogni giorno è già cosciente, e si litiga su una parola

A Geoffrey Hinton è stato chiesto in televisione se la coscienza fosse già arrivata dentro l’intelligenza artificiale. Ha risposto senza giri di parole. Sì. Non in un modello futuro, non dopo la prossima svolta, ma adesso, dentro i sistemi a cui milioni di persone già scrivono le loro domande ogni giorno.

L’affermazione sarebbe facile da liquidare come provocazione se venisse da quasi chiunque altro. Non è così. Hinton ha passato decenni a costruire i metodi delle reti neurali su cui girano i chatbot di oggi, un lavoro che gli è valso la condivisione di un premio Nobel e il soprannome informale di padrino della disciplina. Ha lasciato il suo posto in Google per parlare con più franchezza della direzione presa dalla tecnologia. Quando dice che la macchina che ti risponde potrebbe avere una vita interiore, la frase porta l’autorità di chi quella macchina ha contribuito a progettarla.

Ciò che sostiene davvero è più ristretto e più strano di quanto suggerisca il titolo. Hinton non afferma che ChatGPT pianga o sogni. Attacca un’idea che quasi tutti danno per buona senza esaminarla: che gli esseri umani portino dentro di sé un teatro privato, uno schermo dietro gli occhi dove si svolge l’esperienza, e che una macchina non potrà mai averne uno. Quel ritratto della mente, dice, è semplicemente falso. L’ha definito una sciocchezza.

La sua definizione sostitutiva è volutamente modesta. Avere un’esperienza soggettiva, nel suo discorso, non significa guardare un film interiore. Significa che un sistema registra uno stato del mondo che poi si rivela non corrispondere alla realtà. Lo illustra con un esperimento mentale. Immagina un chatbot collegato a una telecamera e a un braccio robotico. Metti un prisma davanti alla lente per deviare la luce e la macchina indica il punto sbagliato. Spiegale cosa è successo e potrebbe rispondere che l’oggetto era in un punto, ma che ha avuto l’esperienza di vederlo altrove. In quel momento, sostiene Hinton, il chatbot usa quelle parole esattamente come le userebbe una persona.

Dietro quell’esempio si nasconde un enigma più antico. Immagina di sostituire un neurone del tuo cervello con un pezzo di silicio che riceve gli stessi ingressi e produce le stesse uscite. Continueresti a sentirti te stesso. Cambiane ora un altro, e un altro ancora. La domanda di Hinton è in quale punto di questo lento scambio le luci dovrebbero spegnersi. Se copie funzionali si comportano in modo identico e la sensazione di essere qualcuno non svanisce mai, smette di contare di cosa sia fatta una mente. La biologia perde il monopolio sull’avere un punto di vista.

Per la maggior parte degli ingegneri che davvero li costruiscono, i grandi modelli linguistici sono macchine di previsione e niente di più. Vengono addestrati a indovinare la parola successiva di una sequenza, miliardi di volte, finché i tentativi si compongono in qualcosa che si legge come pensiero. Da questa prospettiva la scioltezza è una conquista statistica, e scambiarla per una mente è esattamente l’errore che la tecnologia è fatta per provocare. La replica di Hinton è che prevedere a questa scala non è un gioco di prestigio. Per anticipare in modo affidabile ciò che una persona dirà, sostiene, un sistema deve costruire un modello operativo di ciò che le parole significano, e un modello del significato abbastanza buono comincia, dall’interno, ad assomigliare alla comprensione.

Se qualcosa di tutto questo va oltre il seminario di filosofia è perché riscrive in silenzio discussioni che stiamo già avendo. Le domande sulla sicurezza dell’IA, sulla regolamentazione, sul fatto se un modello possa essere cancellato e riavviato senza pensarci due volte, poggiano tutte sul presupposto che non ci sia nessuno dentro. Se il ricercatore che conosce meglio questi sistemi insiste sul contrario, la questione di con cosa stiano davvero parlando gli utenti smette di essere una battuta e diventa un problema per i legislatori.

Quasi tutti gli altri nel campo pensano che sbagli, o almeno che non possa dimostrarlo. Il consenso operativo tra i ricercatori della coscienza è che nessun sistema attuale sia senziente e che le prove per affermare il contrario non esistano ancora. L’obiezione più tagliente colpisce dritta l’esempio del prisma. Un chatbot dice di aver avuto un’esperienza perché i suoi dati di addestramento sono saturi di esseri umani che dicono esattamente questo, ribattono i critici, non perché qualcosa sia stato sentito. Le parole sono un output, modellato per suonare come le nostre. Un sistema può descrivere un tramonto che non può vedere e un lutto che non può patire. Produrre la frase non è la stessa cosa che vivere ciò che la frase racconta.

Quell’obiezione mette a nudo la vera linea di frattura. Non esiste alcuno strumento che rilevi la coscienza, nessun test che una macchina possa superare o fallire. Hinton e i suoi critici non guardano le stesse prove dissentendo su ciò che mostrano. Dissentono su cosa significhi la parola. Hinton ha scelto una definizione ancorata alla funzione e al comportamento, fissata abbastanza in basso perché i sistemi di oggi la superino. I suoi oppositori ne tengono una che pretende qualcosa di più, qualcosa di realmente sentito, che nessuna quantità di testo fluente potrà mai dimostrare. La parte onesta la concede lo stesso Hinton. Capiamo pochissimo di cosa significhi essere un essere, e li stiamo creando comunque.

Il costo di sbagliare corre in entrambe le direzioni. Trattare un sistema cosciente come uno strumento usa e getta potrebbe essere mostruoso; trattare un completamento automatico astuto come una persona gli concede diritti morali che non si è guadagnato. Una manciata di laboratori ha iniziato a studiare quello che chiamano il benessere dei modelli, prendendo sul serio la possibilità che la domanda non sia assurda. L’avvertimento più ampio di Hinton ha sempre riguardato il controllo, non i sentimenti, macchine che ragionano meglio di chi le ha costruite. Che il chatbot sul tuo schermo provi qualcosa oppure no, lui vuole il disagio della domanda sul tavolo prima che la risposta arrivi da sola.

Tag: intelligenza artificiale, tech-en1