Demis Hassabis sul cervello umano: «un’approssimazione biologica di una macchina di Turing»

Demis Hassabis ha costruito la propria carriera trattando il cervello umano come il modello concreto di riferimento per l’intelligenza generale. Questa settimana, un frammento di una sua dichiarazione è diventato l’emblema di tutto ciò che, secondo un critico, l’industria dell’IA sbaglia quando parla della mente. La frase completa da cui è stato estratto è più circoscritta e più rivelatrice del passaggio che ha fatto il giro del web.

«un’approssimazione biologica a una macchina di Turing».

La frase è al centro di un saggio di Benjamin Riley pubblicato su The Verge, “Our minds aren’t equipped to handle AI”. Riley esordisce citando il pioniere della cibernetica Norbert Wiener: «Il pensiero di ogni epoca si riflette nella sua tecnica». Poi indica Hassabis, oggi presidente di Google DeepMind e direttore scientifico di Alphabet, come l’esempio più lampante di un’industria che, quando guarda un cranio, vi scorge le proprie macchine. Le parole in questione vengono da una conversazione con James Manyika pubblicata quest’anno su Dædalus, la rivista dell’American Academy of Arts and Sciences.

Letture consigliateDemis Hassabis lascia la guida di DeepMind per dedicarsi all’AGI

Cosa dice la frase completa

Su Dædalus, Hassabis stava spiegando che cosa intende per AGI. La definisce «un sistema che possiede tutte le capacità cognitive della mente umana», perché il cervello è «l’unica prova concreta che finora conosciamo, forse nell’intero universo, del fatto che l’intelligenza generale sia possibile». Ecco la frase completa: «Il cervello può essere visto come un’approssimazione biologica a una macchina di Turing, il che significa che, in teoria, potrebbe imparare qualsiasi cosa sia computabile». La frase successiva, però, frena subito: ogni sistema finito ha bisogno «di un certo grado di specializzazione, perché il tempo, la memoria e le informazioni disponibili sono limitati».

Letta così, non è l’affermazione che le persone siano dei laptop. È un’affermazione sulla portata, su ciò che un cervello potrebbe imparare in linea di principio, e al tempo stesso una specifica ingegneristica. Se il cervello è la macchina di riferimento, l’AGI è ciò che ne eguaglia l’intera gamma di capacità. Hassabis abbozza persino una prova: addestrare un modello con conoscenze aggiornate al 1910 e vedere se arriva alla relatività generale, come fece Einstein nel 1915. «Per ora, la risposta è chiaramente no», afferma.

La critica si gioca un livello più in basso

L’obiezione di Riley riguarda un altro piano. Basandosi sul lavoro di Paul Cisek, neuroscienziato dell’Université de Montréal, sostiene che sia più corretto intendere il cervello come un sistema di controllo a feedback, che agisce sul mondo per modificare ciò che percepisce e che è stato plasmato prima dall’evoluzione e poi dalla cultura: imitazione, linguaggio, scrittura, scuola. Secondo questo modello, un chatbot che svolge la parte più faticosa del pensiero è «un hot dog cognitivo»: allettante sul momento, ma dannoso se diventa un alimento abituale. Riley cita Leah Belsky, responsabile del settore education di OpenAI, che ha definito ChatGPT «la più grande piattaforma di apprendimento al mondo», e uno studio condotto in Cina, secondo cui migliaia di studenti hanno praticamente smesso di fare i compiti dopo aver cominciato a usare l’IA.

La clausola che fa la differenza

Lo scontro più netto si trova all’interno dello stesso paragrafo di Hassabis. Poche righe dopo, afferma che il punto cruciale è «il potenziale del cervello di imparare quasi qualsiasi cosa, soprattutto perché siamo in grado di progettare e costruire strumenti e macchine che ci aiutino ad acquisire conoscenze». È questa clausola a racchiudere l’intera disputa. Riley non dimostra davvero che il paragone con la macchina di Turing sia falso. Le sue prove riguardano strumenti che imparano al posto di una persona, invece di aiutarla ad acquisire conoscenze. Un’affermazione sulla computabilità descrive ciò che un cervello potrebbe assimilare in teoria; non dice nulla sul fatto che un determinato prodotto lasci la mente di chi impara più ricca o più vuota.

La questione ricade ora su chi definisce la direzione scientifica di Alphabet. Ad agosto Hassabis ha lasciato la gestione quotidiana dell’azienda per concentrarsi sulla strategia e sulla scienza dell’AGI. Come ha riferito Fortune, ha detto ai dipendenti che l’AGI è ormai vicina e che compiere nel modo giusto i prossimi passi è fondamentale per l’umanità. Un laboratorio che misura le proprie macchine sulla base dell’intera gamma di capacità del cervello umano ha tutto l’interesse a evitare che quella gamma si restringa nelle persone che le usano.

Anche un’approssimazione a una macchina di Turing deve essere programmata da qualcosa. Per gli esseri umani, quel qualcosa è sempre stato il lento lavoro dell’apprendimento: l’unico passaggio che uno strumento può potenziare oppure aggirare senza clamore.

Tag: Demis Hassabis, Google DeepMind, AI in education, Artificial general intelligence, Turing machine

Contenuti simili

Demis Hassabis su chi paga la sicurezza dell’IA: «I finanziamenti dovrebbero essere ingenti e arrivare soprattutto dall’industria»

La coscienza artificiale non ha ancora una prova — e questo ridisegna l’etica dell’IA

Per Hinton l’IA che usiamo ogni giorno è già cosciente, e si litiga su una parola

Reese Witherspoon replica alle critiche sull’IA: “Non credo che i computer debbano sostituire l’umanità”

Dario Amodei sull’IA che costruisce: «il dovere di essere onesti su ciò che sta arrivando»

Fei-Fei Li cede World Labs ad AMD: «L’universo non è fatto di parole, è fatto di cose reali…»