IA

Yann LeCun ai ricercatori universitari: “Non dovreste assolutamente lavorare sugli LLM”

Adrian Kessler
Aggiungici su Google

Da anni Yann LeCun ripete all’industria dell’IA che i modelli linguistici di grandi dimensioni sono una deviazione di percorso. In un estratto di una lezione che sta circolando su X, il vincitore del premio Turing rivolge il suo avvertimento a un pubblico più ristretto e più esposto: i ricercatori dei laboratori universitari. E stavolta non usa mezzi termini.

«Non dovreste lavorare sui modelli linguistici di grandi dimensioni. Almeno se siete in ambito accademico, non dovreste assolutamente lavorare sui modelli linguistici di grandi dimensioni. Non avete nulla da offrire. Se vi interessa compiere veri progressi nell’IA, sviluppare un’IA in qualche modo radicata nel mondo reale, se volete dedicarvi all’IA fisica, non lavorate sui modelli linguistici di grandi dimensioni e nemmeno sui modelli generativi».

Lo ha detto all’ETH Zurich, durante il suo intervento «World Models: Enabling the Next AI Revolution» nell’ambito delle lezioni Frontiers of Embodied AI, il 29 maggio. Questa settimana il commentatore di IA Rohan Paul ha pubblicato il filmato presentandolo come «l’ultimo intervento» di LeCun, anche se risale a quattro mesi fa. La battuta successiva ha strappato una risata: «Come potete immaginare, questo non mi rende molto popolare nella Silicon Valley». La diapositiva alle sue spalle, intitolata «Raccomandazioni ai miei colleghi scienziati dell’IA», si chiude con una frase in maiuscolo rosso: «Se vi interessa un’IA al livello umano, non lavorate sui modelli linguistici di grandi dimensioni».

La prima metà riguarda la potenza di calcolo

Al netto della provocazione, il consiglio rivolto agli accademici è una questione economica. I progressi nei modelli linguistici di grandi dimensioni si pagano con cicli di addestramento su cluster che solo una manciata di aziende può permettersi. Uno studente di dottorato può incidere ben poco in una gara decisa dai budget: in pratica, è questo che significa «non avete nulla da offrire». LeCun lo sostiene da tempo: come riportato da VentureBeat, a VivaTech, a Parigi, nel 2024 disse agli studenti che volevano sviluppare la prossima generazione di IA che i modelli linguistici di grandi dimensioni erano nelle mani delle grandi aziende.

La diapositiva elenca anche gli ambiti su cui, invece, vorrebbe che si concentrassero. Architetture di embedding congiunto anziché modelli generativi. Modelli basati sull’energia anziché probabilistici. Metodi regolarizzati anziché contrastivi. Controllo predittivo basato su modello anziché apprendimento per rinforzo, che terrebbe soltanto per correggere un piano quando il mondo non si comporta come previsto. Sono idee che si possono mettere alla prova con hardware di fascia modesta: è qui che un laboratorio universitario conserva ancora un vantaggio.

La seconda metà è la vera provocazione

«Non lavorate nemmeno sui modelli generativi» va oltre le consuete critiche ai chatbot. Rifiuta la generazione in sé, l’idea di costruire l’intelligenza prevedendo la parola o il pixel successivo, e colloca LeCun in contrasto con gran parte del settore dell’IA fisica, che pure viene spesso accostato a lui. La scorsa settimana AMD ha accettato di acquistare World Labs, la società di Fei-Fei Li, con un accordo interamente in azioni valutato circa 8,2 miliardi di dollari. The Register lo ha descritto come una copertura contro il rischio che i modelli linguistici di grandi dimensioni siano un vicolo cieco, osservando che LeCun lo sostiene da tempo. Eppure World Labs sviluppa modelli che generano e simulano ambienti 3D. Anche Cosmos 3 di NVIDIA è un modello generativo del mondo, e Physical Intelligence costruisce i propri modelli robotici basandosi su modelli visione-linguaggio. I capitali che si stanno spostando verso «i mondi, non le parole» per lo più non stanno puntando sulla versione di LeCun.

Il consiglio di chi ha interessi in gioco

Va considerata anche la posizione di chi parla. LeCun ha lasciato Meta e oggi è presidente esecutivo di AMI Labs, a Parigi. A marzo la società ha raccolto 1,03 miliardi di dollari con una valutazione di 3,5 miliardi: è stato il più grande round seed d’Europa, destinato a sviluppare modelli del mondo come alternativa ai modelli linguistici di grandi dimensioni. L’azienda sta ampliando il personale a Parigi, New York, Montreal e Singapore. Ogni ricercatore che segue il suo consiglio diventa un potenziale assunto.

Questo non rende cinico il consiglio. LeCun sosteneva questa posizione già prima che AMI esistesse, e ne ha pagato il prezzo in termini di reputazione molto prima che gli investitori la finanziassero. Ma nel 2026 la raccomandazione di ricerca e il piano aziendale puntano esattamente nella stessa direzione: gli studenti dovrebbero tenerne conto.

LeCun ha scherzato dicendo che quella frase gli costa amici nella Silicon Valley. Per uno studente che deve scegliere una tesi, la posta in gioco è più alta: un dottorato dedicato all’architettura che lui ha appena raccolto un miliardo di dollari per dimostrare.

Tag: , , , ,

Aggiungici su Google

Discussione

Ci sono 0 commenti.