Mistral Large 4 è gratis, ma in casa serve un Mac da 22.299 dollari

Mistral ha pubblicato i pesi completi di Mistral Large 4, il modello che soprannomina Le Chonk: chiunque può scaricarlo, modificarlo e farlo girare sul proprio hardware. Il laboratorio francese sostiene che sia il più potente tra i modelli aperti per scrivere codice e svolgere attività di sicurezza difensiva, come riprodurre una vulnerabilità software e poi correggerla. Per chi spera di usarlo a casa, però, c’è un ostacolo: le sue dimensioni.

Le Chonk conta circa un trilione di parametri, 49 miliardi dei quali vengono attivati per ogni parola generata. Anche le versioni più compresse, quelle a 2 bit realizzate dal team di llama.cpp e da Unsloth, richiedono una macchina Apple Silicon Ultra con 512 GB di memoria unificata, secondo Hugging Face. L’unico Mac venduto da Apple con una dotazione simile è un Mac Studio con chip M5 Ultra, che in questa configurazione costa 22.299 dollari negli Stati Uniti, riferisce 9to5Mac. Per farlo funzionare in qualsiasi altro modo servono diverse schede grafiche di fascia alta che lavorino insieme.

La tesi di Mistral a favore del modello si basa soprattutto sulla programmazione. L’azienda afferma che ottiene il 41% in Terminal-Bench 4.0, un test sugli agenti IA che operano da riga di comando: il miglior risultato tra i modelli aperti. Sostiene inoltre che il modello è alla pari con GLM-5.3 nell’indice di Artificial Analysis dedicato agli agenti di programmazione, pur utilizzando il 47% di token in meno per attività, e risultando quindi meno costoso da eseguire. In valutazioni comparative alla cieca condotte da Surge, i giudici hanno preferito il suo codice a quello di GLM-5.3, Kimi K3 e DeepSeek V4.1 Flash, collocando davanti a lui soltanto Claude Opus 5.5 di Anthropic.

La proposta sul fronte della sicurezza si rivolge a chi deve difendere i sistemi. Hugging Face afferma che il modello ha ottenuto l’82% in un test di Artificial Analysis che chiede a un’IA di riprodurre una vulnerabilità reale presente in un software open source e poi correggerla. Secondo Mistral, diversi modelli frontier proprietari si fermano vicino allo zero in questa prova perché rifiutano di tentare. Una banca o un ente governativo può eseguire il modello sui propri server, fornirgli il proprio codice e i registri degli arresti anomali, e continuare a usarlo anche se un fornitore modifica le proprie condizioni. «L’IA sarà come l’elettricità. Non si vuole vivere in un mondo in cui il vicino può toglierti la corrente da un giorno all’altro», ha detto ai giornalisti Pierre Stock, vicepresidente per la ricerca scientifica di Mistral, secondo Wired.

La maggior parte di questi risultati, però, proviene da Mistral stessa e da benchmark scelti dall’azienda, mentre le verifiche indipendenti sono appena cominciate. Nell’indice generale di intelligenza di Artificial Analysis, Hugging Face colloca il modello al quinto posto tra quelli aperti, non al primo. E l’argomento della sicurezza ha anche un rovescio. Mistral ha scritto che, monitorando il traffico in tempo reale durante l’anteprima, ha rilevato «un potenziale aumento della capacità di condurre attacchi reali» e che sta rafforzando le proprie misure di protezione; i pesi pubblici, però, possono essere scaricati e adattati da chiunque, compresi gli aggressori. «È chiaramente una tecnologia a doppio uso», ha dichiarato a Wired Rafe Pilling, direttore senior dell’intelligence sulle minacce di Sophos.

Anche per l’uso domestico, avere il Mac giusto comporta dei compromessi. Hugging Face ha eseguito la versione a 2 bit su un Mac Studio M3 Ultra di generazione precedente, ottenendo circa 15 token al secondo: una velocità sufficiente per una conversazione, ma lenta per lunghi lavori di programmazione. Con quattro schede Nvidia RTX 6000 Pro e documenti molto estesi, la velocità di generazione è scesa a circa 3 token al secondo. Ridurre il modello a 2 bit comporta inoltre una perdita di precisione rispetto alla versione completa usata da Mistral per i benchmark.

I pesi sono disponibili per il download in tutto il mondo su Hugging Face, con la Mistral Ecosystem Open-Weight License, una licenza MIT modificata che consente l’uso gratuito, la messa a punto e la creazione di prodotti commerciali. C’è un’eccezione: le aziende che vendono il modello come servizio ospitato devono ottenere una licenza commerciale separata da Mistral. Tutti gli altri possono usarlo anche tramite l’API di Mistral, al costo di 0,70 dollari per milione di token in ingresso e 2,10 dollari per milione di token in uscita, oppure attraverso OpenRouter e Microsoft Foundry. Mistral ha rilasciato un’anteprima all’inizio di ottobre e ha pubblicato i pesi definitivi il 29 ottobre. Apple dichiara che i Mac Studio ordinati con 512 GB di memoria saranno spediti tra la fine di novembre e l’inizio di dicembre.

«Quando si rendono pubblici i pesi, finiscono ovunque su Internet. È impossibile bloccarne l’accesso», ha detto Stock a Wired. Per chi non possiede un computer da 22.299 dollari, il vero limite è il costo della memoria.

Tag: cybersicurezza, Hugging Face, Mac Studio, IA open-weight, Le Chonk, Mistral AI