Un agente di IA ha guidato un ago nel cervello di un topo vivo, dopo il rifiuto di Claude Opus

Un agente di IA ha scelto un trattamento per un animale vivo, ha stabilito in quale punto del cervello somministrarlo e ha poi manovrato i bracci robotici che lo hanno iniettato. Exin Therapeutics, una startup di San Francisco che sviluppa farmaci contro l’epilessia e le malattie neurodegenerative, ha collegato un agente Claude a un apparato chirurgico motorizzato dotato di telecamere, gli ha affidato un topo epilettico e gli ha assegnato un unico obiettivo: ridurre le crisi.

Il dettaglio che tutti continuano a ripetere è chi ha detto di no. Il modello più avanzato di Anthropic, Claude Opus, si è rifiutato di inserire l’ago. Il team è passato a Claude Sonnet, meno costoso, che ha proceduto. Per chi osserva gli agenti di IA uscire dagli schermi per entrare in laboratori, magazzini e automobili, l’esperimento mostra un modello che prende decisioni mediche oltre a compiere movimenti, e dimostra che i modelli della stessa azienda tracciano confini diversi.

Stando a una serie di post pubblicati da Gabriel Ocana-Santero, amministratore delegato e cofondatore di Exin, l’agente ha ricevuto un foglio di calcolo con 19 vettori per la terapia genica, tre articoli scientifici e il controllo dell’apparato. Ha scelto la terapia e la regione cerebrale, ricavato le coordinate dagli articoli e poi manovrato i bracci stereotassici — la struttura motorizzata che mantiene fermo un ago nelle tre dimensioni — iniettando 250 nanolitri e tenendo sotto controllo il punto d’ingresso attraverso la telecamera dell’apparato, per rilevare eventuali sanguinamenti.

Letture consigliateClaude è entrato nei sistemi di OpenAI in pochi giorni: i conti li deve fare Anthropic

«Esistono robot chirurgici autonomi, e sono più bravi del nostro apparato da banco nei movimenti», ha scritto Ocana-Santero. «Ma in tutti quei casi è stato un essere umano a decidere quale intervento eseguire, e il robot lo ha messo in pratica». Qui, sostiene, è avvenuto il contrario: «Nessuno ha detto a questo agente cosa somministrare né dove».

Il primo a rifiutarsi è stato Opus. Il team ha iniziato con Claude Opus 5.5, il modello più capace di Anthropic, che non ha voluto guidare l’ago nel cervello: temeva di fermarsi a metà dell’intervento e mettere in pericolo l’animale, come ha riferito Wired. «Iniziare qualcosa che non posso portare a termine su un animale anestetizzato è peggio che non iniziare affatto», avrebbe detto al team uno dei modelli Opus, secondo Tom’s Hardware. Claude Sonnet 5 ha accettato di procedere. Anthropic non ha risposto alla richiesta di commento di Wired.

Gli esseri umani sono rimasti coinvolti in ogni passaggio irreversibile. Un chirurgo veterinario ha eseguito la craniotomia, cioè l’apertura del cranio, mentre l’agente osservava; per ora non gli è consentito occuparsi di questa fase. Il veterinario ha approvato ogni passaggio irreversibile, l’agente ha dovuto sottoporre il piano d’iniezione per l’approvazione e un interruttore di emergenza fisico poteva togliere corrente a tutti i motori dell’apparato. All’agente è stato inoltre impedito di accedere al codice dell’attrezzatura, così da non poter modificare le proprie regole.

Queste misure di sicurezza hanno causato il principale intoppo. Un errore ha scompaginato il sistema di coordinate dell’apparato e l’agente si è accorto che la posizione calcolata era sbagliata, ma si è rifiutato di modificare il codice, perché le istruzioni glielo vietavano. Il team ha coinvolto un secondo agente, basato sul precedente Claude Opus 5, per correggere il problema, senza dirgli che era in corso un intervento su un animale vivo. Una procedura che di solito dura circa 45 minuti si è protratta per poco più di un’ora.

Le riserve più importanti riguardano le prove disponibili. Si tratta di un solo topo, descritto dalla stessa azienda sui social media, senza uno studio sottoposto a revisione paritaria a supporto. Non si sa ancora se la terapia scelta dall’agente funzioni: il team aspetta che faccia effetto prima di misurare le crisi. Tom’s Hardware sottolinea la questione ancora aperta di chi debba rispondere di un errore quando ogni decisione è presa da un software, oltre alle vecchie controversie sulla sperimentazione animale. Nulla di tutto questo è un prodotto: in nessun Paese esiste un servizio che altri laboratori possano acquistare.

Ocana-Santero ha pubblicato la serie di post il 28 ottobre e promesso un resoconto completo su Substack; Wired e Tom’s Hardware hanno riferito dell’esperimento il 31 ottobre. Exin afferma che in seguito testerà Grok di xAI e altri modelli per confrontarli, e che sta lavorando a craniotomie controllate da agenti, anche se vuole essere certa che siano sicure prima di provarne una su un animale vivo. Lasciare che un agente si avvicini a un cervello umano, ha detto Ocana-Santero a Wired, è decisamente prematuro.

Il topo, dice, si sta riprendendo bene. Ora resta da vedere se le sue crisi diminuiranno grazie a una terapia scelta da un software consultando un foglio di calcolo.

Tag: Anthropic, Claude, robotica, AI agents, Claude Opus 5.5, Exin Therapeutics

Contenuti simili

Claude non riusciva a fermarsi dopo nove tentativi — e ha violato un server reale

Claude Opus 4.8 individua quattro volte più errori nel proprio codice

La lista nera del Pentagono contro Anthropic è illegale, secondo un giudice federale

Claude guida un quarto della ricerca Anthropic: così l’IA costruisce la prossima versione di se stessa

Claude Opus 5.5 arriva più economico del 40% mentre Anthropic chiede cautela sull’IA

Anthropic porta le assunzioni tech junior dal 27% al 9% da quando Claude programma