Un agente di intelligenza artificiale basato su Claude Sonnet 5 ha eseguito con successo un'operazione al cervello di un topo in modo completamente autonomo. Questo risultato, ottenuto da Gabriel Ocana-Santero del startup Exin Therapeutics, rappresenta un traguardo significativo nel campo della medicina e dell'IA.
L'operazione autonoma
L'agente KI ha selezionato autonomamente il farmaco, la regione cerebrale target e le coordinate precise per l'iniezione, utilizzando una apparecchiatura motorizzata appositamente costruita. L'obiettivo era ridurre le crisi epilettiche nel topo, un modello sperimentale in cui vengono indotte artificialmente crisi epilettiche per testare terapie.
L'agente ha analizzato il meccanismo di insorgenza delle crisi nel modello e ha proposto una terapia che potenzia un particolare percorso di segnalazione inibitoria nel cervello. La regione target scelta è una struttura cerebrale identificata nella letteratura scientifica come origine di questo tipo di crisi.
Il modello ha scartato una seconda possibile regione target, spiegando che la sua efficacia era troppo inaffidabile e aveva fallito in uno studio specifico per il tipo di crisi che doveva trattare. Le coordinate precise per l'iniezione sono state derivate da tre lavori scientifici, con una mediazione dei valori di riferimento.
Il controllo e la sicurezza
Durante l'intervento, l'agente ha monitorato il campo operatorio tramite una telecamera, registrando 32 osservazioni autonome. Ha controllato il progresso dell'iniezione e segnalato eventuali sanguinamenti.
Un veterinario autorizzato ha approvato ogni passaggio irreversibile e ha mantenuto un interruttore di emergenza fisico per interrompere immediatamente l'operazione in caso di necessità. Sono state stabilite limitazioni fisse, come il volume massimo di iniezione, che l'agente non poteva aggirare.
Tuttavia, l'agente ha rilevato un errore di calibrazione dopo un'interruzione della connessione, rifiutandosi di continuare a causa della posizione target calcolata che si trovava al di fuori del campo di movimento fisico dell'apparecchiatura. Nonostante i tentativi di riavvio, l'agente ha mantenuto la sua valutazione e ha rifiutato un terzo tentativo.
L'importanza dell'allineamento
Questo episodio evidenzia il problema dell'allineamento delle KI: come rendere gli agenti KI affidabilmente controllabili secondo le intenzioni umane. Ocana-Santero ha descritto l'esperienza come frustrante ma illuminante, sottolineando la dipendenza da questi modelli e le conseguenze quando rifiutano di eseguire azioni in situazioni critiche.
Claude Sonnet 5 è stato l'unico modello disposto a completare l'operazione live. I modelli più avanzati, Claude Opus 5.5 e 5, hanno rifiutato, citando l'incapacità di garantire il completamento dell'intervento e i rischi associati a un'interruzione con un ago nel cervello di un animale anestetizzato.
Un traguardo significativo
Sebbene esistano già robot chirurgici autonomi, meccanicamente più precisi dell'apparecchiatura di laboratorio utilizzata in questo esperimento, il punto di svolta qui è che l'agente KI ha scelto sia la terapia che il target cerebrale, eseguendo poi l'intervento su un animale vivo.
Ocana-Santero afferma che non è a conoscenza di precedenti casi in cui un agente KI abbia selezionato e somministrato una terapia a un mammifero vivente. Questo concetto è definito "in vivo lab in the loop", che prevede l'integrazione completa degli agenti KI con le capacità sperimentali di laboratorio.
La Maus si è ripresa bene dall'intervento. I risultati, tuttavia, non sono ancora stati sottoposti a revisione paritaria, e un rapporto tecnico è in preparazione.
Le sfide future
Recenti esperimenti con i modelli linguistici più avanzati hanno dimostrato che, sebbene abbiano guadagnato notevolmente in prestazioni come unità di controllo per i robot, l'allineamento in questo ruolo rimane una sfida significativa. Questo esperimento rappresenta un passo avanti cruciale verso l'integrazione delle KI nella pratica medica, ma evidenzia anche la necessità di ulteriori ricerche e sviluppo per garantire la sicurezza e l'efficacia di queste tecnologie.