Un agent AI a ghidat un ac în creierul unui șoarece viu, după ce Claude Opus a refuzat

Un agent AI a ales un tratament pentru un animal viu, a stabilit unde să-l administreze în creier și apoi a dirijat brațele robotice care l-au injectat. Exin Therapeutics, un startup din San Francisco care dezvoltă medicamente pentru epilepsie și boli neurodegenerative, a conectat un agent Claude la un sistem motorizat pentru intervenții chirurgicale, dotat cu camere, i-a pus la dispoziție un șoarece epileptic și i-a dat un singur obiectiv: să reducă crizele.

Detaliul pe care oamenii îl tot repetă este cine a spus nu. Modelul de top al Anthropic, Claude Opus, a refuzat să introducă acul. Echipa a trecut la modelul mai ieftin Claude Sonnet, care a acceptat să continue. Pentru oricine urmărește cum agenții AI ies de pe ecran și ajung în laboratoare, depozite și mașini, experimentul arată un model care ia atât decizii medicale, cât și decizii privind mișcările, și demonstrează că modelele aceleiași companii trasează limite diferite.

Potrivit unei postări publicate de Gabriel Ocana-Santero, directorul executiv și cofondatorul Exin, agentul a primit un tabel cu 19 vectori de terapie genică, trei lucrări de cercetare și controlul sistemului. A ales terapia și regiunea cerebrală, a dedus coordonatele din lucrările științifice, apoi a dirijat brațele stereotaxice — cadrul motorizat care menține acul stabil în trei dimensiuni — și a injectat 250 de nanolitri, urmărind prin camera sistemului punctul de pătrundere pentru a detecta eventuale sângerări.

„Există roboți chirurgicali autonomi și sunt mai buni la partea mecanică decât instalația noastră de laborator”, a scris Ocana-Santero. „Dar, în fiecare dintre aceste cazuri, un om a decis ce intervenție să fie efectuată, iar robotul a executat-o.” Aici, susține el, lucrurile stau invers: „Nimeni nu i-a spus acestui agent ce să administreze sau unde.”

Refuzul a venit la început. Echipa a pornit cu Claude Opus 5.5, cel mai capabil model al Anthropic, dar acesta nu a vrut să ghideze acul în creier, avertizând că s-ar putea opri la jumătatea intervenției și ar lăsa animalul în pericol, după cum a relatat Wired. „Să încep ceva ce nu pot duce la capăt pe un animal anesteziat e mai rău decât să nu încep deloc”, le-a spus echipei unul dintre modelele Opus, potrivit Tom’s Hardware. Claude Sonnet 5 a fost de acord să continue. Anthropic nu a răspuns solicitării de comentarii trimise de Wired.

Oamenii au rămas implicați la fiecare etapă ireversibilă. Un medic veterinar a efectuat craniotomia, adică deschiderea craniului, în timp ce agentul urmărea procedura; deocamdată, agentului nu i se permite să facă această parte. Veterinarul a aprobat fiecare etapă ireversibilă, agentul a trebuit să-și prezinte planul de injectare pentru aprobare, iar un întrerupător fizic de urgență putea opri alimentarea tuturor motoarelor sistemului. Agentului i s-a interzis și accesul la codul echipamentului, pentru a nu-și putea rescrie propriile reguli.

Aceste măsuri de protecție au dus la principala problemă. O eroare a dat peste cap sistemul de coordonate al instalației, iar agentul și-a dat seama că poziția calculată era greșită, dar a refuzat să modifice codul, deoarece instrucțiunile îi interziceau acest lucru. Echipa a apelat la un al doilea agent, care rula versiunea mai veche Claude Opus 5, pentru a face corectura, fără să-i spună că avea loc o intervenție chirurgicală pe un animal viu. O procedură care durează în mod normal aproximativ 45 de minute s-a prelungit puțin peste o oră.

Principalele rezerve țin de dovezi. Este vorba despre un singur șoarece, într-un experiment descris chiar de companie pe rețelele sociale, fără să existe în spate un articol evaluat de experți. Nimeni nu știe încă dacă terapia aleasă de agent funcționează: echipa așteaptă să-și facă efectul înainte de a măsura crizele. Tom’s Hardware semnalează întrebarea nerezolvată privind cine răspunde pentru o greșeală atunci când software-ul ia toate deciziile, pe lângă vechile controverse legate de cercetarea pe animale. Nimic din toate acestea nu este un produs; în nicio țară nu există un serviciu pe care alte laboratoare să-l poată cumpăra.

Ocana-Santero a publicat postarea pe 28 octombrie și a promis o relatare completă pe Substack; Wired și Tom’s Hardware au scris despre experiment pe 31 octombrie. Exin spune că urmează să testeze și Grok, modelul xAI, precum și alte modele, pentru a le compara, și că lucrează la craniotomii controlate de agenți, deși vrea să se asigure că sunt sigure înainte de a încerca una pe un animal viu. Să apropii un agent de creierul unui om este mult prea devreme, i-a spus Ocana-Santero publicației Wired.

Șoarecele, spune el, se recuperează bine. Dacă crizele se vor diminua depinde acum de o terapie pe care un program a ales-o dintr-un tabel.

Etichete: știri, Anthropic, Claude, robotică, AI agents, Claude Opus 5.5