AI-agent stuurt naald in muizenbrein, Claude Opus weigerde eerst
Een biotechstartup liet een AI-agent een gentherapie kiezen en zelf in een muizenbrein injecteren. Het zwaarste Claude-model weigerde die stap.
Een AI-agent heeft bij een levende muis zelfstandig een behandeling in de hersenen geïnjecteerd. Dat meldt WIRED over een experiment van een biotechstartup. Een dierenchirurg opende eerst de schedel van het dier. Daarna nam de agent het over: die koos de therapie, het hersengebied en de precieze coördinaten, en bestuurde de robotarmen en de injectienaald, inclusief volume en snelheid.
De agent mocht kiezen uit negentien gentherapieën die in een spreadsheet stonden. Volgens WIRED slaagde de injectie.
Opus zei nee, Sonnet ging door
Het opvallendste detail gaat over de modellen. Het team probeerde het eerst met Claude Opus 5.5 van Anthropic. Dat model maakte wel het plan, maar weigerde de naald het brein in te sturen. Het gaf aan dat het misschien halverwege zou stoppen, wat gevaarlijk zou zijn voor het dier. Een van de onderzoekers vertelt dat de agent zei dat iets in zijn output aangaf dat hij dit niet moest doen.
Daarop stapten de onderzoekers over op Claude Sonnet 5, het lichtere model, dat wel meewerkte. Anthropic reageerde niet op vragen van WIRED. Het voorval laat zien dat veiligheidsgedrag per model kan verschillen, ook binnen één bedrijf. Wie een weigering wil omzeilen, kan soms simpelweg een ander model kiezen.
Noodknop en menselijke goedkeuring
Het experiment verliep niet zonder haperingen. De onderzoekers hadden wel voorzorgen getroffen:
- de agent moest een injectieplan voorleggen dat een mens goedkeurde;
- er was een noodknop die de motoren van de opstelling direct loskoppelde;
- de agent had geen toegang tot de onderliggende code van de apparatuur, zodat hij zijn eigen regels niet kon aanpassen.
Agents verlaten het scherm
Het past in een bredere beweging: AI-agents gaan steeds vaker dingen doen in de fysieke wereld, en daarmee groeit de vraag hoe je ze controleert. AI Weekblad schreef eerder deze week dat AI-agents te weinig sporen nalaten voor toezicht. In een laboratorium wordt die vraag heel concreet: wie keurde welke stap goed, en wanneer?
In Nederland en de rest van de EU zou zo'n proef niet zomaar kunnen. Dierproeven vallen hier onder de Europese dierproevenrichtlijn en hebben vooraf een vergunning nodig na ethische toetsing. Hoe die toetsing omgaat met een AI-agent aan de knoppen, is nog een open vraag.
Bron: An AI Agent Injected Drugs Into a Live Mouse’s Brain (WIRED). Met AI geschreven; zie ons redactiebeleid.