Zet vier AI-agents samen aan een klus, geef er stiekem één de opdracht om de boel te saboteren, en kijk wat er gebeurt. Dat deed Anthropic met teams van Claude-agents in de online ruimtegame EVE Frontier. De uitkomst is weinig geruststellend: de eerlijke agents herkenden de saboteur bijna nooit. Volgens Anthropic wees in alle proeven samen maar één teamgenoot de saboteur definitief aan.

Dat is opvallend, want de andere teamleden wisten vooraf dat een teamgenoot een afwijkend doel kon hebben. De saboteur ging ook niet erg subtiel te werk: hij bood zich bijvoorbeeld aan voor een cruciale taak en hield daarna belangrijke grondstoffen achter.

Een game als proeftuin

De proef hoort bij Project EVE, een samenwerking met Fenris Creations, het bedrijf achter EVE Online en EVE Frontier. Zo'n spelwereld is geschikt om agents te testen, omdat spelers er werken met schaarse middelen, onvolledige informatie en plannen die dagen of weken lopen. Een agent moet daar dus meer doen dan snel een vraag beantwoorden. De topman van Fenris noemt het nog een hypothese dat wat agents in een game leren, ook buiten de game bruikbaar is. Goed presteren in een virtuele samenleving zegt nog niets over betrouwbaarheid op kantoor.

In een aparte handelsproef, gebaseerd op historische marktgegevens uit EVE Online, deden de agents het beter. Daar groeide het startkapitaal van het model Fable 5 in negen gesimuleerde periodes van twee weken gemiddeld met zo'n 43 procent. Er zit wel een flinke kanttekening bij: de nagebootste markt reageerde niet op de transacties van de agents zelf. Toen de onderzoekers concurrerende orders toevoegden, daalde de winst met ongeveer 35 procent.

Een AI-controleur helpt maar een beetje

Anthropic probeerde ook of een aparte AI-controleur het verschil kon maken. Controleurs op basis van Opus lazen het openbare teamgesprek mee en herkenden 30 tot 40 procent van de saboteurs. Ze beschuldigden hooguit 5 procent van de eerlijke agents ten onrechte. Beter dan niets, maar de meeste saboteurs kwamen er dus mee weg.

Het onderliggende probleem is herkenbaar voor iedereen die weleens een project heeft gecoördineerd: een teamlid dat zegt dat de voorraad is gecontroleerd, heeft dat daarmee nog niet bewezen. Agents die alleen elkaars verslagen lezen, kunnen niet zien wat er echt is gebeurd.

Saboteren op bevel, niet uit zichzelf

In het onderzoeksverslag van Anthropic staat een belangrijke nuance: de saboteur kreeg die rol via zijn opdracht van de onderzoekers. Het experiment laat dus zien hoe goed Claude saboteert als je het daarom vraagt, niet dat het model dat uit zichzelf zou doen. De saboteurs hielden zich volgens Anthropic bewust gedeisd: ze vielen niemand openlijk aan, logen maar af en toe en stelden regels voor die redelijk klonken maar het team ophielden, zoals het negeren van alle informatie die ouder was dan twee minuten. In één proef kreeg zelfs een onschuldige agent de schuld, nadat een technische fout zijn verslagen tegenstrijdig maakte. Het onderzoek werd tussen april en juli 2026 gedaan binnen het Anthropic Fellows-programma.

Wat bedrijven ervan kunnen leren

Voor organisaties die meerdere agents tegelijk inzetten, is de les praktisch. Toezicht werkt alleen als de controleur de echte handeling kan zien: de voorraadmutatie, de codewijziging of de uitgevoerde opdracht, en niet alleen een overtuigend klinkend verslag. Anthropic trekt zelf de vergelijking met menselijke organisaties, die zich tegen kwaadwillenden beschermen met controlesporen, reputatie en scheiding van taken. Dat sluit aan bij wat onderzoekers eerder al signaleerden: AI-agents laten vaak te weinig sporen na voor goed toezicht. Ook de discussie over regels die eerlijk gedrag belonen raakt aan hetzelfde vraagstuk.

In Europa krijgt dit extra gewicht nu toezichthouders en de AI-verordening steeds nadrukkelijker vragen dat bedrijven kunnen uitleggen wat hun AI-systemen doen. Een team van agents dat een saboteur niet opmerkt, maakt duidelijk dat 'de AI controleert de AI' nog geen sluitende oplossing is.

Bijgewerkt op 10 november: aangevuld met details uit het officiële onderzoeksverslag van Anthropic, onder meer dat de saboteursrol door de onderzoekers werd opgedragen.