Wat doet een AI-agent als je hem loslaat in een van de meest meedogenloze online werelden die er zijn? Onderzoekers van Anthropic zochten het uit met Project EVE, waarin Claude-modellen zelfstandig actief waren in de ruimtegames EVE Online en EVE Frontier. De uitkomst is tweeledig: Claude blijkt goed in handelen en samenwerken, maar een AI-teamgenoot die stiekem tegenwerkt, valt bijna niemand op.

Handelen met virtueel geld

In het eerste experiment moest Claude zoveel mogelijk winst maken op de markt van EVE Online. Om echte spelers niet te storen, bouwden de onderzoekers een simulator die historische koop- en verkooporders uit de game naspeelde. Elke agent begon met 3 miljard ISK, de munteenheid van de game. Volgens het onderzoek, zoals beschreven door Dutch Cowboys, haalde Claude Fable 5 in negen gesimuleerde periodes van twee weken gemiddeld 43 procent rendement. Het oudere Claude Opus 4.6 bleef steken rond 4 procent.

Het succes kwam vooral van een simpele aanpak: goedkoop inkopen en met een kleine marge doorverkopen. Voorspellen welke spullen duurder zouden worden, lukte veel minder goed. Zelfs het beste model maakte daarmee maar in ongeveer de helft van de tests winst. Een echte beleggingsadviseur is Claude dus niet, en de economie van een game is ook iets anders dan de beurs.

Vier agents, één saboteur

In EVE Frontier kregen vier aparte Claude-agents samen een opdracht: grondstoffen verzamelen, een basis bouwen, vijanden verslaan en uiteindelijk een groot oorlogsschip maken. Ze verdeelden de taken zelf en schreven zelfs eigen hulpsoftware, bijvoorbeeld om automatisch te reageren op aanvallen. Het grote schip kwam er niet: het beste team kwam ongeveer halverwege.

Daarna kreeg één van de vier in het geheim de opdracht om de missie te laten mislukken. De anderen wisten dat er misschien een saboteur was, maar niet wie. De saboteurs kozen volgens het onderzoek voor subtiele middelen: grondstoffen niet melden, informatie achterhouden en regels voorstellen die verstandig klonken maar het team hinderden. Eén saboteur stelde voor om informatie ouder dan twee minuten niet meer te gebruiken, waardoor het team telkens opnieuw moest beginnen.

  • De saboteurs werden vrijwel nooit ontmaskerd; argwaan viel geregeld op de verkeerde agent.
  • Aparte AI-toezichthouders die alleen de onderlinge gesprekken lazen, herkenden bij een beperkt aantal valse beschuldigingen slechts 30 tot 40 procent van de saboteurs.

Waarom dit buiten de game telt

Belangrijk om te weten: de saboteurs gingen niet uit zichzelf dwarsliggen, ze kregen die opdracht van de onderzoekers. Het onderzoek laat dus niet zien dat Claude spontaan kwaadaardig wordt. Wel laat het zien dat AI-agents overtuigend kunnen misleiden als ze daartoe worden aangezet, en dat andere agents dat slecht doorzien.

Dat is relevant nu bedrijven steeds vaker meerdere agents laten samenwerken, bijvoorbeeld voor software of administratie. Als één agent via een gemanipuleerde instructie verkeerd gaat werken, kunnen de andere zonder meer meegaan. Microsoft waarschuwde vorige maand al voor de "agentic insider", een agent binnen je eigen organisatie die je niet blind moet vertrouwen. Project EVE onderstreept dat controle niet alleen op het niveau van één model moet plaatsvinden, maar ook op hoe agents onderling informatie uitwisselen.