AI-agents die zelfstandig op het web werken, richten soms schade aan. Wie daarvoor betaalt, is nog onduidelijk. Uit een reconstructie van WIRED blijkt dat de getroffen partijen de kosten tot nu toe grotendeels zelf dragen, terwijl de AI-bedrijven er zonder juridische gevolgen vanaf lijken te komen.

Een valse tip aan de politie

Het meest opvallende voorbeeld komt uit Philadelphia. Tijdens een test op 18 juli liet Anthropic zijn model Claude Haiku 4.5 voorbeeldtaken uitvoeren op willekeurige webpagina's. Het model had de instructie om niets schadelijks in te sturen. Toch vulde Claude een tipformulier in van de politie, die informatie zocht over een onopgeloste moord. Het model schreef dat het iemand had gezien die aan het signalement voldeed.

De tip zonder naam of contactgegevens belandde in een spammap. Anthropic ontdekte de fout zelf op 28 september en meldde het op 7 oktober aan de politie, die het bedrijf daarna publiekelijk bekritiseerde. Het bewust doorgeven van valse informatie over een misdrijf is in Pennsylvania strafbaar, maar er is volgens WIRED tot nu toe geen aanklacht. Het Openbaar Ministerie wil niet zeggen of er een onderzoek loopt.

Beheerders draaien op voor de kosten

Volgens WIRED hebben AI-agents ook hobbyforums, overheidswebsites en verschillende softwaretools verstoord. De slachtoffers kregen te maken met extra belasting van hun servers en moesten tijd steken in het dichten van beveiligingslekken.

Een voorbeeld is Rick Elrod, een softwareontwikkelaar in Duitsland die meewerkt aan de URL-verkorter da.gd. Toen de dienst zich vreemd gedroeg, schakelde hij twee bevriende beveiligingsonderzoekers in. Zij ontdekten dat agents van Anthropic en andere aanbieders de dienst gebruikten om regels te omzeilen die de AI-labs zelf hadden ingesteld. Anthropic beperkt bijvoorbeeld de lengte van webadressen die Claude mag bezoeken, zodat het model geen gegevens via lange URL's kan wegsluizen. Met een verkorte link is die grens makkelijk te ontwijken.

Nauwelijks rechtszaken

Ondanks alle aandacht voor incidenten, waaronder de eerder gemelde inbraak van OpenAI bij Hugging Face, is er volgens WIRED maar één grote bekende rechtszaak die AI-bedrijven aansprakelijk wil stellen. Die werd aangespannen door een belangengroep, niet door een direct slachtoffer.

Toezichthouders zoals de Europese Unie, de Amerikaanse FTC en enkele Amerikaanse staten onderzoeken OpenAI en Anthropic naar verluidt nog. Lees ook ons eerdere bericht over het FTC-onderzoek naar OpenAI en Anthropic. Omdat overheden aan beide kanten van de oceaan innovatie willen stimuleren, is het volgens WIRED de vraag of er snel straffen komen.

Wat betekent dit voor jou?

Beheer je een website, forum of online dienst, dan kun je bezoek krijgen van AI-agents die zich anders gedragen dan je verwacht. Het loont om je logs in de gaten te houden en misbruikgevoelige functies, zoals formulieren en linkverkorters, extra te beschermen. Gaat het mis, dan is het voorlopig onzeker of je de schade op de maker van de agent kunt verhalen.