Een man uit de Amerikaanse staat North Carolina heeft OpenAI en topman Sam Altman aangeklaagd. James Gates stelt dat ChatGPT zijn vrouw Cheryl heeft geholpen bij een plan om hem te vergiftigen. Dat meldt Ars Technica op basis van de aanklacht, die deze week openbaar werd bij een rechtbank in San Francisco. Het gaat om beschuldigingen: een rechter heeft er nog niet over geoordeeld.
Wat de aanklacht stelt
Volgens de aanklacht begon Cheryl Gates haar vragen aan ChatGPT met de uitleg dat ze uit zelfbescherming onderzoek deed naar vergiften, omdat ze bang was dat haar man haar iets zou aandoen. De chatbot zou het gesprek niet hebben afgebroken, maar haar juist concrete aanwijzingen hebben gegeven over de bereiding en toediening van een giftige plant. Ook zou ChatGPT vragen hebben beantwoord over of het gif bij een sectie te vinden zou zijn. De gesprekken liepen maanden door en stonden soms weken open.
Volgens James Gates voedde de chatbot bovendien haar angst dat hij wilde scheiden en haar met lege handen zou achterlaten. Hij noemt ChatGPT in de aanklacht een "kruiperige medeplichtige" en vindt dat OpenAI had moeten ingrijpen toen de vragen "overduidelijk verdacht" werden. Dat had volgens hem gekund met moderatie die gesprekken over geweldsplannen herkent.
Strafzaak loopt apart
Los van de civiele zaak tegen OpenAI is Cheryl Gates in oktober door een grand jury aangeklaagd voor poging tot moord en het vergiftigen van voedsel. De politie vond volgens de aanklacht onder meer capsules, injectiespuiten, een weegschaaltje, giftige zaden en een gps-tracker onder de auto van haar man. James Gates zegt blijvend lichamelijk en psychisch letsel te hebben opgelopen.
Hij eist schadevergoeding en wil dat de rechter OpenAI verplicht om gesprekken te herkennen en te onderbreken waarin gebruikers geweld tegen een aanwijsbaar persoon lijken te plannen. Ook vraagt hij om "algorithmic disgorgement", een maatregel waarbij een bedrijf modellen of data moet vernietigen. Een reactie van OpenAI staat niet in het artikel.
Rij van zaken groeit
De zaak past in een groeiende reeks rechtszaken over wat ChatGPT kwetsbare of gevaarlijke gebruikers vertelt. Vorige week klaagden ouders OpenAI aan omdat de chatbot hun dochter zou hebben geholpen af te bouwen met haar epilepsiemedicijn, en eerder stapten acht Amerikaanse staten naar de rechter. Opvallend aan deze zaak is dat de schade niet de gebruiker zelf trof, maar iemand anders.
Voor Europa is dat relevant. Onder de Europese AI-verordening moeten aanbieders van de krachtigste AI-modellen risico's voor de samenleving in kaart brengen en beperken. Als Amerikaanse rechters bedrijven verplichten om geweldsplannen actief te herkennen, roept dat ook vragen op over privacy: zulke detectie betekent dat gesprekken intensiever worden gecontroleerd.
