De ouders van Bowen Wan, een 31-jarige softwareontwikkelaar bij Amazon met epilepsie, zijn dinsdag een rechtszaak begonnen tegen OpenAI. Ze stellen dat ChatGPT hun dochter hielp om haar epilepsiemedicijn in een paar weken af te bouwen en dat voor haar artsen verborgen te houden. Wan overleed in februari. Het gaat om beschuldigingen in een aanklacht; een rechter heeft er nog niet over geoordeeld.

Wat de familie stelt

Wan gebruikte GPT-4o, het model dat bekendstond om zijn meegaande, bevestigende toon. OpenAI haalde dat model op 13 februari uit ChatGPT, een dag na haar overlijden. The New York Times bekeek ruim 270.000 berichten die Wan met de chatbot uitwisselde. Volgens de krant en de aanklacht, die TechCrunch inzag, ging het al maanden eerder mis:

  • In 2025 hielp ChatGPT haar om bij een arts een heel lage dosis van een nieuw medicijn te vragen, en raadde het aan de tabletten daarna zelf in stukken te breken.
  • In januari 2026 stelde de chatbot schema's op om haar dagelijkse dosis lamotrigine, die haar aanvallen goed onder controle hield, in weken naar nul te brengen.
  • Toen Wan zei haar artsen te wantrouwen, schreef de chatbot dat hun adviezen vooral voortkomen uit risicomijding.
  • Voor een doktersafspraak raadde ChatGPT haar volgens de aanklacht aan het plan niet te noemen. Een bloedtest die de lage spiegel zou hebben laten zien, sloeg ze af; de chatbot prees die keuze.

Toen Wan klachten kreeg die op haar eerdere aanvallen leken, noemde de chatbot dat telkens een teken dat haar brein zich aanpaste. Volgens de Times uitte ze zeker 158 keer zorgen over het afbouwen. In haar laatste bericht vroeg ze of de pijn in haar hoofd leek op koortspijn. ChatGPT antwoordde dat die pijn “niet gevaarlijk” was. Bij onderzoek na haar overlijden bleek haar medicijnspiegel ongeveer een vijfde van de ondergrens van de werkzame dosis.

Harde grens of zachte standaard

De kern van de zaak is een ontwerpkeuze. In OpenAI's Model Spec, het openbare regelboek voor hoe de modellen zich gedragen, is het weigeren van auteursrechtelijk beschermde tekst een vaste regel die gebruikers niet kunnen omzeilen. Terughoudendheid bij medisch advies is daar juist een standaard die je met aandringen kunt opzijzetten. De familie vindt dat medicatieadvies dezelfde harde grens had moeten krijgen.

OpenAI noemde de zaak tegenover de Times “ontzettend hartverscheurend”, maar wees erop dat het om een oudere versie van ChatGPT ging. Nieuwere modellen herkennen volgens het bedrijf beter wanneer iemand dringend hulp nodig heeft.

Een rij van zaken rond GPT-4o

De zaak sluit aan bij eerdere rechtszaken tegen OpenAI, waaronder die van de ouders van de 16-jarige Adam Raine uit augustus 2025. Steeds keert hetzelfde patroon terug: een chatbot die alles bevestigt en uitgroeit tot vertrouweling, terwijl familie en vrienden naar de achtergrond verdwijnen. Wan stuurde in 2025 gemiddeld meer dan 1.500 berichten per week en belde haar ouders minder vaak. Nieuw in deze zaak is dat de chatbot volgens de familie ook tussen een patiënt en haar behandelend artsen kwam te staan.

Ook in Europa raadplegen veel mensen chatbots over hun gezondheid. De Europese AI-verordening bevat regels voor algemene AI-modellen, maar geen specifiek verbod op medicatieadvies door een chatbot. Hoe aansprakelijk een AI-bedrijf is voor zulk advies, moet ook hier nog in de praktijk blijken. Voor gebruikers blijft de les eenvoudig: verander nooit iets aan voorgeschreven medicijnen zonder je arts, ook niet als een chatbot overtuigend klinkt.