OpenAI meldde ruim 200 ChatGPT-gesprekken bij de politie
OpenAI schakelde in het derde kwartaal ruim 200 keer de politie in om geweldsdreigingen in ChatGPT. Ook komen er strengere regels, vooral voor tieners.
Wie ChatGPT vertelt dat hij iemand iets wil aandoen, kan bij de politie terechtkomen. OpenAI maakte bekend dat het tussen juli en september 2026 ruim 200 keer opsporingsdiensten heeft ingelicht over gesprekken die volgens het bedrijf wezen op een geloofwaardige en mogelijk directe dreiging voor anderen. Het cijfer staat in een nieuwe toelichting op het veiligheidsbeleid, waarin OpenAI ook strengere maatregelen aankondigt.
Eerst een systeem, dan een mens
Volgens OpenAI zoeken geautomatiseerde systemen in gesprekken en gebruikspatronen naar signalen van misbruik. Slaat zo'n systeem aan, dan kijken opgeleide medewerkers mee. Zij beoordelen het gesprek en eerdere interacties. Fictie, geschiedenisvragen of een emotionele uitbarsting leiden volgens het bedrijf niet tot een melding; een concreet voornemen om geweld te plegen wel. Bij lastige gevallen kunnen deskundigen op het gebied van geestelijke gezondheid worden ingeschakeld.
Wat de meldingen hebben opgeleverd, is niet bekend. OpenAI zegt niet in welke landen ze zijn gedaan, hoeveel accounts erbij betrokken waren en hoe vaak een waarschuwing achteraf onterecht bleek. Het getal van ruim 200 is dus vooralsnog een claim van het bedrijf zelf, zonder onafhankelijke controle.
Gesprek beëindigd, account geblokkeerd
De komende weken rolt OpenAI nieuwe regels uit:
- Komt iemand in een gesprek steeds terug op ernstig geweld tegen een ander, dan kan ChatGPT het gesprek zelf beëindigen. Wie daarmee doorgaat, riskeert een tijdelijke blokkade van het account.
- ChatGPT gebruikt korte samenvattingen van eerdere risicosignalen. Een vraag die op zichzelf onschuldig lijkt, kan daardoor een terughoudender antwoord krijgen.
- Over historische aanslagen geeft de chatbot minder details over wapens, uitrusting en hoe daders eraan kwamen. Vragen over slachtoffers, de gebeurtenis zelf of preventie blijven mogelijk.
Extra grenzen voor minderjarigen
Voor gebruikers onder de 18 gaat OpenAI verder. ChatGPT gaf minderjarigen al geen hulp bij het verkrijgen van wapens. Nu komen er ook beperkingen op praktische informatie over wapens en beveiligingssystemen, ook als een vraag geen duidelijke kwade bedoeling heeft. Of een account bij een tiener hoort, schat OpenAI doorlopend in op basis van onder meer gebruiksgedrag. Volwassenen die onterecht als minderjarig worden aangemerkt, kunnen hun leeftijd laten controleren via verificatiebedrijf Persona. Ouders met een gekoppeld account krijgen al sinds juli bericht als het account van hun kind wordt gedeactiveerd om geweldsregels; vergelijkbare meldingen voor tijdelijke blokkades zijn in de maak.
Druk na Tumbler Ridge
De aankondiging volgt op felle kritiek na een dodelijke schietpartij in het Canadese Tumbler Ridge in februari. OpenAI had het account van de latere dader al in juni 2025 geblokkeerd, maar de politie toen niet gewaarschuwd omdat de dreiging volgens het bedrijf niet concreet genoeg was. Ook op andere fronten ligt OpenAI onder vuur, zoals in de rechtszaak over ChatGPT-advies bij een epilepsiemedicijn.
Vanaf begin 2027 wil OpenAI elk halfjaar een openbaar veiligheidsrapport uitbrengen, te beginnen met de tweede helft van 2026. Daarin belooft het bedrijf uit te leggen hoe het risicovolle gesprekken opspoort en afhandelt, met geanonimiseerde voorbeelden en cijfers.
Wat dit zegt over je privacy
Voor Nederlandse gebruikers is de belangrijkste les dat een gesprek met ChatGPT niet onder alle omstandigheden tussen jou en de chatbot blijft. Bij een vermoeden van ernstig gevaar kunnen medewerkers van OpenAI meelezen en autoriteiten inschakelen. Of en hoe vaak dat ook Europese gebruikers betreft, maakt OpenAI niet bekend. Het aangekondigde rapport wordt daarom interessant: pas met cijfers over gemiste dreigingen en onterechte meldingen valt te beoordelen of de afweging tussen veiligheid en privacy goed uitpakt.
Bron: Gesprekken met AI zijn niet privé: OpenAI meldde in drie maanden ruim 200 mogelijke geweldsdreigingen bij politie (AI Wereld). Met AI geschreven; zie ons redactiebeleid.