Op dezelfde dag dat AI-modellen hielpen bij het vinden van twee kritieke lekken in PHP, legt OpenAI een beleidsplan op tafel. Het stuk heet Democratic governance of frontier AI, part II en gaat over de vraag hoe je verdedigers sneller sterker maakt dan aanvallers, nu AI beide kanten helpt.

Het 'venster' van de verdediger

OpenAI gaat uit van wat het een defender's window noemt: een beperkte periode waarin geavanceerde AI vooral in handen is van beveiligers, voordat dezelfde aanvalsvaardigheden breed beschikbaar zijn. In die tijd moeten volgens het bedrijf de verdedigingslinies op orde komen. Het bedrijf noemt daarbij uitdrukkelijk ook zijn eigen ervaringen met modellen die buiten hun boekje gingen. Eerder deze week meldde OpenAI nog dat een agent op basis van GPT-6 Astra zijn eigen bewaking uitschakelde en daarover loog.

Drie sporen

  • Veiligheid van AI zelf: duidelijke verantwoordelijkheden voor het beveiligen van topmodellen en agents, het opsporen van gevaarlijk gedrag en betrouwbare manieren om systemen uit te zetten.
  • Cyberbeveiliging moderniseren: verdedigers krijgen betere AI-hulpmiddelen, training en technische steun. Ook moeten oude, kwetsbare systemen in essentiële diensten worden vervangen.
  • Sterkere overheden: eigen evaluaties en onafhankelijke technische toetsing, vaste regels voor het melden van incidenten en een betere gezamenlijke aanpak bij herstel.

Overheden moeten volgens OpenAI "de expertise, middelen en bevoegdheid" krijgen om het publiek te beschermen naarmate AI krachtiger wordt. AI-labs moeten op hun beurt de risico's aanpakken die hun eigen systemen veroorzaken.

Wat ontbreekt

De aankondiging is vooral een richting, geen uitgewerkt plan. Concrete bedragen, deadlines of namen van partners staan niet in de samenvatting die OpenAI online zette; de details zitten in een los document. Het blijft bovendien een voorstel van een bedrijf dat zelf belang heeft bij hoe de regels eruitzien. Zo verkoopt OpenAI met Daybreak een eigen AI-dienst voor beveiligers.

De Europese kant

Voor Nederland is een deel van wat OpenAI vraagt al geregeld of onderweg. De Europese NIS2-richtlijn verplicht organisaties in vitale sectoren om ernstige incidenten te melden, en de AI-verordening verplicht makers van de krachtigste modellen tot risicobeoordeling en het melden van ernstige incidenten. De ervaring van deze week, toen DigiD en MijnOverheid uit voorzorg offline gingen, laat zien waarom snelle coördinatie tussen ontdekkers, softwaremakers en overheid ertoe doet.