OpenAI heeft een samenwerkingsovereenkomst getekend met NASK, het nationale onderzoeksinstituut van Polen voor digitale veiligheid. Het AI-veiligheidscentrum van NASK fungeert ook als het officiële Poolse instituut voor AI-veiligheid. Samen willen de twee onderzoeken welke risico's krachtigere AI-systemen meebrengen en hoe je je daartegen beschermt.

Wat ze gaan doen

Volgens de aankondiging van OpenAI gaat het om drie soorten werk:

  • steeds capabelere AI-systemen testen en evalueren;
  • zwakke plekken opsporen en de beveiliging daartegen versterken;
  • onderzoek naar het herkennen van door AI gemaakte content en misbruik daarvan, met nadrukkelijk aandacht voor meertaligheid.

Dat laatste punt is voor Europa interessant. Detectie van deepfakes en AI-teksten werkt vaak het best in het Engels; kleinere talen zoals Pools, en ook Nederlands, blijven daarbij achter. Concrete afspraken over looptijd, budget of op te leveren resultaten noemt OpenAI niet. Het blijft dus voorlopig een intentie om samen te werken.

Polen werkte al met OpenAI-modellen

De samenwerking komt niet uit het niets. CERT Polska, het computerincidententeam dat onder NASK valt, kreeg in juli toegang tot OpenAI's beveiligingsmodellen via het programma Daybreak. Daarmee vond het team volgens OpenAI zes kwetsbaarheden in RouterOS, de software van routerfabrikant MikroTik. Sommige daarvan waren te combineren om zonder inloggen de controle over een apparaat over te nemen. MikroTik bracht inmiddels updates uit. Eerder claimde ook beveiligingsbedrijf SentinelOne grote tijdwinst met Daybreak, zoals we eerder meldden.

Een netwerk van veiligheidsinstituten

OpenAI werkt al samen met overheidsinstituten in de VS en het Verenigd Koninkrijk die nieuwe modellen vooraf testen. Met Polen komt daar een EU-land bij. Het bedrijf pleit voor internationale technische standaarden voor de krachtigste AI-modellen; zulke afspraken met nationale instituten passen in die strategie. "AI-veiligheid bereik je niet in je eentje", zegt NASK-directeur Radosław Nielek.

Nederland heeft geen apart AI-veiligheidsinstituut zoals Polen en het VK. Toezicht op AI loopt hier via onder meer de Autoriteit Persoonsgegevens en, onder de Europese AI-verordening, het Europese AI Office. Of dat Office zelf vergelijkbare afspraken met AI-bedrijven maakt, is nog niet bekend.