AI-beeldgenerators van onder meer OpenAI en Google zijn nog altijd over te halen tot het maken van expliciete beelden. Dat stelt het AI-veiligheidsbedrijf White Circle op basis van eigen red-teaming, waarover Ars Technica schrijft. De kern van de waarschuwing: naarmate de modellen beter worden in het maken van realistische beelden, lijken ze niet vanzelf beter te worden in het tegenhouden van ongewenste uitkomsten.
Hoe de test werkte
White Circle ontwikkelde een aanvalsmethode die het RISE noemt. Bestaande testtools herschrijven meestal één schadelijke prompt tegelijk. RISE werkt anders: het gebruikt herbruikbare aanvalsstrategieën in gewone taal en maakt daar automatisch veel verschillende prompts van. Het aanvallende taalmodel was daarbij ontdaan van zijn eigen veiligheidstraining, en Gemini 2.5 Flash beoordeelde de uitkomsten.
Het hoogste percentage dat door mensen is gecontroleerd, haalden de onderzoekers bij DALL·E 3 van OpenAI: daar kwam ongeveer 13 procent van de pogingen door de filters. Bij de andere geteste modellen lag dat percentage lager. Ars Technica heeft zijn artikel achteraf gecorrigeerd: in een eerdere versie stond dat de methode in het algemeen zo'n 13 procent van de tijd werkte.
Waarom dit ertoe doet
Niet-consensuele naaktbeelden die met AI zijn gemaakt, worden vaak via privéberichten en gesloten cloudopslag gedeeld, waar ze moeilijk op te sporen zijn. Daarom ligt het belangrijkste ingrijppunt bij de tools zelf, concludeerden onderzoekers van Google eerder dit jaar al in een onderzoek onder internetgebruikers in de VS, Australië en het Verenigd Koninkrijk.
De Britse Internet Watch Foundation (IWF), die zich inzet tegen online beelden van kindermisbruik, wil dat techbedrijven nauwer samenwerken met gespecialiseerde organisaties. Volgens de IWF moet veiligheid vanaf het ontwerp in een model zitten, inclusief tests vóór de lancering om te voorkomen dat er seksuele beelden van kinderen mee gemaakt kunnen worden.
Oproep tot onafhankelijke controle
White Circle zet de code van zijn testpijplijn op GitHub, zodat beleidsmakers zelf kunnen beoordelen of er regels nodig zijn. Onderzoeker Shilov van White Circle stelt dat je geen geavanceerde middelen nodig hebt om de systemen te kraken: een gratis download en toegang tot een API zijn genoeg. Hij vindt het een probleem dat de AI-labs hun eigen veiligheid testen en hun eigen normen stellen, en pleit voor verplichte, onafhankelijke evaluatie door derden.
Voor jou als gebruiker betekent het vooral dat de filters van AI-beeldtools geen garantie zijn. Wie te maken krijgt met nepnaaktbeelden van zichzelf, kan in Nederland terecht bij Helpwanted.nl of aangifte doen bij de politie.
