Pangram spoort nu ook AI-video's en AI-beelden op
De maker van een bekende AI-tekstdetector kan nu ook video en afbeeldingen controleren. Volgens het bedrijf herkent het ruim 98 procent van de AI-video's.
Pangram, het bedrijf achter een veelgebruikte tool die AI-geschreven tekst herkent, breidt uit naar beeld. Abonnees kunnen nu video's uploaden en krijgen een inschatting of er AI is gebruikt om de clip te maken of te bewerken. Ook de detector voor afbeeldingen is verbeterd.
Deels AI of helemaal AI
De videotool maakt volgens Pangram onderscheid tussen clips die gedeeltelijk met AI zijn bewerkt en video's die volledig door AI zijn gemaakt. Een zogeheten heatmap laat zien welke delen van het beeld waarschijnlijk door AI komen. In een eigen test zou het model AI-video's in meer dan 98 procent van de gevallen herkennen. Het bedrijf zegt dat het vooral goed is in video's van de nieuwste generatoren.
Het beeldmodel, Pangram Image 1.0, was al als testversie te zien. Het zit nu in de Chrome-extensie van Pangram, die afbeeldingen tijdens het surfen automatisch controleert. Volgens het bedrijf vond het model in tests ruim 99 procent van de AI-beelden, terwijl 0,27 procent van de echte foto's onterecht als AI werd aangemerkt.
Je telefooncamera maakt het lastig
Die cijfers komen van Pangram zelf en zijn niet onafhankelijk getoetst. Het bedrijf noemt zelf ook beperkingen. Bij afbeeldingen kleiner dan 512 bij 512 pixels geeft de tool een waarschuwing dat de uitkomst minder betrouwbaar is. Een voorbeeld dat topman Max Spero zelf deelde, gaf bij twee overduidelijk nep-afbeeldingen op Pinterest de uitslag "onzeker".
Een groter probleem is dat bijna elke smartphone zelf al AI gebruikt om foto's mooier te maken. Volgens Spero moest Pangram een model bouwen dat die nabewerking negeert maar AI-bewerkingen en volledig gegenereerde beelden wel herkent. Het bedrijf stelde de lancering uit nadat de detector foto's van de iPhone 18 Pro aanvankelijk als AI aanmerkte.
Geen bewijs, wel een aanwijzing
Pangram is niet de enige die dit probeert. Google stelde eerder zijn SynthID Detector open, maar die zoekt naar een onzichtbaar watermerk dat de AI-maker zelf in het beeld moet hebben gestopt. Pangram beoordeelt het beeld zelf en heeft zo'n watermerk niet nodig. Het nadeel is dat zo'n detector altijd een kansinschatting geeft. Ook bij een score van 99 procent gaat het bij miljoenen beelden om duizenden fouten. Gebruik de uitslag dus als aanwijzing, niet als bewijs, zeker als je iemand van nepbeelden beschuldigt.
De beeld- en videofuncties zijn beschikbaar voor betalende abonnees. Met een gratis account kun je een paar afbeeldingen controleren.
Bron: Pangram expands its AI detection tools to video and images (Engadget). Met AI geschreven; zie ons redactiebeleid.