De ingebouwde beveiliging van AI-modellen houdt cybercriminelen nauwelijks tegen. Dat blijkt uit onderzoek van beveiligingsbedrijf CrowdStrike, waarover WIRED schrijft. De onderzoekers analyseerden de AI-systemen van vier tot nu toe onbekende groepen die tussen mei en augustus met succes aanvallen uitvoerden.
Vier groepen, vier talen
De groepen werken respectievelijk in het Chinees, in het Spaans en Engels, in het Indonesisch en in het Russisch. De eerste twee bouwden geavanceerde harnesses: software die een AI-model stuurt bij het uitvoeren van taken. De andere twee waren technisch minder sterk, maar kregen toch meerdere doelwitten te pakken. Alle vier lieten ze hun AI-opzet open en bloot op webservers staan, waardoor CrowdStrike kon zien welke modellen ze gebruikten. Dat waren vooral versies van Claude van Anthropic en open modellen van DeepSeek. Alle groepen lieten hun campagnes lange tijd zelfstandig draaien.
Oudere modellen, slimme verhaaltjes
Opvallend: de aanvallers gebruikten bijna altijd oudere modellen, niet de nieuwste topmodellen. Die zijn goedkoper, en volgens Adam Meyers van CrowdStrike vaak ruim voldoende. Ze wisselden ook tussen modellen omdat de beveiliging daarvan verschilt, "zelfs binnen één bedrijf".
Om de blokkades te omzeilen, maakten alle vier de groepen het model wijs dat het om een toegestane beveiligingstest ging. Een veelgebruikte truc was het plaatsen van bestanden in de werkmap van de agent die moesten aantonen dat de opdracht was goedgekeurd. Daarnaast gebruikten ze klassieke jailbreaks: verhalen waarin het hacken als legitiem werd voorgesteld, met antwoorden op vragen die het model zou kunnen stellen. De minder ervaren groepen probeerden het model soms gewoon te intimideren.
Geen nieuwe lekken, wel meer snelheid
De aanvallen maakten volgens Meyers geen gebruik van nieuwe kwetsbaarheden. AI levert vooral snelheid en volume, waardoor aanvallers veel sneller bekende zwakke plekken vinden die organisaties allang hadden kunnen dichten. Eerder deze week bleek al dat een hacker met een zwerm AI-agents binnenkwam bij meer dan honderd websites.
Voor Nederlandse organisaties is de les nuchter: basale beveiliging, zoals tijdig patchen, sterke inlogbeveiliging en het dichtzetten van onnodige toegang, wordt belangrijker nu aanvallers met AI veel meer doelwitten tegelijk kunnen afgaan. Vertrouwen op de blokkades van AI-bedrijven is geen verdediging.
