Wie de afgelopen weken het beveiligingsnieuws volgde, zag het ene datalek na het andere. Volgens Alex Stamos is dat geen toeval. De ervaren beveiliger, nu chief security officer bij AI-bedrijf Cognition en docent aan Stanford, zegt in de podcast Decoder van The Verge dat de cybersecuritywereld zoals we die twintig jaar kenden voorbij is. Hij en bevriende beveiligingschefs werkten naar eigen zeggen de hele maand oktober in de hoogste staat van paraatheid.

Aanvallen zonder team van experts

De kern van zijn verhaal: open AI-modellen zijn zo goed geworden dat je bijna de hele aanvalsketen kunt automatiseren. Vroeger zocht een klein groepje topspecialisten vooraf naar lekken en schreef het de aanvalscode, waarna anderen die code inzetten. Nu kan een AI-systeem tegelijk doelwitten verkennen, lekken vinden en ter plekke de code schrijven om binnen te komen.

Stamos noemt de Chinese open-sourcetool ARTEX als voorbeeld. Met een gemanipuleerd open model erachter kom je volgens hem bij een schokkend aantal organisaties binnen. Het begon bij drie Zuid-Koreaanse banken, en deze week zouden er zo'n 200 bedrijven bij zijn gekomen. AI Weekblad schreef eerder dat honderden installaties van Artex onbeveiligd op internet staan en dat Microsoft een aan China gelinkte groep zag die de tool gebruikte.

Hij beschrijft ook hoe hacks elkaar opvolgen. Bij AI-dienstverlener Fireworks zouden API-sleutels zijn gestolen waarmee aanvallers bij Cursor binnenkwamen. Daar plaatsten ze een besmette plug-in, wat volgens Stamos tot 5.000 mogelijke inbraken leidde. Dat sluit aan bij de besmette Claude-extensie in Cursor, al is de koppeling met Fireworks zijn lezing van wat er tot nu toe bekend is.

Goedkope aanval, dure verdediging

Het grootste probleem is volgens Stamos economisch. Voor een aanvaller gaan de kosten per token naar nul, zeker met een open model op een eigen computer. Daar zijn ook geen logboeken die politie kan opvragen. Verdedigers betalen intussen de hoofdprijs: een onderzoek met een van de grote cybermodellen zou bij een beveiligingsplatform 900 dollar per keer kosten.

Hij vindt dat de sector zich te veel richt op het vinden en dichten van lekken in code. Dat is volgens hem maar een kwart van het werk van een beveiligingschef. De rest, zoals het bewaken van logbestanden en reageren op verdachte signalen, moet ook goedkoper en slimmer. Hij pleit voor een opzet waarin simpele, snelle systemen eerst alarm slaan en pas daarna kleine en grotere taalmodellen meekijken.

Een donkere tijd, geen ondergang

Stamos noemt zichzelf geen doemdenker, maar verwacht wel een 'donkere tijd'. Het wordt eerst slechter. Het werk van beveiligers is die periode zo kort mogelijk te maken. Op termijn wordt het beter, denkt hij, omdat steeds meer code door AI wordt geschreven in veiligere programmeertalen. Maar er ligt nog tientallen jaren aan oude, door mensen geschreven code.

Zijn opvallendste voorstel: laat Google en Amazon een eigen versie van de Linux-kernel bouwen in een veiligere taal als Rust, alleen voor serverhardware. Dat zou volgens hem 100 miljoen dollar of meer kosten, maar minder dan het eindeloos patchen bij elk nieuw AI-model dat weer een nieuwe lading lekken vindt.

Ook een les voor Europa

Stamos praat vanuit de Amerikaanse situatie, maar zijn punt geldt net zo goed voor Nederlandse organisaties. Juist middelgrote bedrijven met een kleine IT-afdeling zijn volgens hem kwetsbaar als een handvol aanvallers met AI-agents het werk van een heel team kan doen. Wachten op een patch is niet meer genoeg: lekken worden volgens hem steeds sneller misbruikt.