Max Justicz, technisch directeur van de start-up Charge Robotics en hobbymatig beveiliger, richtte een model van OpenAI op een stuk code waarin hij jaren eerder zelf een fout had gevonden. Zijn opdracht: zoek fouten die minstens zo erg zijn. Na twee uur kwam het model terug met een ernstig lek waarmee aanvallers servers met Ubuntu hadden kunnen overnemen. "Extreem ingewikkeld en voor een mens moeilijk te vinden, maar het werkt", zei hij tegen TechCrunch.

Gevonden met een oudere versie

Justicz gebruikte GPT-5.6 Sol, uitgebracht in juli, via Daybreak Blue: een programma van OpenAI dat verdedigers toegang geeft tot krachtige modellen. Hij meldde het lek bij het Debian-project, dat inmiddels een patch heeft uitgebracht. Er is geen bewijs dat het lek is misbruikt. Hij gaf naar eigen zeggen zo'n 5.000 dollar uit aan abonnementen en tokens om meerdere lekken te vinden, en verwacht dat de komende maanden "extreem gekke bugs" gevonden en misbruikt worden.

948 mogelijke lekken in de Linux-kernel

OpenAI zelf liet deze week zijn beveiligingsmodel los op de Linux-kernel, het hart van het besturingssysteem. Volgens het bedrijf vond het 948 mogelijke problemen en maakte het daar patches voor. Die jacht kostte 1,2 miljoen dollar. Met het nieuwe GPT-6 Cyber zou OpenAI ook 81 onbekende lekken in Firefox hebben gevonden. Daarnaast heeft het een initiatief van 1 miljard dollar aangekondigd voor beveiligers die vitale infrastructuur zoals stroomnetten en waterzuivering beschermen.

Kritiek: te weinig en te dicht op slot

Beveiligers zitten volgens TechCrunch in een lastige positie. AI-labs zeggen dat er maar een kort venster is om software te dichten voordat hacken met AI nog makkelijker wordt. Maar het werk dat die modellen opleveren, groeit sneller dan de mensen en middelen om het af te handelen. Bovendien:

  • Justicz meent dat OpenAI Daybreak Blue onlangs minder bruikbaar heeft gemaakt voor het vinden van lekken.
  • Voor toegang hoefde hij alleen een foto van zijn rijbewijs te uploaden, wat de vraag oproept hoe streng de controle is.
  • Kwaadwillenden kunnen open modellen gebruiken waarvan de beveiliging is verwijderd, terwijl verdedigers aan banden liggen.
  • Volgens OpenAI doen "duizenden" beveiligers mee aan Daybreak, tegenover een veel grotere groep mogelijke aanvallers.

OpenAI-onderzoeker Eric Wallace zegt dat het bedrijf een "aanzienlijk deel" van zijn rekenkracht gratis inzet voor open-source software. TechCrunch zet daar tegenover dat de Linux-jacht een stuk goedkoper was dan de ongeveer 6 miljoen dollar die OpenAI uitgaf aan een poging een beroemd wiskundig probleem uit de stromingsleer op te lossen.

Ook een Europese zorg

Linux en Debian draaien op talloze servers van Nederlandse bedrijven en overheden. Als AI lekken sneller blootlegt dan beheerders kunnen patchen, wordt snel updaten nog belangrijker. Onder de Europese NIS2-richtlijn zijn veel organisaties daar ook wettelijk toe verplicht. Eerder schreven we al hoe SentinelOne met Daybreak malware ontleedt.