Een Britse beveiligingsonderzoeker heeft met AI-modellen van Anthropic meer dan honderd ernstige kwetsbaarheden gevonden in code die Britse overheidsorganisaties openbaar publiceren. Dat meldt WIRED. Chris Nesbitt-Smith van beveiligingsbedrijf ControlPlane scande 349 codebases van 33 organisaties en vond in ongeveer twee derde daarvan problemen.

Een vergeten inlog met 'goddelijke' rechten

Het ernstigste geval zat bij de Planning Inspectorate, de dienst die in Engeland over ruimtelijke ordening beslist. Die had per ongeluk inloggegevens op GitHub gezet en ze niet volledig verwijderd. De gegevens verliepen bovendien niet. Volgens Nesbitt-Smith gaven ze lees- en schrijftoegang tot alle SharePoint-sites en de OneDrive-mappen van medewerkers, inclusief personeelsdossiers en juridisch bewijsmateriaal. Een aanvaller had daarmee alle data kunnen stelen of versleutelen voor losgeld, zegt hij.

De Planning Inspectorate laat weten dat de eigen monitoring de activiteit van de onderzoeker in augustus direct opmerkte, dat het lek binnen twintig minuten na de melding was gedicht en dat er geen data zijn buitgemaakt. Ook bij het ministerie van Onderwijs en een open dataportaal van de Schotse overheid vond hij lekken, onder meer in een dienst met persoonsgegevens en identiteitsbewijzen van leraren. Alle organisaties hebben de problemen inmiddels opgelost.

Geen geavanceerde aanval nodig

Opvallend is hoe eenvoudig het ging. Nesbitt-Smith gebruikte de Claude-modellen Opus en Sonnet, gewone consumentenversies op een laptop. Volgens hem had een routinematige IT-controle veel van de problemen ook gevonden. "Het is allemaal knullig spul", zegt hij tegen WIRED. Daarmee laat het onderzoek vooral zien dat AI het vinden van slordigheden veel sneller en goedkoper maakt, voor onderzoekers én voor aanvallers.

Het past in een bredere reeks. Deze week bleek ook dat instellingenbestanden van Claude Code duizenden wachtwoorden en sleutels op GitHub zetten. Gelekte inloggegevens in openbare code zijn geen nieuw probleem, maar AI maakt het zoeken ernaar op grote schaal makkelijk.

Code dan maar niet meer openbaar maken?

In het Verenigd Koninkrijk gaan stemmen op om overheidscode niet meer openbaar te publiceren, nu AI het vinden van kwetsbaarheden versnelt. De Britse gezondheidsdienst NHS zou teams al hebben opgedragen af te stappen van open source. Nesbitt-Smith noemt dat zonder de onderliggende fouten te herstellen het slechtst denkbare scenario: kwaadwillenden hebben de code waarschijnlijk al gekopieerd, terwijl onderzoekers zoals hij er niet meer bij kunnen. Ook Amanda Brock van brancheorganisatie OpenUK benadrukt dat het lek bij de Planning Inspectorate geen open-sourceprobleem is, maar slordig huishouden.

Ook relevant voor Nederland

Ook de Nederlandse overheid werkt volgens het principe 'open, tenzij': software die met publiek geld is gemaakt, wordt in principe openbaar gedeeld, en veel ministeries, gemeenten en uitvoeringsorganisaties publiceren code op GitHub. Het Britse onderzoek is een duidelijke aanwijzing dat zulke organisaties hun eigen openbare code nu zelf met AI moeten doorlichten, voordat een ander het doet.