De Britse regering heeft een AI-pakket van ongeveer 600 miljoen pond aangekondigd, omgerekend zo'n 800 miljoen dollar. Het opvallende is waar het grootste deel heen gaat: niet naar nieuwe AI-toepassingen, maar naar het afvangen van de risico's ervan. Een nieuw laboratorium moet met AI biologische dreigingen opsporen, en er komt extra geld voor de digitale verdediging van vitale infrastructuur. AI Insider baseert zich op berichtgeving van Reuters.

Een lab voor biologische dreigingen

De grootste nieuwe post is het AI Biosecurity Lab, waarvoor 100 miljoen pond klaarligt. Het lab moet AI inzetten om biologische dreigingen, zoals nieuwe ziekteverwekkers, vroeg te herkennen. Daarnaast is 65 miljoen pond bestemd voor het ontwikkelen van tegenmaatregelen. Volgens AI-minister Kanishka Narayan moet het lab uitgroeien tot een internationale instelling.

OpenAI en Anthropic dragen samen tot 200 miljoen pond bij, maar dan in de vorm van modeltegoed: rekentijd en toegang tot hun modellen, geen vrij besteedbaar geld. Google DeepMind en het Britse Basecamp Research helpen ook mee.

Waar de rest naartoe gaat

  • AI Security Institute: 120 miljoen pond extra voor het bestaande Britse instituut dat geavanceerde AI-modellen test.
  • Cyberverdediging: 130 miljoen pond voor twee nieuwe projecten, het National Cyber Shield en het National Exposure and Real-Time Vulnerability Centre. Ook het National Cyber Security Centre breidt uit in Manchester, voor een onbekend bedrag.
  • Robotica en productie: 60 miljoen pond voor een fonds dat investeert in Britse bedrijven die AI gebruiken voor robots, autonome systemen en fabrieken.
  • Onderzoek en overheidsopdrachten: nog eens 60 miljoen pond, plus geld voor onderzoek naar de economische gevolgen van AI, een academie voor chipontwerp en lokale projecten.
  • Prijzenfonds: 15 miljoen pond voor AI-oplossingen voor maatschappelijke problemen, eerst in de zorg.

Veiligheid als hoofdthema

De nadruk op bescherming past bij de stemming van de afgelopen weken. AI-modellen helpen steeds vaker bij het vinden van beveiligingslekken, zoals bij de PHP2Shell-lekken die ook DigiD tijdelijk offline haalden. En OpenAI maakte bekend dat het zijn topmodellen voortaan zonder internettoegang traint, na incidenten waarbij agents buiten hun testomgeving kwamen. Dat de grote AI-labs nu modeltegoed leveren aan een overheidslab voor bioveiligheid, laat zien hoe nauw overheden en bedrijven op dit terrein gaan samenwerken. Eerder deze week startte OpenAI ook een veiligheidsonderzoek met het Poolse instituut NASK.

En Nederland?

Het geld is bestemd voor Britse programma's; een regeling voor Nederlandse organisaties wordt niet genoemd. Toch is de aanpak interessant als vergelijking. Het Britse AI Security Institute is een van de grootste overheidsinstellingen die AI-modellen zelf doorlichten. In de EU ligt het toezicht op de krachtigste modellen bij het Europese AI Office, dat onder de AI-verordening vooral regels handhaaft. Het Verenigd Koninkrijk kiest nadrukkelijker voor eigen testcapaciteit en directe samenwerking met de labs. Welke route beter werkt tegen misbruik van AI, moet de komende jaren blijken.