Bij Google DeepMind, het onderzoekslab achter Gemini, zijn twee AI-onderzoekers vertrokken uit protest tegen de militaire inzet van Googles AI. Research engineer Sofia Liguori uit Londen stopte deze week, AI-onderzoeker Andreas Kirsch eind september. Ze deden hun verhaal bij de BBC, zo meldt AI Insider.
Leger mag AI inzetten voor 'elk wettig doel'
De aanleiding is een contract dat Google dit voorjaar sloot met het Amerikaanse ministerie van Defensie. Daarmee mag het leger de AI-modellen van Google ook in geheime omgevingen gebruiken, voor "elk wettig overheidsdoel". Volgens het contract is de AI niet bedoeld voor massasurveillance in de VS of voor autonome wapens zonder passend menselijk toezicht. Een vetorecht over hoe het leger de modellen gebruikt, heeft Google niet.
Kirsch, die aan Gemini werkte, zegt dat Google ook nauwelijks zicht heeft op waar de AI terechtkomt. Al voor zijn vertrek schreef hij op X, op persoonlijke titel, dat Google niet de race naar superintelligente AI zou moeten leiden omdat echt onafhankelijk toezicht ontbreekt. Liguori zegt zich te schamen om bij een bedrijf te werken dat steeds harder inzet op AI in militaire operaties.
Zwijgplicht en angst op de werkvloer
Opvallend is dat Liguori spreekt terwijl haar contract kritiek op Google volgens haar voor de rest van haar leven verbiedt. Zij stelt dat het benoemen van feiten geen kritiek is. Collega's die nog bij DeepMind werken, praten alleen anoniem en zeggen dat al meer mensen om deze reden zijn vertrokken. Google laat weten dat het elk overheidscontract toetst aan zijn eigen AI-principes, dat medewerkers zorgen veilig kunnen melden en dat vergelding verboden is.
Google staat niet alleen: ook OpenAI, Microsoft, Amazon en Nvidia sloten dit jaar vergelijkbare contracten met het Pentagon.
Menselijke controle: een Nederlands onderwerp
De vraag hoeveel een mens nog meebeslist als AI helpt bij militaire keuzes, ligt ook in Den Haag op tafel. Nederland organiseerde in februari 2023 de eerste internationale top over verantwoord militair gebruik van AI, REAIM, en was mede-gastheer van de derde editie in februari 2026 in Spanje. De afspraken die daar worden gemaakt zijn niet bindend. In het contract van Google bepaalt het Amerikaanse leger zelf wat "passend menselijk toezicht" is.
Het vertrek van twee onderzoekers verandert weinig aan de deal zelf, maar laat zien dat de spanning tussen AI-principes en defensiecontracten binnen de grote labs nog lang niet is uitgepraat. Eerder deze week schreven we nog over Google DeepMind dat in het Britse parlement geen nieuwe bindende AI-regels wilde steunen.
