Paus Leo XIV wil dat kunstmatige intelligentie wordt "ontwapend". In een toespraak op vrijdag zegt hij dat mensen de verantwoordelijkheid hebben om toepassingen van AI te sturen, aan te passen en waar nodig af te wijzen. Hij vraagt de lidstaten van de Verenigde Naties om bij hun overleg in Genève, volgende maand, concrete stappen te zetten richting een verbod op dodelijke autonome wapens.
Geen rechtspersoon voor AI
De kern van zijn boodschap past in één zin: "Machines zijn gereedschap, geen personen." De paus waarschuwt ervoor om AI-systemen rechten of een eigen rechtspersoonlijkheid te geven. Beslissingen over mensenlevens, vrijheid en het gebruik van geweld moeten volgens hem altijd onder effectief, goed geïnformeerd en verantwoordelijk menselijk toezicht blijven.
Daarnaast wil hij dat internationale instellingen het algemeen belang beschermen tegen de risico's van AI. Hij noemt gedeelde normen, onafhankelijk toezicht en duidelijke regels voor aansprakelijkheid, zodat beslissingen over de ontwikkeling en het gebruik van AI kunnen worden onderzocht, aangevochten en hersteld als iemand schade lijdt.
Lijn van zijn voorganger
Helemaal nieuw is het pleidooi niet. Paus Franciscus riep in 2024 ook al op tot een verbod op autonome wapens; volgens hem mocht geen machine ooit zelf kiezen om een mens te doden. Leo XIV maakt AI wel nadrukkelijker tot zijn thema. In mei bracht hij zijn eerste grote pauselijke document uit, dat draaide om de bescherming van de mens in het tijdperk van AI. Hij heeft ook laten doorschemeren dat hij zijn naam koos met het oog op deze technologie, net zoals Leo XIII paus was tijdens de industriële revolutie.
Eerder deze maand zocht de paus al een bondgenootschap met kunstenaars tegen door AI gemaakte kunst. Met deze toespraak richt hij zich op een veel zwaarder onderwerp: wapens.
Waar Europa staat
Voor Europese lezers is het goed om te weten dat de Europese AI-verordening (AI Act) militaire toepassingen uitdrukkelijk buiten beschouwing laat. Afspraken over autonome wapens moeten dus via internationaal overleg tot stand komen, zoals het VN-overleg in Genève waar de paus op doelt. Nederland speelt daarin een eigen rol: in 2023 organiseerde het in Den Haag de eerste internationale top over verantwoord militair gebruik van AI (REAIM). Een bindend verbod is er tot nu toe niet gekomen; landen verschillen sterk van mening over hoe ver regels moeten gaan.
De paus heeft zelf geen zeggenschap over die onderhandelingen, maar zijn stem weegt mee in het publieke debat, en de Heilige Stoel neemt als waarnemer deel aan VN-overleg.
