Paus Leo XIV vraagt ontwapening van AI-wapens in Genève

Paus Leo XIV heeft opgeroepen tot de "ontwapening" van systemen voor kunstmatige intelligentie en regeringen aangespoord om beslissingen over leven, vrijheid en het gebruik van geweld niet aan machines over te laten. Hij noemde dit een juridische en veiligheidskwestie die volgende maand tijdens een bijeenkomst in Genève aan de orde komt.

Oproep tot concrete actie in Genève

In een toespraak op vrijdag riep de paus de lidstaten van de Verenigde Naties op om "concrete stappen te zetten om dodelijke autonome wapens te verbieden". Volgens hem is dit standpunt meer dan alleen een ethische waarschuwing: het raakt rechtstreeks aan een juridisch en veiligheidsdebat dat volgende maand in Genève wordt gevoerd.

Menselijk toezicht en juridische verantwoordelijkheid

Leo XIV stelde dat mensen de "verantwoordelijkheid dragen om toepassingen van kunstmatige intelligentie te sturen, aan te passen en, indien nodig, af te wijzen". Hij benadrukte dat "ontwapening" in deze context niet betekent dat kunstmatige intelligentie volledig moet worden afgezworen. Het gaat erom toepassingen in te perken die zonder effectief menselijk oordeel kunnen doden of schade kunnen aanrichten.

De kern van zijn betoog is het juridische onderscheid tussen een hulpmiddel en een handelend subject. "Machines zijn hulpmiddelen; geen personen", aldus de paus. Hij waarschuwde dat het toekennen van rechten of rechtspersoonlijkheid aan AI-systemen de menselijke aansprakelijkheid kan vertroebelen, vooral wanneer een beslissing van zo'n systeem iemands leven, vrijheid of veiligheid raakt.

Beslissingen die raken aan leven, vrijheid en het gebruik van geweld, moeten altijd onder effectief, goed geïnformeerd en verantwoord menselijk toezicht blijven.

Continuïteit met Vaticaanse standpunten en pauselijke context

De uitspraken van de paus passen in de bestaande Vaticaanse lijn over autonome wapens. Paus Franciscus riep in 2024 eveneens op tot een verbod op dergelijke systemen en stelde dat "geen enkele machine ooit toestemming mag krijgen om te beslissen een mensenleven te nemen". Leo XIV onderstreept hetzelfde uitgangspunt, maar legt sterker de nadruk op regulering en aansprakelijkheid.

Kunstmatige intelligentie is sinds het begin van het pontificaat van Leo XIV een terugkerend thema. Hij heeft zijn naamskeuze verbonden aan de technologische uitdagingen van deze tijd en verwees daarbij naar Leo XIII, die zich bezighield met de sociale en economische veranderingen van de industriële revolutie. Leo XIV beschrijft de snelle ontwikkeling van kunstmatige intelligentie als een vergelijkbare omwenteling die om een ethische en institutionele reactie vraagt.

• Riep de VN-lidstaten op om tijdens de bijeenkomst in Genève volgende maand dodelijke autonome wapens te verbieden
• Eiste menselijk toezicht en juridische aansprakelijkheid bij AI-beslissingen die raken aan leven, vrijheid en het gebruik van geweld
• Plaatste de kwestie in zowel een ethisch kader als dat van internationale veiligheid en recht

De paus presenteerde deze eisen als een voortzetting van zijn eerdere document over de bescherming van menselijke waardigheid in het tijdperk van kunstmatige intelligentie. Daarmee breidde hij dat ethische kader uit naar wapenbeleid, juridische verantwoordelijkheid en internationaal toezicht.