Nieuws

In augustus mocht ik in kasteel Heeswijk een lezing houden over de recente encycliek Magnifica humanitas van paus Leo XIV over de invloed van kunstmatige intelligentie (AI). Tal van media berichten over deze snelle technologische ontwikkeling. Ik ben blij dat de paus als invloedrijk moreel leider ons uitnodigt om stil te staan bij de gevolgen voor mens en samenleving. Sinds 1891 publiceren pausen rondzendbrieven over actuele maatschappelijke ontwikkelingen en proberen zij daarbij vanuit de katholieke visie op de rechtvaardige samenleving kanttekeningen te plaatsen en vragen te stellen.  

Babel en Jeruzalem

Het zal duidelijk zijn dat kunstmatige intelligentie veel kansen biedt. Door automatisering van processen bij bedrijven en overheden kan efficiënter worden gewerkt en de productiviteit worden verhoogd. Geestdodend werk kan door AI worden overgenomen. Op het terrein van de medische zorg, het onderwijs en vele andere gebieden kunnen grote stappen voorwaarts worden gezet. Maar de paus is niet naïef. Technologie is nooit neutraal, maar krijgt altijd de trekken van degenen die haar bedenken, financieren en gebruiken. De paus vraagt meerdere keren in zijn encycliek welke belangen worden gediend. Tegen die achtergrond ziet de paus twee mogelijke ontwikkelingen, die hij verbindt met Bijbelse beelden: Babel of Jeruzalem. Babel staat dan voor een samenleving met uniformiteit zonder diversiteit. Een samenleving zonder God die zwakken opoffert en dreigt uit te monden in ontmenselijking. Jeruzalem staat bij de paus voor een samenleving waarin technologie wordt ingebed in gedeelde verantwoordelijkheid, luisteren naar elkaar en onderlinge samenwerking onder de zegen van God.

Macht en tegenmacht

Voor paus Leo is technologie een geschenk én een gevolg van menselijke creativiteit. De menselijke waardigheid moet altijd het primaat houden. AI kan nooit een moreel handelend wezen zijn en moet dus altijd onder menselijke verantwoordelijkheid blijven. Een en ander impliceert dan ook transparantie en regulering. Alleen door internationale regels en democratische controle kunnen machtsconcentraties worden voorkomen. Nu al zien wij een zorgwekkende concentratie van kennis en kapitaal bij een kleine groep techbedrijven. Recent sprak de Leidse hoogleraar Reijer Passchier over het gevaar van digitaal feodalisme. Goede spelregels en checks and balances zijn belangrijk om sociale ontwrichting te voorkomen.

Veiligstellen humaniteit

De paus wil de humaniteit beschermen. Wij leven in een samenleving vol polarisatie. AI kan die versterken door desinformatie en manipulatie. Veel deskundigen voorzien ook een groot verlies van arbeidsplaatsen. Overheden moeten daarom nu al plannen maken om mensen om te scholen en zo massale maatschappelijke onrust te voorkomen. De voorziene stijging van de welvaart door AI kan leiden tot groeiende economische ongelijkheid. Nu al gaan stemmen op om dat te voorkomen door iedere burger te voorzien van een basisinkomen of zelfs een basiskapitaal.

Oorlog en vrede

Paus Leo presenteert zich ook in deze encycliek als vredespaus. Bekend is zijn uitspraak tijdens de mis van Palmzondag dat God niet luistert naar het gebed van mensen die bloed aan hun handen hebben. Rond oorlog en vrede mag de morele verantwoordelijkheid nooit worden overgedragen aan autonome wapensystemen. In navolging van paus Franciscus schrijft de huidige paus dat de leer van de rechtvaardige oorlog verouderd is. Een defensieve oorlog kan soms nodig zijn, maar is nooit rechtvaardig of heilig. Zij is altijd het gevolg van menselijke zondigheid.

Moreel beraad

Paus Leo vraagt om technologische innovatie altijd te laten samengaan met het behoud van de menselijke waardigheid en een beschaving van liefde. In deze tijd van AI is een moreel beraad over nieuwe spelregels ontzettend belangrijk. De paus kan een belangrijke stem zijn in het morele debat.

Mgr. Gerard de Korte is bisschop-referent voor Kerk en Samenleving en bisschop van ’s-Hertogenbosch

Deze column verscheen eerder in verkorte vorm in het Nederlands Dagblad 

Afbeelding: Bisdom Breda

 

Tags: AI, artificiële intelligentie, caritas, caritascolumn