Paus Leo XIV – De katholieke kerk heeft een opvallend heldere kritiek op kunstmatige intelligentie
De katholieke kerk lijkt misschien niet de meest voor de hand liggende bondgenoot in een technologiestrijd. Het is een eeuwenoude instelling die vasthoudt aan vrij conservatieve waarden nu westerse samenlevingen steeds seculierder zijn geworden, en die nog steeds worstelt met de gevolgen van het seksueel misbruikschandaal en de banden met het kolonialisme, om er maar een paar te noemen.
Toch kan de Kerk een enorme invloed hebben. Er zijn wereldwijd 1,4 miljard katholieken, een aantal dat nog steeds groeit , en dat geeft het hoofd van de Kerk een vorm van soft power bij veel wereldleiders. Paus Franciscus’ encycliek over klimaatverandering, Laudato si’ , bleek een invloedrijke bijdrage te zijn aan de argumenten om klimaatactie te versnellen. Men vergeet wellicht ook de diplomatieke invloed die de paus kan hebben, aangezien Franciscus een sleutelrol speelde in de kortstondige toenadering tussen de Verenigde Staten en Cuba onder Barack Obama.
Na de verkiezing van een nieuwe paus op 8 mei 2025 wachten we af hoe Robert Prevost, nu bekend als paus Leo XIV, de macht en invloed die met zijn ambt gepaard gaan, zal gebruiken. De beperkte verklaringen die we van hem hebben, suggereren dat kunstmatige intelligentie hoog op zijn lijstje staat, en zijn interventie kan nuttig zijn voor degenen die zich willen concentreren op de werkelijke impact van de manier waarop de technologie wordt ingezet in plaats van op de fantasierijke verhalen die vaak worden gebruikt om het publiek af te leiden.
Prevost is niet de eerste paus Leo, en de keuze van zijn pauselijke naam geeft al een eerste indicatie van de toon die hij probeert aan te slaan in het pausschap. Franciscus stond bekend om zijn meer progressieve inslag, althans binnen het politieke spectrum van een conservatieve religieuze instelling, en met name zijn focus op sociale rechtvaardigheid en het welzijn van de armen. Sommige acties van Leo XIII, soms ook wel de “Paus van de Arbeiders” genoemd, waren volledig in lijn met die traditie.
Leo XIII bekleedde het ambt van 1878 tot 1903, een tijd van maatschappelijke verdeeldheid en politieke onrust. Zijn nalatenschap bestaat voornamelijk uit het aanpakken van sociale ongelijkheid en het opkomen voor de rechten van arbeiders. In zijn encycliek Rerum novarum uit 1891 reageerde Leo XIII op de ontberingen die de industriële revolutie met zich meebracht, waaronder de verarming van de pas verstedelijkte arbeiders, het schandaal van kinderarbeid en de groeiende kloof tussen rijke kapitalisten en de armen die door het nieuwe systeem achterbleven.
Hij pleitte voor eerlijke lonen en het recht van werknemers om vakbonden te vormen. Hij legde uit dat nadat de arbeidersgilden waren vernietigd, “het geleidelijk zover was gekomen dat werkende mannen zich, geïsoleerd en hulpeloos, overgaven aan de hardvochtigheid van werkgevers en de hebzucht van ongecontroleerde concurrentie.” Wanneer werkende mensen het punt bereikten dat ze moesten staken, zo betoogde hij, “kwam dat vaak doordat de werkuren te lang waren, of het werk te zwaar, of omdat ze hun loon onvoldoende vonden.” Het was een falen van de overheid om die situatie niet te verhelpen voordat het zover was dat werknemers zelf actie moesten ondernemen.
De encycliek was zeker niet het meest radicale document dat destijds werd gepubliceerd. Hij bekritiseerde het kapitalisme en de verloedering die het onder zovelen teweegbracht, maar ook het socialisme bleef niet gespaard. Toch bleek het voor de Kerk een cruciale interventie ter ondersteuning van de rechten van arbeiders en de menselijke waardigheid in bredere zin. Het is een project dat de moderne paus Leo graag lijkt voort te zetten.
Twee dagen nadat er witte rook uit de Sixtijnse Kapel was opgestegen, sprak Leo XIV het college van kardinalen toe en vertelde hen dat zijn keuze voor zijn pauselijke naam een direct gevolg was van hoe Rerum novarum omging met “de sociale kwestie in de context van de eerste grote industriële revolutie”.
Volgens hem hebben die leringen een hernieuwde relevantie, gezien “ontwikkelingen op het gebied van kunstmatige intelligentie die nieuwe uitdagingen vormen voor de verdediging van de menselijke waardigheid, rechtvaardigheid en arbeid”. Hij herhaalde die bezorgdheid over AI opnieuw op 12 mei in reacties op media die in Rome bijeen waren gekomen om verslag te doen van het conclaaf.
Dat Leo AI aanhaalde, betekent niet dat hij een vanzelfsprekende bondgenoot is in een campagne tegen de verspreiding ervan op de werkvloer en in de maatschappij als geheel. Na twee jaar AI-hype is het niet ongebruikelijk dat invloedrijke figuren om allerlei redenen de aandacht vestigen op de technologie. Zelfs kritiek kan een verkapte vorm van AI-hype worden, met name de stelling dat chatbots op het punt staan een bewustzijn te krijgen dat het voortbestaan van de mensheid zou kunnen bedreigen – een perspectief dat vaak “AI-veiligheid” wordt genoemd.
Toch zijn er redenen om aan te nemen dat Leo’s gepraat over AI daar niet vandaan komt. Zijn verwijzing naar Rerum novarum suggereert een bijzondere zorg voor tastbare gevolgen voor werknemers, in plaats van sciencefictionfantasieën. Dat wordt ook weerspiegeld in de beperkte uitspraken die hij deed in de dagen na zijn verkiezing.
Een redactioneel commentaar in de National Catholic Register herhaalde deze beoordeling en merkte op dat Leo lijkt te vinden dat AI “alleen de rijken en machtigen zou kunnen bevoordelen en uiteindelijk zeer schadelijk zou kunnen blijken voor grote aantallen werknemers” – een weerspiegeling van de zorg voor de armen, niet alleen in de encycliek van 1891, maar ook gedurende het hele pontificaat van zijn voorganger.
De afrekening van de Kerk met deze meest recente AI-golf begon enkele jaren geleden. In augustus 2023 sprak Franciscus zich expliciet uit over de voortschrijdende discussie rond AI-bestuur en riep hij op tot waakzaamheid om ervoor te zorgen dat de technologie niet “ten koste van de meest kwetsbaren en uitgeslotenen” zou worden ontwikkeld. Maanden later betoogde hij dat de manieren waarop AI werd ingezet, ons “ronddobberden in een moeras van verwarring, ten prooi aan de belangen van de markt of de heersende machten”.
Zijn boodschap ter gelegenheid van de Werelddag van de Sociale Communicatie was duidelijk voorbereid door deskundige adviseurs, en hij wees zelfs op de misleidende aard van het noemen van AI als een vorm van “intelligentie”, aangezien deze geworteld bleef in de tastbare realiteit die de inzet van de technologie met zich meebracht.
“Het is aan ons om te beslissen of we voer voor algoritmen worden of dat we ons hart voeden met die vrijheid zonder welke we niet in wijsheid kunnen groeien”, stelde Franciscus aan het einde van de brief. Maar dat was nog niet het einde van zijn betrokkenheid bij het onderwerp. Een gedetailleerde notitie die maanden voor zijn dood werd gepubliceerd, zou een leidraad kunnen blijken te zijn, aangezien Leo de gevolgen van AI nog belangrijker maakt voor zijn pausschap.
In Antiqua et nova worstelt de Kerk met de uitdagingen die kunstmatige intelligentie (AI) met zich meebrengt en met de bredere gevolgen van digitale communicatie. Het is geen document dat AI ronduit afwijst. In plaats daarvan wordt er regelmatig op gewezen dat AI positieve resultaten kan opleveren als het goed wordt ingezet en gereguleerd, maar wordt er nadrukkelijk aandacht besteed aan de manieren waarop het misbruikt wordt om een breed scala aan schade te veroorzaken.
De auteurs van de notitie zijn het er fundamenteel niet mee eens dat AI op enigerlei wijze gelijkwaardig is aan de capaciteiten van een mens. AI is “beperkt tot een logisch-wiskundig kader”, leggen ze uit, en aangezien het “de rijkdom van lichamelijkheid, relationaliteit en de openheid van het menselijk hart voor waarheid en goedheid mist, zijn haar capaciteiten – hoewel schijnbaar onbegrensd – onvergelijkbaar met het menselijk vermogen om de werkelijkheid te vatten.” Het argument is niet nieuw. Het doet denken aan de geschriften van Joseph Weizenbaum, de maker van de eerste chatbot die een uitgesproken criticus van AI werd.
Hij betoogde dat computers nooit op dezelfde manier kunnen denken als mensen, omdat ze geen menselijke ervaringen hebben, ondanks de pogingen van een “kunstmatige intelligentsia” om mensen mens en computer als uitwisselbaar te laten zien. Daarom vond hij dat we nooit “een computersysteem moeten vervangen door een menselijke functie die interpersoonlijk respect, begrip en liefde vereist”, zoals hij uitlegde in zijn boek Computer Power and Human Reason uit 1976 .
De notitie van het Vaticaan over AI bespreekt een lange lijst van implementaties van de technologie, van de inzet ervan in de gezondheidszorg en het onderwijs tot de manieren waarop het wordt gebruikt in oorlogsvoering, en wijst op verontrustende ontwikkelingen die worden gedeeld door critici buiten de Kerk. Om te focussen op een punt dat Leo heeft benadrukt, waarschuwt de notitie voor het risico dat AI wordt gebruikt om ” werknemers te ontdoen van hun vaardigheden, hen te onderwerpen aan geautomatiseerd toezicht en hen te degraderen tot rigide en repetitieve taken.”
Inderdaad, die ontwikkelingen zien we al, en de Kerk waarschuwt voor het ontstaan van een technocratische wereld “waar de mensheid tot slaaf is gemaakt van efficiëntie, waar uiteindelijk de kosten van de mensheid moeten worden verlaagd.” De aanpak van dominante techbedrijven is er niet een die de menselijke waardigheid op welke manier dan ook bevordert.
Antiqua et nova maakt ook een breder punt over technologie en de ontwikkeling ervan dat het erkennen waard is. De Kerk benadrukt dat technologie onmiskenbaar de menselijke samenleving en de menselijke conditie heeft verbeterd, maar herinnert ons eraan dat “niet alle technologische vooruitgang op zichzelf een echte menselijke vooruitgang vertegenwoordigt”. Veel critici pleiten vaak voor een grondige beoordeling van de technische fundamenten, samen met de sociale en milieu-impact en zelfs de politieke onderbouwing van nieuwe technologieën die door technologiebedrijven worden ingezet – iets waar de baronnen van Silicon Valley fel tegen zijn. De Kerk voegt eraan toe dat een “morele evaluatie” ook noodzakelijk is.
De interventies van het Vaticaan in het debat over kunstmatige intelligentie zijn verrassend omdat ze de argumenten van veel critici van de technologie weerspiegelen en hen voorzien van een spiritueel en moreel argument dat je van een religieuze autoriteit zou verwachten. Terwijl christelijk rechts in de Verenigde Staten expliciet campagne voert om mensen te laten stoppen met empathie voor anderen – een argument dat Elon Musk onlangs herhaalde – neemt de katholieke kerk een fundamenteel andere visie in.
“Echte relaties, geworteld in empathie en een standvastige toewijding aan het welzijn van de ander, zijn essentieel en onvervangbaar voor de volledige ontwikkeling van de mens”, schrijven de auteurs in Antiqua et nova . Hoewel AI misschien “antropomorfe taal” kan gebruiken, bestaat er geen chatbot die “echte empathie kan ervaren”. Op die manier proberen mensen zoals Musk ons onszelf als machines te laten zien in een zelfzuchtige poging een extreemrechts technopolitiek project vooruit te helpen.
We kunnen onszelf niet voor de gek houden over de nadelen van de katholieke kerk. Ze blijft conservatieve benaderingen van abortus en de behandeling van transgenders bepleiten, waarbij de “ongeborenen” ter sprake komen in de notitie over AI. Maar in een tijd waarin Silicon Valley zoveel inzet om AI aan de hele samenleving op te dringen en regelgevende pogingen om zelfs de lichtste beperkingen op hun ambities op te leggen, platwalst, zou de bezorgdheid van de paus over de gevolgen van de technologie nuttig kunnen zijn bij het vormen van een bredere coalitie om zich hiertegen te verzetten.
Net zoals de encycliek van paus Franciscus over klimaatverandering een belangrijke spirituele en morele dimensie toevoegde aan het pleidooi voor versnelde milieuactie, zou een poging van paus Leo om iets soortgelijks te doen met AI, met de focus op de tastbare gevolgen ervan, een welkome bijdrage kunnen zijn.
Zelfs de klimaatargumenten van paus Franciscus blijven relevant, gezien de milieugevolgen van de bouw van hyperscale datacenters die de AI-hausse aanjagen. Techcritici die Antiqua et nova lezen , zullen zich misschien verbazen dat de leiders van de katholieke kerk minder op geloof vertrouwen dan de AI-aanjagers die proberen hun sciencefictiontoekomsten te bouwen en computergoden te creëren .
