Overwegingen bij Magnifica Humanitas van Paus Leo XIV

De toekomst van kunstmatige intelligentie is in ontwikkeling; daarom probeert de encycliek een zaadje te zijn voor discussie en bewustwording. De richting die AI opgaat, ligt niet besloten in de technologie zelf. Het hangt af van onze keuzes, van de instituties die die keuzes faciliteren en ondersteunen, en van ons vermogen om innovatie verantwoord te beheren ten dienste van het algemeen belang.
— Kardinaal Michael Czerny, S.J.

De belangrijkste uitdagingen die in de encycliek worden belicht, kunnen worden samengevat in drie punten:

  • weten hoe je de instrumenten moet gebruiken, maar innerlijke vrijheid en autonomie behouden;
  • toegang hebben tot oneindige data, maar kritisch oordeel en verantwoordelijkheid behouden;
  • leven in een digitale omgeving zonder de vreugde van echte ontmoetingen te verliezen.

In het centrum van deze drie punten staan wij: de mensen, de menselijke beperkingen en de menselijke waardigheid.

Een waardevol instrument dat waakzaamheid vereist

Uit de encycliek blijkt dat er bij persoonlijk gebruik drie aspecten in het bijzonder zorgvuldige overweging verdienen: het gemak waarmee resultaten worden behaald, de indruk van objectiviteit en de simulatie van menselijke communicatie.

De snelheid en eenvoud waarmee informatie, complexe analyses, mediacontent en praktische ondersteuning toegankelijk zijn, maakt het leven ongetwijfeld gemakkelijker. Toch kunnen ze ook leiden tot overmatige afhankelijkheid en het zoeken naar kant-en-klare antwoorden, waardoor persoonlijke creativiteit en oordeelsvermogen worden verzwakt.

De schijnbare objectiviteit van de antwoorden en suggesties die deze systemen bieden, kan ertoe leiden dat we over het hoofd zien dat ze de culturele aannames weerspiegelen van degenen die ze hebben ontworpen en getraind, met al hun sterktes en beperkingen.

De kunstmatige imitatie van positieve menselijke communicatie — woorden van advies, empathie, vriendschap en zelfs liefde — kan boeiend zijn en soms oprecht nuttig. Voor minder kritische gebruikers kan het echter ook misleidend zijn, waardoor de illusie van een relatie met een echt persoonlijk subject ontstaat. Wanneer woorden worden gesimuleerd, bouwen ze geen echte relaties op, maar slechts de verschijning daarvan.

De kunstmatige imitatie van zorg of steun kan bijzonder riskant worden wanneer deze terechtkomt in contexten waar echte relaties en emotionele banden ontbreken. Hier is het gevaar niet zozeer dat iemand kan geloven dat hij met een ander persoon communiceert, maar eerder dat hij geleidelijk de wens verliest om echte menselijke connecties aan te gaan.

Menselijke beperkingen en menselijke waardigheid

Beperking moet niet worden gezien als een defect, maar als de ruimte waarin mensen rijpen en compassie, empathie en begrip voor het lijden van een ander ontwikkelen. Waardigheid is alles wat mensen waardig maakt om onszelf mens te noemen.

178. Zelfs vandaag de dag neemt kolonialisme nieuwe vormen aan. Het domineert niet langer alleen lichamen, maar eigent zich data toe en transformeert persoonlijke levens in exploiteerbare informatie. Hele regio's, vooral die met structurele fragiliteit en beperkte geopolitieke relevantie, zijn momenteel onderworpen aan een nieuwe mindset van extractie: die van gezondheidsgegevens, epidemiologische profielen, genetische kaarten en demografische informatie. Deze zijn de nieuwe "zelde aardmetalen" van macht geworden: vitale data die, zodra ze worden samengevoegd en geanalyseerd, kunnen worden gebruikt om voorspellende modellen te trainen, investeringsstrategieën te sturen, crises te voorzien en, bovenal, te bepalen wie en wat als belangrijk wordt beschouwd.
— Magnifica Humanitas, Een economie die waardigheid waardeert

Wanneer we een machine voor ons laten denken, verliezen we onze vrijheid. Kolonialisme toont vandaag de dag een nieuw gezicht: het domineert niet alleen lichamen, maar eigent zich ook data toe, waardoor persoonlijke levens worden getransformeerd in exploiteerbare informatie. Het Mondiale Zuiden mag zijn eigen menselijke waarden niet verliezen aan AI. — Professor Léocadie Lushombo, Jesuit School of Theology, Santa Clara University

Het risico van algoritmen die verslaving en digitaal kolonialisme creëren, is reeds aanwezig. We hebben al gezien hoe fragiel een systeem kan zijn waarin een handvol spelers kan beslissen wie toegang heeft tot AI.

Open vragen:

  • Wat is menselijke waardigheid?
  • Hoe kunnen we nieuwe vormen van digitale verslaving en uitbuiting voorkomen en herkennen?
  • Hoe kunnen we het bewustzijn van menselijke waardigheid vergroten?

Markt en overheid

Elk grensverleggend AI-lab — inclusief Anthropic — opereert binnen een set prikkels en beperkingen die soms in conflict kunnen zijn met het doen van het juiste. Er is druk om commercieel levensvatbaar te blijven en aan de frontlinie van het onderzoek te blijven staan, naast geopolitieke druk en de oudere, simpelere druk van trots en ambitie. Ongeacht hoe oprecht iemand van ons van plan is om het juiste te doen — en ik geloof dat velen van ons dat doen — zullen we altijd beïnvloed worden door die prikkels. — Christopher Olah, mede-oprichter van Anthropic

Macht moet transparant zijn en worden uitgeoefend voor het algemeen belang — niet voor valse afgoden. We zullen niet worden gered door de markt. — Professor Anna Rowlands, Professor in Katholieke Sociale Leer, Durham University

67. Vandaag de dag moeten we bij de goederen die universeel voor iedereen bestemd zijn, ook nieuwe vormen van eigendom opnemen, zoals patenten, algoritmen, digitale platforms, technologische infrastructuur en data.
In een context waarin de rijkdom van naties steeds meer afhangt van kennis en technologie, ontstaat er een nieuw onevenwicht dat strijdig is met de universele bestemming van goederen wanneer deze goederen geconcentreerd blijven in de handen van enkelen, zonder adequate vormen van delen en toegang.
Dit vergroot de kloof tussen degenen die zijn ingesloten en degenen die zijn uitgesloten, tussen hen die kunnen deelnemen aan de digitale revolutie en hen die aan de zijlijn blijven staan. Bovendien vereisen de zorg voor ons gemeenschappelijke huis en onze verantwoordelijkheid tegenover de armen en toekomstige generaties dat het gebruik van de goederen van de schepping en de nieuwe mogelijkheden die technologie biedt, worden gereguleerd op een manier die het milieu respecteert, verspilling vermijdt en nieuwe vormen van uitbuiting voorkomt.
— Magnifica Humanitas, Het principe van de universele bestemming van goederen

Van wat we kunnen zien, hebben AI-bedrijven nog geen duidelijke visie op een toekomstig pad; ze bevinden zich eerder in een verkenningsmodus waarbij de zoektocht naar winst de drijfveer is. Bovendien lijkt het grootste deel van wat is gebouwd door de toonaangevende AI-labs geworteld in een oneerlijk gebruik van data waar een concurrent die de wet zou willen gehoorzamen, anders geen toegang toe zou hebben. Dat wil zeggen: als je de wet wilde naleven, zou je automatisch worden uitgesloten van de concurrentie met de toonaangevende labs.

Open vragen:

  • Hoe ziet wetgeving eruit die de menselijke waardigheid beschermt en concurrentie toestaat?
  • Hoe kunnen we een eerlijke markt hebben waarin we patenten, algoritmen, digitale platforms, technologische infrastructuur en data delen?
  • Hoe kunnen we ervoor zorgen dat de winsten van AI wereldwijd worden gedeeld?
  • Hoe ziet het eruit wanneer mensen, families en de wereld tot bloei komen?

Delegeren van handelingsbekwaamheid en verantwoordelijkheid

Een ander belangrijk risico is gerelateerd aan verantwoordelijkheid. Als mensen het oordeel gaan uitbesteden aan machines, wie wordt er dan verantwoordelijk gehouden? En gegeven de mensen die bereid zijn verantwoordelijkheid te nemen, hoe zullen zij de hoeveelheid nu beschikbare data beheren?

Het zelfbewust bewaken van het vermogen van de geest om de waarheid te herkennen is essentieel. — Professor Léocadie Lushombo, Jesuit School of Theology, Santa Clara University

102. Het gebruik van AI is nooit een puur technische kwestie: wanneer het processen beïnvloedt die invloed hebben op het leven van mensen, raakt het aan rechten, kansen, status en vrijheid. Belangrijke en gevoelige beslissingen — betreffende werkgelegenheid, krediet, toegang tot openbare diensten of zelfs de reputatie van een persoon — riskeren volledig gedelegeerd te worden aan geautomatiseerde systemen die geen "mededogen, barmhartigheid, vergeving en bovenal de hoop dat mensen in staat zijn te veranderen" kennen, en kunnen daarom leiden tot nieuwe vormen van uitsluiting.
— Magnifica Humanitas, Verantwoordelijkheid, transparantie en het bestuur van AI
102. Er zijn duidelijk schadelijke toepassingen, zoals de manipulatie van informatie of schendingen van de privacy. Toch is er ook een subtieler gevaar: wanneer AI-systemen zich presenteren als neutraal en objectief, weerspiegelen en versterken ze uiteindelijk de stereotypen of ideologische vooroordelen van hun ontwerpers en ontwikkelaars.
— Magnifica Humanitas, Verantwoordelijkheid, transparantie en het bestuur van AI
103. Inderdaad, het in de praktijk toevertrouwen van de macht om te selecteren wie waardig is of niet aan een algoritme, zonder dat iemand verantwoordelijkheid draagt voor dat oordeel, is het overdragen van de taak om de grenzen van menselijke mogelijkheden te herdefiniëren.
In dit proces gaat ook de politieke verantwoordelijkheid verloren, niet alleen de empathie voor hen die zijn uitgesloten, die immers gesimuleerd kan worden. De uitsluiting van de kwetsbaren wordt zo gehuld in een vernis van neutraliteit en objectiviteit, waartegen het moeilijk is om bezwaar te maken. Op deze manier blijft onrecht onopgemerkt, en verdwijnen compassie, barmhartigheid en vergeving — begrepen niet als louter verschijningsvormen maar als echte politieke acties — geleidelijk uit het zicht.
— Magnifica Humanitas, Verantwoordelijkheid, transparantie en het bestuur van AI

Binnen de developer-communities ontstaan er discussies over de ethiek en verantwoordelijkheid van agentic coding, variërend van code-reviews tot transparantie en gevoelige data. Tegelijkertijd begint de bias van sommige modellen zich al te manifesteren, wat aanzet tot een monocultuur.

Open vragen:

  • Wie is verantwoordelijk voor een beslissing die door een machine is genomen over het leven van een persoon?
  • Hoe kunnen we de verantwoordelijkheid behouden over enorme hoeveelheden data?
  • Hoe kunnen we het bewustzijn van AI-bias vergroten zodat we de effecten kunnen beperken?
  • Als AI alleen adverteert voor wat mainstream is, waar zal innovatie dan vandaan komen?

Digitale isolatie

114. De kwaliteit van een beschaving wordt niet gemeten aan de kracht van haar middelen, maar aan de zorg die zij kan bieden, aan haar vermogen om de ander te herkennen als een gezicht en niet louter als een functie.
Het vermogen om voor elkaar te zorgen is een fundamentele dimensie van onze menselijkheid, een dimensie die wordt geleerd en beheerst door geleefde ervaring. Verhalen voorlezen aan een kind, gezelschap bieden aan een oudere persoon en een huis zo inrichten dat het gastvrij is, zijn eenvoudige gebaren die vaak geworteld zijn in het gezinsleven. Ze leren ons zorg op maatschappelijk niveau te waarderen en trainen ons om anderen te herkennen als personen die aandacht verdienen.
Technologie kan deze wederzijdse zorg tussen mensen ook ondersteunen, bijvoorbeeld door instrumenten te bieden die ons helpen zaken te anticiperen en te organiseren, zonder de menselijke vrijheid en het oordeel ondermijnen. Immers, menselijke wezens zijn de subjecten van relaties en verantwoordelijk voor hun eigen beslissingen.
— Magnifica Humanitas, Wat niet verloren mag gaan

De marketingpraktijk van antropomorfisme — het toekennen van menselijke eigenschappen, emoties en intenties aan niet-menselijke merken, producten of mascottes — helpt zeker bij de verkoop. Maar tegen welke prijs is dat in het geval van AI?

Open vragen:

  • Wat is de werkelijke kost van het antropomorfiseren van AI-tools? Hoe beïnvloedt dit menselijke relaties?
  • Hoe kunnen we lokale gemeenschappen versterken?
  • Hoe kunnen we menselijke connectie en empathie bevorderen?

Overwegingen

AI is nog in een opbouwfase en wetgevers worstelen om te reageren op de snelle veranderingen die plaatsvinden. Ondertussen grijpen toonaangevende AI-labs naar elke strategie om relevant te blijven en marktaandeel te winnen.

In deze context probeert de Magnifica Humanitas van Paus Leo XIV een centrum van discussie en bewustwording te zijn, om het gesprek aan te zwengelen en een deur te openen zodat we allemaal onze stem kunnen laten horen bij de opbouw van AI en dit nieuwe tijdperk.

Wat ik hier heb geschreven is slechts datgene wat mij raakte, met enkele fragmenten uit Magnifica Humanitas en enkele open vragen; het is niet het geheel. Daarom moedig ik u aan om de volledige tekst van Magnifica Humanitas - On Safeguarding the Human Person in the Time of Artificial Intelligence te lezen en de videopresentatie van de encycliek te bekijken.

Laten we niet bang zijn om onze handen vuil te maken op de "bouwplaats" van onze tijd.
— Magnifica Humanitas

Links