Paus Leo waarschuwt voor een AI-paradijs van machines

Paus Leo XIV heeft op 25 september 2026 bij de start van zijn bezoek aan Frankrijk gewaarschuwd voor het verlies van menselijkheid in een „paradijs van machines”. In het Élysée in Parijs zei de leider van de katholieke kerk dat kunstmatige intelligentie het dagelijks leven binnendringt en mee vormgeeft. Daarom is volgens hem dringend onderwijs in ethisch onderscheidingsvermogen nodig, zodat mensen kunnen beoordelen wat moreel juist is. De paus presenteerde AI niet als een ontwikkeling die per definitie moet worden afgewezen, maar koppelde de inzet ervan nadrukkelijk aan menselijke verantwoordelijkheid.

Menselijke waardigheid als uitgangspunt

In een tweede toespraak, bij de Parijse zetel van Unesco, werkte Leo zijn standpunt verder uit. Nieuwe technologieën moeten „ten dienste van de menselijke persoon” blijven staan en mogen niet veranderen in een bijkomend instrument van overheersing en onrechtvaardigheid, zei hij. Wetenschap kan haar eigenlijke betekenis verliezen wanneer zij zonder ethiek wordt bedreven. Daarmee richtte de paus zich niet op één specifiek programma, bedrijf of model, maar op de maatschappelijke keuzes rond ontwerp, gebruik en beoordeling van digitale systemen.

Leo verzette zich ook tegen het zonder voorbehoud gelijkstellen van computationele systemen aan menselijk denken. Sommige kunstmatige systemen dragen de naam van het menselijke vermogen dat intelligentie heet, merkte hij op. Tegelijk zouden ideeën en relaties kunnen verarmen door een proces van ontmenselijking. Daartegenover plaatste hij de „onvervreemdbare waardigheid” van iedere persoon. Mensen mogen volgens zijn redenering niet worden beoordeeld op efficiëntie, en evenmin worden afgewezen wanneer zij niet langer productief worden geacht.

Een morele boodschap, geen technische analyse

De toespraken bevatten geen technische beoordeling van concrete AI-toepassingen. Leo noemde geen chatbot, algoritme, databedrijf of wetsvoorstel en gaf geen cijfers over banen, fouten, energiegebruik of discriminatie door geautomatiseerde systemen. Zijn interventie is vooral ethisch en politiek: besluiten over technologie mogen niet uitsluitend afhangen van snelheid, rendement of commercieel voordeel. Op basis van de beschikbare uitspraken kan daarom niet worden geconcludeerd dat hij een verbod op bepaalde AI-systemen bepleit.

• Kunstmatige intelligentie moet de menselijke persoon dienen en geen middel tot overheersing worden.
• Onderwijs moet mensen helpen moreel te onderscheiden in een technologische omgeving.
• Waardigheid mag niet afhangen van productiviteit of efficiëntie.
• Wetenschap en technologie hebben volgens de paus ethische grenzen en publieke verantwoordelijkheid nodig.

De waarschuwing maakt deel uit van een breder programma in Frankrijk. Leo, die in 2025 paus werd, begon er zijn eerste officiële bezoek aan het land. De geraadpleegde berichten verschillen over de duur ervan: The Guardian spreekt van drie dagen, CNBC van vier. Beide bronnen noemen Parijs, Lourdes en Metz als haltes. In Metz staat voor maandag een toespraak over vrede in Europa gepland, terwijl de grootschalige Russische invasie van Oekraïne haar vijfde jaar ingaat.

AI naast recht, zorg en vrede

De paus verbond zijn opmerkingen over AI met een bredere zorg over wetenschap en technologie die volgens hem door winstmotieven kunnen worden gestuurd. Hij verwees naar genetische manipulatie, draagmoederschap, handel in menselijke organen en de mogelijkheid om het eigen overlijden te regelen. Dat gebeurde nadat Frankrijk in juni wetgeving aannam die sommige volwassen patiënten recht geeft op hulp bij sterven. Leo uitte bezorgdheid over die maatschappelijke tendensen, maar de bronmaterialen vermelden geen concreet voorstel van hem voor aanpassing van de Franse wet.

Ook over politiek en de rechtsstaat sprak Leo kritisch. Zonder namen te noemen, veroordeelde hij machthebbers die de wet inroepen wanneer die hun belangen dient, maar haar naast zich neerleggen zodra zij hen begrenst. Hij riep Frankrijk daarnaast op een onvermoeibare pleitbezorger voor vrede te blijven. Franse politici vroeg hij zich niet neer te leggen bij oorlog en die niet als onvermijdelijk te beschouwen. Op de vlucht naar Parijs zei hij dat zijn bezoek een boodschap van vrede moest uitdragen.

Het bezoek speelt zich af tegen de achtergrond van een ernstige vertrouwenscrisis rond seksueel misbruik in de Franse kerk. Een rapport uit 2021 schatte dat in zeventig jaar ongeveer 330.000 kinderen waren misbruikt door priesters of andere personen met banden met de kerk. Het rapport sprak over een systematische doofpot. In Lourdes zal Leo zeven slachtoffers ontmoeten. Volgens The Guardian vonden sommige organisaties van overlevenden dat een grotere groep geraadpleegd had moeten worden; de kerk stelde dat de paus diepgaande gesprekken met individuele personen zoekt.

Voor Nederland en Vlaanderen sluit de boodschap aan bij concrete vragen rond digitalisering in onderwijs, zorg, werk en publieke dienstverlening. Wanneer een systeem invloed heeft op toegang tot informatie, een uitkering, werk of zorg, blijft menselijke controle relevant. De paus biedt geen uitvoeringsplan voor toezicht of wetgeving. Wel formuleert hij een toetssteen die ook buiten de kerkelijke context bruikbaar is: technologische vooruitgang is niet alleen een kwestie van wat systemen kunnen, maar ook van wie de gevolgen draagt en welke menselijke waarden worden beschermd.