Magnifica Humanitas

Magnifica Humanitas is een brief van paus Leo XIV over kunstmatige intelligentie, gepubliceerd op 25 mei 2026. Het is zijn eerste encycliek, een formeel leerdocument van de katholieke kerk. Het heeft geen kracht van wet, maar het zegt wat de kerk verwacht van wie AI bouwt en gebruikt, bijvoorbeeld dat er iemand aanspreekbaar blijft als software meebeslist over wie een baan of een lening krijgt.

Wat zegt de encycliek over AI?

De encycliek telt 245 genummerde paragrafen. De eerste twee hoofdstukken zetten de katholieke sociale leer uiteen; de latere passen die toe op technologie, werk, communicatie en oorlog. Over de techniek zelf is de tekst bescheiden: de huidige AI-systemen worden eerder gekweekt dan gebouwd, en hun interne representaties en rekenprocessen zijn voorlopig onbekend (§98). AI bootst sommige functies van menselijke intelligentie na zonder ervaring of moreel geweten, en het leren ervan is een vorm van statistische aanpassing op basis van data en feedback (§99).

Waar roept de encycliek toe op?

• Verantwoordelijkheid. De encycliek waarschuwt dat beslissingen over werk, krediet, toegang tot publieke diensten of iemands reputatie volledig aan geautomatiseerde systemen dreigen te worden overgelaten (§102). Verantwoordelijkheid moet in elke fase duidelijk belegd zijn, van wie een systeem ontwerpt tot wie erop vertrouwt, en iemand moet een beslissing kunnen verantwoorden, bewaken, aanvechten en herstellen (§105).
• Geen neutrale gereedschappen. AI is moreel niet neutraal, want elk systeem legt keuzes vast in wat het meet, negeert en optimaliseert (§104).
• Minder geconcentreerde macht. AI vergroot de macht van wie al geld, kennis en data heeft, en het eigendom van data mag niet alleen in private handen liggen (§108). AI moreler maken via alignment is niet genoeg als die moraal door enkelen wordt bepaald (§107). De paus noemt dit het ontwapenen van AI: technologie bevrijden van monopolistische controle (§110).
• Werk. Het beschermen van banen moet de algemene regel blijven, en hogere winst rechtvaardigt geen keuzes die stelselmatig banen opofferen (§152). Financiële hulp aan armen kan niet het enige antwoord zijn, want het doel is dat mensen waardig van hun eigen werk kunnen leven (§149).
• De encycliek noemt ook het energie- en waterverbruik van AI (§101) en vraagt om de strengste ethische grenzen voor AI in oorlogvoering (§197).

Een deel van deze punten is in de EU voor bepaalde beslissingen al wet, zoals iemand die verantwoording aflegt en een manier om een geautomatiseerde uitkomst aan te vechten: zie human-in-the-loop en uitlegbare AI.

Hoe werd ze gepresenteerd?

Leo XIV ondertekende de encycliek op 15 mei 2026, precies 135 jaar na Rerum Novarum, de encycliek van Leo XIII uit 1891 over arbeid in de eerste industriële revolutie; dat document was volgens hem een belangrijke reden voor zijn pausnaam. Op 25 mei werd ze gepresenteerd in de synodezaal van het Vaticaan. Tot de sprekers behoorde Chris Olah, medeoprichter van Anthropic. In zijn toespraak zei hij dat elk toonaangevend AI-lab, Anthropic inbegrepen, werkt onder prikkels die soms botsen met het juiste doen, en verwelkomde hij critici van buiten de sector. Simon Willison noemde de tekst een van de helderste teksten die hij kende over de ethiek van AI in de samenleving.