Paus Leo XIV: kunstmatige intelligentie moet 'onschadelijk gemaakt' worden

"Het woord is sterk, ik weet het, maar opzettelijk gekozen omdat dit moment woorden nodig heeft die aandacht kunnen trekken," zei de paus.

Encycliekbriefen zijn technisch gezien brieven aan katholieke bisschoppen, maar de laatste decennia zijn deze missives uitgegroeid tot boodschappen aan de wereld van een paus.

Hoewel deze brief grotendeels gericht was op kunstmatige intelligentie, voegde paus Leo ook een van de sterkste en meest omvattende verontschuldigingen van het Vaticaan voor de rol van de katholieke kerk in de slavernij toe.

Het was "onmogelijk niet diep verdriet te voelen bij de contemplatie van het immense lijden en de vernedering die zovelen hebben moeten ondergaan," schreef de paus, stellende dat hij "oprecht vergeving vraagt" namens de kerk.

Leo noemde de slavenhandel in relatie tot kunstmatige intelligentie, suggererend dat de wereld in gevaar was de exploitatie van mensen opnieuw te normaliseren - zowel in de productie ervan als in de toepassingen ervan.

Enkele van de sterkste beelden van de paus in het document waren gerelateerd aan slavernij, stellende parallellen tussen de historische tragedie van traditionele slavernij en de opkomende bedreigingen van "nieuwe digitale slavernijen".

Hij suggereerde een risico op vergelijkbare normalisatie van exploitatie en dat de mensheid op een vergelijkbaar moreel keerpunt stond.

Opvallend genoeg koos paus Leo ervoor om de encycliek - getiteld "Magnifica Humanitas" ("Prachtige Mensheid") - zelf te presenteren op het Vaticaan, samen met deskundigen op het gebied van kunstmatige intelligentie, waaronder Christopher Olah, mede-oprichter van de Amerikaanse kunstmatige-intelligentiereus Anthropic.

In opmerkingen na de presentatie van de encycliek zei Olah dat elk kunstmatige-intelligentielaboratorium, inclusief het zijne, "binnen een set van prikkels en beperkingen opereerde die soms kunnen botsen met het doen van het juiste".

Het zou een fout zijn te geloven dat kwesties rond kunstmatige intelligentie het beste door computerwetenschappers zoals hijzelf konden worden afgehandeld, voegde Olah eraan toe: "De vragen die kunstmatige intelligentie oproept zijn groter dan de kunstmatige-intelligentieonderzoeksgemeenschap, niet alleen in hun implicaties, maar ook in hun aard."

De encycliek van de paus - die ook veel potentiële valkuilen van kunstmatige intelligentie erkende - is ook een scherp en direct bericht aan degenen in machtposities over hun verantwoordelijkheden bij het indammen van de "bedreigingen" die zij vormt.

De paus veroordeelde bijvoorbeeld het gebruik van kunstmatige intelligentie in oorlogvoering en zei dat het verminderen van menselijke controle over wapentuig het nog moeilijker maakt een oorlog "rechtvaardig" te noemen en waarschuwde tegen het starten van een kunstmatige-intelligentiewapenwedloop.

"Geen algoritme kan oorlog moreel aanvaardbaar maken," schreef de paus.

Kunstmatige intelligentie verwijdert niet alleen de "intrinsieke onmenselijkheid" van oorlog, zei hij, maar riskeert ook sneller conflict te ontketenen en het onpersoonlijker te maken door "de drempel voor het toegreipen tot geweld te verlagen, verdediging in dreigingsvoorspelling om te zetten en zo slachtoffers tot gegevens terug te brengen".

Leo bekritiseerde ook de manier waarop kunstmatige intelligentie politiek beïnvloedt - zoals de manier waarop zij werd gebruikt om afbeeldingen en video's te manipuleren, wat hij zei mensen blootstelde aan bevooroordeelde of misleidende perspectieven.

In het verleden heeft de paus de behoefte aan waarborgen om mensen te beschermen tegen kunstmatige-intelligentieont wikkelingen vergeleken met die welke nodig waren om menselijke waardigheid tijdens de industriële revolutie te waarborgen.

Hij suggereerde vergelijkingen van het nalaten op te treden tegen de risico's van kunstmatige intelligentie vandaag met de "vertraging waarmee zowel de samenleving als de kerk tot de veroordeling van de gesel van slavernij kwamen". Hij verwees zelfs naar de risico's van "digitaal kolonialisme", koppelingen de misbruiken van het koloniale tijdperk aan moderne technologiepraktijken.

Op een moment in dit document deed de paus direct een "speciaal beroep" op degenen die kunstmatige intelligentie ontwikkelen.

"Ontwikkelaars dragen een bijzondere ethische en geestelijke verantwoordelijkheid, want elke ontwerpkeuze weerspiegelt een visie op de mensheid," zei hij.

Maar welk effect zal dit allemaal hebben?

Paus Leo heeft een commissie bijeengeroepen om zijn werk voort te zetten, maar er zijn enorme vragen over hoe effectief dit alles zal zijn te midden van snelle technologische vooruitgang.