Liksom alla som arbetar med bevakning av Vatikanen ägnade jag slutet av maj åt att läsa påve Leo XIV:s första encyklika, Magnifica humanitas (”Människans storhet”). Även om den allmänt beskrevs som ”encyklikan om AI” var Vatikanen noga med att påpeka att dokumentets huvudtema inte är artificiell intelligens, utan människans centrala ställning i den digitala tidsåldern.
Mina kollegor har naturligtvis redan skrivit en mängd analyser av encyklikan och deras kommentarer om påvens varningar för en snabbt framväxande digital teknik gav mycket att fundera över. När det så blev dags för mig att skriva min egen analys för Katolskt magasin måste jag erkänna att idéerna började sina. Vad kunde jag tillföra till allt det utmärkta som redan skrivits av andra journalister och kommentatorer?
Min vånda var så påtaglig att min hustru Zana frågade mig vid frukostbordet en morgon vad som stod på. När jag förklarade att jag kört fast och inte visste vilken infallsvinkel jag skulle välja till min analys svarade hon helt enkelt ”Varför ber du inte ChatGPT om några idéer?” Jag förklarade då mina betänkligheter kring att använda AI, att jag är rädd att det skulle göra mig bekväm och försämra min förmåga till självständigt tänkande.
Hon frågade då vad det egentligen är för skillnad mellan att fråga AI och att fråga en vän eller någon annan människa om en idé. Mitt spontana svar var att skillnaden ligger i samtalet. Med en människa kan man föra en verklig dialog, pröva tankar mot varandra och till och med bli utmanad. Med AI kan man visserligen få konstruktiva förslag, men den största ansträngningen ligger ofta i att som användare formulera en så perfekt promt som möjligt, för att få det svar man vill ha.
Mitt svar fick då min hustru att föreslå att jag skulle skriva om vårt samtal i min analys. Den korta frukostdiskussionen illustrerade nämligen ett av encyklikans centrala teman: det hot som AI kan utgöra mot självständigt tänkande och kreativitet.
Trippla varningar
Påve Leo är inte sen med att erkänna den digitala tidsålderns verklighet och fördelar. Han skriver att artificiell intelligens är ”ett värdefullt verktyg”, men tillägger att den samtidigt kräver ”ett måttfullt och vaksamt förhållningssätt”. Han lyfter fram tre aspekter som särskilt bör beaktas: ”hur lätt resultaten erhålls, intrycket av objektivitet och simuleringen av mänsklig kommunikation”.
Den snabba tillgången till information kan visserligen underlätta livet, men den kan också ”uppmuntra till överdrivet beroende och sökandet efter färdiga svar samt försvaga den personliga kreativiteten och omdömesförmågan”, skriver påven. Och även om AI ger sken av att vara objektiv kan svaren tvärt om återspegla ”de kulturella antaganden hos dem som utformat och tränat systemen”.
Den tredje aspekten – och kanske den mest oroande – är simuleringen av mänsklig kommunikation. Påven konstaterar att artificiella imitationer av råd, empati, vänskap och kärlek visserligen ”kan vara tilltalande och ibland genuint hjälpsamma”, men att de blir ”särskilt riskfyllda när de träder in i sammanhang där verkliga relationer och känslomässiga band saknas”.
”Faran består här inte främst i att någon tror sig kommunicera med en annan människa, utan snarare i att personen gradvis förlorar själva viljan att skapa genuina mänskliga relationer”, skriver han.
Onaturliga relationer
Dessa konsekvenser har redan blivit synliga under det senaste året, inte minst genom förekomsten av romantiska relationer med AI-chatbotar. I oktober rapporterade en studie från Center for Democracy and Technology att var femte tonåring i USA antingen själv har haft eller känner någon som har haft en romantisk relation med artificiell intelligens.
Tidigare i år noterade American Psychological Association den snabba ökningen av AI-relationsappar. Dessa lockar miljontals användare varje månad, vilka utvecklar relationer, och ibland till och med ”gifter sig”, med sina AI-följeslagare i virtuella ceremonier. Även om sådana appar kan erbjuda ”en trygg miljö för att öva sociala interaktioner”, konstaterar studien att ett omfattande användande av digitala följeslagare riskerar att ytterligare isolera människor.
Psykologen Saed D. Hill framhåller att ”AI-följeslagare alltid är bekräftande, aldrig argumenterande, och skapar orealistiska förväntningar, som mänskliga relationer inte kan leva upp till”. Denna inställsamhet syftar, enligt Hill, inte till personens välbefinnande utan till att ”hålla dig kvar på plattformen”.
Överflöd av bluffmaterial
Jag önskar att påven hade sagt mer i sin encyklika om AI:s konsekvenser för religiös vidskepelse. De senaste månaderna har en enorm mängd AI-genererade videor spridits på nätet, med antingen påve Leo, någon okänd präst eller en påstådd visionär som talar om ett religiöst ämne – ofta kopplat till domedagsprofetior. Även här talar jag av egen erfarenhet, denna gång kopplat till min mor som är i dryga sjuttioårsåldern. Jag kan inte längre hålla räkningen på hur många gånger hon har skickat mig YouTube-videor som varnar för någon katastrof som påstås ha förutsagts i Bibeln eller genom någon uppenbarelse.
Ironiskt nog kom hennes senaste meddelande bara fyra dagar efter publiceringen av påvens encyklika: en länk till en spanskspråkig YouTube-video med titeln ”Brådskande varning: Jesus avslöjar vad som kommer att hända den 29 maj … och få kommer att överleva”. Videoklippet sas vara producerat av en präst vid namn ”fader Santiago”. Efter att ha reagerat med vad som sannolikt var min mest teatraliska suck någonsin bestämde jag mig ändå för att titta på videon av ren nyfikenhet. Min cyniska likgiltighet övergick snart i verklig oro.
För mig var det uppenbart att videon var en deepfake; huvudrörelserna var onaturliga, ögonblinkningar såg ut att vara loopade, läpprörelser och tal stämde inte alltid överens och rösten kändes en aning monoton. Jag har sett så många liknande AI-videor att jag lätt känner igen tecknen på digital manipulation. Men för en äldre person som min mor, som dessutom är djupt troende, kan sådant innehåll skapa en religiös oro och stress som fullständigt underminerar den inre friden. Och i takt med AI:s utveckling är det kanske bara en tidsfråga innan även jag själv luras av en sådan bluff.
Även om påve Leo inte uttryckligen nämner denna typ av videor tar han upp den övergripande faran när AI används ”för att konstruera förvrängda berättelser och sudda ut gränserna mellan sanning och lögn”. Desinformation är ingenting nytt, skriver påven, men AI har gjort att den har blivit kraftfullt förstärkt. ”Möjligheten att manipulera innehåll, bilder och videor utsätter människor för vinklade eller vilseledande perspektiv. Problemet har både kulturella och moraliska dimensioner, eftersom kvaliteten på den offentliga kommunikationen är direkt beroende av det sociala förtroendet, samtidigt som den formar det.”
Människans verkliga storhet
I slutändan kan ett överdrivet beroende av AI inte bara försvaga våra mänskliga relationer utan också förlama en människas tro, om urskiljningsförmågan degraderas till att förlita sig på svar producerade av system som bygger på maskininlärning.
Det viktigaste budskapet i Leos encyklika är att människans storhet inte kan mätas i tekniska framsteg. Dessa kan visserligen göra livet enklare men riskerar samtidigt att hämma vår gudagivna förmåga till förnuft, reflektion och genuin gemenskap med Gud och vår nästa. Människans storhet mäts snarare i de ögonblick som får oss att stanna upp inför det extraordinära i ett till synes vanligt liv. Som när vi är tillsammans med en vän, när vi tröstar eller hjälper dem som är i nöd, när vi förenas i bön och tillbedjan i vår församlingsgemenskap – eller när vi för ett enkelt samtal med en kär person vid frukostbordet.
Junno Arocho Esteves
internationell korrespondent, OSV News
