Pape?eva poslanica za 57. svetovni dan miru: Umetna inteligenca in mir
POSLANICA SVETEGA O?ETA FRAN?I?KA
ZA 57. SVETOVNI DAN MIRU
1. JANUAR 2024
Umetna inteligenca in mir
Na za?etku novega leta, ?asa milosti, ki ga Gospod podarja vsakemu izmed nas, bi rad nagovoril Bo?je ljudstvo, narode, voditelje dr?av in vlad, predstavnike razli?nih verstev in civilne dru?be, vse mo?ke in ?enske na?ega ?asa ter jim izrazil svoje ?elje po miru.
1. Napredek znanosti in tehnologije kot pot k miru
Sveto pismo potrjuje, da je Bog ljudem dal svojega Duha, da bi imeli »modrost, razumnost in vednost za vsakr?no delo« (2 Mz 35,31). Razumnost je izraz dostojanstva, ki nam ga je podaril Stvarnik, ki nas je ustvaril po svoji podobi in podobnosti (prim. 1 Mz 1,26) in nam omogo?il, da na njegovo ljubezen odgovorimo s svobodo in spoznanjem. Znanost in tehnologija na poseben na?in razodevata to temeljno odnosnostno kakovost ?love?ke razumnosti: sta izreden sad njene ustvarjalne mo?i.
Drugi vatikanski koncil je v pastoralni konstituciji Veselje in upanje to resnico poudaril in izjavil, da je »?lovek s svojim delom in duhovno mo?jo sku?al bogateje razviti svoje ?ivljenje«.[1] Ko si ljudje »s pomo?jo znanosti in tehnike« prizadevajo, da zemlja »postaja dostojno bivali??e za celotno ?love?ko dru?ino«,[2] delujejo po Bo?jem na?rtu in sodelujejo z njegovo voljo, da bi dovr?ili stvarstvo in ?irili mir med narodi. Tudi napredek znanosti in tehnike, kolikor prispeva k bolj?i urejenosti ?love?ke dru?be ter rasti svobode in bratskega ob?estva, torej vodi k izbolj?anju ?loveka in preobrazbi sveta.
Upravi?eno se veselimo in smo hvale?ni za izredne dose?ke znanosti in tehnologije, ki so pripomogli k odpravi mnogoterega zla, ki mu?i ?love?ko ?ivljenje in povzro?a veliko trpljenja. Isto?asno tehnolo?ko-znanstveni napredek, ki omogo?a doslej ?e neviden nadzor nad resni?nostjo, v ?lovekove roke polaga ?iroko paleto mo?nosti, med katerimi nekatere lahko predstavljajo tveganje za pre?ivetje in nevarnost za skupni dom.[3]
Velik napredek novih informacijskih tehnologij, zlasti v digitalni sferi, zato predstavlja navdu?ujo?e prilo?nosti in resna tveganja s pomembnimi posledicami za prizadevanje za pravi?nost in harmonijo med ljudstvi. Zato si moramo nujno postaviti vpra?anji: Kak?ne bodo srednjero?ne in dolgoro?ne posledice novih digitalnih tehnologij? Kak?en vpliv bodo imele na ?ivljenje posameznikov in dru?be, na mednarodno stabilnost in mir?
2. Prihodnost umetne inteligence med obljubami in tveganji
Napredek informacijske tehnologije in razvoj digitalnih tehnologij v zadnjih desetletjih sta ?e za?ela povzro?ati globoke spremembe v dinamiki globalne dru?be. Nova digitalna orodja spreminjajo podobo komunikacij, javne uprave, izobra?evanja, potro?nje, medosebnih odnosov in ne?tetih drugih vidikov vsakdanjega ?ivljenja.
Poleg tega lahko tehnologije, ki uporabljajo ?tevilne algoritme, iz digitalnih sledi, pu??enih na internetu, pridobijo podatke, ki omogo?ajo nadzor mentalnih in odnosnostnih navad ljudi v komercialne ali politi?ne namene, pogosto brez njihove vednosti, kar omejuje njihovo zavestno uveljavljanje svobodne odlo?itve. V spletnem prostoru, za katerega je zna?ilna preobremenjenost z informacijami, se dejansko lahko oblikuje tok podatkov glede na izbiro, ki je uporabnik ne zazna vedno.
Ne smemo pozabiti, da znanstvene raziskave in tehnolo?ke inovacije niso vedno »nevtralne«, lo?ene od stvarnosti,[4] ampak so podvr?ene kulturnim vplivom. Gre za povsem ?love?ke dejavnosti, zato usmeritve, ki ji sprejmejo, odra?ajo odlo?itve, ki jih pogojujejo osebne, dru?bene in kulturne vrednote vsakega obdobja. Enako lahko re?emo za rezultate, ki jih dosegajo: kot rezultat specifi?no ?love?kih pristopov do sveta, ki jih obdaja, imajo vedno eti?no razse?nost, ki je tesno povezana z odlo?itvami tistih, ki na?rtujejo eksperimentiranje in usmerjajo proizvodnjo k dolo?enih ciljem.
To velja tudi za oblike umetne inteligence. Do danes v svetu znanosti in tehnologije nimamo enozna?ne definicije. Sam pojem, ki je ?e vstopil v splo?ni jezik, zajema razli?ne znanosti, teorije in tehnike, ki so usmerjene k temu, da bi stroji pri svojem delovanju reproducirali ali posnemali spoznavne sposobnosti ljudi. Govor v mno?ini o »oblikah inteligence« lahko pomaga, da poudarimo predvsem nepremostljivo razliko med temi sistemi, pa naj bodo ?e tako presenetljivi in mo?ni, in ?lovekom: navsezadnje so »fragmentarni«, ker lahko samo posnemajo ali reproducirajo nekatere funkcije ?love?ke inteligence. Govorjenje v mno?ini poleg tega poudarja tudi, da je treba te naprave, ki se med seboj zelo razlikujejo, vedno obravnavati kot »dru?beno-tehni?ne sisteme«. Njihov vpliv poleg temeljne tehnologije ni odvisen samo od na?rtovanja, ampak tudi od interesov tistega, ki jih ima v lasti in jih razvija, pa tudi od situacij, v katerih se uporabljajo.
Umetno inteligenco moramo torej razumeti kot galaksijo razli?nih resni?nosti in ne moremo vnaprej domnevati, da bo njen razvoj sam po sebi blagodejno prispeval k prihodnosti ?love?tva in miru med ljudstvi. Tak?en pozitiven izid bo mogo? samo, ?e bomo dokazali, da smo sposobni delovati odgovorno in spo?tovati temeljne ?love?ke vrednote, kot so »vklju?enost, preglednost, varnost, enakost, diskretnost in zanesljivost«.[5]
Poleg tega ni dovolj domnevati, da bodo tisti, ki na?rtujejo algoritme in digitalne tehnologije, delovali eti?no in odgovorno. Treba je okrepiti ali ustanoviti organizme, pristojne za preu?evanje eti?nih vpra?anj, ki se bodo pojavljala, in za za??ito pravic tistih, ki uporabljajo oblike umetne inteligence ali so pod njenim vplivom.
Izjemen razmah tehnologije mora zato spremljati ustrezno izobra?evanje glede odgovornosti za njen razvoj. Svoboda in mirno so?itje sta ogro?ena, kadar ljudje popustijo sku?njavi sebi?nosti, osebnega interesa, ?elji po dobi?ku in ?eji po oblasti. Zato smo dol?ni raz?iriti pogled in tehni?no-znanstveno raziskovanje usmeriti v prizadevanja za mir in skupno dobro, v slu?enje celostnega razvoja ?loveka in skupnosti.[6]
Notranje dostojanstvo vsakega ?loveka in bratstvo, ki nas povezuje kot ?lane ene same ?love?ke dru?ine, morata biti v temelju razvoja novih tehnologij in slu?iti kot nesporni merili za njihovo ocenjevanje pred njihovo uporabo, da bo digitalni napredek lahko potekal v spo?tovanju pravi?nosti in prispeval k miru. Tehnolo?kega razvoja, ki ne vodi k izbolj?anju kakovosti ?ivljenja vsega ?love?tva, ampak nasprotno pove?uje neenakosti in konflikte, nikoli ne moremo imeti za pravi napredek.[7]
Umetna inteligenca bo postajala vedno bolj pomembna. Izzivi, ki jih predstavlja, so tehni?ni, pa tudi antropolo?ki, izobra?evalni, dru?beni in politi?ni. Obljublja na primer prihranek napora, u?inkovitej?o proizvodnjo, la?ji transport in bolj dinami?ne trge, pa tudi revolucijo v procesih zbiranja, organiziranja in preverjanja podatkov. Zavedati se moramo hitrih sprememb, ki se dogajajo, in jih upravljati tako, da bomo zavarovali temeljne ?lovekove pravice ob spo?tovanju ustanov in zakonov, ki spodbujajo celovit ?lovekov razvoj. Umetna inteligenca mora slu?iti najbolj?im ?lovekovim mo?nostim in na?im najvi?jim ?eljam, ne pa tekmovati z njimi.
3. Tehnologija prihodnosti: stroji, ki se u?ijo sami
V svojih ?tevilnih oblikah umetna inteligenca, ki temelji na tehnikah samodejnega u?enja (machine learning) in je ?ele v pionirski fazi, ?e uvaja opazne spremembe v tkivo dru?b, saj globoko vpliva na kulture, dru?beno vedenje in graditev miru.
Razvoj, kot sta strojno u?enje in globoko u?enje (deep learning), odpira vpra?anja, ki presegajo podro?ji tehnologije in in?eniringa ter segajo na podro?je razumevanja, ki je tesno povezano s pomenom ?love?kega ?ivljenja, z osnovnimi procesi znanja in sposobnostjo uma, da dose?e resnico.
Sposobnost nekaterih naprav, da na primer proizvedejo skladenjsko in pomensko skladna besedila, ni zagotovilo za zanesljivost. Pravijo, da lahko »halucinirajo«, se pravi, da ustvarjajo trditve, ki se na prvi pogled zdijo sprejemljive, a so v resnici neutemeljene ali izra?ajo predsodke. To predstavlja resen problem, kadar se umetna inteligenca uporablja v dezinformacijskih kampanjah, ki ?irijo la?ne vesti in vodijo k vedno ve?jemu nezaupanju do medijev. Zaupnost, posedovanje podatkov in intelektualna lastnina so naslednja podro?ja, za katera navedene tehnologije predstavljajo resna tveganja. Tem se pridru?ujejo negativne posledice, povezane z njihovo neprimerno uporabo, kot so diskriminacija, vme?avanje v volilne procese, zakoreninjenje dru?be, ki spremlja in nadzoruje ljudi, digitalna izklju?enost, poslab?anje individualizma, ki se vse bolj lo?uje od skupnosti. Vsi ti dejavniki predstavljajo tveganje za pod?iganje konfliktov in ovirajo mir.
4. ?ut za mejo v tehnokratski paradigmi
Na? svet je preobse?en, raznolik in zapleten, da bi ga lahko v celoti poznali in klasificirali. ?love?ki um ne bo mogel nikoli iz?rpati njegovega bogastva, tudi s pomo?jo najbolj naprednih algoritmov ne. Ti namre? ne nudijo zajam?enih napovedi prihodnosti, ampak samo statisti?ne pribli?ke. Vsega ni mogo?e napovedati, vsega ni mogo?e izra?unati; na koncu »resni?nost presega idejo«[8] in ne glede na to, kako ?ude?na je lahko na?a sposobnost ra?unanja, bo vedno obstajal neki nedosegljiv ostanek, ki se izogne vsakemu poskusu merjenja.
Poleg tega velika koli?ina podatkov, ki jih analizira umetna inteligenca, sama po sebi ni zagotovilo nepristranskosti. Ko algoritmi prena?ajo vrednost informacij, so vedno v nevarnosti, da jih popa?ijo s ponavljanjem krivic in predsodkov okolij, iz katerih izvirajo. Hitrej?i in zapletenej?i ko postajajo, te?je je razumeti, zakaj so pri?li do nekega dolo?enega rezultata.
»Inteligentni« stroji lahko vse u?inkoviteje opravljajo naloge, ki so jim dodeljene, cilj in pomen njihovega delovanja pa bodo ?e vedno dolo?ali ali omogo?ali ljudje s svojim vesoljem vrednot. Obstaja tveganje, da merila, na katerih temeljijo nekatere izbire, postanejo manj jasna, da se odgovornost za odlo?anje skrije in da se proizvajalci izognejo obveznosti delovanja v dobro skupnosti. V dolo?enem smislu je temu naklonjen tehnokratski sistem, ki gospodarstvo zdru?uje s tehnologijo in daje prednost kriteriju u?inkovitosti, pri ?emer te?i k ignoriranju vsega, kar ni povezano z njegovimi neposrednimi interesi.[9]
To nas mora spodbuditi k razmi?ljanju o vidiku, ki je v sedanji tehnokratski in u?inkovitostni miselnosti zelo pogosto prezrt, a je odlo?ilen za osebni in dru?beni razvoj: »?ut za mejo«. ?lovek, ki je po definiciji umrljiv, a misli, da bo v mo?i tehnike prekora?il vsako mejo, je namre? v nevarnosti, da bo v obsedenosti od hotenja, da bi imel nadzor nad vsem, izgubil nadzor nad samim seboj; da bo v iskanju absolutne svobode padel v spiralo tehnolo?ke diktature. Prepoznavanje in sprejemanje lastne meje ustvarjenega bitja je za ?loveka nujen pogoj za doseganje ali sprejemanje daru polnosti. Nasprotno pa bi v ideolo?kem okviru tehnokratske paradigme, ki jo spodbuja prometejska domneva o samozadostnosti, neenakosti lahko ?ezmerno narasle, znanje in bogastvo pa bi se kopi?ila v rokah pe??ice, z velikim tveganjem za demokrati?ne dru?be in za mirno sobivanje.[10]
5. Aktualne teme za etiko
V prihodnosti bi lahko zanesljivost posojilojemalca, primernost posameznika za dolo?eno delo, mo?nost, da obsojenec ponovi kaznivo dejanje, pravico do politi?nega azila ali do socialne pomo?i lahko dolo?ali sistemi umetne inteligence. Pomanjkanje razli?nih stopenj posredovanja, ki jih ti sistemi uvajajo, je ?e posebej izpostavljeno razli?nim oblikam predsodkov in diskriminacije: sistemske napake se zlahka pomno?ijo in ne povzro?ajo samo krivice v posameznih primerih, ampak po u?inku domin tudi resni?ne oblike dru?bene neenakosti.
Poleg tega se v?asih zdi, da so oblike umetne inteligence sposobne vplivati na odlo?itve posameznikov po vnaprej dolo?enih mo?nostih, ki so povezane s spodbudami in svarili, ali po sistemih za uravnavanje osebnih odlo?itev, ki temeljijo na organiziranju informacij. Te oblike manipulacije ali dru?benega nadzora zahtevajo skrbno pozornost in nadzor ter vklju?ujejo jasno zakonsko odgovornost proizvajalcev, uporabnikov in dr?avnih oblasti.
Zana?anje na samodejne procese, ki razvr??ajo posameznike, na primer z vsesplo?no uporabo nadzora ali s sprejetjem sistemov dru?benih bonitetnih ocen, bi lahko imelo globoke u?inke tudi na civilno strukturo in bi vzpostavilo neprimerne razvrstitve med dr?avljani. Ti umetni procesi razvr??anja bi lahko vodili tudi do konfliktov mo?i, ki ne bi zadevali samo virtualnih naslovnikov, ampak ljudi iz mesa in kosti. Temeljno spo?tovanje ?lovekovega dostojanstva zahteva zavrnitev identifikacije enkratnosti osebe zgolj s skupkom podatkov. Algoritmom ne smemo dovoliti, da bi dolo?ali, kako razumemo ?lovekove pravice, da bi zanemarjali bistvene vrednote so?utja, usmiljenja in odpu??anja ali da bi odpravili mo?nost, da se posameznik lahko spremeni in odmakne od svoje preteklosti.
V tem okviru ne moremo izpustiti presoje vpliva novih tehnologij na podro?je dela: naloge, ki so bile neko? izklju?na pravica ?love?ke delovne sile, hitro posrkajo industrijske aplikacije umetne inteligence. Tudi v tem primeru je temeljna nevarnost nesorazmerne prednosti za pe??ico na ra?un osiroma?enja mnogih. V ?asu, ko te oblike tehnologije prodirajo vse globlje v delovna mesta, bi morali spo?tovanje dostojanstva delavcev in pomembnost zaposlitve za ekonomsko blaginjo ljudi, dru?in in dru?be, varnost zaposlitve in pravi?nost pla? predstavljati visoko prednostno nalogo mednarodne skupnosti.
6. Bomo me?e prekovali v leme?e?
Ko v teh dneh gledamo svet, ki nas obdaja, ne moremo ube?ati resnim eti?nim vpra?anjem, ki so povezana z oboro?evalno dejavnostjo. Mo?nost vodenja voja?kih operacij po sistemih za daljinsko vodenje je privedla do manj?ega dojemanja opusto?enja, ki ga povzro?ajo, in odgovornosti za njihovo uporabo, kar prispeva k hladnej?emu in ?e bolj odmaknjenemu pristopu do neizmerne tragedije vojne. Raziskave prihajajo?ih tehnologij na podro?ju »smrtonosnih avtonomnih oboro?itvenih sistemov«, vklju?no z uporabo umetne inteligence v vojskovanju, so resen razlog za eti?no zaskrbljenost. Avtomatski oboro?itveni sistemi ne bodo mogli biti nikoli moralno odgovorni subjekti: izklju?no ?love?ka sposobnost moralnega presojanja in eti?nega odlo?anja je ve? kot zapleten skupek algoritmov in te sposobnosti ne moremo omejiti na programiranje nekega stroja, ki ne glede na to, kako »inteligenten« je, ?e vedno ostaja zgolj stroj. Zato je treba nujno zagotoviti primeren, pomemben in dosleden ?love?ki nadzor oboro?itvenih sistemov.
Prav tako ne smemo podcenjevati mo?nosti, da skrajno izpopolnjeno oro?je kon?a v napa?nih rokah in omogo?i na primer teroristi?ne napade ali poseganje, ki je namenjeno destabilizaciji zakonitih vladnih ustanov. Svet res nima nobene potrebe, da bi nove tehnologije prispevale k nepravi?nemu razvoju trga in trgovine z oro?jem ter spodbujale norost vojne. S tak?nim ravnanjem ni v nevarnosti le ?lovekova inteligenca, ampak tudi njegovo srce, ki tako postaja vse bolj »umetno«. Najbolj naprednih tehni?nih aplikacij ne bi smeli uporabljati za omogo?anje nasilnega re?evanja konfliktov, ampak za tlakovanje poti miru.
?e pogledamo s pozitivnega vidika, bi umetno inteligenco lahko uporabljali za spodbujanje celostnega ?lovekovega razvoja, kar bi uvedlo pomembne izbolj?ave v kmetijstvu, izobra?evanju in kulturi, izbolj?alo ?ivljenjsko raven celotnih narodov in ljudstev, omogo?ilo rast ?love?kega bratstva in dru?benega prijateljstva. Na?in, kako umetno inteligenco uporabimo za vklju?evanje najmanj?ih, to je najslabotnej?ih in najbolj potrebnih bratov in sester, je pokazatelj na?e ?love?nosti.
?love?ki pogled in ?elja po bolj?i prihodnosti na?ega sveta vodita do potrebe po interdisciplinarnem dialogu, usmerjenem v eti?ni razvoj algoritmov – algor-etica –, v katerem bodo vrednote usmerjale poti novih tehnologij.[11] Eti?na vpra?anja bomo morali upo?tevati tako na za?etku raziskave kot tudi v fazi preizku?anja, na?rtovanja, proizvodnje, razdeljevanja in tr?enja. To je eti?ni pristop k na?rtovanju, v katerem imajo bistveno vlogo izobra?evalne ustanove in odgovorni v procesu odlo?anja.
7. Izzivi za izobra?evanje
Razvoj tehnologije, ki spo?tuje ?lovekovo dostojanstvo in mu slu?i, ima jasne posledice za izobra?evalne ustanove in svet kulture. Digitalne tehnologije so s pomno?itvijo mo?nosti komuniciranja omogo?ile nove na?ine sre?evanja. Vendarle pa ostaja potreba po nenehnem razmisleku o na?inu odnosov, h katerim nas usmerjajo. Mladi rastejo v kulturnih okoljih, ki so pre?eta s tehnologijo, zato moramo nujno preu?iti pomisleke o metodah pou?evanja in izobra?evanja.
Izobra?evanje za uporabo oblik umetne inteligence bi moralo biti usmerjeno predvsem v spodbujanje kriti?ne misli. Nujno je, da uporabniki vseh starosti, predvsem pa mladi, razvijejo sposobnost razlo?evanja pri uporabi podatkov in vsebin, ki so zbrani na spletu ali jih proizvajajo sistemi umetne inteligence. ?ole, univerze in znanstvena dru?tva so poklicani, da ?tudentom in strokovnjakom pomagajo usvojiti dru?bene in eti?ne vidike razvoja ter uporabe tehnologije.
Usposabljanje za uporabo novih komunikacijskih orodij bi moralo upo?tevati ne le dezinformacije, la?ne novice, ampak tudi zaskrbljujo?o raz?iritev »atavisti?nih strahov« […], ki so se prikrili »in se ob novih tehnologijah okrepili«.[12] ?al se moramo ponovno boriti »s sku?njavo po oblikovanju kulture zidov, zidanja zidov, s katerimi bi prepre?evali sre?anje z drugimi omikami, z drugim ljudstvom«[13] ter razvijanje mirnega in bratskega sobivanja.
8. Izzivi za razvoj mednarodnega prava
Globalni doseg umetne inteligence jasno ka?e, da imajo poleg odgovornosti suverenih dr?av za njeno urejanje znotraj sebe tudi mednarodne organizacije odlo?ilno vlogo pri doseganju ve?stranskih dogovorov ter usklajevanju njihove uporabe in izvajanja.[14] V zvezi s tem spodbujam Skupnost narodov, naj sodeluje pri sprejemanju zavezujo?e mednarodne pogodbe, ki bi urejala razvoj in uporabo umetne inteligence v njenih ?tevilnih oblikah. Cilj predpisov pa seveda ne bi smel biti samo prepre?evanje slabih praks, ampak tudi spodbujanje dobrih praks, novih in ustvarjalnih pristopov ter omogo?anje osebnih in kolektivnih pobud.[15]
V iskanju normativnih modelov, ki razvijalcem digitalnih tehnologij lahko nudijo eti?ne smernice, je nujno dolo?iti ?love?ke vrednote, ki morajo biti v temelju prizadevanja dru?be za oblikovanje, sprejetje in uporabo potrebnih zakonodajnih okvirov. Delo za urejanje eti?nih smernic za proizvodnjo oblik umetne inteligence ne more zanemariti upo?tevanja globljih vpra?anj, ki zadevajo pomen ?love?kega bivanja, varovanje temeljnih ?lovekovih pravic, prizadevanje za pravi?nost in mir. Ta proces eti?nega in pravnega razlo?evanja se lahko izka?e kot dragocena prilo?nost za skupen razmislek o vlogi, ki bi jo tehnologija morala imeti v ?ivljenju posameznika in skupnosti, in o tem, kako njena uporaba lahko prispeva k ustvarjanju bolj pravi?nega in ?love?kega sveta. Zato bi marali v razpravah o urejanju umetne inteligence upo?tevati glas vseh prizadetih strani, vklju?no z ubogimi, obrobnimi in drugimi, ki v globalnih procesih odlo?anja pogosto ostajajo nesli?ani.
* * * * *
Upam, da nas bo to razmi?ljanje spodbudilo k skrbi, da bo napredek v razvoju oblik umetne inteligence slu?il ?love?kemu bratstvu in miru. Ne gre samo za odgovornost nekaterih, ampak za odgovornost celotne ?love?ke dru?ine. Mir je namre? sad odnosov, ki priznavajo in sprejmejo drugega v njegovem neodtujljivem dostojanstvu, ter sodelovanja in zavzetosti pri iskanju celostnega razvoja vseh ljudi in vseh ljudstev.
Na za?etku novega leta molim, da hiter razvoj oblik umetne inteligence ne bi pove?al prevelikih neenakosti in krivic, ki so ?e prisotne v svetu, ampak bi prispeval h kon?anju vojn in spopadov ter olaj?anju ?tevilnih oblik trpljenja, ki mu?ijo ?love?ko dru?ino. Naj verni kristjani, verniki razli?nih verstev ter mo?ki in ?enske dobre volje usklajeno sodelujejo, da bodo izkoristili prilo?nosti in se spoprijeli z izzivi, ki jih prina?a digitalna revolucija, ter prihodnjim rodovom izro?ili bolj solidaren, pravi?en in miroljuben svet.
Vatikan, 8. decembra 2023
FRAN?I?EK
[1] ?t. 33.
[2] Prav tam, 57.
[3] Prim. okro?nica Hvaljen, moj Gospod (24. maja 2015), 104.
[4] Prim. prav tam, 114.
[5] Avdienca za udele?ence sre?anja “Minerva Dialogues” (27. marca 2023).
[6] Prim. Sporo?ilo izvr?nemu predsedniku ?Wor (12. januarja 2018).
[7] Prim. okro?nica Hvaljen, moj Gospod, 194; nagovor udele?encem na seminarju ?Skupno dobro v digitalni dobi” (27. septembra 2019).
[8] Apostolska spodbuda Veselje evangelija (24. novembra 2013), 233.
[9] Prim. okro?nica Hvaljen, moj Gospod, 54.
[10] Prim. Nagovor udele?encem plenarne seje Pape?ke akademije za ?ivljenje (28. februarja 2020).
[11] Prim. prav tam.
[12] Okro?nica Vsi smo bratje (3. oktobra 2020), 27.
[13] Prim. prav tam.
[14] Prim. prav tam., 170–175.
[15] Prim. okro?nica Hvaljen, moj Gospod, 177.