杏MAP导航

Salvatore Cernuzio – Vatikán

Pápe?ove výstrahy v súvislosti s umelou inteligenciou z posledných rokov tvoria osnovu nóty Antiqua et Nova o vz?ahu medzi umelou a ?udskou inteligenciou, ktorá je plodom vzájomnej reflexie medzi Dikastériom pre náuku viery a Dikastériom pre kultúru a vzdelávanie. Dokument je adresovaný tým, ktorí sú povolaní vychováva? a odovzdáva? vieru, ale aj tým, ktorí zdie?ajú potrebu vedeckého a technologického rozvoja ?v slu?be osobe a spolo?nému dobru“ [5]. V 117 bodoch Antiqua et Nova sa poukazuje na výzvy a mo?nosti rozvoja umelej inteligencie (AI) v oblasti vzdelávania, hospodárstva, práce, zdravia, vz?ahov a kontextoch vojny. V poslednej menovanej sfére by napríklad potenciál AI mohol zvý?i? vojnové zdroje ??aleko za hranicami ?udskej kontroly“, ?o by urýchlilo ?destabilizujúce preteky v zbrojení s ni?ivými dôsledkami pre ?udské práva“ [99].

Nebezpe?enstvá a pokrok

Dokument podrobnej?ie uvádza nebezpe?enstvá AI, ale aj pokrok, ktorý podporuje ako ?sú?as? spolupráce“ ?loveka s Bohom [2]. Nezakrýva v?ak obavy, ktoré sú spojené so v?etkými inováciami, ktorých dôsledky sú zatia? nepredvídate?né.

Rozli?ovanie medzi umelou inteligenciou a ?udskou inteligenciou

Nieko?ko odsekov dokumentu je venovaných rozli?ovaniu medzi umelou inteligenciou a ?udskou inteligenciou. ?Zavádzajúce“, ako sa do?ítame, je pou?ívanie samotného slova ?inteligencia‘ v súvislosti s AI: nejde o ?umelú formu inteligencie‘, ale o ?jeden z jej produktov‘ [35]. A ako ka?dý produkt ?udskej vynaliezavosti, aj AI mô?e by? zameraná na ?pozitívne alebo negatívne ciele“. Umelá inteligencia mô?e skuto?ne zavies? ?dôle?ité inovácie“ [48], ale mô?e tie? riskova? zhor?enie situácií diskriminácie, chudoby, digitálnej priepasti, sociálnej nerovnosti [52]. ?Etické obavy“ vzbudzuje skuto?nos?, ?e ?vä??ina moci nad hlavnými aplikáciami umelej inteligencie je sústredená v rukách nieko?kých mocných spolo?ností“ [53], tak?e táto technológia je nakoniec manipulovaná na ?osobný alebo firemný prospech“ [53].

Vojna

V súvislosti s vojnou sa v dokumente zdôrazňuje, ?e ?vá?ny dôvod na etické obavy“ predstavujú autonómne a smrtiace zbraňové systémy schopné ?identifikova? a zasiahnu? ciele bez priameho zásahu ?loveka“ [100]. Pápe? vyzval na zákaz ich pou?ívania, ke??e predstavujú reálnu hrozbu pre ?pre?itie ?udstva alebo celých regiónov“ [101]. Tieto technológie ?dávajú vojne nekontrolovate?nú ni?ivú silu, ktorá postihuje mnoho nevinných civilistov, pri?om ne?etrí ani deti“, uvádza sa v dokumente Antiqua et Nova.

?udské vz?ahy

Pokia? ide o medzi?udské vz?ahy, v nóte sa uvádza, ?e AI mô?e vies? k ??kodlivej izolácii“ [58], ?e ?antropomorfizácia AI“ predstavuje problém pre rast detí [60], a ?e predstavovanie AI ako osoby je ?vá?nym etickým poru?ením“, ak sa to pou?íva na podvodné ú?ely. Rovnako aj pou?ívanie AI na klamanie v kontextoch, ako je vzdelávanie, vz?ahy, sexualita, je ?nemorálne a vy?aduje si starostlivú ostra?itos?“ [62].

Hospodárstvo a práca

Rovnaká ostra?itos? sa vy?aduje aj v hospodárskej a finan?nej oblasti. Osobitne v oblasti práce sa kon?tatuje, ?e zatia? ?o na jednej strane má umelá inteligencia ?potenciál“ zvy?ova? zru?nosti a produktivitu, na druhej strane mô?e ?zni?ova? kvalifikáciu pracovníkov, podrobova? ich automatizovanému doh?adu a odsúva? ich na strnulé a opakujúce sa funkcie“ [67].

Zdravie

Dostatok priestoru sa v dokumente venuje otázke zdravotnej starostlivosti. Pripomína sa obrovský potenciál rôznych aplikácií v oblasti medicíny a je tu aj varovanie, ?e ak by umelá inteligencia nahradila vz?ah lekár - pacient, hrozilo by ?zhor?enie“ osamelosti, ktorá ?asto sprevádza chorobu. Treba sa tie? vyvarova? posilnenia ?medicíny pre bohatých“, v ktorej ?udia s finan?nými prostriedkami vyu?ívajú pokro?ilé nástroje, zatia? ?o ostatní nemajú prístup ani k základným slu?bám.

Vzdelávanie

Na riziká sa upozorňuje aj v oblasti vzdelávania. Ak sa umelá inteligencia pou?íva obozretne, mô?e zlep?i? prístup k vzdelávaniu a ponúknu? ?tudentom ?okam?itú spätnú väzbu“ [80]. Problémom je, ?e mnohé programy ?iba poskytujú odpovede namiesto toho, aby ?tudentov nútili, aby ich sami na?li alebo aby sami písali texty“; ?o vedie k tomu, ?e sa nerozvíja kritické myslenie [82]. Nehovoriac o tom, ko?ko ?skreslených alebo vymyslených informácií“ a ?falo?ných správ (fake news)“ mô?u niektoré programy vygenerova? [84].

Falo?né správy a deepfake

Pokia? ide o falo?né správy, dokument varuje pred vá?nym rizikom, ?e by umelá inteligencia ?generovala manipulovaný obsah a falo?né informácie“ [85], ktoré by sa potom ?írili s cie?om ?oklama? alebo po?kodi?“ [87]. Nóta apeluje na to, aby sa v?dy ?dbalo na kontrolu pravdivosti“ toho, ?o sa zverejňuje, a aby sa v ka?dom prípade zabránilo ?zdie?aniu slov a obrazov, ktoré poni?ujú ?udské osoby“, a vylú?ilo ?to, ?o podnecuje nenávis? a nezná?anlivos?“ alebo zneva?uje ?intimitu ?udskej sexuality“ [89].

Súkromie a kontrola

Pokia? ide o súkromie a kontrolu, nóta poukazuje na to, ?e niektoré typy údajov mô?u zájs? tak ?aleko, ?e sa dotknú ?dokonca aj svedomia“ [90], pri?om hrozí, ?e sa v?etko stane ?akýmsi divadlom, ktoré mo?no ?pehova?“ [92]. ?Digitálny dozor sa mô?e pou?i? na vykonávanie kontroly nad ?ivotom veriacich a vyjadrovaním ich viery“ [90].

Spolo?ný domov

Pokia? ide o tému stvorenia, aplikácie umelej inteligencie na zlep?enie vz?ahu k spolo?nému domovu sa hodnotia ako ?s?ubné“. Sú?asné modely AI si zároveň vy?adujú ?obrovské mno?stvo energie a vody a výrazne prispievajú k emisiám CO2, a zároveň konzumujú zdroje intenzívnym spôsobom“.

Vz?ah s Bohom

Napokon nóta varuje pred rizikom, ?e by sa ?udia stali ?otrokmi diel, ktoré sami vyrobili“. Z toho vyplýva odporú?anie: ?Umelá inteligencia by sa mala pou?íva? len ako doplnkový nástroj k ?udskej inteligencii a nemala by nahrádza? jej bohatstvo“ [112].

Preklad: Zuzana Klimanová