杏MAP导航

Devin Watkins, Vatikán

Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání vydaly v úterý 28. ledna dokument s názvem 

Podle tajemníka Dikasteria pro kulturu a vzdělávání se dokument sna?í nabídnout katolickým institucím a celému lidstvu vodítko ohledně etického rozvoje a vyu?ívání umělé inteligence (AI).

V rozhovoru pro Vatican News biskup Paul Tighe uvedl, ?e Antiqua et Nova není kone?ným slovem o umělé inteligenci, ale spí?e doufá, ?e p?ispěje k diskusi tím, ?e poskytne body k zamy?lení.

?Existuje ?ir?í chápání inteligence, které se týká na?í lidské schopnosti nacházet cíl a smysl ?ivota,“ ?ekl. ?A to je forma inteligence, kterou stroje ve skute?nosti nemohou nahradit.“

Zde je celý p?epis rozhovoru s biskupem Tighem:

Svatý stolec právě vydal dokument s názvem ?Antiqua et nova: Nóta o vztahu mezi umělou inteligencí a lidskou inteligencí“. Co je podle vás v tomto dokumentu ?nového“ a co chce sdělit světu, zejména církvi?

Tento dokument spojuje mnoho úvah, které se organicky rozvíjely v pr?běhu posledních několika let. Umělá inteligence je na po?adu dne u? asi deset let. Existuje déle a déle se o ní diskutuje, ale do povědomí ve?ejnosti se dostala v posledních deseti letech a velmi konkrétně asi v posledním roce s nástupem ChatGPT, který dal nástroje AI do rukou bě?ných u?ivatel?.

V sou?asné době se sna?íme shromá?dit úvahy, které se objevují v církvi, v r?zných církevních organizacích. Zde ve Vatikánu máme poselství ke 厂惫ě迟ovému dni míru a poselství ke 厂惫ě迟ovému dni komunikace. Pape?ská akademie pro ?ivot se touto problematikou zabývá ?ímskou výzvou, Pape?ské akademie věd svolávají vědce, aby hovo?ili o umělé inteligenci, a my se zabýváme otázkou vzdělávání a umělé inteligence. Existuje my?lenka spojit to dohromady a p?inést něco syntetického, co by sjednotilo v?echny r?zné perspektivy, které organicky vznikaly, a mo?ná je dát na jedno místo.

Není to také poslední slovo; to je první věc, kterou je t?eba ?íci zcela jasně. Je to něco, s ?ím budeme ?ít, co bude vznikat. Sna?í se v?ak nabídnout lidem některé perspektivy, z nich? mohou za?ít kriticky uva?ovat o umělé inteligenci a jejích mo?ných p?ínosech pro spole?nost, a pak lidi trochu upozornit na to, o ?em bychom měli p?emý?let, abychom nechtěně nevytvo?ili něco nebo nedovolili vytvo?it něco, co by mohlo být pro lidstvo a spole?nost ?kodlivé.

?ekl bych, ?e je v tom ur?itý varovný prvek. Mnozí z nás na po?átku sociálních médií velmi rychle p?ijali jejich mimo?ádný potenciál. Neviděli jsme nutně vedlej?í ú?inky, které se objevily, pokud jde o polarizaci, fale?né zprávy a dal?í problémy.

Chceme p?ijmout něco, co má pro ?lověka velký potenciál. Chceme tento potenciál vidět a zároveň být pozorní k mo?ným negativním stránkám. Myslím, ?e právě o to se zde sna?íme. Jednoho dne si v novinách p?e?tete titulky, ?e umělá inteligence bude spásou nás v?ech. Druhý den ?teme, ?e to bude zkáza a konec světa.

Sna?íme se lidem nabídnout vyvá?eněj?í p?ístup. Dokument se zamě?uje na ?adu věcí. Jsou zde hlavní otázky, o kterých ka?dý p?emý?lel: otázky týkající se budoucnosti práce, války, deep fakes, nerovnosti. A jsou zde etické a spole?enské otázky, kterými se chceme zabývat.

Ale p?i jejich ?e?ení se sna?íme zamě?it také na základněj?í otázku, co to znamená být ?lověkem, na antropologickou otázku, co to znamená být ?lověkem. Co dává lidskému ?ivotu hodnotu, cíl a smysl? Uvědomujeme si, ?e systémy umělé inteligence mohou posílit a roz?í?it ur?ité ?ásti na?í lidskosti, tj. na?i schopnost uva?ovat, zpracovávat, rozli?ovat, objevovat, vidět vzorce a vytvá?et inovace. To jistě m??e posílit.

Chceme také ?íci, ?e tento typ inteligence není jediným typem inteligence. Existuje ?ir?í chápání inteligence, které se týká na?í lidské schopnosti nacházet ú?el a smysl ?ivota. Je zajímavé, ?e mnoho lidí, kte?í pracují v oblasti umělé inteligence, jasně ?íká, ?e chtějí, aby umělá inteligence slou?ila lidskému dobru, ?e chtějí, aby umělá inteligence byla zamě?ena na ?lověka; chtějí umělou inteligenci pro lidstvo. V?echny tyto p?ívlastky tam jsou.

Sou?ástí otázky, kterou si musíme polo?it, je: co je to, co je dobré pro lidstvo? Co je to, co podporuje blaho ?lověka? A to je forma inteligence, kterou stroje skute?ně nemohou nahradit. Musíme pochopit, ?e v katolické tradici, která má ko?eny v na?ich vlastních filosofických tradicích, nejen v katolicismu, je na?e chápání inteligence více ne? pouhé uva?ování, po?ítání a zpracování, ale zahrnuje také tuto schopnost hledat v na?em ?ivotě ú?el, smysl a směr.

Dokument se sna?í otev?ít toto ?ir?í chápání inteligence z hlediska několika kategorií. Jednou z nich je podle něj p?ekro?ení ?isté racionality a posun k otázkám, jako je skute?nost, ?e mnoho z toho, jak rosteme jako lidské bytosti, je v dialogu a debatě s ostatními. Vztahovost se stává klí?ovou sou?ástí toho, co je to lidská inteligence: na?e schopnost u?it se od druhých. Jde také o ztělesnění. Stále více se u?íme, ?e na?e mysl není oddělena od na?eho těla. Nejsou ně?ím, co lze jednodu?e pozvednout a vlo?it do po?íta?e. Jsou organické. U?íme se prost?ednictvím ?innosti. U?íme se prost?ednictvím svých emocí. U?íme se prost?ednictvím své intuice.

Ty jsou d?le?ité pro lidskou moudrost, která z toho v?eho vyr?stá. Výpo?et je toho sou?ástí, ale není to celý p?íběh. A kone?ně si myslím, ?e to, co nás v?dy zajímá, je hledání nejvy??ích pravd, toho, co dává ?ivotu tvar, cíl a smysl. To je něco, v ?em nám m??e umělá inteligence pomoci s ur?itými prvky, ale v kone?né analýze je to typ intelektuálního závazku, který p?esahuje něco, co m??e prostě udělat stroj.

Vývoj umělé inteligence se vyvíjí rychlým tempem. Pro? se Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání rozhodly vydat tento dokument právě v tuto chvíli?

Vatikán tomu věnuje pozornost, a to nejen Svatý stolec, ale katolická církev v ?ir?ím smyslu, a mnoho katolických univerzit vede úvahy o umělé inteligenci a jejím významu. Pokud máme být up?ímní, je to zvý?ená pozornost ve?ejnosti k AI v posledním roce a p?l s p?íchodem ChatGPT. Jsou k dispozici dal?í modely snadno pou?itelných systém? umělé inteligence, které tomu dodaly naléhavost.

Z na?eho pohledu si jistě v rámci světa vzdělávání v?ichni pedagogové kladou otázky ohledně potenciálu AI pomáhat ve vzdělávání a rizik, pokud by nějakým zp?sobem de-personalizovala povahu vzdělávání. Odpovídáme také na otázky, které nám byly polo?eny během náv?těv ad limina, proto?e biskupové chtějí nějakou orienta?ní informaci.

Tento dokument spojuje spoustu dal?ích iniciativ a dává je dohromady. Dává tomu také jednotu vize, která se sna?í sjednotit etické otázky a propojit je s tou zásadněj?í antropologickou vizí toho, co nás dělá lidmi.

Zajímavé bylo, ?e se Organizace spojených národ? sna?í pracovat na celkových systémech ?ízení umělé inteligence. Jeden z problém?, které se tam objevily je tento: ?To jsou samoz?ejmě otázky, které vyvolávají otázky týkající se budoucnosti lidstva, ale ve skute?nosti to nem??eme udělat, proto?e na to existuje p?íli? mnoho r?zných názor?.“

Také UNESCO ?eklo, ?e umělá inteligence - a to bylo to, co mě velmi silně zasáhlo - vede k tomu, co nazývají antropologickým rozvratem. Silicon Valley miluje jazyk naru?ení, rozbití, aby bylo mo?né vynalézt něco nového. Ale tady mluvíme o povaze toho, co je to být ?lověkem a co je to, co ?iní lidský ?ivot uspokojivým. Stává se velmi d?le?itým, abychom se nad tím kriticky zamysleli a abychom neobcházeli otázku po kone?ném smyslu ?ivota.

Myslím, ?e v tomto dokumentu se silně objevují otázky týkající se rizika zvý?ení nerovnosti v souvislosti s umělou inteligencí. Obecně to m??ete vidět na rozlo?ení toho, co se stalo s digitalizací, která vedla k nár?stu velmi malého po?tu mimo?ádně bohatých lidí, kte?í mají mimo?ádně velkou moc, za kterou nejsou nutně odpovědní jiným institucím. Jak tedy uva?ovat o tom, aby to neslou?ilo k rozbití jednoty lidské rodiny, která je jednotou ekonomickou, ale je také p?ístupem k moci a informacím?

Jednou z oblastí, kde má umělá inteligence mimo?ádný potenciál, je oblast zdravotní pé?e. Víme v?ak, ?e zdravotní pé?e ji? dnes bývá nep?íli? spravedlivě rozdělena. Povede to k dal?ím nerovnostem v této oblasti? Hodně o tom p?emý?líme a na?asování je takové, ?e tam musíme mít nějakou mo?nost se touto debatou zabývat.

Toto není kone?né slovo. Nem??e to být kone?né slovo, proto?e se jedná o nově vznikající oblast. Ale také se sna?íme zajistit, abychom stanovili nějaké ukazatele, nějaké body, které by lidé, kte?í mají zájem se do debaty zapojit, mohli uchopit a pracovat s nimi.

Je to psáno pro církev a katolické instituce, ale je to také pro v?echny lidi, abychom jim nabídli a ?ekli, ?e je to něco, co bude mít obrovský dopad na budoucnost lidstva. P?emý?lejme o tom, p?idejme k tomu své hlasy. A nemějme pocit, ?e proto?e technologicky je to docela slo?ité, ?e bychom nějak měli p?enechat kompetence za vět?í otázky, které se týkají na?í budoucnosti jako lidských bytostí.

Celkově se zdá, ?e v dokumentu zaznívá uznání potenciálu umělé inteligence doprovázené podtónem opatrnosti p?ed jejím zneu?itím. P?i úvahách o kone?ném vztahu lidstva k AI se mi vybaví série román? Robot od Isaaca Azimova. ?ekl byste, ?e dokument zaujímá k AI spí?e vst?ícný, nebo spí?e varovný postoj?

Doufám, ?e zaujme st?ední cestu a nep?ijme ?ádnou z apokalyptických vizí. Ani se nesna?í p?edstavovat si, ?e to samo o sobě vy?e?í v?echny lidské problémy. Sna?í se vidět potenciál a oslavovat mimo?ádný úspěch, kterým AI je. Je to zamy?lení nad schopností lidstva u?it se, inovovat, rozvíjet se, co? je schopnost daná od Boha.

To chceme oslavovat. Zároveň v?ak ?íká: z minulých zku?eností víme, ?e mnoho ú?asných inovací, které měly velký potenciál, se také z ?ady d?vod? stalo problematickými. Problematickými proto, ?e mo?ná existovaly vrozené nedostatky v samotných systémech. Problematickými proto, ?e lidé mohli tuté? technologii pou?ívat k velmi dobrým nebo velmi ?patným ú?el?m. Problematickými někdy proto, ?e systémy - a máme zde na mysli umělou inteligenci - byly vyvinuty v ur?itém obchodním, politickém prost?edí a mohly být ji? poznamenány hodnotami tohoto prost?edí.

Chceme kriticky p?emý?let o tom, jak zajistit, aby umělá inteligence byla nakonec vyu?ita lidstvem, aby ji lidstvo pou?ívalo zp?sobem, který zajistí, ?e bude realizovat sv?j potenciál být dobrem pro v?echny lidské bytosti.

Nedávno jsme tu měli ?e?níka, architekta Carla Rattiho. Mluvil o technologii a citoval amerického filozofa a architekta Buckminstera Fullera, který o v?ech technologiích ?ekl: ?Máme na výběr, bu? budeme architekty, nebo obě?mi.“ To je pravda. V jistém smyslu tento dokument vyzývá lidi, aby se pokusili zajistit, ?e budeme od lidí vy?adovat odpovědnost, abychom skute?ně byli architekty ně?eho, abychom zajistili, naplánovali, ur?ili, ?e to bude vyu?ito k dobrému, a neponechali to jen náhodným faktor?m, komer?ním ohled?m, politickým výhodám. Lidstvo musí mít odpovědnost za procesy a musí dbát na to, aby se zajistilo, ?e bude mít pocit odpovědnosti.

A právě v tom spo?ívá Azimovova série Robot. Kde bude le?et odpovědnost? Stroje s umělou inteligencí budou dělat mimo?ádné věci. Ob?as nebudeme schopni pochopit, jak je dělají. Rozvíjejí schopnost p?eprogramovat se a postupovat vp?ed. Tak?e se musíme pokusit ?íct, kde le?í odpovědnost? Mnoho lidí z oboru nyní hovo?í o tom, ?e umělá inteligence je ?etická u? od návrhu“. ?e byste měli od za?átku p?emý?let, jaké jsou problémy? Jaké jsou potí?e? Jak plánovat tak, abychom se problém?m vyhnuli? To znamená, jak to uděláme, aby to bylo bezpe?né, aby to dob?e fungovalo, aby to nefungovalo ?patně. Jak zajistíme, aby to nebylo snadno zneu?itelné lidmi, kte?í by to chtěli vyu?ít ke ?patným ú?el?m? Jak zajistíme, aby databáze, které podmiňují umělou inteligenci, skute?ně odrá?ely celou lidskou zku?enost, nejen tu, která ji? byla digitalizována. Jak tedy zajistíme, aby to bylo něco, co odrá?í to nejlep?í z nás lidí?

Proto se v?dy sna?íme, aby byli zodpovědní ti, kte?í navrhují, ti, kte?í plánují, ti, kte?í vyvíjejí, ale také ti, kte?í AI pou?ívají. To je oblast rozvrstvení odpovědnosti. V oblasti AI je jednou z velmi zajímavých oblastí to, ?e některé profesní asociace in?enýr? a dal?ích, kte?í v této oblasti pracují, vyvíjejí vlastní etický kodex, proto?e technicky mají kompetence k jeho vypracování, ale kladou si otázky: k ?emu bude vyu?íván, jak bude vyu?íván a jak zajistíme, aby byl odpovědný v??i ?ir?í lidské komunitě?

Kdybyste mohl vyzdvihnout jeden aspekt dokumentu, jaký by to byl?

Nejsem si jistý, jestli je to aspekt dokumentu, který bych chtěl vyzdvihnout, ale co bych chtěl ?íct lidem, kte?í si tento text pravděpodobně p?e?tou, a? u? jsou katolíci, nebo ne, cílem je pokusit se získat co nejvíce informací o tom, co se zde děje, a ne se cítit zneuznaní nebo odsunutí na vedlej?í kolej. ?íkám to jako někdo, kdo je v ?ivotě star?í, a ?íkám to své generaci, ne jen proto, abychom měli pocit, ?e se s tím vyrovnáváme.

Jedna věc, kterou bych lidem ?ekl, je, aby za?ali technologie pou?ívat, zkoumat je, zjistili, jak jsou výjime?né, ale také aby k nim za?ali být kriti?tí, aby se nau?ili, jak je umět vyhodnocovat a p?emý?let o nich. Tak?e to, co bych si z toho odnesl, je d?le?itost odpovědnosti.

Ka?dý ?lověk by se měl zamyslet nad mírou své vlastní odpovědnosti, která se od u?ivatele vrství nahoru. Zda za?nu sdílet obsah, o kterém vím, ?e je pochybný, ?e je tam proto, aby vyvolával nenávist, zda p?evezmu osobní odpovědnost za to, jakým zp?sobem AI pou?ívám a co s ní dělám. Pak si místní komunity v mnoha ?ástech světa kladou otázky, jako ?e to je obrovsky náro?né na energii. Bude to udr?itelné? Jak o tom p?emý?líme v na?ich místních komunitách?

Dal?í oblastí, která je v dokumentu zd?razněna - a mo?ná je to pro nás zde provin?ní zájem - je mimo?ádný p?ínos katolických univerzit. Mají ú?asnou směsici lidí, kte?í jsou kvalifikovaní v humanitních vědách, filozofii a teologii, a také lidí, kte?í mají vědecké vzdělání. Doufáme, ?e se nám poda?í vytvo?it tyto my?lenkové inkubátory vycházející z interdisciplinarity, kterou máte na těchto univerzitách, kde m??eme zahájit rozhovory mezi humanitními a p?írodními vědami, abychom zajistili, ?e budeme p?emý?let a uva?ovat o odpovědném rozvoji a vyu?ití umělé inteligence.