杏MAP导航

От Салваторе Чернуцио

Предупрежденията на папата относно изкуствения интелект през последните години предоставят рамките на ?Antiqua et Nova“, ?Бележка за връзката между изкуствения интелект и човешкия интелект“, която предлага резултатите от взаимен размисъл между Ведомството за доктрината на вярата и Ведомството за култура и образование. Новият документ е адресиран специално до ?тези, на които е поверено предаването на вярата“, но също и до ?тези, които споделят убеждението, че научният и технологичен напредък трябва да бъде насочен в служба на човешката личност и общото благо“.

В 117 параграфа ?Antiqua et Nova“ подчертава предизвикателствата и възможностите за развитието на изкуствения интелект (AI) в областта на образованието, икономиката, работата, здравето, взаимоотношенията и войната. В последната сфера, например, документът предупреждава за потенциала на ИИ да увеличи ?инструментите за война далеч отвъд обхвата на човешкия надзор и да ускори дестабилизираща надпревара във въоръжаването с катастрофални последици за човешките права“.

Опасности и прогрес

По-конкретно, документът изброява не само рисковете, но и напредъка, свързан с ИИ, който той насърчава като ?част от сътрудничеството на мъжа и жената с Бог“. Това обаче не избягва опасенията, които идват с всички нововъведения, чиито ефекти все още са непредвидими.

Разграничаване между ИИ и човешкия интелект

Няколко параграфа от Бележката са посветени на разграничението между ИИ и човешкия интелект. Цитирайки папа Франциск, документът потвърждава, че ?самото използване на думата ?интелигентност“ във връзка с ИИ?може да се окаже подвеждащо“… в светлината на това, ИИ не трябва да се разглежда като изкуствена форма на човешкия интелект, а като продукт от него”. ?Както всеки продукт на човешката изобретателност, ИИ също може да бъде насочен към положителни или отрицателни цели“ . ?ИИ може да въведе важни иновации“, но също така рискува да влоши ситуациите на дискриминация, бедност, ?дигитално разделение“ и социални неравенства. ?Концентрацията на властта върху масовите ИИ приложения в ръцете на няколко могъщи компании поражда значителни етични опасения“, включително ?риска ИИ да бъде манипулиран за лична или корпоративна изгода или за насочване на общественото мнение в полза на определена индустрия“.

Войната

По отношение на войната ?Antiqua et Nova“ подчертава, че автономните и смъртоносни оръжейни системи, способни да ?идентифицират и поразяват цели без пряка човешка намеса, са ?причина за сериозна етична загриженост“. В него се отбелязва, че папа Франциск е призовал използването им да бъде забранено, тъй като те представляват ?екзистенциален риск“, тъй като имат потенциала да действат по начини, които могат да застрашат оцеляването на цели региони или дори на самото човечество“. ?Тази опасност изисква сериозно внимание“, се казва в документа, ?отразявайки дългогодишната загриженост относно технологиите, които предоставят на войната ?неконтролируема разрушителна сила над голям брой невинни цивилни, без дори да щадят децата“.

Човешки отношения

Относно човешките отношения документът отбелязва, че ИИ може да доведе до ?вредна изолация“, че ?антропоморфизирането на ИИ“ създава проблеми за растежа на децата и, че погрешното представяне на ИИ като личност е ?сериозно етично нарушение“, ако е направено ?за измамни цели“. По подобен начин ?използването на ИИ за измама в други контексти – като образование или в човешките взаимоотношения, включително сферата на сексуалността – също трябва да се счита за неморално и изисква внимателен надзор“.

Икономика и труд

Същата бдителност се изисква и в икономическо-финансовата сфера. ?Antiqua et Nova“ отбелязва, че особено в сферата на труда, ?докато ИИ обещава да повиши производителността... настоящите подходи към технологията могат парадоксално да погубят уменията на работниците, да ги подложат на автоматизирано наблюдение и да ги принудят към строги и повтарящи се задачи“.

Здравеопазване

Бележката отделя достатъчно място и на въпроса за здравеопазването. Припомняйки ?огромния потенциал“ в различни приложения в областта на медицината, той предупреждава, че ако изкуственият интелект замести връзката лекар-пациент, се рискува ?влошаване на самотата, която често придружава болестта“. Документът също така предупреждава, че ?интегрирането на ИИ в здравеопазването също така създава риск от засилване на други съществуващи различия в достъпа до медицински грижи“, с риск от ?подсилване на модела на ?лекарство за богатите“, където хората с финансови възможности се възползват от напреднали превантивни инструменти и персонализирана здравна информация, докато други се борят за достъп дори до основни услуги”.

Образование

В областта на образованието ?Antiqua et Nova“ отбелязва, че ?ИИ представя както възможности, така и предизвикателства“. Ако се използва разумно, ИИ може да подобри достъпа до образование и да предложи ?незабавна обратна връзка“ на учениците. Но един от проблемите е, че много програми ?просто предоставят отговори, вместо да подтикват учениците сами да стигнат до отговорите или да напишат текст за себе си“; което може да доведе до неуспех в развиването на умения за критично мислене. Бележката също така предупреждава за ?предубедената или изфабрикувана информация“ и ?фалшивите новини“, които някои програми могат да генерират.

Фалшиви новини и Deepfakes

Що се отнася до фалшивите новини, документът предупреждава за сериозния риск от ИИ ?генериране на манипулирано съдържание и невярна информация“, което се влошава, когато се разпространява с цел измама или причиняване на вреда. ?Antiqua et Nova“ настоява, че ?тези, които произвеждат и споделят съдържание, генерирано от ИИ, трябва винаги да проявяват усърдие в проверката на истинността на това, което разпространяват, и във всички случаи трябва да ?избягват споделянето на думи и изображения, които са унизителни за човешките същества , които насърчават омраза и нетолерантност, които принизяват добротата и интимността на човешката сексуалност или които експлоатират слабите и уязвимите“.

Поверителност и контрол

Относно неприкосновеността на личния живот и контрола Бележката посочва, че някои видове данни могат да стигнат дотам, че да засегнат ?вътрешността на индивида, може би дори неговата съвест“, с опасността всичко да се превърне във ?вид спектакъл, който трябва да бъде изследван“ и инспектиран”. Дигиталното наблюдение ?може също така да бъде злоупотребено за упражняване на контрол върху живота на вярващите и как те изразяват своята вяра“.

Общ дом

По темата за грижата за творението, ?Antiqua et Nova“ казва: ?ИИ има много обещаващи приложения за подобряване на връзката ни с нашия ?общ дом““. ?В същото време настоящите ИИ модели и хардуерът, необходим за поддържането им, консумират огромни количества енергия и вода, което значително допринася за емисиите на CO2 и натоварва ресурсите“.

Връзката с Бог

И накрая, Бележката предупреждава срещу риска човечеството да стане ?роб на собствената си работа“. Изкуственият интелект, настоява ?Antiqua et Nova“, ? трябва да се използва само като инструмент за допълване на човешката интелигентност, а не за замяна на нейното богатство”.