ИИ: ресурс мира или экзистенциальная угроза?
Виктор Владимиров – Град Ватикан
Центральным вопросом обсуждения на форуме стала роль ИИ. По словам представителя Ватикана, он может быть как инструментом мира и безопасности, так и потенциальной угрозой для человечества. Применение автономных систем управления боевыми операциями снижает осознание разрушительных последствий войны. Эти опасения ранее уже звучали в ватиканском документе Antiqua et Nova, посвящённом соотношению между искусственным и человеческим разумом. Монсеньор Гира подчеркнул необходимость защиты этических принципов, которые «поддерживают внутреннюю ценность каждого человека» и способность к распознаванию и принятию ответственности.
Дипломат привёл слова Папы Франциска: «Нельзя игнорировать серьёзные этические вопросы, связанные с сектором вооружений». Святейший Престол настаивает на том, что развитие технологий должно служить общему благу и защите человеческого достоинства. Вызывает опасения перспектива, в которой решения о войне и мире будут принимать машины, а не люди.
Ещё одна опасность заключается в растущем использовании автономных технологий, которые могут делегировать военные решения машинам, выводя их из-под контроля человека. Это порождает «правовую непрозрачность» и серьёзные этические вопросы. В этом контексте монсеньор Гира упомянул смертоносные автономные системы вооружений (LAWS), способные идентифицировать и поражать цели без непосредственного вмешательства человека. «Ни одна машина никогда не должна принимать решение о лишении человека жизни», – подчеркнул прелат, цитируя Папу Франциска.
Святейший Престол не намерен сдерживать научный прогресс, но призывает к осознанному и этически обоснованному подходу к разработке и использованию новых технологий. Необходимо интегрировать их в «более широкие рамки», которые не ограничиваются полезностью и эффективностью, но ставят во главу угла содействие целостному человеческому развитию, подчеркнул постоянный наблюдатель от Ватикана.
