ВАТИКАН (ИА Реалист). Папа Римский Лев XIV в своей первой энциклике «Magnifica Humanitas» («Величественное человечество») заявил о необходимости «разоружения» искусственного интеллекта.
Понтифик призвал к введению жёстких международных норм, предотвращающих гонку ИИ-вооружений и не допускающих передачи машинам права на жизнь и смерть человека.
«ИИ требует быть разоружённым»
В документе объёмом 43 тысячи слов (около 83 страниц) Лев XIV сравнил современную технологическую революцию с промышленной революцией XIX века, на которую Католическая церковь отреаклировала энцикликой «Rerum Novarum».
«Искусственный интеллект сейчас требует быть разоружённым, освобождённым от логики, которая превращает его в инструмент господства, исключения и смерти», — заявил понтифик. — «Разоружить не значит отвергнуть технологии, а предотвратить их доминирование над человечеством».
Оружие вне человеческого контроля
Особую тревогу у Папы вызвало развитие летальных автономных систем вооружения (LAWS). Он провёл прямую параллель между современным ИИ и ядерным оружием.
«Современный ИИ в своей логике как инструмент господства, исключения и смерти сравним с ядерным оружием», — говорится в энциклике.
«Некоторые автономные системы вооружения продвинулись практически за пределы любого человеческого контроля. Недопустимо доверять смертоносные решения технологиям. Передача машинному обучению принятия решений о жизни и смерти человека является разрушительной спиралью».
«Гонка вооружений» и цифровое рабство
Лев XIV осудил современную «гонку за всё более мощными алгоритмами и большими наборами данных», обусловленную стремлением к геополитическому или коммерческому господству. Он призвал ограничить монополизацию технологий, предупредив, что «современные формы собственности — в частности алгоритмы, патенты, цифровые платформы и данные — должны рассматриваться как общественно значимые ресурсы».
Понтифик также предрёк рост неравенства из-за внедрения ИИ:
«Без смелых решений надвигается перспектива большей бедности и неравенства, когда многие люди останутся маргинализированными, заброшенными и окружёнными заменившими их машинами и автоматизированными системами».
Критика «справедливой войны» и конфликт с администрацией Трампа
Энциклика наносит удар по внешнеполитическим доктринам, которые ранее использовались для оправдания военных конфликтов. Папа заявил, что теория «справедливой войны» (just war) устарела и не может применяться сегодня, а «ни один алгоритм не может сделать войну морально приемлемой». Он также выразил опасение, что «некоторые лидеры могут рассматривать вооружённый конфликт как эффективный способ отвлечь внимание от внутренних проблем и циничный инструмент управления трудностями».
Реакция индустрии
На презентации документа в Ватикане присутствовал сооснователь компании Anthropic Крис Ола, чья фирма ведёт судебную тяжбу с Пентагоном из-за отказа использовать свои технологии для «смертоносной автономной войны» или массовой слежки. Ола заявил, что индустрия «работает в системе стимулов и ограничений, которые иногда могут противоречить правильным действиям».
Вавилонская башня и будущее человечества
В духовной метафоре Папа сравнил попытку построить будущее на одном ИИ без Бога со строительством Вавилонской башни. Он призвал к созданию «надёжных правовых рамок, независимого надзора» и замедлению гонки разработок.
Эксперты полагают, что «Magnifica Humanitas» может стать документом, сопоставимым по влиянию с энцикликой Папы Франциска «Laudato Si» по климату 2015 года, и будет служить моральным компасом в эпоху искусственного интеллекта.
