Папа Лев XIV призвал «разоружить» искусственный интеллект

ВАТИКАН (ИА Реалист). Папа Римский Лев XIV в своей первой энциклике «Magnifica Humanitas» («Величественное человечество») заявил о необходимости «разоружения» искусственного интеллекта.

Понтифик призвал к введению жёстких международных норм, предотвращающих гонку ИИ-вооружений и не допускающих передачи машинам права на жизнь и смерть человека.

«ИИ требует быть разоружённым»

В документе объёмом 43 тысячи слов (около 83 страниц) Лев XIV сравнил современную технологическую революцию с промышленной революцией XIX века, на которую Католическая церковь отреаклировала энцикликой «Rerum Novarum».

«Искусственный интеллект сейчас требует быть разоружённым, освобождённым от логики, которая превращает его в инструмент господства, исключения и смерти», — заявил понтифик. — «Разоружить не значит отвергнуть технологии, а предотвратить их доминирование над человечеством».

Оружие вне человеческого контроля

Особую тревогу у Папы вызвало развитие летальных автономных систем вооружения (LAWS). Он провёл прямую параллель между современным ИИ и ядерным оружием.

«Современный ИИ в своей логике как инструмент господства, исключения и смерти сравним с ядерным оружием», — говорится в энциклике.

«Некоторые автономные системы вооружения продвинулись практически за пределы любого человеческого контроля. Недопустимо доверять смертоносные решения технологиям. Передача машинному обучению принятия решений о жизни и смерти человека является разрушительной спиралью».

«Гонка вооружений» и цифровое рабство

Лев XIV осудил современную «гонку за всё более мощными алгоритмами и большими наборами данных», обусловленную стремлением к геополитическому или коммерческому господству. Он призвал ограничить монополизацию технологий, предупредив, что «современные формы собственности — в частности алгоритмы, патенты, цифровые платформы и данные — должны рассматриваться как общественно значимые ресурсы».

Понтифик также предрёк рост неравенства из-за внедрения ИИ:

«Без смелых решений надвигается перспектива большей бедности и неравенства, когда многие люди останутся маргинализированными, заброшенными и окружёнными заменившими их машинами и автоматизированными системами».

Критика «справедливой войны» и конфликт с администрацией Трампа

Энциклика наносит удар по внешнеполитическим доктринам, которые ранее использовались для оправдания военных конфликтов. Папа заявил, что теория «справедливой войны» (just war) устарела и не может применяться сегодня, а «ни один алгоритм не может сделать войну морально приемлемой». Он также выразил опасение, что «некоторые лидеры могут рассматривать вооружённый конфликт как эффективный способ отвлечь внимание от внутренних проблем и циничный инструмент управления трудностями».

Реакция индустрии

На презентации документа в Ватикане присутствовал сооснователь компании Anthropic Крис Ола, чья фирма ведёт судебную тяжбу с Пентагоном из-за отказа использовать свои технологии для «смертоносной автономной войны» или массовой слежки. Ола заявил, что индустрия «работает в системе стимулов и ограничений, которые иногда могут противоречить правильным действиям».

Вавилонская башня и будущее человечества

В духовной метафоре Папа сравнил попытку построить будущее на одном ИИ без Бога со строительством Вавилонской башни. Он призвал к созданию «надёжных правовых рамок, независимого надзора» и замедлению гонки разработок.

Эксперты полагают, что «Magnifica Humanitas» может стать документом, сопоставимым по влиянию с энцикликой Папы Франциска «Laudato Si» по климату 2015 года, и будет служить моральным компасом в эпоху искусственного интеллекта.