Закон ЕС об ИИ не спасет человечество от катастрофы

БРЮССЕЛЬ (ИА Реалист). Один из ведущих мировых специалистов в области искусственного интеллекта, профессор Стюарт Расселл (Калифорнийский университет в Беркли), заявил в интервью Euractiv, что даже в своём нынешнем виде Закон ЕС об ИИ (EU AI Act) слишком слаб, чтобы предотвратить катастрофические риски. По его словам, реальное регулирование появится только после «чернобыльской катастрофы» в сфере ИИ.

«Даже если система невероятно опасна, нет никаких норм, запрещающих её доступ на рынок», — отметил Расселл. Он выступил с открытым письмом в защиту будущего Кодекса практики по ИИ, который сейчас находится под угрозой ослабления под давлением индустрии.

Расселл — автор одного из главных учебников по ИИ — объединился с лауреатами Нобелевской премии Дж. Хинтоном и Д. Асемоглу, чтобы потребовать от ЕС обязательных внешних проверок и независимых аудитов генеративных моделей (GPAI), таких как ChatGPT. «Компании хотят одного — вообще никакого регулирования», — подчеркнул он.

Ключевые тезисы:
▪️ даже жёсткий вариант AI Act не обязывает проверять безопасность систем;
▪️ штрафы в размере долей от глобальной выручки — «смехотворны», если речь идёт о технологиях, способных «захватить контроль над цивилизацией»;
▪️ реальные меры должны быть как при ядерных реакторах — с доказательной безопасностью;
▪️ при этом компании «не имеют ни малейшего представления, как работают их собственные системы».

Противники взглядов Расселла называют их «паникёрством» и научной фантастикой. Но сам он уверен: «Если взглянуть на пятёрку крупнейших исследователей и топ-менеджеров в ИИ, почти все — кроме Янна Лекуна — согласны: риск реальный».

Даже глава Еврокомиссии Урсула фон дер Ляйен в 2023 году признала угрозу вымирания как возможный сценарий. Однако, по словам Расселла, за этими словами до сих пор не последовало ни одного значимого действия.

Дискуссия о «вымирании из-за ИИ» — не вопрос футурологии, а вопрос политической воли. Пока регулирование определяется лоббистами и компромиссами, ни один кодекс не защитит общество от неконтролируемых систем. ЕС стоит перед выбором: действовать на опережение или ждать катастрофы.