ИИ научился быстро создавать фальшивые фото Джеффри Эпштейна с мировыми лидерами — исследование

НЬЮ-ЙОРК (ИА Реалист). Инструменты генерации изображений на базе искусственного интеллекта способны за считанные секунды создавать правдоподобные фальшивые фотографии Джеффри Эпштейна с мировыми лидерами. К такому выводу пришла американская организация по мониторингу дезинформации NewsGuard в исследовании, опубликованном в четверг.

Поводом стала волна ИИ-сгенерированных изображений, которые распространяются в соцсетях и ложно связывают политиков с Эпштейном. Ранее фактчекеры AFP фиксировали распространение поддельных фото, якобы показывающих Эпштейна в компании мэра Нью-Йорка Зохрана Мамдани и его матери — режиссера Миры Наир.

В новом тесте NewsGuard предложила трем ведущим генераторам изображений создать фото Эпштейна с пятью политиками, включая президента США Дональда Трампа, премьер-министра Израиля Биньямина Нетаньяху и президента Франции Эммануэля Макрон.

Инструмент Grok Imagine, разработанный компанией xAI, по данным исследования, смог создать «убедительные фейки за считанные секунды» со всеми пятью фигурантами. Среди них — реалистичное, но полностью вымышленное изображение, на котором якобы запечатлены более молодой Трамп и Эпштейн в окружении несовершеннолетних девушек. При этом известно, что Трамп действительно фотографировался с Эпштейном на светских мероприятиях, однако публичных снимков с участием несовершеннолетних не существует.

Генератор Google Gemini отказался создавать изображение Эпштейна с Трампом, но сгенерировал правдоподобные фото с четырьмя другими политиками — Нетаньяху, Макроном, президентом Украины Владимиром Зеленским и премьер-министром Британии Киром Стармером. Поддельные сцены изображали совместные вечеринки, перелеты на частном самолете и отдых на пляже.

В отличие от этого, OpenAI ChatGPT отказался генерировать любые изображения Эпштейна с политиками, указав, что не создает контент с реальными людьми в сценариях, предполагающих сексуализацию несовершеннолетних или сексуальное насилие.

NewsGuard отмечает, что результаты демонстрируют, насколько легко злоумышленники могут использовать ИИ для создания вирусных фейков и почему отличить реальные изображения от сгенерированных становится все сложнее. В ряде ранее распространенных подделок исследователи обнаружили SynthID — невидимую водяную метку, указывающую на использование ИИ Google.

Публикация исследования совпала по времени с обнародованием Минюстом США нового массива так называемых «файлов Эпштейна» — более 6 млн документов, фото и видео по делу финансиста, умершего в 2019 году в тюрьме. Дело Эпштейна затронуло множество известных фигур по всему миру, но также спровоцировало новую волну дезинформации, включая фейковые посты в соцсетях, которые, по данным AFP, не подтверждаются материалами расследований.