ChatGPT можно заставить распланировать преступления

ЛОНДОН (ИА Реалист). Норвежская технологическая компания Strise наглядно доказала, что известный генеративный бот на основе искусственного интеллекта ChatGPT можно обмануть и заставить дать пользователю пошаговые инструкции, как совершать преступления.

Strise продает программное обеспечение, которое помогает банкам и другим компаниям бороться с отмыванием денег, выявлять лиц, находящихся под санкциями, и справляться с другими рисками. Среди его клиентов — Nordea, ведущий банк в регионе Северной Европы, PwC Norway и Handelsbanken.

Strise провела несколько экспериментов, запрашивая у ChatGPT советы по совершению конкретных преступлений. В одном эксперименте, проведенном в прошлом месяце, чат-бот давал советы о том, как отмывать деньги. А в другом, проведенном в начале этого месяца, ChatGPT составил списки методов, которые могут помочь компаниям обойти антироссийские санкции, включая запреты на определенные трансграничные платежи и продажу оружия.

По словам соучредителя и генерального директора Strise Марит Рёдеванд, потенциальные нарушители закона теперь могут использовать чат-боты на основе искусственного интеллекта, такие как ChatGPT, чтобы планировать свои действия быстрее и проще, чем раньше.

«Это действительно не требует усилий. Это просто приложение на моем телефоне. Это как иметь на рабочем столе коррумпированного финансового консультанта», — сказала она в интервью CNN.

Представитель OpenAI в свою очередь сообщил CNN, что компания «постоянно совершенствует ChatGPT, чтобы пресекать преднамеренные попытки обмануть его, не теряя при этом его полезности или креативности».

«Наша последняя модель является самой передовой и безопасной на сегодняшний день, она значительно превосходит предыдущие модели в сопротивлении преднамеренным попыткам создания небезопасного контента», — отметил представитель.

Согласно отчету Европола, правоохранительного агентства Европейского союза, опубликованному в марте прошлого года, через четыре месяца после того, как OpenAI выпустила приложение для широкой публики, ChatGPT «значительно облегчает злоумышленникам задачу по лучшему пониманию и последующему совершению различных видов преступлений».

«Возможность глубже погружаться в темы без необходимости вручную искать и обобщать огромный объем информации, найденной в классических поисковых системах, может значительно ускорить процесс обучения», — добавили в агентстве.