САН-ФРАНЦИСКО (ИА Реалист). Согласно проспекту IPO, изученному Reuters и Financial Times, Anthropic официально предупредила инвесторов, что разрабатываемые ею передовые модели ИИ могут представлять «катастрофический или экзистенциальный риск» для человечества. Для компании, пытающейся извлечь прибыль из той же технологии, это предупреждение является крайне редким.
Модели могут проявлять «поведение самосохранения»
В проспекте подробно перечислены конкретные формы поведения, которые модели Anthropic уже демонстрировали или могут демонстрировать, включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» и действия, «напоминающие вымогательство».
Anthropic в документе заявляет: «Разработка нами высокопередовых моделей, платформ и приложений, а также расширение сценариев использования могут дополнительно увеличить риск причинения вреда нашими моделями».
Компания также предупреждает: «Модели могут осознавать наши оценки, что серьёзно ограничивает нашу способность оценивать безопасность моделей». Иногда модели развивают неожиданные способности во время обучения, которые могут быть обнаружены лишь после того, как при развёртывании произойдёт серьёзный инцидент безопасности.
Исследователь безопасности Anthropic Эван Хабингер оценивает вероятность того, что ИИ может привести к гибели людей в течение следующего десятилетия, более чем в 10%, что перекликается с аналогичными заявлениями его бывшего коллеги Джейкоба Коксона.
Риски в проспекте занимают 80 страниц
Эта лаборатория искусственного интеллекта, позиционирующая себя как «безопасность прежде всего», в 261-страничном проспекте посвятила около 80 страниц раскрытию факторов риска, тогда как описание самого бизнеса заняло лишь 48 страниц.
Для сравнения: SpaceX, владеющая xAI, в своём 277-страничном проспекте посвятила факторам риска лишь около 38 страниц.
Финансовая реальность: огромные убытки и высокие расходы
Проспект также раскрывает суровую экономическую реальность создания передовых моделей ИИ. Anthropic сообщила, что в 2025 году операционный убыток превысил $8 млрд при выручке около $4,6 млрд. Операционные расходы приблизились к $13 млрд, главным образом из-за затрат на вычисления.
Компания планирует в течение следующих нескольких лет вложить до $518 млрд в облачные сервисы, вычисления и инфраструктуру. Выручка во втором квартале 2026 года достигла $11,5 млрд; компания может показать вторую подряд прибыль по скорректированному операционному результату.
Риск концентрации клиентов
Проспект также предупреждает о риске концентрации клиентов: в прошлом году почти четверть выручки поступила всего от двух клиентов, причём многие крупные клиенты не имеют долгосрочных контрактов.
Неопределённая отдача от инвестиций в безопасность
Несмотря на акцент на безопасности ИИ, Anthropic признаёт, что отдача от её инвестиций в безопасность «неопределённа», и не раскрывает конкретную сумму расходов на исследования в области безопасности. Ранее компания заявляла, что в течение одной выборочной недели в июле около 6% вычислительных ресурсов, выделенных на исследования ИИ, использовались для работы по безопасности.
Anthropic описывает усилия по обеспечению безопасности как «ресурсоёмкие», требующие распределения ограниченных средств между вычислениями, дорогостоящими AI-талантами и безопасностью.
Противоречие между «ускорением» и «замедлением»
Это предупреждение появилось на фоне того, что CEO Anthropic Дарио Амодеи в этом месяце публично призывал «контролировать скорость» развития передового ИИ, заявив на прошлой неделе в Совете Безопасности ООН, что ИИ может угрожать человечеству и является «самой важной глобальной проблемой безопасности, стоящей сегодня перед миром».
Однако всего через 10 дней после публикации почти 4000-словной статьи Амодеи с призывом «замедлиться» Anthropic выпустила новую версию модели Opus. Компания объяснила «непрерывный и перекрывающийся ритм выпуска» «внутренней необходимостью сохранения на переднем крае развития ИИ».
Некоторые аналитики и эксперты отмечают, что в отрасли, где оценка компании может меняться с каждым релизом, ни одна ведущая AI-лаборатория не станет по-настоящему замедляться, если это может дать конкурентам преимущество.
Ситуация у конкурентов
Это раскрытие произошло на фоне частых инцидентов безопасности в отрасли ИИ. OpenAI на прошлой неделе сообщила, что её инструменты проникли на «десятки» внешних сайтов, включая правительственные, а в понедельник отменила выпуск новейшей модели из-за опасений по безопасности.
Модели OpenAI и Anthropic ранее также были вовлечены в несанкционированный доступ к базе данных системы здравоохранения правительства Австралии и к Hugging Face.
