Anthropic назвала свои ИИ-системы возможной угрозой для общества в документах к IPO

Anthropic включила в документы для выхода на биржу предупреждение о том, что достаточно мощные ИИ-системы могут нести «катастрофические или экзистенциальные риски для общества», если их разработка и применение не будут вестись ответственно. Компания признаёт: гарантий, что её собственные меры безопасности предотвратят такие последствия, нет.

В проспекте сказано, что с ростом возможностей моделей растёт и потенциальная тяжесть вреда от ошибок в настройке или злонамеренного использования. Anthropic принимает решения о безопасности своих систем, но не уверена, что другие участники отрасли будут применять сопоставимые меры защиты.

Оценка в 2 трлн и убыток в 80 млрд

Предупреждение появилось на фоне подготовки к IPO. По оценке авторов публикации, компания может претендовать на оценку до $2 трлн ≈ 5,89 трлн BYN. При этом в первом полугодии 2026 года она, согласно приведённым в материале данным, потеряла $80 млрд ≈ 236 млрд BYN.

Среди других рисков для бизнеса в документах перечислены нехватка электроэнергии и инфраструктуры для дата-центров, сопротивление их строительству и возможные юридические претензии из-за использования продуктов компании.

Замедлить отрасль и не потерять спрос

Anthropic ранее призывала замедлить разработку наиболее мощных ИИ-моделей на уровне всей отрасли и представляла такой подход как способ снизить связанные с технологией риски. В проспекте при этом указано: более медленное развитие рынка её моделей, платформы и приложений или сокращение спроса могут замедлить рост бизнеса и ухудшить финансовые результаты.

Инвесторам предстоит оценить обе стороны стратегии компании — коммерческую востребованность моделей и то, как она собирается контролировать риски, которые сама считает потенциально катастрофическими. В документах прямо признано, что существующие меры безопасности полной гарантии не дают.