OpenAI и Anthropic готовят планы на случай кризиса из-за ИИ

OpenAI и Anthropic готовят планы на случай крупного инцидента, вызванного использованием искусственного интеллекта. Об этом сообщает Axios. В отрасли допускают, что такой инцидент может нарушить работу банков, интернета, энергетики и других критически важных систем.

Часть представителей индустрии называет срок в 6–12 месяцев. Это оценка потенциальных рисков, а не подтверждённый прогноз.

Главной угрозой считают кибератаки с применением ИИ. Такие инструменты позволяют автоматизировать отдельные этапы атак и увеличивать их масштаб. В зоне риска — финансовые сервисы, интернет-соединения и системы жизнеобеспечения.

Опасения связаны не только с техническими последствиями. Первый крупный инцидент, напрямую связанный с небезопасным использованием ИИ, может подорвать доверие общества к технологии и её разработчикам. Под давлением могут оказаться руководители OpenAI и Anthropic, а также администрация президента США Дональда Трампа — из-за её подхода к регулированию отрасли.

OpenAI подтвердила, что регулярно проводит учения, в ходе которых сотрудники разбирают кризисные сценарии. В компании подчёркивают, что такие события не считаются неизбежными, но подготовка помогает заранее продумать действия. Anthropic комментировать информацию Axios отказалась.

Как пример потенциальной угрозы издание приводит предполагаемую кибератаку на финансовые организации Южной Кореи. По сообщениям, злоумышленник из Китая использовал инструменты ИИ, включая модели DeepSeek, для кражи данных десятков тысяч банковских клиентов. По информации CrowdStrike, он также обращался к Claude Code за помощью в поиске площадок для продажи похищенных данных.

Другой сценарий — автономные ИИ-агенты, выходящие за пределы тестовой среды или выполняющие непредусмотренные действия. Такое уже не раз происходило с агентами OpenAI и Anthropic.

В случае крупного инцидента в США может усилиться давление в пользу более строгого регулирования ИИ. Среди обсуждаемых мер — временная приостановка разработки наиболее мощных моделей, ограничения на создание сверхинтеллекта и механизмы экстренного отключения продвинутых систем. Универсальное отключение вряд ли охватит все модели, особенно распространяемые с открытыми весами.

По данным Axios, представители индустрии уже обсуждают с американскими законодателями возможные подходы к регулированию — до того, как серьёзный кризис произойдёт.