Anthropic предложила разрешить блокировать опасные ИИ-модели только по решению суда

Anthropic продвигает в Конгрессе США законопроект о приостановке выпуска и использования систем искусственного интеллекта, если они создают серьёзную угрозу. Документ описывает три сценария, при которых вмешательство считается оправданным: создание биологического оружия, выход модели из-под контроля разработчика и кибератака.

Порог определён по двум величинам: предполагаемый ущерб от $1 млрд ≈ 3,00 млрд BYN либо гибель или тяжёлые травмы более чем у 50 человек. Оценивать опасность предлагается независимым экспертам, зарегистрированным в Министерстве торговли США. На основании их заключений ведомство сможет обращаться в суд с требованием приостановить проект — то есть право остановки остаётся за федеральным судьёй, а не за чиновником.

Что именно ограничивает документ

Остановить модель сможет только федеральный суд округа Колумбия — Министерство торговли такого права не получает. Другим федеральным ведомствам и должностным лицам проект запрещает приостанавливать разработку, развёртывание или внутреннее использование передовых моделей. Угроза при этом должна быть предсказуемой и непосредственной, а не гипотетической.

Независимая оценка регистрируется в Министерстве торговли. Оценщики обязаны периодически проверять разработчиков и их модели; им разрешено получать оплату от проверяемых компаний при условии, что вознаграждение не зависит от результатов проверки. Если проверка выявила непосредственную угрозу, подпадающую под закон, ведомство нужно уведомить в течение 72 часов после её завершения.

Проект при этом ограничивает действие части требований штатов — о раскрытии рисков для общественности, независимых оценках и отчётности о критических инцидентах. Калифорнийские законы об ИИ, принятые в 2025 году, он не отменяет, но сужает их охват.

Что законопроект требует от разработчиков

Помимо механизма блокировки, инициатива обязывает компании отрасли держать внутренние подразделения безопасности, публиковать отчёты о работе своих ИИ-моделей и оперативно уведомлять регулятора о серьёзных сбоях. Отдельная норма защищает сотрудников, которые раскрывают информацию о нарушениях, от преследования.

Часть положений перекликается с законами Калифорнии о регулировании искусственного интеллекта, принятыми в 2025 году. Anthropic — разработчик семейства языковых моделей Claude — называет предложенные меры разумным способом контролировать наиболее мощные системы ИИ. Представитель компании сообщил, что документ отражает положения Advanced AI Framework — системы требований к безопасности сильных ИИ-моделей, которую Anthropic продвигает среди федеральных властей и властей штатов с июня.

Что это значит для криптоинструментов

Законопроект касается моделей, а не криптовалют напрямую. Но доступ к передовым моделям — это инфраструктура, на которой работают аналитические сервисы, торговые боты и инструменты проверки токенов. Если порядок выпуска и использования таких моделей начнут согласовывать с регулятором и судом, часть продуктов в отрасли может столкнуться с задержками запуска.

Статус документа — законопроект, внесённый не Конгрессом, а самой компанией. Когда его внесут и внесут ли вообще, не сообщается; дата вступления в силу не определена. Инициатива появилась на фоне других федеральных подходов в Сенате, где часть законодателей предлагает более широкую проверку моделей до выпуска — предложение Anthropic задаёт заметно более узкие основания для вмешательства властей.