Anthropic запретила Opus 5.5 помогать в разработке языковых моделей

Anthropic ограничила свою флагманскую модель Claude Opus 5.5: запросы о создании передовых языковых моделей и о темах двойного назначения автоматически переводятся на менее способную Opus 5. Ограничения включены по умолчанию, но их можно отключить в настройках — тогда запрос просто блокируется.
Anthropic ввела запреты для Claude Opus 5.5 — самой мощной модели компании. Система отказывается помогать в разработке передовых языковых моделей (frontier LLM). Если запрос касается, например, создания ядра для отдельных ML-ускорителей, диалог переключается на менее способную Opus 5. У Opus 5 таких ограничений нет.
Похожие «предохранители» Anthropic добавила в биологической сфере. Opus 5.5 получила классификаторы, близкие к используемым в модели Fable, — они срабатывают на запросы двойного назначения: вирусологию, токсикологию, молекулярный дизайн. При срабатывании модель также откатывается на Opus 5.
Обе модели, Opus 5 и Opus 5.5, блокируют попытки дистилляции — извлечения внутренних рассуждений, например просьбы дословно повторить цепочку мыслей. Обычные вопросы вроде «почему так сделал?» остаются доступными.
Как отключить переключение
Автоматический переход на другую модель включён по умолчанию. Пользователь может выключить его в настройках — в этом случае запрос будет просто заблокирован. Компания объясняет меры стремлением снизить риски по мере роста возможностей ИИ.
Программы верификации для организаций
Для легитимных организаций из сфер кибербезопасности и наук о жизни Anthropic предлагает программы верификации — Cyber Verification Program и Life Sciences Verification Program. Они открывают доступ к более способным моделям с меньшими ограничениями. Opus 5.5 в киберпрограмме пока недоступна, но организации на Opus 4.8 уже получают доступ к Opus 5 с ослабленными кибер-ограничениями.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября