OpenAI присвоила модели Astra критический уровень киберспособностей

OpenAI сообщила, что её модель Astra достигла уровня Critical по кибербезопасности: она сама находит уязвимости и собирает эксплойты. В тестах Astra получила 100% на бенчмарке ExploitBench и обнаружила две ранее неизвестные zero-day уязвимости. Доступ к этим возможностям будет ограничен и выстроен поэтапно.
OpenAI объявила, что модель Astra достигла уровня Critical по кибербезопасности в её внутренней системе оценки Preparedness Framework. Это первая модель компании, которая получила такой статус: она способна самостоятельно находить уязвимости и собирать эксплойты.
Что означает уровень Critical
Уровень Critical — высшая ступень в Preparedness Framework, которую компания использует для оценки рисков своих моделей. OpenAI определяет этот порог как способность модели без вмешательства человека находить и создавать работоспособные эксплойты для zero-day уязвимостей во множестве защищённых критических систем, либо самостоятельно разрабатывать новые стратегии атак.
В тестах Astra получила 100% на ExploitBench — бенчмарке для оценки способности модели разрабатывать работоспособные эксплойты на основе известных уязвимостей. Во время проверки модель обнаружила и использовала в цепочке атаки две ранее неизвестные zero-day уязвимости: OpenAI готовит их раскрытие разработчикам соответствующих продуктов.
В экспертных тестах Astra находила неизвестные уязвимости в защищённом браузере и объединяла их в цепочку компрометации: от обработки специально подготовленного HTML-файла до выполнения команд на хост-системе. В другом тесте модель обнаружила несколько уязвимостей в защищённой операционной системе и объединила их в цепочку повышения привилегий до root.
Компания не раскрывает детали тестирования, но подчёркивает, что модель не выполняла атаки в реальной среде: все проверки проводились в изолированных условиях на специально созданных стендах.
Как ограничат доступ
Из-за полученного уровня OpenAI несколько недель откладывала часть разработки Astra, усиливая защиту обучения и будущего развёртывания. Компания добавила более строгие ограничения на опасные киберзапросы, системные классификаторы и многоуровневый мониторинг действий модели. Для пользователей с повышенным уровнем риска будут действовать ещё более консервативные ограничения.
Доступ к функциям Astra, связанным с кибербезопасностью, будет ограничен на нескольких уровнях. OpenAI внедряет схему поэтапного доступа под названием Daybreak Blue. На каждом этапе компания оценивает, как именно используется модель, и при необходимости сужает её полномочия.
Компания также вводит дополнительные проверки для разработчиков, которые запрашивают доступ к критическим функциям. OpenAI заявляет, что будет отслеживать попытки обойти ограничения и отключать аккаунты при подозрении на злоупотребление.
Что это меняет для разработчиков
Разработчикам, которые интегрируют Astra в свои продукты, придётся проходить дополнительную проверку и соответствовать новым требованиям безопасности. Компания предупреждает, что часть функций может быть недоступна для обычных пользователей и даже для корпоративных клиентов без отдельного согласования.
OpenAI не назвала дату, когда Astra станет доступна широкой аудитории, и не раскрыла, какие именно возможности получит открытый API. Решение о допуске конкретных разработчиков будет приниматься в индивидуальном порядке.
Tproger · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября