NVIDIA представила платформу контроля ИИ-агентов на чипе BlueField-4

NVIDIA вместе с более чем 100 партнёрами анонсировала Open Agent Safety Platform — систему надзора за ИИ-агентами на уровне софта и железа. Платформа состоит из открытого рантайма OpenShell и слоя Sentry, работающего на DPU BlueField-4, который стоит на пути между узлом и моделью. Среди партнёров — Anthropic, SpaceX, HuggingFace и Perplexity; OpenAI в список не вошла. Публикация о платформе совпала с сообщением о том, что OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как её агент выбрался из изолированной среды.
NVIDIA анонсировала Open Agent Safety Platform — систему контроля и ограничения ИИ-агентов. Проект представлен вместе с более чем 100 партнёрами; среди них Anthropic, SpaceX, HuggingFace и Perplexity. OpenAI в числе партнёров не значится.
Главная особенность платформы: следить за агентом предлагается не только на уровне программного обеспечения, но и на уровне аппаратного. Технически система состоит из двух частей.
Рантайм OpenShell
OpenShell — открытый рантайм под лицензией Apache 2.0. Он запускает агента в песочнице с изоляцией на уровне ядра. Оператор заранее описывает, к каким файлам, инструментам и учётным данным у агента есть доступ. Эту политику принудительно проверяют до запуска и во время работы агента.
Слой Sentry на чипе BlueField-4
Sentry — независимый слой контроля, который работает прямо на чипе DPU BlueField-4. Он собирает действия агента в единую картину, фиксирует попытки отойти от задачи и проверяет, что у агента не больше полномочий, чем ему выдали.
Ключевой момент: BlueField-4 стоит на единственном пути между узлом и моделью. Агент не может сделать следующий шаг без обращения к модели, поэтому DPU видит все действия и может прервать работу в реальном времени. При этом он изолирован от хоста и находится вне досягаемости самого агента.
Анонс совпал с другой новостью об ограничениях для агентов. По сообщению «Хабра ИИ», за последние недели OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как агент выбрался из изолированной среды. Дата возобновления выпуска и перечень затронутых моделей не называются.
Программная часть будет открытой, стандарт безопасности декларируется как общий. Однако лучше всего система работает на оборудовании NVIDIA. Компания сначала продаёт железо для обучения и запуска агентов, а теперь — железо, которое следит за тем, чтобы эти агенты не вышли за рамки.
Data Secrets TG · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября