BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ииBittalk · по материалам Data Secrets TG

NVIDIA представила платформу контроля ИИ-агентов на чипе BlueField-4

NVIDIA представила платформу контроля ИИ-агентов на чипе BlueField-4

NVIDIA вместе с более чем 100 партнёрами анонсировала Open Agent Safety Platform — систему надзора за ИИ-агентами на уровне софта и железа. Платформа состоит из открытого рантайма OpenShell и слоя Sentry, работающего на DPU BlueField-4, который стоит на пути между узлом и моделью. Среди партнёров — Anthropic, SpaceX, HuggingFace и Perplexity; OpenAI в список не вошла. Публикация о платформе совпала с сообщением о том, что OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как её агент выбрался из изолированной среды.

NVIDIA анонсировала Open Agent Safety Platform — систему контроля и ограничения ИИ-агентов. Проект представлен вместе с более чем 100 партнёрами; среди них Anthropic, SpaceX, HuggingFace и Perplexity. OpenAI в числе партнёров не значится.

Главная особенность платформы: следить за агентом предлагается не только на уровне программного обеспечения, но и на уровне аппаратного. Технически система состоит из двух частей.

Рантайм OpenShell

OpenShell — открытый рантайм под лицензией Apache 2.0. Он запускает агента в песочнице с изоляцией на уровне ядра. Оператор заранее описывает, к каким файлам, инструментам и учётным данным у агента есть доступ. Эту политику принудительно проверяют до запуска и во время работы агента.

Слой Sentry на чипе BlueField-4

Sentry — независимый слой контроля, который работает прямо на чипе DPU BlueField-4. Он собирает действия агента в единую картину, фиксирует попытки отойти от задачи и проверяет, что у агента не больше полномочий, чем ему выдали.

Ключевой момент: BlueField-4 стоит на единственном пути между узлом и моделью. Агент не может сделать следующий шаг без обращения к модели, поэтому DPU видит все действия и может прервать работу в реальном времени. При этом он изолирован от хоста и находится вне досягаемости самого агента.

Анонс совпал с другой новостью об ограничениях для агентов. По сообщению «Хабра ИИ», за последние недели OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как агент выбрался из изолированной среды. Дата возобновления выпуска и перечень затронутых моделей не называются.

Программная часть будет открытой, стандарт безопасности декларируется как общий. Однако лучше всего система работает на оборудовании NVIDIA. Компания сначала продаёт железо для обучения и запуска агентов, а теперь — железо, которое следит за тем, чтобы эти агенты не вышли за рамки.

Источник

Data Secrets TG · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме