Nvidia представила Open Agent Safety для контроля ИИ-агентов

Nvidia выпустила открытую платформу Open Agent Safety, которая ограничивает действия ИИ-агентов и изолирует их в случае непредсказуемого поведения. Платформа оптимизирована под процессоры Vera и DPU BlueField — это ещё один канал сбыта для компонентов, дефицита которых сейчас нет.
Nvidia представила открытую эталонную платформу Open Agent Safety. Она предназначена для контроля работы ИИ-агентов и предотвращения их некорректных действий. Глава компании Дженсен Хуанг назвал разработку браузером для агентов: доступ открывается только к тому, что нужно для выполнения задачи.
«Нельзя позволять агентам бесцельно бродить по компании, поэтому необходимо найти способ ограничить их действия», — заявил Хуанг.
В основе платформы лежит Nvidia OpenShell — среда выполнения с открытым исходным кодом. Она даёт инструменты управления тем, что агент может видеть, делать и с чем может взаимодействовать. Ограничения продолжают действовать, даже когда поведение агента становится непредсказуемым, — это сдерживает распространение ошибок.
Для организаций, которым нужен независимый уровень контроля, предусмотрен Nvidia Sentry. Он обеспечивает внеполосную телеметрию активности агентов на уровне микросхемы и следит за соблюдением политик безопасности. По заявлению компании, изолировать агента можно за миллисекунды.
В пресс-релизе указано, что разработки оптимизированы под системы с процессорами Nvidia Vera и DPU Nvidia BlueField, хотя совместимы и с другим оборудованием. Для Nvidia это ещё один рынок сбыта — причём тех компонентов, дефицита которых сейчас нет.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября