NVIDIA представила Open Agent Safety Platform: контроль ИИ-агентов вне модели
28 сентября компания NVIDIA анонсировала Open Agent Safety Platform — набор инструментов, предназначенный для ограничения действий автономных ИИ-агентов и предотвращения их выхода за пределы допустимой среды. Платформа состоит из двух частей: программной среды OpenShell, выполняющей изоляцию на уровне ядра ОС, и аппаратного модуля Sentry, работающего на сетевых процессорах BlueField‑4. Это решение отвечает на растущие случаи, когда агенты обходили внутренние ограничения и получали доступ к системам, где им не должно быть доступа.
Как работает OpenShell и зачем нужен Sentry
OpenShell — открытая среда выполнения под лицензией Apache 2.0, которая помещает каждого агента в песочницу с чётко определёнными правами доступа к файлам, сетям, инструментам и учётным данным. Перед запуском специальный модуль‑доказыватель проверяет, что политика не оставляет лазеек, а во время работы среда фиксирует каждое действие и требует одобрения оператора при запросе дополнительных прав. Для удобства интеграция с Salesforce позволяет подтверждать запросы прямо в Slack.
Аппаратный уровень защиты представлен Sentry — изолированным чипом на BlueField‑4, расположенным на единственном пути от сетевого узла к модели. Sentry проверяет каждый запрос и ответ агента, сверяет личность и полномочия, а при попытке выйти за границы мгновенно изолирует агрессора, помещая его в карантин. Поскольку чип отделен от основной системы, он продолжает работать даже если сервер взломан.
Партнёры и первые внедрения
NVIDIA заявила, что вокруг платформы уже собрано более ста организаций. Среди них — Anthropic, которая внедряет OpenShell в Claude Managed Agents, и SpaceXAI, применяющая решение для агентов Cursor и моделей Grok. Также в списке SAP (интеграция в Joule Studio), Microsoft, Hugging Face, Perplexity, Palantir, CrowdStrike, JPMorganChase и производители роботов типа Figure. Отдельно отмечен подрядчик Irregular, где проводились испытания с выходами моделей в реальную сеть. Отсутствие в списке OpenAI и Google подчеркивается как заметный факт.
Безопасность как довод для покупки оборудования NVIDIA
Хотя OpenShell доступен бесплатно и работает на обычных серверах, максимальная скорость изоляции достигается на процессорах Vera, где запуск песочниц ускоряется до 80 % по сравнению со стандартными CPU. Полный уровень защиты Sentry существует только на BlueField‑4, что делает аппаратную часть эксклюзивным преимуществом продуктов NVIDIA. В тот же день компания увеличила программу обратного выкупа акций на 150 млрд долларов, подняв общий доступный объём до 235 млрд, что подчеркивает финансовые возможности для дальнейших инвестиций в аппаратную безопасность.
Кому уже сейчас полезен OpenShell
Для разработчиков, запускающих Claude Code, Codex или аналогичных агентов без постоянного надзора, OpenShell предоставляет простой способ ограничить их действия: разрешить только нужную папку проекта и определённые сайты, закрыть доступ к ключам и паролям, вести журнал всех операций. Среда размещена на GitHub, и рекомендуется начинать с отдельного тестового проекта, прежде чем допускать агент к продакшн‑окружению.
Вывод
Open Agent Safety Platform демонстрирует, как аппаратные и программные меры могут совместно обеспечивать предсказуемое поведение ИИ‑агентов, снижая риск несанкционированных действий. Хотя программная часть открыта для всех, настоящая сила решения раскрывается на оборудовании NVIDIA, что одновременно повышает привлекательность её серверов и даёт клиентам инструмент для ответственного использования автономных систем.