Nvidia представила платформу Open Agent Safety Platform, предназначенную для контроля автономных ИИ-агентов через инженерные решения, а не государственное регулирование. Платформа разработана совместно с примерно 100 отраслевыми партнерами для установления стандартов безопасности при развертывании ИИ.
Система включает два ключевых компонента: Nvidia OpenShell и Nvidia Sentry. OpenShell — это среда выполнения с открытым исходным кодом, которая использует изоляцию на уровне ядра для ограничения действий агентов. Sentry выступает в роли независимого наблюдателя, работающего на DPU BlueField-4 и обеспечивающего безопасность на уровне «железа».
Nvidia заявляет, что Sentry способна обнаружить и изолировать нежелательные процессы за миллисекунды, если агент пытается выйти за установленные программные границы. Хотя OpenShell оптимизирована для процессора Nvidia Vera, она совместима с вычислительными платформами сторонних производителей, включая Arm и Intel.
Технологию уже внедряют ряд компаний. SpaceXAI использует платформу с моделями Grok и агентами Cursor, а Anthropic интегрирует OpenShell и BlueField с Claude Managed Agents. Salesforce добавила поддержку OpenShell в Slack для аудита действий агентов и управления правами доступа.
Среди других партнеров — SAP, внедряющая OpenShell в среду Joule Studio, а также робототехнические компании Figure, Gecko Robotics и Skild AI. Scale AI применяет данную технологию для защиты своей инфраструктуры, предназначенной для корпоративных и государственных заказчиков.
