Компания Nvidia представила Open Agent Safety Platform — бесплатный инструмент с открытым исходным кодом для обеспечения безопасности автономных ИИ-агентов. Платформа контролирует работу агентов на трех уровнях: программном, вычислительном и аппаратном.
Решение базируется на ПО OpenShell, создающем изолированную среду для управления группами агентов. Система оптимизирована для процессоров Nvidia Vera, но также поддерживает работу с чипами от Intel и Arm.
Второй ключевой компонент, Nvidia Sentry, использует фреймворк DOCA для работы на DPU-процессорах BlueField-4. Система отслеживает действия агентов на уровне «железа», проверяя их запросы и блокируя выполнение команд при выходе за установленные рамки.
Технологию уже внедрили крупные компании. SpaceXAI использует её для защиты модели Grok и агентов Cursor, Salesforce интегрировала OpenShell в Slack, а SAP SE применяет платформу для обеспечения безопасности своих автономных систем.
Инструментарий также используют разработчики робототехники, включая Figure AI, Gecko Robotics и Skild AI. Платформа доступна для загрузки через ресурсы Nvidia для разработчиков и на платформе GitHub.
