Компания NVIDIA представила платформу Open Agent Safety Platform для управления и контроля ИИ-агентов, робототехнических систем и аппаратного обеспечения. В состав решения входит ПО OpenShell, которое задает границы работы ИИ-агентов на базе процессоров. Инструмент поддерживает как открытые, так и закрытые модели, а также совместим с продуктами сторонних производителей, включая Arm и Intel.
Новая система NVIDIA Sentry предназначена для непрерывного мониторинга действий ИИ-агентов. Она работает на базе DPU BlueField-4 и способна изолировать или остановить выполнение агента за миллисекунды при попытке нарушения заданных ограничений. Система реализует политики безопасности на уровне чипа, используя независимый доверенный домен, что позволяет защищать данные и обнаруживать угрозы вне зависимости от действий атакующих.
К настоящему моменту NVIDIA уже начала сотрудничество с рядом компаний, включая Anthropic, SpaceX и Scale AI, которые внедряют OpenShell для работы со своими моделями и агентами. Платформа отличается низким потреблением ресурсов на базе Vera, что позволяет обеспечивать безопасность без существенного снижения скорости выполнения задач ИИ-агентами.
