Компания Nvidia представила открытую платформу Open Agent Safety, предназначенную для контроля работы ИИ-агентов. Разработка выполняет функции надзирателя, ограничивая действия агентов и предотвращая их некорректное поведение в корпоративных сетях.
В основе системы лежит среда выполнения с открытым кодом Nvidia OpenShell. Она предоставляет инструменты управления, которые определяют, какие данные видит агент и с какими объектами может взаимодействовать. Механизмы контроля продолжают работать даже при непредсказуемом поведении агентов.
Для обеспечения дополнительного уровня безопасности Nvidia предложила решение Nvidia Sentry. Оно предоставляет встроенную в микросхему телеметрию активности и позволяет изолировать агентов за миллисекунды, обеспечивая соблюдение заданных политик.
Новые разработки оптимизированы для работы на системах с процессорами Nvidia Vera и DPU Nvidia BlueField, хотя и сохраняют совместимость с другим оборудованием. Таким образом компания расширяет рынок сбыта для своих аппаратных компонентов.
