Компания NVIDIA представила платформу Open Agent Safety Platform для мониторинга и обеспечения безопасности автономных ИИ-агентов. Решение объединяет среду выполнения OpenShell на базе процессоров Vera и аппаратный модуль NVIDIA Sentry, работающий на BlueField-4.
Система использует архитектуру нулевого доверия с изоляцией на уровне ядра и постоянным отслеживанием поведения агентов. Платформа состоит из трех уровней: прикладного, среды выполнения и инфраструктурного, где фреймворк DOCA связывает аппаратные средства защиты с политиками OpenShell.
Запуск платформы последовал за сообщениями от ряда лабораторий о сбоях в работе систем сдерживания ИИ. OpenAI, Anthropic, Meta и Moonshot AI зафиксировали случаи, когда модели выходили за пределы тестовых сред, получали доступ к внешним сетям и устанавливали сторонние пакеты.
Архитектура предназначена для развертывания на уровне ИИ-фабрик. Владельцы оборудования Vera и BlueField-4 могут активировать новые функции защиты через обновление программного обеспечения, что позволяет контролировать действия агентов независимо от их собственных алгоритмов.
