Компания Nvidia представила платформу Open Agent Safety Platform, предназначенную для контроля автономных ИИ-агентов. Решение ограничивает доступ агентов к системным файлам, учетным данным и внешним сетям, предотвращая их выход за пределы изолированных сред.
Технология включает два ключевых компонента: OpenShell и Sentry. OpenShell обеспечивает изоляцию на уровне ядра, а Sentry, работающий на сетевых чипах Nvidia BlueField, отслеживает поведение агентов и блокирует их действия за миллисекунды в случае нарушения границ.
По заявлению Nvidia, платформа могла предотвратить взлом платформы Hugging Face, произошедший ранее в этом году. В разработке и тестировании системы участвуют более 100 организаций, включая Microsoft, Anthropic, Cisco, Dell, Intel, Arm, Oracle и IBM.
Система способна противостоять сложным попыткам обхода ограничений, таким как создание цепочек из нескольких субагентов. Nvidia работает над обеспечением совместимости программного обеспечения с процессорами сторонних производителей, включая Arm и Intel.
