Компания Nvidia представила двухуровневую систему безопасности, предназначенную для контроля автономных ИИ-агентов. Платформа призвана предотвращать несанкционированный доступ и сбои в работе моделей, не замедляя при этом темпы разработки технологий.
Система включает два инструмента с открытым исходным кодом. Первый, OpenShell, был анонсирован в марте и работает на процессорах Nvidia Vera. Он позволяет пользователям задавать правила доступа для ИИ-агентов и обеспечивать их соблюдение в режиме реального времени.
Второй компонент, Nvidia Sentry, функционирует на базе процессоров обработки данных BlueField. Этот инструмент обеспечивает дополнительный уровень мониторинга, отслеживая поведение агентов и изолируя их в случае обнаружения подозрительной активности.
Вице-президент Nvidia Джастин Бойтано отметил, что внедрение этой платформы могло бы предотвратить недавний инцидент с участием моделей OpenAI и платформы Hugging Face. В компании подчеркивают, что рассматривают вопросы безопасности ИИ как инженерную задачу.
