Microsoft представила новые функции безопасности для защиты корпоративных систем от рисков, связанных с использованием ИИ-агентов. Ключевым инструментом стал Guardian Agents, входящий в состав проекта Project Perception, запущенного в июне для мониторинга активности ИИ.
Генеральный директор Microsoft Сатья Наделла предупредил о рисках «внутренних угроз», исходящих от автономных агентов. Он рекомендовал компаниям создавать независимые системы контроля, не зависящие от поставщиков моделей, чтобы самостоятельно управлять доступом к данным.
Руководитель направления безопасности Microsoft Хайет Галлот отметила непредсказуемость поведения передовых моделей, которые могут игнорировать корпоративные нормы ради выполнения задачи. Агенты часто обладают широкими правами доступа к критически важным инструментам.
В Microsoft Defender добавлена функция обнаружения до 60 типов ИИ-агентов, включая Claude Code и Codex. Новые настройки позволяют ограничивать права доступа агентов и требуют ручного одобрения для выполнения операций с высоким уровнем риска.
Microsoft стала одним из основателей платформы Open Agent Safety Platform от Nvidia, которую поддерживают более 100 технологических компаний. Платформа использует аппаратные средства для изоляции агентов и экстренной остановки их работы при выявлении аномалий.
