Корпорация Microsoft представила новые инструменты безопасности для защиты бизнеса от рисков, связанных с использованием ИИ-агентов. В рамках проекта Project Perception, запущенного в июне, компания добавила функцию Guardian Agents для мониторинга активности агентов.
Изначально Project Perception включал три класса агентов: красную команду для имитации атак, синюю для поиска уязвимостей и зеленую для их устранения. Теперь фокус сместился на контроль внутренних угроз, исходящих от самих ИИ-систем.
Генеральный директор Microsoft Сатья Наделла призвал компании не доверять поставщикам ИИ-моделей и внедрять независимые системы контроля. По его словам, необходимо разделять поставку интеллекта и управление им.
В систему Microsoft Defender добавлена функция обнаружения 60 типов агентов, включая Claude Code, Codex и OpenClaw. Продукт позволяет ограничивать доступ к данным и требует одобрения человека при выполнении рискованных операций.
Microsoft также вошла в состав Open Agent Safety Platform от Nvidia, которая использует аппаратные средства для изоляции и остановки агентов. Кроме того, компания выпустила ноутбуки Surface Laptop Ultra со встроенными функциями безопасности для работы с ИИ.
