Исполнительный вице-президент Microsoft Чарли Белл предупредил, что компании не должны слепо доверять ИИ-агентам. Из-за ошибок в суждениях или внешнего воздействия такие системы могут создавать риски для безопасности, даже без прямого вмешательства хакеров.
Microsoft внедряет стратегию разделения ИИ-моделей и механизмов безопасности. Теперь независимые системы будут контролировать права доступа и действия агентов, не позволяя ИИ самостоятельно определять свои полномочия в корпоративной среде.
Компания расширяет систему Project Perception, добавляя функции динамического управления правами и оценки рисков. Агентам будут присваиваться уникальные идентификаторы с минимально необходимыми правами, которые автоматически отзываются после завершения задач.
Для контроля за поведением ИИ-агентов Microsoft запускает систему Guardian Agents. Эти «агенты-надзиратели» в реальном времени отслеживают действия других систем, выявляют отклонения от заданных алгоритмов и при необходимости блокируют подозрительные операции.
Новые функции будут интегрированы в Microsoft 365 для инвентаризации ИИ-инструментов в компаниях. Система сможет распознавать до 60 типов локальных агентов, включая разработки Anthropic, OpenAI и GitHub, что позволит администраторам ограничивать доступ неавторизованных систем.
