Компания Cisco открыла исходный код проекта Quarry — системы для отслеживания поведения ИИ-агентов. Инструмент позволяет командам безопасности выявлять случаи, когда работа агентов выходит за рамки заданных параметров.
В отличие от решений, анализирующих отдельные запросы, Quarry оценивает всю сессию целиком. Система помечает подозрительные цепочки действий, например, когда агент считывает конфиденциальный файл, а затем отправляет данные на внешний адрес.
Разработчики стремятся создать единый стандарт описания поведения агентов, аналогичный тому, как Snort используется для анализа сетевого трафика, а YARA — для обнаружения вредоносного ПО.
В репозитории на GitHub доступны плагины для агентов с поддержкой протокола MCP, включая Claude Code и Codex, а также базовый набор правил. В Cisco подчеркивают, что автоматизация не заменяет необходимость человеческого контроля.
