Использование ИИ-агентов меняет экономику кибератак, позволяя злоумышленникам автоматизировать поиск уязвимостей и действовать параллельно. В ходе недавнего взлома корпоративной сети задачи, на которые у людей ушло бы две недели, были выполнены менее чем за десять часов. В другом инциденте, зафиксированном Google, путь от компрометации облачного ресурса до сбора учетных данных занял менее шести часов.
Анализ инцидента в Hugging Face показал, что агенты совершили около 17 600 действий за четыре с половиной дня. Исследователи обнаружили, что агенты способны координировать работу и обмениваться данными через общие базы и очереди сообщений, даже если они должны быть изолированы. Специалисты рекомендуют контролировать каналы связи между агентами как отдельный уровень доступа.
Командам безопасности следует сменить фокус с обнаружения вторжений на сокращение времени локализации угроз. Рекомендуется заранее определять автоматические меры сдерживания, чтобы не зависеть от медленных процессов согласования. Модель и её обвязку — инструменты, память и сетевой доступ — необходимо оценивать как единую систему с жесткими ограничениями в коде, а не в промптах.
Для защиты систем необходимо применять принцип минимальных привилегий: каждый агент должен иметь уникальную учетную запись с ограниченными правами и сроком действия ключей. Поскольку агенты могут выполнять вредоносные инструкции из логов или конфигов, важно ограничивать их возможности на уровне API. Это предотвращает выполнение опасных действий даже при успешной промпт-инъекции.
Для противодействия автоматизированным атакам центрам мониторинга (SOC) потребуются собственные ИИ-агенты для расследования инцидентов. Однако такие инструменты сами становятся целью для манипуляций через поддельные данные. Поэтому защитные агенты должны работать в строго контролируемых средах с минимально необходимым доступом к ресурсам организации.
