Автономные ИИ-агенты, работающие в терминале или IDE, создают серьезные риски безопасности. Зафиксированы случаи удаления баз данных агентами на базе Claude и Replit, а также непреднамеренное уничтожение критических файлов, включая директории .git и .ssh.
При запуске CLI-агентов, таких как Claude Code или Codex, непосредственно в операционной системе, они получают полные права пользователя. Это дает ИИ доступ к личным файлам, SSH-ключам и облачным учетным данным, позволяя выполнять команды на серверах без авторизации.
Текстовые инструкции (soft guardrails) не гарантируют безопасность из-за вероятностной природы моделей. Ошибки в логике или галлюцинации при выполнении команд могут привести к удалению данных или выполнению деструктивных операций, которые системный промпт не способен предотвратить.
Для защиты систем разработчики используют инструменты изоляции, например, Agent Bunker. Этот опенсорсный проект применяет контейнеризацию и пространства имен Linux для создания «песочницы», которая ограничивает доступ агента к корневой системе, домашней директории и секретам пользователя.
Agent Bunker контролирует потребление ресурсов через cgroups, предотвращая бесконтрольное использование CPU и RAM. Инструмент монтирует только рабочую папку проекта, что исключает возможность повреждения хостовой системы или утечки данных при выполнении команд агентом.
