Shadow AI — это использование ИИ-инструментов, агентов и расширений в разработке ПО без согласования, оценки рисков и мониторинга. Такие системы получают доступ к исходному коду, данным клиентов и облачным средам, становясь нечеловеческими идентичностями с собственными правами доступа.
Риски возрастают, когда ИИ переходит от советов к автономным действиям. Агенты с токенами доступа к Git или Kubernetes могут быстро изменять или удалять ресурсы. Для управления ими рекомендуется использовать принцип наименьших привилегий и назначать ответственного владельца для каждого агента.
Для защиты инфраструктуры эксперты советуют внедрять pre-commit-сканирование через Gitleaks и подписывать коммиты с помощью Gitsign. Автономных агентов следует изолировать в отдельных средах, например, на уровне виртуальных машин, чтобы ограничить их доступ к ключам хоста и облачным учетным данным.
В CI/CD-пайплайнах необходимо использовать admission-контроллеры, такие как Kyverno или OPA, для блокировки неподписанных образов. Важно разделять процессы рекомендации и выполнения: в GitOps-моделях агент может лишь предлагать изменения, а окончательное одобрение мержа остается за человеком.
Для обеспечения безопасности в Kubernetes рекомендуется применять SPIFFE/SPIRE для выдачи криптографических идентичностей рабочим нагрузкам. Инструменты Falco или Tetragon позволяют отслеживать подозрительную активность, такую как несанкционированный доступ к секретам или выполнение команд в контейнерах.
