ИИ-агенты все чаще выполняют функции цифровых сотрудников, получая доступ к корпоративной почте, CRM-системам, документам и API. Ошибки в их работе теперь приводят к серьезным последствиям: утечкам данных, несанкционированным изменениям в записях или отправке конфиденциальной информации посторонним лицам.
Разработчики и бизнес сталкиваются с необходимостью внедрения строгих ограничений полномочий и контроля действий нейропомощников. Регуляторная база и методы защиты пытаются адаптироваться к новым угрозам, которые стали особенно актуальны в 2025–2026 годах.
Отраслевые стандарты безопасности обновляются с учетом рисков. 3 августа 2026 года вышла новая редакция OWASP Top 10 для LLM-приложений. В этом документе категория избыточных полномочий агента переместилась с шестого на третье место по степени опасности.
Ранее, 30 июля 2026 года, Сбер представил вторую версию своей модели угроз кибербезопасности ИИ. Этот русскоязычный документ предназначен для проектирования систем защиты и оценки рисков при внедрении автономных интеллектуальных помощников в бизнес-процессы.
