Совместное исследование AppSec Solutions и АРПП «Отечественный софт», охватившее более 50 компаний, показало, что все участники внедрили ИИ в бизнес-процессы. При этом лишь 23% организаций используют базовые системы контроля безопасности для защиты своих ИИ-решений.
Компании применяют различные инструменты: большие языковые модели используют 81% опрошенных, ИИ-ассистенты кода — 72%, локальные модели — 61%, RAG-системы — 57%, ML-модели — 44%. Кроме того, 72% респондентов уже интегрировали ИИ-агентов в корпоративный контур, делегируя им часть полномочий.
Риски безопасности связаны с использованием внешних сервисов: 41% компаний сообщили о массовом применении таких инструментов сотрудниками. Это создает «теневой ИИ» без централизованного контроля. Официально об атаках заявили 4% компаний, однако более 90% организаций не проводили оценку угроз и не могут измерить потенциальные риски.
Скорость внедрения ИИ в российской разработке ПО в три раза превышает темпы выстраивания защиты. Эксперты отмечают, что рынок осознанно принимает риски из-за нехватки экспертизы и процессов управления. Основными угрозами остаются утечки данных, промпт-инъекции и атаки на цепочки поставок ML-моделей.
Для обеспечения безопасности эксперты рекомендуют использовать приказ ФСТЭК № 117 и методику 2026 года. Специалисты подчеркивают необходимость внедрения специализированных шлюзов безопасности, способных фильтровать запросы, так как стандартная телеметрия часто не фиксирует атаки на ИИ, выглядящие как валидные операции.
