Компании «К2 Кибербезопасность» и «Лаборатория Касперского» представили результаты исследования зрелости безопасности ИИ в России. Выяснилось, что 38% корпораций уже разрабатывают ИИ-решения для внутренних нужд. При этом лишь 14% компаний знакомы с методологией MLSecOps, тогда как 46% опрошенных не знают о ней, а 40% обладают лишь поверхностными знаниями.
Уровень контроля за ИИ-системами остается неоднородным. Только 32% организаций ведут централизованный реестр моделей, а 43% имеют каталог датасетов. Контроль версий моделей внедрили 61% компаний. Эксперты отмечают, что отсутствие единого операционного контура свидетельствует о размытости ответственности между ИТ-командами, разработчиками и специалистами по безопасности.
Базовые практики защиты применяются не повсеместно. Контроль доступа и доставки внедрили 59% компаний, а защиту датасетов — 46%. Наиболее уязвимым местом остается мониторинг дрейфа моделей: он отсутствует у 70% организаций, еще 15% компаний находятся на этапе пилотирования, и лишь 15% внедрили этот инструмент в работу.
Рынок MLSecOps находится на стадии формирования. Задачи безопасности распределены между различными функциями, от защиты данных до мониторинга эксплуатации. По мере роста угроз, включая вредоносный код в агентных навыках, вендоры переходят к созданию специализированных решений, таких как AI Firewall, и внедрению обучающих программ для сотрудников.