По данным Softline, 85% руководителей служб информационной безопасности Казахстана считают безопасное использование ИИ внутри компаний главной проблемой. Аналогичная ситуация наблюдается в российском бизнесе: сотрудники начинают применять публичные нейросети быстрее, чем компании успевают внедрить технические ограничения и регламенты.
Кроме того, 76% опрошенных директоров по ИБ в Казахстане ожидают появления новых, более эффективных методов кибератак в период с 2025 по 2028 год. При этом руководители выражают большую обеспокоенность поведением сотрудников при работе с ИИ, чем вопросами защиты самих моделей от внешних атак.
Основным риском остается использование «теневого ИИ» — публичных сервисов без согласования с ИТ-департаментами. В такие системы могут попадать коммерческая тайна и персональные данные, при этом компании часто не знают, сохраняются ли эти сведения на стороне поставщика нейросети.
Для контроля ситуации предлагается создать реестр разрешенных моделей, вести журналирование запросов и настроить DLP-системы на выявление передачи чувствительной информации. Для работы с конфиденциальными данными компаниям рекомендуется использовать закрытые модели.
Виктор Гулевич из ГК Softline отмечает, что полный запрет нейросетей не дает контроля над действиями сотрудников. Необходимо внедрять разрешенные инструменты и технический мониторинг. При разработке правил можно опираться на стандарты ISO/IEC 42001, NIST AI RMF и OWASP Top 10 for LLM Apps.
