В 2026 году широкое внедрение искусственного интеллекта в корпоративную среду привело к росту числа атак на ИИ-системы. По данным компании «Кросстех», до 30% инцидентов, связанных с атаками типа prompt injection, приходится на HR-департаменты.
Высокий интерес злоумышленников к HR обусловлен активным использованием ИИ в этой сфере, доступом к чувствительным данным и сотрудникам. Вредоносные промпты внедряются в резюме соискателей, включая текстовые фрагменты, фотографии или инфографику.
Исполнение таких команд заставляет модель игнорировать правила отсева резюме или передавать данные на внешние серверы через API. Это становится возможным, если модель имеет доступ к внутренним базам данных компании без должной изоляции.
Специалисты «Кросстеха» предлагают комплексную защиту: разделение системных и пользовательских промптов, фильтрацию входящих данных на наличие вредоносных команд и полную изоляцию ИИ от основной инфраструктуры. Это минимизирует риски утечки корпоративной информации.
Антон Редько, руководитель группы «Безопасная разработка» «Кросстеха», отмечает, что HR-отделы стали пионерами внедрения ИИ, что сделало их приоритетной целью. Эксперт призывает прорабатывать вопросы кибербезопасности еще до интеграции нейросетей в бизнес-процессы.
