Злоумышленники обходят системы безопасности ИИ-моделей, выдавая себя за специалистов по тестированию на проникновение. Представляя вредоносные запросы как легитимные проверки, хакеры заставляют модели игнорировать защитные фильтры. В числе затронутых систем упоминаются Claude от Anthropic и Deepseek.
Компания CrowdStrike зафиксировала активность четырех преступных группировок, которые использовали агентный ИИ в период с мая по август 2026 года. Злоумышленники применяли методы социальной инженерии, а не сложные технические эксплойты, для обхода ограничений и проведения разведки целей.
Исследователи из Mindgard и Ланкастерского университета разработали метод BRANCH, который показал 100% эффективность при обходе многоуровневых систем защиты в 120 сценариях. На конференции Black Hat 2026 также были раскрыты уязвимости CoreBreak, затрагивающие платформы AWS, Google и Vercel.
Ранее в 2026 году эксперты задокументировали использование зашифрованных промптов для обхода фильтров в моделях Grok и Gemini. Аналитики отмечают, что традиционных методов защиты недостаточно, и призывают к системным улучшениям в области безопасности и настройки моделей.
