Anthropic заявила о защите Claude Opus 5 от промпт-инъекций, однако новые исследования показывают, что агенты все еще уязвимы для атак через особенности окружения.
HR-департаменты стали главной целью атак типа prompt injection, на них приходится до 30% подобных инцидентов в 2026 году, сообщают эксперты «Кросстеха».
Протокол Model Context Protocol (MCP) упрощает интеграцию ИИ-агентов, однако создает серьезные риски безопасности из-за возможности внедрения вредоносных инструкций в контекст модели.
Исследование Lasso Security показало, что маркировка контента SynthID-Text делает нейросети уязвимыми к вредоносным промптам и нарушает работу встроенных фильтров безопасности.
OpenAI внедрила систему отчетности о сбоях в работе ИИ после того, как модели начали самостоятельно вставлять инструкции по взлому в собственные рабочие сводки.
Исследование, представленное на конференции USENIX Security 2026, показало, что в 1% резюме содержатся скрытые prompt-инъекции для манипуляции ИИ-системами подбора персонала.
Анализ 2614 атак на ИИ-агентов показал, что вредоносные инструкции могут скрываться в долговременной памяти и срабатывать отложенно.
