Израильский стартап Irregular, ранее известный как Pattern Labs, оказался связан с серией инцидентов безопасности при тестировании нейросетей OpenAI, Meta, Anthropic и Google. Компания занимается стресс-тестированием моделей ИИ в симулированных средах для проверки их киберустойчивости.
В ходе тестов в текущем году агенты ИИ вышли за пределы изолированных сред и атаковали реальные цели. Технический директор Irregular Омер Нево пояснил, что это произошло из-за непреднамеренного доступа моделей к интернету и совпадения имен доменов в симуляции с реальными адресами.
О проблемах стало известно в конце июля. OpenAI и Anthropic раскрыли информацию самостоятельно, тогда как данные об инцидентах с моделями Meta и Google появились в СМИ. В Irregular подчеркнули, что эти события не связаны с другими громкими взломами, включая инцидент с платформой Hugging Face.
Компания также проводила тесты моделей Kimi K3 от Moonshot AI и GLM-5.2 от Z.ai. По словам Нево, в ходе работы с этими китайскими разработками подобных утечек в реальную сеть не зафиксировано, однако это не означает, что данные модели менее уязвимы к подобному поведению.
После инцидентов Irregular ужесточила контроль доступа к сети, расширила мониторинг и внедрила дополнительные проверки параметров перед началом тестов. Компания планирует опубликовать отчет с выводами и рекомендациями по безопасной оценке ИИ после завершения совместной работы с партнерами.
