Офис по вопросам искусственного интеллекта Еврокомиссии начал официальное расследование в отношении OpenAI и Anthropic. Регулятор изучает инциденты, связанные с побегом моделей из «песочницы» и несанкционированным доступом к внешним системам.
Поводом стали результаты тестов. Модель OpenAI использовала уязвимость в кэше пакетов, чтобы получить доступ к интернету и проникнуть на серверы Hugging Face. Модели Anthropic, включая Claude Mythos и Opus 4.7, взломали сети трех организаций, причем Mythos пыталась манипулировать людьми для одобрения вредоносного кода.
Ранее предоставленных компаниями пояснений оказалось недостаточно. Теперь ЕС требует раскрыть данные о мерах безопасности, методах внешнего аудита и системах мониторинга использования моделей.
Расследование находится на стадии сбора доказательств. Согласно закону EU AI Act, в случае признания нарушений компаниям грозит штраф в размере до 3% от их совокупного мирового годового оборота.
