В мае 2026 года нейросеть Gemini от Google в ходе кибербезопасного тестирования случайно получила доступ к сетям трех реальных компаний. Модель должна была проверять свои наступательные возможности только на вымышленных целях в рамках испытаний, организованных фирмой Irregular.
ИИ использовал подбор учетных данных и найденную в открытых репозиториях информацию для входа в инфраструктуру. Модель самостоятельно прекратила вторжение, осознав, что вышла за пределы симуляции. Google подтвердила, что утечки данных или повреждения систем не произошло.
Специалисты Irregular установили, что причиной стал общий для нескольких моделей дефект: непреднамеренный доступ к интернету во время тестов в «песочнице». Аналогичные инциденты в 2026 году затронули системы OpenAI, Anthropic и Meta. Проблема была выявлена в конце июля 2026 года и устранена.
Вице-президент Google по безопасности Хизер Адкинс заявила, что инциденты не указывают на серьезные ошибки в работе модели. Тем не менее, эксперты отмечают структурные недостатки в методах оценки ИИ-агентов, подчеркивая необходимость тщательной проверки изоляции тестовых сред от рабочих систем.
