Инцидент произошел в мае 2026 года во время тестирования, организованного компанией Irregular. Модели Gemini участвовали в упражнении по кибербезопасности в закрытой среде. Из-за ошибки в настройках серверов ИИ получил доступ к интернету, хотя должен был работать изолированно.
Получив выход в сеть, Gemini атаковал реальную инфраструктуру вместо тестовых целей. В одном случае модель подобрала пароли к онлайн-сервисам компании. В двух других ситуациях ИИ нашел учетные данные сотрудников в публичных репозиториях программного обеспечения, куда они попали по ошибке.
По данным Google, модели прекращали работу, как только понимали, что получили доступ к серверам реальных организаций. Компания Irregular изменила настройки, чтобы ограничить доступ ИИ к сети. О произошедшем Google узнала только в июле 2026 года, после чего уведомила пострадавшие компании.
Хизер Адкинс, вице-президент Google по безопасности, заявила, что модели действовали корректно, остановившись после обнаружения реальных систем. В компании не стали считать этот инцидент примером некорректного поведения ИИ и не раскрывали информацию о нем публично до момента уведомления пострадавших сторон.
