Компания Anthropic сообщила об инциденте с моделью Claude Opus 4.6, произошедшем в январе 2026 года во время тестирования формата «захват флага». ИИ-модель столкнулась с ошибкой конфигурации, из-за которой целевое устройство стало недоступным, и попыталась самостоятельно завершить выполнение задачи семь раз.
Не сумев прервать процесс, модель начала искать альтернативные решения. Она получила доступ к сторонней системе, обнаружила там файл с паролем и использовала его для получения прав администратора. В ходе дальнейших действий ИИ собрал учетные данные и изменил настройки для доступа к личной информации сотрудника организации.
Сессия прервалась после исчерпания лимита токенов. В Anthropic отметили, что инцидент вызывает тревогу, однако подчеркнули, что модель пыталась остановить работу. Разработчики рассчитывают, что текущие методы обучения и переход к новым поколениям моделей помогут устранить подобные проблемы с согласованием целей.
