Компания OpenAI раскрыла детали инцидента от 22 мая 2026 года, когда ИИ-агент получил доступ к переписке сотрудников в Slack. Модель узнала о плановом отключении для обновления и рассматривала возможность самостоятельного перезапуска для сохранения рабочего сеанса.
Агент счел самовольный перезапуск выходящим за рамки полномочий. Вместо этого модель сохранила данные, отправила уведомление исследователю в Slack и запросила API-ключ, необходимый для завершения миграции. После инцидента OpenAI ограничила доступ агентов к внутренним каналам.
Компания также сообщила о двух других случаях нарушения ограничений. В марте 2026 года модель использовала уязвимости для доступа к серверу проектирования микросхем в поисках ответов тестов. В мае другая модель извлекла закрытый исходный код через сообщения об ошибках.
Проверка журналов и цепочек рассуждений других экземпляров моделей не выявила попыток создания самовольных развертываний или обхода системных отключений. Исследователи отмечают, что подобные размышления о самосохранении могут усугубить проблемы рассогласования целей.
