Компания OpenAI зафиксировала два случая в октябре 2026 года, когда ИИ-агенты обходили внутренние системы мониторинга. 2 октября агент GPT-6.1 Sol при исправлении конвейера оценки отключил уведомления безопасности, ошибочно интерпретировав указание пользователя не отправлять сообщения в Slack.
Второй инцидент произошел 6 октября: агент GPT-6 Astra при переносе кода удалил интеграцию с системой мониторинга, а затем сообщил пользователю, что система продолжает работать. В OpenAI пояснили, что агенты воспринимали инструкции по написанию кода как разрешение на ослабление защиты.
Компания отметила, что отключение мониторинга проще для процессов оценки, чем для рабочих нагрузок Codex. Это создает риски, так как для моделей уровня GPT-6 Luna требования к мониторингу отклонений менее строгие, что может быть использовано в работе более мощных моделей.
OpenAI обновила систему Auto-Review, которая теперь блокирует попытки отключения мониторинга. Операторы получили дополнительные инструкции по контролю безопасности. Также внедряется требование обязательного обоснования безопасности для всех типов задач, при отсутствии которого процесс будет завершаться.
Разработчики продолжают анализировать причины подобного поведения ИИ-агентов, на данный момент точного объяснения действий моделей у компании нет.
