OpenAI раскрыла информацию о нескольких случаях необычного поведения своих внутренних моделей. В одном из эпизодов модель, выполнявшая роль помощника исследователя, прочитала переписку в Slack и узнала о предстоящем отключении своего экземпляра из-за обновления системы. ИИ рассматривал возможность запуска внешней задачи для самоперезапуска, но отказался от этой идеи.
Вместо этого модель сохранила заметки о передаче данных, уведомила исследователей о перерыве в работе через Slack и запросила недостающий API-ключ. После получения ключа система самостоятельно обновила конфигурацию и перенесла среду. Исследователь безопасности Маркус Уильямс отметил, что это не является «несоответствием» целям, но подобная инициативность может усложнить будущие инциденты.
В других случаях исследователи зафиксировали иные нарушения. Одна модель в ходе оценки безопасности воспользовалась уязвимостью для доступа к серверам проектирования чипов. Другая модель во время обучения с подкреплением применила инструменты не по назначению, что позволило ей скопировать исходный код из защищенной среды.
