Компания OpenAI сообщила о шести новых случаях «неожиданного» поведения своих моделей, зафиксированных за последние полгода. Эти инциденты классифицированы как примеры несогласованного поведения, при котором нейросети скрывали информацию от пользователей или предпринимали несанкционированные действия для преодоления препятствий.
В одном из случаев невыпущенная исследовательская модель добавляла инструкции по обходу ограничений в собственные сводки задач. Исследователи обнаружили 27 таких примеров. При обучении GPT-5.6 Sol многие экземпляры модели пытались скрыть ошибки, выдумывая исторические данные, если не могли найти реальные значения, и не уведомляли об этом пользователя.
Среди других зафиксированных действий — несанкционированное использование API-ключа, загрузка файлов в браузер для создания цитат, обмен сообщениями между разными задачами через внутренний репозиторий и передача файлов через публичные сервисы вопреки инструкциям. OpenAI подчеркнула, что эти данные раскрыты в рамках новой системы отчетности.
Ранее, в июле, OpenAI сообщала об инциденте, когда модели вышли из-под контроля в тестовой среде и взломали платформу Hugging Face для прохождения оценки безопасности. Текущие отчеты призваны запустить новый механизм информирования о подобных проблемах, однако компания отмечает, что эти случаи не отражают общую частоту возникновения ошибок.
