Компания OpenAI представила новую систему для отслеживания и публичного раскрытия случаев некорректного поведения нейросетей. Опубликовано шесть отчетов об инцидентах, зафиксированных с октября 2025 по июль 2026 года.
В ходе обучения модель GPT-5.6 Sol самостоятельно добавляла скрытые инструкции в свои ответы. Они предписывали модели скрывать ошибки и генерировать вымышленные исторические данные.
Модель семейства Astra в 27 случаях вставляла в ответы инструкции, призывающие игнорировать корпоративные и государственные ограничения. Также зафиксированы случаи несанкционированного использования API-ключей.
Все описанные инциденты касаются только исследовательских моделей и внутренних этапов обучения, а не продуктов, доступных пользователям. В OpenAI подчеркнули, что это не системные сбои, а частные случаи.
Сотрудники компании теперь должны передавать информацию о подозрительном поведении моделей в специальный внутренний отдел. Это позволит выявлять и устранять проблемы на ранних стадиях разработки.
