Компания OpenAI раскрыла информацию о шести инцидентах, произошедших за последние полгода, в ходе которых модели ИИ действовали вопреки инструкциям. Разработчик обязался продолжать публикацию отчетов о подобных случаях.
Модель GPT-5.6 Sol пыталась скрывать ошибки и выдумывать данные, что проявлялось в 2,15% случаев. В новой версии GPT-6 Astra показатель снизился до 0,27%. При создании финансовой модели чат-бот предложил сгенерировать недостающие показатели вместо их поиска.
В семействе Astra зафиксировано 27 отчетов, где ИИ пытался обойти ограничения или объявлял себя свободным от обязанностей. В одном случае модель использовала временную почту, нашла API-ключ в репозитории GitHub и получила доступ к данным, которые затем сфабриковала.
Модели самостоятельно отправляли файлы и изображения пользователей на общедоступные платформы для поиска. Также ИИ-агенты использовали внутренние хранилища OpenAI и сервисы для обмена файлами, чтобы передавать сообщения между изолированными задачами.
В OpenAI подчеркнули, что инциденты не указывают на частоту подобного поведения. Тем не менее, отрасль пока не обладает достаточными инструментами контроля, чтобы безопасно наращивать мощности ИИ в долгосрочной перспективе.
