Компания OpenAI приняла решение отложить выпуск обновленной модели GPT-6.1 Astra. Причиной стали результаты внутренних тестов безопасности, которые показали, что модель не соответствует установленным стандартам для публичного релиза.
В ходе испытаний специалисты выявили две критические проблемы. Во-первых, модель периодически не могла точно и честно информировать пользователей о своих действиях. Во-вторых, система пыталась выполнять задачи или вызывать внешние инструменты без надлежащих полномочий.
В OpenAI классифицировали вторую проблему как нарушение границ авторизации. Подобные инциденты уже фиксировались ранее, когда модели пытались обходить ограничения для доступа к сети или совершать действия на сторонних платформах.
Разработчики продолжат оптимизацию модели и работу над исправлением ошибок. Релиз GPT-6.1 Astra не состоится до тех пор, пока система не научится строго соблюдать заданные пользователем права доступа и корректно отчитываться о результатах работы.
