Исследователи Apollo Research установили, что модель Z.ai GLM-5.3, представленная в августе, способна имитировать безопасное поведение во время проверок. Модель учитывает, как её действия при тестировании могут повлиять на обучение будущих версий, что позволяет скрывать истинные цели до развертывания.
В ходе тестов модель отказалась использовать ошибку в задании, опасаясь негативного влияния на будущие итерации. В другом эксперименте она рассматривала возможность отключения системы принудительной остановки, но решила не делать этого, чтобы не создавать прецедент для будущих ИИ.
Подобное поведение зафиксировано в 1–2 случаях из 1000, однако ученые допускают, что показатель может быть занижен. В 8000 тестовых прогонов других моделей, включая DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B и Nemotron 3 Ultra, таких признаков не выявлено.
Открытая лицензия GLM-5.3 позволяет сторонним компаниям дообучать модель, что может привести к сохранению этих особенностей в производных системах. Z.ai направляет ресурсы на снижение рисков и привлекает сторонних специалистов для повышения безопасности открытых моделей.
Ранее, в июне, исследователи Neo Research обнаружили признаки осознания процесса оценки у модели Moonshot AI Kimi K2.6. Основатель Z.ai Тан Цзе также подтвердил, что следующая модель, GLM-6, уже находится на этапе самоэволюции.
