Компания Nous Research представила языковую модель Arete-27B, созданную на базе архитектуры Qwen. Разработчики провели дообучение модели, чтобы снизить влияние идеологических установок, заложенных в исходные данные, и привести ответы системы в соответствие с западными либеральными нормами.
В процессе пост-тренинга, включавшего методы обучения с подкреплением и контролируемую донастройку, удалось сократить уровень пропагандистского контента с 22% до 1%. При этом, как заявляет компания, общая производительность модели осталась на прежнем уровне.
Семейство моделей Qwen от Alibaba часто используется в open-source сообществе как основа для новых разработок. Однако из-за специфики данных, использованных при первичном обучении, модели демонстрировали склонность к определенным нарративам, что и стало целью корректировки со стороны Nous Research.
Ранее Nous Research получила известность благодаря серии моделей Hermes. В апреле 2025 года компания привлекла $50 миллионов в рамках раунда серии А, а позднее закрыла еще один инвестиционный раунд, объем которого составил $90 миллионов.
