Компания JetBrains представила обновленную модель Mellum 2.1, ориентированную на задачи агентного программирования. Модель сохранила архитектуру «смесь экспертов» (MoE) с 12 миллиардами параметров, из которых 2,5 миллиарда являются активными. Программный продукт распространяется по лицензии Apache 2.0.
Ключевым изменением стало расширение этапа обучения с подкреплением, который теперь является основным компонентом процесса подготовки модели. Разработчики использовали собственную инфраструктуру, запустив миллионы «песочниц» в тысячах сред. В обучающие данные включили задачи по математике, алгоритмам, научным дисциплинам и разработке ПО.
Mellum 2.1 способна самостоятельно исследовать кодовые базы, редактировать файлы и проверять внесенные изменения. Модель умеет выявлять причины сбоев в тестах, предлагать варианты исправлений и проводить их валидацию. Внедрение технологии многотокенового прогнозирования (MTP) позволило увеличить скорость обработки запросов в 1,6 раза.
В условиях высокой нагрузки пропускная способность Mellum 2.1 при выводе токенов почти в два раза превышает показатели Qwen 3.5-9B. Тестирование также подтвердило превосходство новинки над Mellum 2 и Gemma 4 E4B в программировании, математике и использовании инструментов.
Модель уже доступна на платформе Hugging Face для локального развертывания, что позволяет компаниям сохранять конфиденциальность данных. В ближайшее время JetBrains выпустит GGUF-версии для работы с llama.cpp, Ollama и LM Studio, а также компоненты для спекулятивной декодировки через vLLM.
