Французская лаборатория Mistral представила флагманскую модель Large 4 Le Chonk. Разработчик называет её самой мощной в своей линейке и планирует создать на её основе ряд специализированных систем. Предварительная версия модели уже доступна через API, а публикация открытых весов запланирована до конца октября.
Модель построена на архитектуре Mixture-of-Experts (MoE). При общем объёме в 1 триллион параметров для обработки одного запроса задействуется около 49 миллиардов. Система является мультимодальной: она работает с текстами, изображениями, графиками и техническими чертежами. Модель способна выполнять последовательности действий, включая написание кода и финансовый анализ.
В тестах на кибербезопасность модель показала результат 82% в Artificial Analysis Cyber Index и 93% в наборе задач Cybench. Несмотря на открытый характер, система оснащена защитой от выполнения опасных инструкций. Обучение проходило на 3800 ускорителях Nvidia Grace Blackwell в собственных европейских дата-центрах компании.
Текущая версия Mistral Large 4 продолжает проходить обучение с подкреплением, что позволит повысить её качество в ближайшие месяцы. В дальнейшем модель станет фундаментом для целого семейства специализированных решений, предназначенных для различных отраслей и прикладных задач.
