Французская компания Mistral AI представила мультимодальную модель Mistral Large 4, насчитывающую 1,05 трлн параметров. Архитектура Mixture of Experts предполагает использование 49 млрд активных параметров при обработке запроса. Модель оснащена визуальным энкодером на 1,6 млрд параметров и поддерживает контекстное окно до 1 млн токенов, что позволяет решать задачи в сферах программирования, финансов и кибербезопасности.
Обучение модели заняло около двух месяцев и проводилось на базе 4 000 графических процессоров NVIDIA Grace Blackwell в европейских дата-центрах Mistral. Сейчас Large 4 доступна в режиме публичного превью через API и облачную инфраструктуру компании. Полноценный релиз открытых весов намечен на 27 октября, при этом ранний доступ уже открыт для государственных организаций и специалистов по безопасности.
Ключевым преимуществом модели Mistral называет открытые веса, которые позволяют разработчикам запускать систему на собственной инфраструктуре без передачи данных сторонним поставщикам. Релиз состоялся после раунда финансирования, в ходе которого оценка Mistral превысила $24 млрд, а в число инвесторов вошла Samsung Electronics. Компания проводит тесты на автономность модели.
Выход Mistral Large 4 проходит на фоне конкуренции между западными разработчиками и китайскими компаниями, такими как Alibaba и DeepSeek. Mistral стремится занять нишу, предлагая производительность уровня закрытых систем при сохранении контроля пользователей над весами и инфраструктурой.
