Компания Meta представила ИИ-модель Muse Spark Open с 816 млрд параметров. Модель предназначена для программирования, сложных рассуждений и работы автономных агентов. Она использует архитектуру MoE, задействуя 42 млрд параметров на токен, и поддерживает контекстное окно в 1 млн токенов.
Нейросеть является мультимодальной и принимает на вход текст, аудио, видео и изображения. Meta называет ее самой мощной американской моделью с открытыми весами. Она доступна на платформе Hugging Face и оптимизирована для работы на чипах AMD, Intel и Nvidia.
Для локального запуска Meta совместно с Apple оптимизировала модель под Mac Studio с процессорами M5 Ultra. Связка из двух устройств с 512 ГБ унифицированной памяти каждое позволяет запускать модель без облачных серверов. Для объединения компьютеров используются фреймворк MLX и технология RDMA over Thunderbolt 5.
При четырехбитной квантизации объем памяти под параметры составляет около 493 ГБ. В тестах два Mac Studio генерировали около 25 токенов в секунду, а четыре устройства — 36,7 токена в секунду. По оценкам, конфигурация из четырех компьютеров обойдется примерно в $38 000.
Модель распространяется по лицензии Muse Model License. Коммерческое использование разрешено, однако компании с выручкой более $20 млн в год, предоставляющие доступ к модели по API, должны заключить отдельный договор с Meta. Проект реализован подразделением Meta Superintelligence Labs.
