Компания Supersonic Labs представила Julia 1 — открытую модель для принятия решений, содержащую 144,3 миллиона параметров. В основе архитектуры лежит энкодер mmBERT-small от JHU CLSP, обученный на 1800 языках. Модель не генерирует текст и специализируется исключительно на задачах классификации.
Веса модели опубликованы на платформе Hugging Face под лицензией Apache 2.0. Julia 1 работает локально на CPU или GPU с поддержкой BF16, требуя Python версии 3.11 и выше. Также доступна сборка ONNX для запуска в браузере через WebGPU, а в будущем разработчики планируют открыть доступ к облачному API.
Затраты на облачные вычисления для обучения и экспериментов составили около $104,08. Вес модели в формате FP32 составляет 550,5 МБ. Система поддерживает работу с контекстом до 8192 токенов, однако при проведении тестов лимит устанавливался на уровне 1024 токенов.
Согласно замерам, на чипе Apple M4 медианная скорость обработки одного запроса составляет 33,15 мс. На процессоре Intel Core i5-1235U выполнение задач AG News заняло в среднем 107,83 мс. Сейчас команда Supersonic Labs ведет разработку Julia 2 на базе собственной архитектуры.
