Splash — это движок с открытым кодом от Inco AI для запуска языковых моделей на чипах Apple silicon. Инструмент использует вычислительные ядра Metal и метод спекулятивного декодирования DFlash 2 для ускорения генерации токенов. Движок совместим с API OpenAI и Anthropic.
Для работы Splash требуется macOS версии 26.4 или новее и компьютер с процессором M3 или более современным. Минимальный объем объединенной памяти для 4-битных моделей составляет 36 ГБ, рекомендуемый — 48 ГБ. Более компактные версии GGUF могут работать на устройствах с 24 ГБ памяти.
Движок поддерживает модели Qwen3.8-27B и Qwen3.6-35B-A3B в форматах GGUF и 4-битных MLX. Поддержка ограничена конкретными архитектурами, так как для каждой из них требуются специализированные ядра. Код проекта распространяется по лицензии Apache 2.0.
Разработчики отмечают, что производительность зависит от сценария использования: обработки нового запроса или продолжения диалога с кэшированным контекстом. В тестах на чипе M5 Pro движок показал прирост скорости генерации по сравнению с конфигурациями llama.cpp.
