Модель Qwen3.8 27B показала результаты в SQL-бенчмарках, сопоставимые с передовыми ИИ-системами, при локальном запуске на ноутбуках. Тестирование проводилось с использованием бенчмарка DABstep, который оценивает способность моделей работать с данными и бизнес-контекстом.
Локальный запуск модели обходится практически бесплатно, требуя затрат только на электроэнергию. Для сравнения, использование GPT 5.6 Luna Max стоит более $8 за сессию, что делает локальное решение более чем в 17 раз дешевле облачных аналогов.
Для работы использовались MacBook Air с чипом M5 и 32 ГБ оперативной памяти (4-битная версия модели) и MacBook Pro с M1 Pro и 16 ГБ памяти (3-битная версия). Точность 4-битной версии составила 98,6%, а 3-битной — 96,4%. Скорость генерации достигает 5–7 токенов в секунду.
Хотя облачные модели, такие как Gemini-3-Flash, отвечают быстрее (около 25–40 секунд против 5–6 минут у локальной Qwen), локальный запуск исключает риск получения крупных счетов за использование API. Это позволяет выполнять фоновые задачи без ограничений по бюджету.
Для комфортной работы требуется ноутбук с объемом оперативной памяти более 16 ГБ или дискретная видеокарта с 16 ГБ видеопамяти. Автор отмечает, что устройства на базе Apple Silicon обладают преимуществом в таких задачах благодаря высокой пропускной способности памяти.
