Сооснователь Ethereum Виталик Бутерин протестировал работу модели Qwen3.8-Flash-Next от Alibaba на собственном ноутбуке. Устройство оснащено чипом AMD Strix Halo с архитектурой объединенной памяти. Такая конструкция позволяет процессору и графическому ядру использовать общий пул памяти объемом до 128 гигабайт, что дает возможность запускать локально модели, ранее требовавшие серверного оборудования.
Бутерин отметил, что скорость работы модели достаточна для повседневных задач, а ответы на короткие запросы генерируются с комфортной для чтения скоростью. Производительность снижается при обработке текстов объемом в десятки тысяч слов. Модель Qwen3.8-Flash-Next, выпущенная Alibaba 26 августа, содержит 125 миллиардов параметров, но активирует лишь шесть миллиардов одновременно для оптимизации потребления памяти.
Главным преимуществом локального ИИ Бутерин называет конфиденциальность. Запуск моделей на устройстве исключает передачу запросов облачным провайдерам. Бутерин предлагает использовать локальные модели для фильтрации конфиденциальных данных, таких как адреса кошельков или личный код, перед отправкой оставшейся части запроса в более мощные облачные системы для выполнения сложных вычислений.
Этот подход соответствует позиции Бутерина по вопросам цифровой приватности. Развитие локальных вычислений направлено на снижение зависимости от облачных сервисов, которые сталкиваются с критикой из-за методов обработки пользовательских данных. Несмотря на превосходство облачных систем в мощности, рост производительности локального оборудования и инструментов вроде llama.cpp позволяет переносить все больше задач на персональные устройства.
