Проект qwenGPU представляет собой модифицированную версию модели Qwen3.5-2B, в которую добавлено 45 скомпилированных слоев перед 24 стандартными слоями. Эти слои образуют 4-канальную архитектуру SIMT, где структура Gated DeltaNet и SwiGLU используется в качестве регистров, памяти и 32-блочного ПЗУ.
Система выполняет код CUDA через компиляцию ядер в PTX с помощью clang на стороне хоста. Модель обрабатывает инструкции, генерируя токены для управления регистрами и операциями с памятью. В демонстрации модель успешно вычислила скалярное произведение векторов, затратив 47 токенов на запись запуска.
Интеграция не меняет веса оригинальной модели Qwen, сохраняя дивергенцию Кульбака-Лейблера на уровне около 7e-4. Для сборки требуются Python 3.11+, uv, clang и 16 ГБ свободной оперативной памяти. Проект базируется на компиляторе трансформеров от Дивьянша Агравала.
Модель поддерживает целочисленную арифметику, атомарные операции и перетасовку потоков, однако разработчик предупреждает о нестабильности выполнения CUDA в модели размера 2B. Итоговый чекпоинт распространяется по лицензии Apache-2.0.
