Метод Uno позволяет ускорить работу больших языковых моделей за счет добавления легких весов диффузии к существующим авторегрессионным моделям. Эта архитектура позволяет генерировать блоки кандидатов-токенов параллельно, в то время как базовая модель выступает в роли арбитра качества.
Ведущий автор Subham Sekhar Sahoo и его коллеги представили самплеры Psi-Spec. Эти адаптеры на базе диффузии позволяют одновременно генерировать несколько токенов-кандидатов, сохраняя при этом исходные авторегрессионные веса для финальной проверки.
Вариант Uno-Qwen 8B, созданный на базе модели Qwen с 8 миллиардами параметров, обеспечивает ускорение примерно в 2,5 раза при размере батча 1. При больших батчах ускорение снижается до 1,6 раза, а общий прирост пропускной способности системы достигает 3 раз.
Модель Uno с 8 млрд параметров превосходит DiffusionGemma с 26 млрд параметров в бенчмарках по кодингу, агентности и работе с длинным контекстом. Также заявляется о более низком пиковом использовании памяти по сравнению с методами EAGLE-3 и DFlash.
Команда разработчиков опубликовала код и чекпоинты в репозитории ifm-ai/uno на GitHub, а веса модели в Hugging Face (s-sahoo/uno-qwen3-8B). Релиз включает рецепты обучения и поддерживает инференс через Nano-vLLM с линейными и древовидными самплерами.
Техника описана в препринте «Unlocking Lossless Speedups in LLMs via Discrete Diffusion», опубликованном 3 сентября 2026 года. На данный момент независимая проверка заявленных показателей производительности ожидается.