Приложение Llama for Windows, выпущенное в октябре 2026 года, представляет собой бесплатный инструмент с открытым исходным кодом для Windows 11. Программа построена на базе WinUI 3, работает в системном трее и позволяет запускать локальные языковые модели без использования командной строки или прав администратора.
Инструмент интегрирован с репозиторием Hugging Face, что дает пользователям возможность выбирать модели по параметрам и объему памяти. Приложение использует формат GGUF для квантованных моделей, что снижает требования к «железу». Управление движком llama.cpp происходит автоматически.
Взаимодействие с моделями доступно через веб-интерфейс или плавающее окно чата, вызываемое сочетанием клавиш Alt+Space. Приложение также запускает локальный сервер с API, совместимым с OpenAI, по адресу http://localhost:9931, позволяя разработчикам подключать локальные модели к своим проектам.
ПО поддерживает архитектуры x64 и ARM64, включая нативную работу на устройствах Windows on Arm, а также платформу NVIDIA RTX Spark. Приложение не собирает телеметрию, однако требует интернет-соединения для загрузки моделей и обновлений. Установка не требует ручной компиляции кода.
Llama for Windows доступно для загрузки на официальном сайте и GitHub. Программа предназначена исключительно для Windows 11 и не поддерживает Windows 10. Основная задача проекта — упростить доступ к локальному запуску ИИ, объединив управление моделями и движком в едином интерфейсе.
