Третья часть руководства по созданию локального стека ИИ посвящена организации библиотеки моделей и созданию статической HTML-шпаргалки. Инструмент позволяет быстро подбирать модель под конкретные задачи, такие как программирование, ролевой отыгрыш или распознавание текста, без обращения к документации.
Система использует структурированное хранение: обычные модели размещаются в основной папке, а мультимодальные — в подпапках с файлами mmproj. Статическая страница работает в браузере без интернета и содержит таблицу выбора по задачам, карточки с описанием характеристик и кнопку для копирования команд запуска.
Для работы рекомендуется квантование Q4_K_M, обеспечивающее баланс качества и скорости на процессоре. В качестве базового набора для 90% задач предлагаются Qwen3.5-9B для универсальных целей, OxCoder-9B для кодинга, Gemma-4-E4B для ролевых игр и Qwen3VL-4B для работы с изображениями и OCR.
Добавление новых моделей реализовано через обновление массива MODELS в коде. Система автоматически создает карточку и фильтры на основе заданных параметров, что упрощает масштабирование локальной библиотеки моделей без необходимости ручной правки верстки или конфигурационных файлов.
