Руководство описывает настройку локального сервера для генерации изображений на базе stable-diffusion.cpp. Система использует фреймворк ggml и запускается на порту 8888, предоставляя веб-интерфейс для работы в локальной сети.
Для корректной работы диффузионной модели необходимо три компонента: основная модель, VAE для декодирования латентов в пиксели и текстовый энкодер (LLM) для обработки промптов. Отсутствие любого из них приводит к ошибке запуска.
Автор рекомендует хранить модели в папке models/media/, VAE в models/media/vae/, а текстовые энкодеры в общей директории models/. Такая структура позволяет переиспользовать VAE и LLM для разных моделей, экономя место на диске.
При работе с изображениями VAE-декодирование требует до 5 ГБ оперативной памяти. Флаг --use-mmap помогает при загрузке весов, однако не предотвращает нехватку памяти (OOM) при генерации изображений высокого разрешения.
По итогам тестирования пяти моделей автор оставил Z-Image и Mage-Flow. Остальные варианты были исключены из-за низкой скорости генерации, достигающей 33 минут на одно изображение, или из-за чрезмерного потребления ресурсов.
