
Мне нравится экспериментировать с локальными моделями, и не только для генерации картинок. Эта статья — что-то вроде чекпойнта для себя: что попробовал, что намерил, что заменил и почему. Может, кому-то тоже будет интересно или найдётся что-то полезное.
В прошлой статье я показал, как локальные модели работают с русским текстом и что умеют Moss и Klein. Всё это можно использовать напрямую в Stable Diffusion Forge Neo или в ComfyUI. Своё приложение я написал, чтобы упростить работу с Forge Neo, и выложил на GitHub. Никого не заставляю им пользоваться: реклама — последнее, что мне нужно в бесплатном инструменте, созданном в первую очередь для себя.
В статье — сравнение девяти моделей для генерации картинок на одной домашней видеокарте RTX 4070 Ti SUPER 16 ГБ: одинаковые промпты, версии на 8 и 16 ГБ видеопамяти, обычный и быстрый режим. И да, снова много картинок.
Почему sd.cpp
Как менялись серверные движки в приложении: A1111, потом Forge, потом Forge Neo. К StabelDiffusion у меня одна претензия — это огромное Python-приложение (многими любимый ComfyUI тоже): гигабайты PyTorch и пакетов, обновления, после которых что-то ломается, дополнения, конфликтующие друг с другом. Поэтому теперь — stable-diffusion.cpp: один бинарник на C++. Ещё мне нравится формат GGUF: у одной модели много уровней сжатия, можно подобрать файл под свою видеокарту.
Ещё один плюс: sd.cpp работает не только с NVIDIA. Есть сборки для AMD и Intel (через Vulkan) и для Mac на Apple Silicon (через Metal), и сервер сам выбирает нужную. Сам я проверял только на NVIDIA.
Заодно отказался от Ollama: сервер теперь работает прямо с llama.cpp, вокруг которого Ollama и создавалась. Удобства Ollama — скачивание и выгрузку моделей — сделал в самом сервере.
Итог: у большинства моделей есть версия на 8 ГБ видеопамяти. Проверял на карте с 16 ГБ, но причин не работать на 8 ГБ не вижу. Если не хватит, сервер переложит часть модели в оперативную память — будет медленнее, но картинка получится.
Быстрый режим
sd.cpp умеет кэш шагов (StableDiffussion, вероятно тоже): движок переиспользует вычисления соседних шагов, вместо того чтобы считать каждый заново. В приложении он включается кнопкой «Быстро» рядом с «Сгенерировать», для четырёх медленных моделей: Moss и Chroma (dbcache), Qwen-Image и Flux.1 (easycache). Ускорение — от 1,5 раза у Chroma до 2,4 раза у Moss. У Moss и Qwen-Image при том же seed сцена почти не меняется, отличаются детали. Chroma в быстром режиме заметно перестраивает кадр. В сетках ниже быстрый режим — нижний ряд.
Бесплатным ускорение не бывает. На простой картинке в небольшом разрешении разницу почти не видно. На сложной сцене и в большем разрешении картинка начинает выглядеть как пережатый JPEG или первращает сложные места в «кашу». Поэтому включать его везде не стоит: подходит он или нет, видно только по результату.
Как мерил
-
RTX 4070 Ti SUPER 16 ГБ, движок sd.cpp, приложение Imagecaster. Размер 1024×1024.
-
Пять промптов, по четыре seed на каждую версию; показан один seed, выбранный вручную, — у всех версий одной модели одинаковый.
-
Время — только генерация, без загрузки модели; среднее по 20 картинкам.
-
«8 ГБ» и «16 ГБ» — разное квантование (сжатие весов) одной модели под видеокарту такого объёма. Обе мерили на карте 16 ГБ.
Промпты
В приложении русский запрос переводит LLM, и её перевод может немного отличаться от этого текста.
Часовщик. Кинематографичное фото, вечер. Пожилой часовщик с лупой в глазу чинит карманные часы за заваленным верстаком: крошечные шестерёнки, пружинки, пинцеты. За его спиной в открытом корпусе напольных часов спит толстый рыжий кот, его хвост качается, как маятник. Десятки часов на стене показывают разное время. На окне приклеена записка от руки: «Ушёл на обед. Вернусь в 13:60». За окном в каплях дождя — мокрая улица с синей неоновой вывеской «РЕМОНТ ЧАСОВ», в стекле отражается настольная лампа. Тёплый свет лампы против холодного синего света улицы, плёночное зерно, 35 мм.
Музыканты на крыше. Золотой час на крыше старого петербургского дома. Три уличных музыканта: слева молодая женщина играет на виолончели, в центре седобородый старик играет на аккордеоне, справа мальчик так сильно дует в трубу, что бельё на верёвке рядом с ним улетает. Чайка ворует бутерброд старика из открытого футляра аккордеона, полного монет. К футляру прислонена картонка с надписью «На новый смычок». У каждого музыканта своя одежда и своё выражение лица, позади дымка над городом, тёплый свет, фотореализм.
Город в дереве. Иллюстрация к детской книге: подробный разрез огромного дуплистого дуба, внутри которого целый город. На каждом ярусе свои жители: ежиная пекарня с дымящимся хлебом, совиная библиотека, где дятел громко долбит прямо под табличкой «ТИХО!», верёвочный лифт, которым управляет улитка, с вывеской «ЭКСПРЕСС», белки на почте, мышиная семья ужинает среди корней. Деревянные вывески, тёплая акварель и тушь, много мелких деталей, мягкий свет.
Аниме: опаздываю!. Аниме-иллюстрация в стиле телевизионного аниме 1990-х, cel shading, чистый контур. Сонная школьница с растрёпанными розовыми волосами и криво надетой формой опаздывает в школу с тостом во рту и несёт под мышкой очень недовольного чёрного кота с сердитой мордой. Вокруг летят лепестки сакуры, позади закрывается железнодорожный переезд, на брелоке на рюкзаке написано «ОПОЗДАЮ!». Динамичная поза бега, выразительные большие глаза, линии движения, яркие краски весеннего утра.
Дача, 1998. Любительский снимок на 35-мм плёнку 1998 года, дешёвая мыльница с резкой встроенной вспышкой. На даче бабушка в цветастом фартуке гордо держит гигантский кабачок размером с младенца, за ней внук-подросток картинно падает в обморок в куст смородины, лохматая собака ворует огурец со стола. На заборе деревянная табличка, написанная от руки: «ОСТОРОЖНО, ЗЛАЯ БАБУШКА». Пересвет от вспышки, красные глаза, чуть заваленный кадр, оранжевая дата ’98 7 14′ в углу, плёночное зерно, обычные негламурные люди.
Негативный промпт (действует только при CFG больше 1): low quality, blurry, deformed hands, extra fingers, watermark
Скорость и надписи
Время в секундах на картинку. Модели — от быстрой к медленной.
Модель
16 ГБ
8 ГБ
16 ГБ, быстрый
8 ГБ, быстрый
Шаги
Русские надписи
Z-Image Turbo
5
5
—
—
8
да
Flux.3 Klein
8
8
—
—
16
да
Krea-2 Turbo
11
11
—
—
8
да
Anima
19
19
—
—
30
нет
Flux.1 dev
25
23
15
13
24
нет
Qwen-Image 2.1
30
30
16
16
20
да
HiDream-O1 dev
30
—
—
—
20
только крупные
Chroma1-HD
60
62
40
40
26
нет
Moss
68
55
28
23
50
да
Квантование экономит видеопамять, а не время: у большинства моделей версия 8 ГБ считает столько же, сколько 16 ГБ. Время сокращает быстрый режим.
Все модели на одном промпте
Часовщик
Музыканты на крыше
Город в дереве
Аниме: опаздываю!
Дача, 1998
Модели по отдельности
У моделей с четырьмя версиями сетка: сверху обычный режим (16 и 8 ГБ), снизу быстрый.
Z-Image Turbo
Самая быстрая: 5 секунд на картинку при 8 шагах. Фотореализм, русские надписи пишет правильно. Версия 8 ГБ считает так же быстро, как 16 ГБ.
Файлы и параметры
Версия
Файл
Размер, ГБ
16GB Q8_0
z-image-turbo-fp8-aio.gguf
6,6
8GB Q4_K
z_image_turbo-Q4_K.gguf
3,9
8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3-4B-Q8_0.gguf, ae.safetensors.
Flux.3 Klein
8 секунд на картинку, промпт обычным текстом, русские надписи правильно. Версия 8 ГБ весит 3,5 ГБ и по скорости не уступает.
Файлы и параметры
Версия
Файл
Размер, ГБ
16GB Q8_0
flux3-image-klein-Q8_0.gguf
6,2
8GB Q4_K
flux3-image-klein-Q4_K.gguf
3,5
16 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B-Instruct-Q4_K_M.gguf, flux2-klein-vae.safetensors.
Krea-2 Turbo
Эстетичные фото за 8 шагов, 11 секунд. Русские надписи правильно.
Файлы и параметры
Версия
Файл
Размер, ГБ
16GB Q6_K
Krea-2-Turbo-Q6_K.gguf
10,5
8GB Q3_K_M
Krea-2-Turbo-Q3_K_M.gguf
5,5
8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B-Instruct-Q4_K_M.gguf, wan_2.1_vae.safetensors.
Anima
Модель для аниме и иллюстраций: понимает и теги danbooru, и обычные фразы. Фото и надписи — не её задача, поэтому здесь только аниме. Одна версия на 4,2 ГБ подходит и для 8, и для 16 ГБ.
Файлы и параметры
Версия
Файл
Размер, ГБ
8 и 16GB (одна версия)
anima-aesthetic-v1.1.safetensors
4,2
30 шагов, CFG 5, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).
Flux.1 dev
Классика: хорошо следует описанию, но кириллицу не пишет — вместо надписей получаются похожие на буквы каракули.
Файлы и параметры
Версия
Файл
Размер, ГБ
8GB Q4_K_S
flux1-dev-Q4_K_S.gguf
6,8
16GB Q8_0
flux1-dev-Q8_0.gguf
12,7
24 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, clip_l.safetensors, ae.safetensors.
Qwen-Image 2.1
Точно следует промпту и пишет читаемый текст, в том числе по-русски. Единственная здесь с CFG 6, поэтому учитывает негативный промпт. 30 секунд, в быстром режиме 16.
Файлы и параметры
Версия
Файл
Размер, ГБ
16GB Q8_0
qwen_image_2.1-Q8_0.gguf
7,7
8GB Q4_K
qwen_image_2.1-Q4_K.gguf
4,2
20 шагов, CFG 6, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-8B-Instruct-Q4_K_M.gguf, qwen_image_2.1_vae_bf16.safetensors.
HiDream-O1 dev
У неё всё выходит в стиле рисунка, поэтому показываю аниме — это действительно похоже на рисунок, а не на компьютерную графику. На фото люди тоже выглядят нарисованными, крупные надписи получаются, мелкие превращаются в каракули. Рабочая версия bf16 весит 16,4 ГБ и в 16 ГБ видеопамяти целиком не помещается: часть весов лежит в оперативной памяти, 30 секунд на картинку. Версия fp8 в движке sd.cpp у меня сработала криво — игнорирует промпт и добавляет кучу артефатов.
Файлы и параметры
Версия
Файл
Размер, ГБ
16GB bf16 (часть весов в RAM)
hidream_o1_image_dev_bf16.safetensors
16,4
20 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).
Chroma1-HD
Открытая модель на 8,9 млрд параметров на основе FLUX.1 schnell, поэтому похожа на Flux.1. Её ценят за лицензию Apache 2.0 (у Flux.1 dev лицензия некоммерческая), отсутствие фильтра безопасности и настоящий CFG с негативным промптом. Сильная сторона — плёночная, киношная картинка, как у часовщика. Минусы на наших промптах: 60 секунд на картинку и каракули вместо русских надписей.
Файлы и параметры
Версия
Файл
Размер, ГБ
16GB Q8_0
Chroma1-HD.gguf
9,7
8GB Q4_K_S
Chroma1-HD-Q4_K_S.gguf
5,4
26 шагов, CFG 4, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, ae.safetensors.
Moss
OpenMOSS 5B: фотореалистичные люди, точно следует описанию, русские надписи пишет правильно. Самая медленная: 50 шагов, 68 секунд; быстрый режим сокращает до 28 секунд.
Файлы и параметры
Версия
Файл
Размер, ГБ
16GB bf16
moss_image_sft_bf16.safetensors
10,2
8GB Q4_K
MOSS-Image-SFT-Q4_K.gguf
3,3
50 шагов, CFG 3, euler, планировщик simple. Вспомогательные файлы: qwen35_9b_int8_convrot.safetensors, flux2-vae_small.safetensors, moss.tokenizer.json.
Итоги
Мой фаворит — Moss. Лучше всех рисует людей, точно следует описанию и правильно пишет русские надписи. Цена — скорость: 68 секунд на картинку, в быстром режиме 28.
Z-Image Turbo — прекрасна, когда нужно быстро: 5 секунд, фотореализм, русские надписи. Версия на 8 ГБ считает так же быстро.
Для остального:
— Flux.3 Klein — тоже быстрая (8 с) и тоже пишет по-русски.
— Krea-2 Turbo — красивое фото за 11 с.
— Qwen-Image — точно по описанию и с текстом, 30 с, в быстром режиме 16.
— Anima — аниме и иллюстрации, одна версия на 4,2 ГБ для любой карты.
— HiDream-O1 — только ради рисованного стиля, в 16 ГБ целиком не влезает.
Flux.1 и Chroma мне не нравятся. Это вкусовщина: у Chroma есть поклонники плёночной картинки и свободной лицензии, но кириллицу не пишет ни одна из них.
sd.cpp для меня себя оправдал: все девять моделей работают без Python, файлы GGUF подбираются под объём видеопамяти. Минусы тоже есть: новые модели в sd.cpp появляются позже, чем в ComfyUI, а файлы fp8 от ComfyUI он понимает не всегда — с HiDream пришлось брать полную версию.
Ссылки
-
Imagecaster — приложение
-
imagecaster-server — сервер, который ставит и запускает модели
Источник: habr.com