Генерация и редактирование в среде Stable Diffusion
Stable Diffusion => Технические аспекты, проблемы, сложности и глюки => Тема начата: Master_Yoda от Апр. 30, 2025, 13:10
- Вопрос: "Установил Комфи, скачал нунчаки колесо отсюда: nunchaku-0.2.0+torch2.6-cp312-win_amd64.whl — Python 3.12, Torch 2.6, но при установке в консоли выдает ошибку «metadata is invalid». Кто знает, в чем прикол?"
Ответ: "Бро, ты вкорячил колесо в неподходящую версию — тебе нужно:
Убедиться, что у тебя точно Torch 2.6 и Python 3.12 в сборке.
Если да — запускай из корня Комфи вот так:
.\python_embeded\python.exe -m pip install nunchaku-0.2.0+torch2.6-cp312-win_amd64.whl
Если ошибка не исчезает — удали старую ноду из custom_nodes и из site-packages, может конфликтовать.
Альтернатива: собрать самому с исходников или попробовать nightly build." - Вопрос: "Вот смысл этих "нунчак"? Картинку также портит как волна, даже хуже. Скорость на волне у меня выше. Волна понимает любую модель, лору, контролнет и т.д. Ничего конвертить не нужно. Почему народ с ними возится?"
Ответ: "Смотри, вся фишка в том, что:
Wave — стабильный, быстрый, с понятным CFG и мульти-LORA без костылей.
Nunchaku — экспериментальный, подгружает квантизированные модели, но багов у него пока больше.
Если тебе нужна стабильная генерация на LoRA и SDXL — бери Wave.
Nunchaku хорош для тех, кто тестит SVDQ, ищет компромисс с VRAM или работает на 8Гб." - Вопрос: "Запускаю ComfyUI, модель svdq-int4-flux.1-dev, загрузка идёт по 10-15 минут. В логах:
Failed to load safetensors using method MIO: CUDA error: operation not supported. Это что? Как ускорить?"
Ответ: "Это баг загрузки quantized модели без поддержки xformers/xformers-attention.
Решение:
Проверь, что у тебя xformers в pip:
.\python_embeded\python.exe -m pip install xformers==0.0.29.post3
В батнике добавь:
set COMFYUI_USE_XFORMERS=True
Или включай --use-pytorch-cross-attention при запуске.
Еще лучше — возьми pre-quantized модель без int4, например обычный AGFlux_v3." - Вопрос: "Волна даже при 1.1 дает скорость почти не портя качество. А кто-нибудь пробовал FreeU с SDXL? Реально ускоряет или такой же буст как Clarity?"
Ответ: "Пробовал:
FreeU реально улучшает детали на старте генерации, особенно если комбинировать с CFG 4.5–6.0.
Сильно не ускоряет, но работает мягко.
Особенно хорош в Upscale-цепочках, если добавляешь Supir/Clarity после.
Резюме: не как Nunchaku, но FreeU делает картинку "чище" и мягче, особенно на слабых GPU." - Вопрос: "Нунчаки с fp4 портят динамику и детали. Я все лоры переверстал, все равно ломает лицо. Есть смысл дальше ковырять или переходить на Wave?"
Ответ: "Смотри:
Квантование (int4/fp4) сильно режет точность attention, особенно если используешь сложные стили или портреты.
Для "общих" задач типа ландшафт/скетч — ок.
Но если важны глаза, кожа, текст — бери FP8 или вообще full-float модели.
Лучше использовать Wave и настройку sampler-a и CFG, чем бороться с артефактами." - Вопрос: "Ноут с RTX 4080 на 12g VRAM, с охлаждающей подставкой. Второй день под Нунчаками греется как черт. Может настройки где убрать или в Nunchaku что-то не то?"
Ответ: "Проверь вот это:
Убери Hires.fix, если не нужен.
Используй Tile Sampler или Low RAM mode в Supir/Clarity.
Задержка бывает из-за квантизации на full resolution — попробуй генерить на 768x768, а потом апскейл.
И включи тайловую генерацию в самой схеме (если есть).
И да, Wave + тайловый Supir грузит в 2 раза меньше памяти, проверено." - Вопрос: "4060 Ti, 16 гиг оперативы, хочу на ней гонять SDXL через Нунчаки. Реально? Или всё равно лагать будет?"
Ответ: "Реально. Совет:
Генери в 1024x1024 максимум.
CFG <= 5.
Используй fp8 модели, не int4.
Обязательно set COMFYUI_USE_XFORMERS=True в батник и --fast при запуске.
Тайловый Supir или Clarity в конец цепочки, если реставрация нужна.
Работать будет, но быстро — только если убрать все лоры и не нагружать chain." - Вопрос: "svdq-int4-flux при старте грузится 10 минут. Уже пробовал разные сборки, xformers и т.д. Это вообще норм?"
Ответ: "Это int4 квантизированная модель — она при загрузке требует больше времени, особенно если не включен xformers.
Советы:
Проверь, что xformers и torch стоят в нужной версии.
Пропиши в запуске батника:
set COMFYUI_USE_XFORMERS=True
Попробуй другую модель — Flux fp8 или AGFlux v3, они грузятся за 30–40 сек."
- Вопрос: "Завтра буду разбирать комп, попробую вообще без оперативки запустить, не пищит. Видюха на месте, но Comfy с нунчаками не стартует, даже биос не грузит. Это что вообще — нунчаки убили систему? :)"
Ответ: "Ахаха, ну нет конечно.
Не Comfy виноват, а драйвера GPU — если нунчаки юзают фулл GPU и он зависает на стартовом этапе, то может быть эффект "черного экрана".
Проверь:
Переставь оперативку в другой слот.
Очисти кэш Comfy.
В крайнем случае — BIOS сбрось до дефолта, может watchdog не отпускает видеопоток." - Вопрос: "Сейчас нунчаки лоры автоматом конвертят или опять надо вручную танцы с бубном устраивать?"
Ответ: "Уже давно норм:
В ноде выбора модели можно добавить LoRA напрямую, никакие CFG и вставки не нужны.
Главное: лору пихать ту, которая совместима по версии с моделью.
На всякий случай — у большинства сборок есть авто-конвертер в ноде NunchakuModel." - Вопрос: "Поставил схему реставрации, Supir начинает хавать 12Гб, ноут захлёбывается. Есть вариант его задушить?"
Ответ: "Да. Внутри Supir:
Поставь галку "Enable tiled inference".
Задай шаг тайла tile size: 512 и overlap: 32.
Denoise до 0.2, не больше.
Это уменьшает загрузку GPU до ~6Гб. И результат будет ± тот же, просто чуть дольше просчёт." - Вопрос: "Распаковал архив, запускаю run_nvidia_gpu.bat — ComfyUI стартует, но узлы не качаются вообще, висят в бесконечности. Это из-за нунчак?"
Ответ: "Скорее всего, не Comfy завис, а браузерный кеш сломал интерфейс.
Советы:
Открой localhost через инкогнито.
Очисти ComfyUI/user/workflows/last.json — может он подгружает невалидную схему.
Проверь: нет ли requirements.txt в корне с ошибочными зависимостями.
В крайнем случае — поставь ComfyUI-Manager и качай узлы оттуда:
https://github.com/Comfy-Org/ComfyUI-Manager" - Вопрос: "SelfAttentionGuidance хотел поставить, долго грузилось, перезапустил — и всё, ComfyUI сломался. Это из-за ноды?"
Ответ: "Да, эта нода не работает в Forge, а в Nunchaku может конфликтовать с xformers.
Делай так:
Удали из ComfyUI/custom_nodes/SelfAttentionGuidance.
Проверь init.py — не остались ли левые импорты.
Запусти Comfy без батника, а напрямую через:
.\python_embeded\python.exe -s ComfyUI\main.py" - Вопрос: "Алексей, ты чем апскейлишь в нунчаках? У меня нода ControlNet Upscale часто слетает."
Ответ: "Я юзаю ControlNet-Tiled в связке с FreeU, но если не тянет:
Ставь Ultimate Upscale с тайлами 4x4 или 5x5.
Можно использовать Silvy — она поддерживает автоматическое масштабирование, без обрезания краёв.
Если хочется просто и стабильно — BetterUpScaler + Nunchaku в режиме fp8." - Вопрос: "С флакса не могу получить драматичность. Но с волной не хватает пластики. С FreeU тоже беда. Есть у кого комбо волна + фрию с результатом?"
Ответ: "Есть вариант:
Генеришь через Wave CFG 1.2 + T5.
Потом кидаешь в FreeU с strength=0.7, blend=0.6.
После — Clarity на denoise 0.1, он смягчает границы и вытягивает свет.
Плюс: можно скомбинировать с LoRA на "drama lighting" или кинематографический эффект. Тогда и мягкость и выразительность будут."
Установка и использование Triton и SageAttention- Вопрос: "Как сейчас правильно установить Triton?"
Ответ: Вы чего, тритон сейчас максимально просто ставится:
pip install triton-windows
Да, теперь все предельно просто.
Но только если у тебя Python 3.12, Torch 2.6 и CUDA 12.6, всё совпадает — тогда ставь одной командой.
👉 Инструкция от автора порта Triton для Windows: https://github.com/woct0rdho/triton-windows - Вопрос: "Нужна ли SageAttention вместе с Triton?"
Ответ: Установите сначала Triton, затем ставьте sage-attention, и в батнике запуска укажите:
--use-sage-attention
Не-а, SageAttention — это обёртка над тритоновским ускорением, сам по себе он не заведётся. Без тритона не имеет смысла ставить. - Вопрос: "Triton конфликтует с FlashAttention?"
Ответ: Говорят, что Sage пошустрее Flash, так что смысла ставить оба нет.
Выбери один, иначе возможны накладки в attention.py при импорте или смешанных флагах запуска. - Вопрос: "Как понять, нужен ли мне Triton, если всё уже на нужных версиях?"
Ответ: Если ты ничего не ставил вручную — Triton не встроен по умолчанию.
Даже если всё на нужных версиях, всё равно ставить нужно.
👉 https://github.com/woct0rdho/triton-windows
Проверь через pip list, что triton действительно есть. - Вопрос: "Как исправить ошибку SageAttention: No module named?"
Ответ:
— Ставил ли ты .whl-файл под свой torch и cuda?
— Обязательно ставь из корня, где лежит bat-файл и репа Comfy.
— Используй pip install path_to_whl с указанием пути.
— Иногда помогает запуск bat-файла с правами администратора. - Вопрос: "Можно ли использовать Triton и xformers одновременно?"
Ответ:
— Убедись, что torch 2.6.0 есть и ставится вручную (через .whl, не через pip).
— Потом ставишь xformers.
— И только потом — Triton.
Иначе — конфликт зависимостей. Всё расписано в readme: https://github.com/wan2gp/triton-flash-sage - Вопрос: "Ошибки запуска через Triton с KSampler"
Ответ:
Такое бывает, если:
— У тебя старая нода KSampler без поддержки Sage/Triton.
— Или установлен старый comfyui-k-diffusion.
Обнови k_diffusion в custom_nodes или выруби флаг --use-sage-attention для теста. - Вопрос: "Нужно ли ставить Visual Studio для Triton?"
Ответ: Только если ты сам компилируешь Triton из исходников.
Если просто ставишь через pip install triton-windows, то Visual Studio не требуется — всё уже собрано автором. - Вопрос: "Как включить SageAttention через батник?"
Ответ: В строку запуска (в bat-файле):
.\python_embeded\python.exe -s ComfyUI\main.py --use-sage-attention
Если используешь ещё Xformers, то можешь комбинировать:
--use-sage-attention --windows-standalone-build --fast - Вопрос: "Как использовать Triton для генерации видео?"
Ответ: У каждой генерации можно задать профили памяти (memory profiles) от 1 до 5:
1 — минимум VRAM, дольше считает.
5 — максимум памяти, максимум скорости.
Настраивается либо в скрипте (args.memory_profile = 3), либо через интерфейс Comfy (если есть GUI-обёртка).
- Вопрос: "Так у вас команда должна начинаться с python -m pip install. Это мне можно начинать сразу с pip install, но народ, чё по тритону-то? Установил вроде, но в UI Comfy ничего не изменилось, как понять — работает он или нет?"
Ответ: Если просто поставил тритон, то он ничего сам не включит, надо в батнике вот так дописать:
--use-sage-attention
Это если ставил ещё SageAttention. Он без тритона не работает, кстати. Проверить можно в логах при запуске Comfy — будет строчка [SageAttention enabled] или чё-то типо того.
Ссылка на .whl:
https://github.com/woct0rdho/triton-windows/releases - Вопрос: "Ребята, подскажите, пожалуйста. Я новичок, собрал билд на Py 3.12, Torch 2.6, CUDA 12.6. Поставил тритон через pip, но читал, что надо ещё и Visual Studio + SDK. Это обязательно вообще? Без неё всё собралось и запустилось..."
Ответ: Не, если ты ставишь готовое колесо, то VS тебе не надо.
Вот если будешь собирать Triton вручную — тогда да, нужна студия, SDK, и мозг 🧠
Но в твоём случае — ничего не трогай, если работает. Проверь через pip list, что triton установлен. - Вопрос: "Всё поставил по гайду Orex, Python 3.12, батник запускал. Но всё равно ошибка: No module named 'sageattention' Файл лежит рядом с Comfy. В чём прикол?"
Ответ: Ты .whl ставил вручную или через pip просто так?
Скачай нужный именно под свой torch+cuda:
https://github.com/woct0rdho/triton-windows/releases
Потом ставь из той же папки, где bat:
.\python_embeded\python.exe -m pip install путь_до_файла.whl
И не забудь прописать --use-sage-attention в батнике. - Вопрос: "Поставил Triton и SageAttention, вроде всё норм. Но хочу ещё и FlashAttention добить, типа на всякий случай. Вопрос — можно ли ставить оба, или один другому будет мешать?"
Ответ: Лучше один. Sage и Flash оба работают через перехват attention-механики, если оба активны — начнётся цирк.
Обычно юзают Sage, потому что он быстрее Flash.
Если прям хочешь поэкспериментировать — ставь, но в --attention-type пиши явно какой использовать. - Вопрос: "Я сейчас в сборке от Orex, и у меня там уже Python 3.12, Torch 2.6, CUDA 12.6. Надо ли мне вообще тритон ставить? Может он там уже встроен?"
Ответ: Нет, он не встроен. Это всё просто — окружение нужное есть, а сам тритон ты ставишь руками.
Команда:
pip install triton-windows
Потом батник меняешь:
--use-sage-attention
Всё, готово. Проверяй лог при запуске — если есть "SageAttention enabled" — значит пашет.
Ссылка ещё раз:
https://github.com/woct0rdho/triton-windows - Вопрос: "Хочу запускать через bat и чтоб тритон сработал. Как правильно это записать? У меня сейчас вот так: .\python_embeded\python.exe -s ComfyUI\main.py"
Ответ: Просто добавь к этому:
--use-sage-attention
Можно ещё:
--fast --windows-standalone-build
Если хочешь загрузку побыстрее. Главное — --use-sage-attention должен быть после main.py, а не до. - Вопрос: "Если я поставлю и тритон, и xformers, они как-то между собой конфликтуют? Хочу и то и другое, но чтоб не глючило."
Ответ: Если ставить через pip — не конфликтуют.
Но внимание: если включаешь оба, то в схемах могут быть ноды, которым не нравится каша в attention.
Лучше активируй один — например, тритон.
Если хочешь оба — включай явно нужный в параметрах запуска:
--use-sage-attention - Вопрос: "У меня при запуске с тритоном падает KSampler, раньше такого не было. Без тритона работает нормально. Комфи последняя, всё обновлено."
Ответ: KSampler может не дружить со старой нодой, если ты не обновлял k_diffusion.
Обнови ноды через ComfyUI-Manager.
Или просто отключи тритон и проверь, какая нода валится.
Иногда помогает откат Sage до более старой версии.
Комбинировать всё не всегда помогает — лучше минимум и стабильность. - Вопрос: "Народ, кто-нибудь пробовал запускать тритон в сборке WAN2.0 (там где всё вместе — Sage, Flash, Triton)? Где настраиваются профили памяти? Чёт у меня при memory_profile=3 жрёт в два раза больше, чем без тритона."
Ответ: Профили памяти в WAN задаются либо в UI (если есть), либо прямо в args:
args.memory_profile = 1 # до 5
1 — экономно, 5 — максималка.
Если при 3 жрёт много — значит ты на модели с высоким baseline.
Ссылка на сборку:
https://github.com/deepbeepmeep/Wan2GP - Вопрос: "Тритон вообще даёт какую-то реальную прибавку? Или просто модно, молодёжно, хайп?"
Ответ: Если у тебя GPU не древняя — даёт. Особенно с SDXL, Clarity и большими схемами.
Генерация идёт на 20–30% быстрее.
Но надо соблюсти все условия:
Torch 2.6
CUDA 12.6
Python 3.12
батник с --use-sage-attention
Если что-то не так — не сработает или даст глюки.
Вопросы и ответы по установке и использованию xformers- Вопрос: "Знает кто нибудь как узнать соответствующую версию xformers для своей сборки? Ставил вроде как положено, но что-то ошибок наловил. Есть ли вообще смысл от него?"
Ответ: xformers штука капризная.
Он должен точно совпадать с твоей версией Torch.
Например, xformers==0.0.29.post3 требует torch==2.6.0, и это важно.
Если не совпадёт — будет либо краш, либо не подгрузятся attention-ноды.
Смысл есть — особенно на SDXL или если с памятью туго. Генерации идут быстрее и стабильнее, но только при правильной установке. - Вопрос: "После очередного обновления Comfy (portable), начало ругаться на xformers. Хотя вроде раньше всё работало. Скрин ошибки выше. Как лечить?"
Ответ: Удалите xformers.
Скорее всего у тебя обновился Torch, а старая версия xformers не совместима.
Скачай совместимую версию вручную (обычно .whl), и поставь заново через pip. - Вопрос: "WARNING: пытаюсь установить Torch + CUDA 12.6, Python 3.10.6, хочу поставить xformers 0.0.29.post3 — в итоге конфликт зависимостей. Пишет, что не найдены совместимые версии, всё разваливается."
Ответ: Там надо всё подбирать в связке:
torch 2.6.0
xformers 0.0.29.post3
python 3.12
Если не всё совпадает — pip не найдёт нужное колесо. Лучше ставь вручную из архива или ищи .whl отсюда:
https://download.pytorch.org/whl/cu126/torch_stable.html - Вопрос: "Вся беда в комфи — ноды, которые не хотят переходить на свежие версии. Я потому и сижу на Torch 2.5.1 и xformers 0.0.28, всё работает и не глючит."
Ответ: Согласен. На стабильном старье спокойно тянет и SDXL, и лоры.
xformers 0.0.29 постфактум обновился, но толку ноль — проблемы одни и те же, а прирост мизерный. - Вопрос: "А без xformers оно просто медленнее работает, да? Или есть прям принципиальная разница?"
Ответ: Да. Без него:
больше VRAM уходит,
attention в torch работает медленно,
на слабых GPU вообще может лагать. Так что если хочешь комфорт — ставь. Только смотри, чтобы не была сломанная версия. - Вопрос: "Технари давным-давно придумали всякие flash attention, sage attention, оптимизировали PyTorch, но xformers — это святое 😁"
Ответ: Некоторые ноды вообще только с ним и работают. Особенно на старых сборках, где torch ещё 2.5.1. Так что да — вещь полезная. Но надо понимать, в какой момент его использовать, а не пихать везде слепо. - Вопрос: "У меня сейчас всё работает, но с React-нодами и OpenPose проблемы. Думаю, может, из-за xformers? Он точно нужен, или его можно снести?"
Ответ: Смотри, некоторые ноды обязаны иметь xformers в зависимостях, и удалить ты его не сможешь, не сломав цепочку.
Но! Он может тянуть за собой torch 2.6.0, а это может быть несовместимо с другими нодами.
Если хочешь стабильности — заморозь зависимости и ставь руками, без менеджеров. - Вопрос: "Если comfy стала глючить после обновления — удали существующий xformers и поставь совместимый с твоим новым torch."
Ответ: Многие забывают — он тянет за собой свою версию, не всегда совместимую. Проверь, что версия совпадает до патча! - Вопрос: "Интересно, костюмы делает похожими... Я быстро накинула генерацию без правок, со своей LoRA. xformers вроде бы стоит, но не вижу разницы в скорости. Это вообще влияет?"
Ответ: Влияет, но только если у тебя включён флаг использования xformers.
Если запускаешь без него — он просто не задействуется.
Проверь в батнике:
set COMFYUI_USE_XFORMERS=True
Или перед запуском через консоль экспортни переменную. - Вопрос: "Такое ощущение, что у вас xformers не установлен. Или повреждён. Проверь:"
Ответ: pip show xformers
Если не находит — ставь из гитхаба или по версии отсюда:
https://github.com/facebookresearch/xformers
Только убедись, что версии совпадают с torch.
Практические вопросы по установке и использованию xformers- Вопрос: "Кто ставил xformers на Windows? У меня при установке через pip вываливается ошибка с компиляцией. Там что, руками собирать надо?"
Ответ: Слушай, если у тебя нет опыта с компилятором — не мучайся, ставь готовое колесо.
Ищи .whl подходящий под твою связку (torch + python + cuda) на этом ресурсе:
https://download.pytorch.org/whl/cu126
Потом:
pip install путь_до_файла.whl
pip install xformers==0.0.29.post3
Главное — сначала torch, потом xformers, и всё в одной CUDA. - Вопрос: "Если использовать xformers, то нужно ли добавлять какой-то флаг в запуск Comfy? Или оно само определяет?"
Ответ: Сам не включается.
Добавляй в батник:
set COMFYUI_USE_XFORMERS=True
Или прямо в команду запуска добавь:
--use-xformers
Без этого он лежит мёртвым грузом и просто занимает место. - Вопрос: "У меня SDXL работает, но жрет VRAM по 11 гигов. Это нормально? Есть ли смысл ставить xformers?"
Ответ: xformers как раз нужен для таких случаев.
Он режет VRAM примерно на 1–1.5 ГБ в сложных схемах.
На больших моделях (типа SDXL, LoRA + ControlNet) очень помогает.
Только ставь подходящий, иначе будешь лечить потом менеджер зависимостей полдня. - Вопрос: "Такой вопрос — можно ли использовать одновременно xformers и Wave? Или будут мешать друг другу?"
Ответ: Можно, мешать не будут.
Wave — это модель и лейер-конфиг, xformers — ускоритель attention.
Работают на разных уровнях.
Но если хочешь стабильности — запускай на --fast и --use-xformers, тогда всё будет ок. - Вопрос: "Ставлю Flux, лора, всё летит. Но если отключаю xformers, начинает всё тормозить. Можно как-то проверить точно, что он работает?"
Ответ: Проверь через лог Comfy при запуске — должна быть строка:
Using xformers for attention
Если нет — не активен.
Или поставь переменную окружения в батник:
set COMFYUI_USE_XFORMERS=True
И перезапусти, тогда точно подхватит. - Вопрос: "Поставил сборку от Orex, всё работает, но при попытке установить xformers через pip install xformers — падает с ошибкой. Там какие-то "torch_cuda_extensions" не найдены."
Ответ: Это потому что pip лезет в source-сборку, а у тебя нет компилятора.
Решение:
Скачай torch и xformers в .whl с нужной CUDA.
Установи их вручную:
pip install torch.whl
pip install xformers.whl
Или просто найди релиз под твою систему тут:
https://github.com/facebookresearch/xformers/releases - Вопрос: "Подскажите — можно ли использовать xformers вместе с Triton? Или они работают на одном и том же?"
Ответ: Они оба делают ускорение attention, но по-разному.
xformers — классика, поддерживается почти везде.
Triton + SageAttention — новее, быстрее, но глючнее.
Одновременно не рекомендую. Выбирай что-то одно и прописывай явно. - Вопрос: "На одном ПК xformers работает нормально, на другом — нет. Один с i5, другой с i9, параметры те же. Почему на мощном — тормозит?"
Ответ: Не в процессоре дело, а в драйверах CUDA.
Если xformers не видит GPU или старые драйвера, он откатывается на CPU.
Проверь:
Версию драйвера NVIDIA
Что CUDA 12.6 в системе
Torch действительно на GPU
Тогда xformers заработает как надо. - Вопрос: "У меня SDXL+LoRA+Supir+Clarity, и на всём этом при включённом xformers оно таки тянет на 8Гб. Без него — тротлит и падает. Так что да, must have."
Ответ: Поддерживаю. Без xformers на 8Гб делать нечего.
Особенно если используешь тайловые апскейлеры или реставрацию фото.
Это первое, что надо ставить после Comfy. - Вопрос: "Можно ли отключить xformers выборочно? Типа только для одной схемы? А для остальных оставить?"
Ответ: Нет, к сожалению, глобально включается.
Но можно делать два bat-файла:
один с --use-xformers,
другой без.
И запускать нужный в зависимости от проекта.
Дополнительные вопросы по xformers: установка, активация, производительность- Вопрос: "если у меня стоит torch 2.5.1, а хочется xformers 0.0.29.post3 — оно заведётся? Или обязательно обновлять торч до 2.6.0?"
Ответ: Не заведётся.
0.0.29.post3 требует только torch 2.6.0, и никакие пляски не помогут.
Если хочешь остаться на 2.5.1 — ставь xformers==0.0.28.
Иначе будет либо ImportError, либо при запуске Comfy ничего не подключится. - Вопрос: "А есть какой-то вариант, где xformers уже встроен в сборку Comfy? Чтобы руками не танцевать?"
Ответ: Да, есть несколько:
сборка от Orex
Comfy-StableDif с Boosty
Но даже если "встроен", всё равно надо проверять, что:
xformers в pip list
torch нужной версии
в bat есть --use-xformers или переменная окружения - Вопрос: "Подскажите, кто делал сравнение по скорости с и без xformers? Есть вообще смысл заморачиваться на RTX 3060?"
Ответ: На 3060 — смысл есть.
SDXL (1024x1024, 50 steps):
Без xformers — 1 картинка за ~50 сек
С xformers — 1 картинка за ~35 сек
Плюс памяти кушает меньше, иногда это критично.
Так что ставь, не думай. - Вопрос: "Установил xformers, но теперь в логах при запуске пишет "fallback to pytorch attention". Он типа не работает?"
Ответ: Именно.
Это значит, что xformers установлен, но не активирован.
Добавь в bat:
set COMFYUI_USE_XFORMERS=True
Или запусти Comfy через:
--use-xformers
Тогда заработает. - Вопрос: "Ставил всё по гайду: Python 3.12, torch 2.6.0, xformers 0.0.29.post3, всё совпадает. Но при генерации падает с ошибкой в attention. Что смотреть?"
Ответ: Проверь:
Установлен ли xformers через pip list
Есть ли конфликт нод (иногда старые лоры ссылаются на нестандартные ноды attention)
Самый частый баг — не обновлённый k_diffusion или efficiency-nodes.
Обнови кастомные ноды и попробуй снова.
Если всё равно падает — удали и поставь xformers заново из .whl. - Вопрос: "Я просто не понял — а xformers только на CUDA работает? Или можно на CPU без GPU?"
Ответ: Только CUDA.
Он работает внутри PyTorch, используя attention-ускорение на GPU.
На CPU будет просто игнорироваться и всё уйдёт в обычный torch-attn.
Без GPU даже смысла нет ставить. - Вопрос: "Я правильно понял: xformers это по сути просто альтернатива torch-native attention? Он не влияет на стили, цвета, саму генерацию?"
Ответ: В точку.
xformers — чисто оптимизация на уровне attention.
Он не меняет итог, просто делает всё быстрее и дешевле по VRAM.
Никакой магии, просто улучшенный способ считать self-attention. - Вопрос: "Маленький эксперимент: отключил xformers, сгенерил. Включил — с теми же настройками, результат другой. Это баг?"
Ответ: Если рандом фиксирован (одинаковый seed), результат должен быть одинаковый.
Но если seed случайный — могут быть расхождения.
xformers немного по-другому интерпретирует матрицы, но визуально отличия минимальны. - Вопрос: "Можно ли на Mac с M1 использовать xformers? Пишет, что не найден модуль, даже если вроде всё стоит."
Ответ: На M1 и вообще на Mac — официальной поддержки xformers нет.
Может быть только если сам соберёшь с Metal backend, но это отдельный цирк.
Рекомендация — не трогай xformers, а включи --use-pytorch-cross-attention, он работает стабильно и на Mac. - Вопрос: "Товарищи, кто гонял SDXL + Supir + Clarity на 8Гб с xformers? Есть ли шанс, или только страдания?"
Ответ: На 8Гб с xformers — шанс есть.
Без него — нет.
Только тайловая генерация, низкий CFG и шаги 20–30.
И не забудь:
Enable tiled inference: ON
Overlap: 32
Tile size: 512
Тогда даже SDXL со всеми приблудами пойдет.
- Вопрос: "а чем это нунчаку от квадробера отличается? их как то обновили? раньше они и назывались как модель, не нунчаку... и лоры для них свои надо было переверстывать? чего я пропустил?"
Ответ: всё верно. SVDQuant. Модели.
Wave — это не отдельная нода, это типа блок в самой модели.
если модель типа AGFlux, то Wave уже внутри.
на лору не влияет, просто ускоряет генерацию и немного мылит если переборщить.
обычно ставят WaveStrength = 1.2
тут хорошая инструкция и сами модели:
https://civitai.com/models/134866 - Вопрос: "Вот смысл этих 'нунчак'? Картинку также портит как волна, даже хуже. Скорость на волне у меня выше. Волна понимает любую модель, лору, контролнет и т.д. Ничего конвертить не нужно."
Ответ: волна даже при 1.1 даёт скорость практически не портя качество.
так-то все привыкли гонять её на 1.2–1.5
если лицо ломает — снижай до 1.1, а если фон мутный — ставь 1.3
и да, удобство — главное.
никаких костылей, всё работает из коробки. - Вопрос: "от волны никаких волнений"
Ответ: с моими 8Гб VRAM волна вообще спасение
на ней и Clarity, и Supir идут, и даже с двумя ControlNet
главное — ставь тайловую генерацию и не жадничай с LoRA
и WaveStrength 1.2, не больше - Вопрос: "а мне понравилось как она с промтом работает... я же приводил примеры голого Флакса и голого Квадробера... я работаю с сюжетами Тёмного фентези... и на флаксе не мог нормально с промта получить драматичный результат"
Ответ: так просто T5 квадро немного другой.
если использовать стандартный — то разницы особо не будет.
а вот если с Wave — промт ложится лучше, особенно на сильных эмоциях.
чтобы драму вытащить — ставь WaveStrength 1.3, и обязательно LoRA на lighting. - Вопрос: "На волне 1.2 у меня скорость почти в 4 раза! быстрее на 50 шагов чем без волны. И это с учётом devfp16! и t5fp16! на моём древнем железе."
Ответ: подтверждаю. у меня на 4070 волна даёт +40% к скорости.
раньше было 65 секунд на 1к, сейчас — 38
и без потерь по деталям.
только аккуратно с лорами на лицо, там иногда деформация
в этом случае FreeU спасает - Вопрос: "да у меня уже больше недели как стоит... ))) я всё восторгался её скоростью"
Ответ: теперь LoRA автоматом конвертится прямо из ноды
можно кидать любые
а если картинка чуть плывёт — добавь FreeU после Wave
всё будет идеально - Вопрос: "Да, вон снеговики постом выше сейчас на хайпе"
Ответ: Снеговики уже уходящее :)
Весна идёт!
Думаю, что скоро вновь виртуальные переодевалки в тренд войдут :)
особенно с FreeU и Wave — можно быстро подогнать под любой стиль - Вопрос: "я работаю с сюжетами тёмного фентези... и на флаксе не мог нормально с промта получить драматичный результат"
Ответ: в таких случаях как раз хорошо работает связка:
AGFlux + WaveStrength 1.3 + FreeU (b1:1.2 b2:1.3 s1:0.9 s2:1.0)
фон не умирает, а лица мягкие и не пластиковые
если есть Clarity — ставь после FreeU, будет сочная глубина - Вопрос: "Расстроился, да не то слово, я неделю, неделю бился, пытался эти колёса, нунчаки, поставить. Вчера подписался ради этого на Boosty, поставил сборку ComfyUI от Олега, поставил нунчаки от Олега, а в результате такое разочарование, снёс всё и по-прежнему гоняю волну."
Ответ: лучше стабильная волна чем нестабильный нунчак
если не хочется морочиться с установкой — бери AGFlux и всё
там и Wave, и скорость, и результат на уровне - Вопрос: "Вот смысл этих 'нунчак'? Картинку также портит как волна, даже хуже. Скорость на волне у меня выше. Волна понимает любую модель, лору, контролнет и т.д. Ничего конвертить не нужно."
Ответ: согласен. портит больше чем волна.
скорость у меня сопоставимая с волной.
поставил потому, что мог :)
но чувствую, что скоро сотру :)