настройка и ускорение генерации через Nunchaku, Triton, xformers, FreeU, Wave

[Master_Yoda]

• Вопрос: "Установил Комфи, скачал нунчаки колесо отсюда: nunchaku-0.2.0+torch2.6-cp312-win_amd64.whl — Python 3.12, Torch 2.6, но при установке в консоли выдает ошибку «metadata is invalid». Кто знает, в чем прикол?"
  Ответ: "Бро, ты вкорячил колесо в неподходящую версию — тебе нужно: 
  Убедиться, что у тебя точно Torch 2.6 и Python 3.12 в сборке. 
  Если да — запускай из корня Комфи вот так:
  
  .\python_embeded\python.exe -m pip install nunchaku-0.2.0+torch2.6-cp312-win_amd64.whl
  
  Если ошибка не исчезает — удали старую ноду из custom_nodes и из site-packages, может конфликтовать. 
  Альтернатива: собрать самому с исходников или попробовать nightly build."
• Вопрос: "Вот смысл этих "нунчак"? Картинку также портит как волна, даже хуже. Скорость на волне у меня выше. Волна понимает любую модель, лору, контролнет и т.д. Ничего конвертить не нужно. Почему народ с ними возится?"
  Ответ: "Смотри, вся фишка в том, что: 
  Wave — стабильный, быстрый, с понятным CFG и мульти-LORA без костылей. 
  Nunchaku — экспериментальный, подгружает квантизированные модели, но багов у него пока больше. 
  Если тебе нужна стабильная генерация на LoRA и SDXL — бери Wave. 
  Nunchaku хорош для тех, кто тестит SVDQ, ищет компромисс с VRAM или работает на 8Гб."
• Вопрос: "Запускаю ComfyUI, модель svdq-int4-flux.1-dev, загрузка идёт по 10-15 минут. В логах: 
  Failed to load safetensors using method MIO: CUDA error: operation not supported. Это что? Как ускорить?"
  Ответ: "Это баг загрузки quantized модели без поддержки xformers/xformers-attention. 
  Решение: 
  Проверь, что у тебя xformers в pip: 
  
  .\python_embeded\python.exe -m pip install xformers==0.0.29.post3
  
  В батнике добавь: 
  set COMFYUI_USE_XFORMERS=True 
  Или включай --use-pytorch-cross-attention при запуске. 
  Еще лучше — возьми pre-quantized модель без int4, например обычный AGFlux_v3."
• Вопрос: "Волна даже при 1.1 дает скорость почти не портя качество. А кто-нибудь пробовал FreeU с SDXL? Реально ускоряет или такой же буст как Clarity?"
  Ответ: "Пробовал: 
  FreeU реально улучшает детали на старте генерации, особенно если комбинировать с CFG 4.5–6.0. 
  Сильно не ускоряет, но работает мягко. 
  Особенно хорош в Upscale-цепочках, если добавляешь Supir/Clarity после. 
  Резюме: не как Nunchaku, но FreeU делает картинку "чище" и мягче, особенно на слабых GPU."
• Вопрос: "Нунчаки с fp4 портят динамику и детали. Я все лоры переверстал, все равно ломает лицо. Есть смысл дальше ковырять или переходить на Wave?"
  Ответ: "Смотри: 
  Квантование (int4/fp4) сильно режет точность attention, особенно если используешь сложные стили или портреты. 
  Для "общих" задач типа ландшафт/скетч — ок. 
  Но если важны глаза, кожа, текст — бери FP8 или вообще full-float модели. 
  Лучше использовать Wave и настройку sampler-a и CFG, чем бороться с артефактами."
• Вопрос: "Ноут с RTX 4080 на 12g VRAM, с охлаждающей подставкой. Второй день под Нунчаками греется как черт. Может настройки где убрать или в Nunchaku что-то не то?"
  Ответ: "Проверь вот это: 
  Убери Hires.fix, если не нужен. 
  Используй Tile Sampler или Low RAM mode в Supir/Clarity. 
  Задержка бывает из-за квантизации на full resolution — попробуй генерить на 768x768, а потом апскейл. 
  И включи тайловую генерацию в самой схеме (если есть). 
  И да, Wave + тайловый Supir грузит в 2 раза меньше памяти, проверено."
• Вопрос: "4060 Ti, 16 гиг оперативы, хочу на ней гонять SDXL через Нунчаки. Реально? Или всё равно лагать будет?"
  Ответ: "Реально. Совет: 
  Генери в 1024x1024 максимум. 
  CFG <= 5. 
  Используй fp8 модели, не int4. 
  Обязательно set COMFYUI_USE_XFORMERS=True в батник и --fast при запуске. 
  Тайловый Supir или Clarity в конец цепочки, если реставрация нужна. 
  Работать будет, но быстро — только если убрать все лоры и не нагружать chain."
• Вопрос: "svdq-int4-flux при старте грузится 10 минут. Уже пробовал разные сборки, xformers и т.д. Это вообще норм?"
  Ответ: "Это int4 квантизированная модель — она при загрузке требует больше времени, особенно если не включен xformers. 
  Советы: 
  Проверь, что xformers и torch стоят в нужной версии. 
  Пропиши в запуске батника:
  
  set COMFYUI_USE_XFORMERS=True
  
  Попробуй другую модель — Flux fp8 или AGFlux v3, они грузятся за 30–40 сек."

[Master_Yoda]

• Вопрос: "Завтра буду разбирать комп, попробую вообще без оперативки запустить, не пищит. Видюха на месте, но Comfy с нунчаками не стартует, даже биос не грузит. Это что вообще — нунчаки убили систему? "
  Ответ: "Ахаха, ну нет конечно. 
  Не Comfy виноват, а драйвера GPU — если нунчаки юзают фулл GPU и он зависает на стартовом этапе, то может быть эффект "черного экрана". 
  Проверь: 
  Переставь оперативку в другой слот. 
  Очисти кэш Comfy. 
  В крайнем случае — BIOS сбрось до дефолта, может watchdog не отпускает видеопоток."
• Вопрос: "Сейчас нунчаки лоры автоматом конвертят или опять надо вручную танцы с бубном устраивать?"
  Ответ: "Уже давно норм: 
  В ноде выбора модели можно добавить LoRA напрямую, никакие CFG и вставки не нужны. 
  Главное: лору пихать ту, которая совместима по версии с моделью. 
  На всякий случай — у большинства сборок есть авто-конвертер в ноде NunchakuModel."
• Вопрос: "Поставил схему реставрации, Supir начинает хавать 12Гб, ноут захлёбывается. Есть вариант его задушить?"
  Ответ: "Да. Внутри Supir: 
  Поставь галку "Enable tiled inference". 
  Задай шаг тайла tile size: 512 и overlap: 32. 
  Denoise до 0.2, не больше. 
  Это уменьшает загрузку GPU до ~6Гб. И результат будет ± тот же, просто чуть дольше просчёт."
• Вопрос: "Распаковал архив, запускаю run_nvidia_gpu.bat — ComfyUI стартует, но узлы не качаются вообще, висят в бесконечности. Это из-за нунчак?"
  Ответ: "Скорее всего, не Comfy завис, а браузерный кеш сломал интерфейс. 
  Советы: 
  Открой localhost через инкогнито. 
  Очисти ComfyUI/user/workflows/last.json — может он подгружает невалидную схему. 
  Проверь: нет ли requirements.txt в корне с ошибочными зависимостями. 
  В крайнем случае — поставь ComfyUI-Manager и качай узлы оттуда: 
  https://github.com/Comfy-Org/ComfyUI-Manager"
• Вопрос: "SelfAttentionGuidance хотел поставить, долго грузилось, перезапустил — и всё, ComfyUI сломался. Это из-за ноды?"
  Ответ: "Да, эта нода не работает в Forge, а в Nunchaku может конфликтовать с xformers. 
  Делай так: 
  Удали из ComfyUI/custom_nodes/SelfAttentionGuidance. 
  Проверь init.py — не остались ли левые импорты. 
  Запусти Comfy без батника, а напрямую через:
  
  .\python_embeded\python.exe -s ComfyUI\main.py"
• Вопрос: "Алексей, ты чем апскейлишь в нунчаках? У меня нода ControlNet Upscale часто слетает."
  Ответ: "Я юзаю ControlNet-Tiled в связке с FreeU, но если не тянет: 
  Ставь Ultimate Upscale с тайлами 4x4 или 5x5. 
  Можно использовать Silvy — она поддерживает автоматическое масштабирование, без обрезания краёв. 
  Если хочется просто и стабильно — BetterUpScaler + Nunchaku в режиме fp8."
• Вопрос: "С флакса не могу получить драматичность. Но с волной не хватает пластики. С FreeU тоже беда. Есть у кого комбо волна + фрию с результатом?"
  Ответ: "Есть вариант: 
  Генеришь через Wave CFG 1.2 + T5. 
  Потом кидаешь в FreeU с strength=0.7, blend=0.6. 
  После — Clarity на denoise 0.1, он смягчает границы и вытягивает свет. 
  Плюс: можно скомбинировать с LoRA на "drama lighting" или кинематографический эффект. Тогда и мягкость и выразительность будут."

[Master_Yoda]

Установка и использование Triton и SageAttention

• Вопрос: "Как сейчас правильно установить Triton?"
  Ответ: Вы чего, тритон сейчас максимально просто ставится:
  pip install triton-windows
  Да, теперь все предельно просто.
  Но только если у тебя Python 3.12, Torch 2.6 и CUDA 12.6, всё совпадает — тогда ставь одной командой.
  👉 Инструкция от автора порта Triton для Windows: https://github.com/woct0rdho/triton-windows
• Вопрос: "Нужна ли SageAttention вместе с Triton?"
  Ответ: Установите сначала Triton, затем ставьте sage-attention, и в батнике запуска укажите:
  --use-sage-attention
  Не-а, SageAttention — это обёртка над тритоновским ускорением, сам по себе он не заведётся. Без тритона не имеет смысла ставить.
• Вопрос: "Triton конфликтует с FlashAttention?"
  Ответ: Говорят, что Sage пошустрее Flash, так что смысла ставить оба нет.
  Выбери один, иначе возможны накладки в attention.py при импорте или смешанных флагах запуска.
• Вопрос: "Как понять, нужен ли мне Triton, если всё уже на нужных версиях?"
  Ответ: Если ты ничего не ставил вручную — Triton не встроен по умолчанию.
  Даже если всё на нужных версиях, всё равно ставить нужно.
  👉 https://github.com/woct0rdho/triton-windows
  Проверь через pip list, что triton действительно есть.
• Вопрос: "Как исправить ошибку SageAttention: No module named?"
  Ответ:
  — Ставил ли ты .whl-файл под свой torch и cuda?
  — Обязательно ставь из корня, где лежит bat-файл и репа Comfy.
  — Используй pip install path_to_whl с указанием пути.
  — Иногда помогает запуск bat-файла с правами администратора.
• Вопрос: "Можно ли использовать Triton и xformers одновременно?"
  Ответ:
  — Убедись, что torch 2.6.0 есть и ставится вручную (через .whl, не через pip).
  — Потом ставишь xformers.
  — И только потом — Triton.
  Иначе — конфликт зависимостей. Всё расписано в readme: https://github.com/wan2gp/triton-flash-sage
• Вопрос: "Ошибки запуска через Triton с KSampler"
  Ответ:
  Такое бывает, если:
  — У тебя старая нода KSampler без поддержки Sage/Triton.
  — Или установлен старый comfyui-k-diffusion.
  Обнови k_diffusion в custom_nodes или выруби флаг --use-sage-attention для теста.
• Вопрос: "Нужно ли ставить Visual Studio для Triton?"
  Ответ: Только если ты сам компилируешь Triton из исходников.
  Если просто ставишь через pip install triton-windows, то Visual Studio не требуется — всё уже собрано автором.
• Вопрос: "Как включить SageAttention через батник?"
  Ответ: В строку запуска (в bat-файле):
  .\python_embeded\python.exe -s ComfyUI\main.py --use-sage-attention
  Если используешь ещё Xformers, то можешь комбинировать:
  --use-sage-attention --windows-standalone-build --fast
• Вопрос: "Как использовать Triton для генерации видео?"
  Ответ: У каждой генерации можно задать профили памяти (memory profiles) от 1 до 5:
  1 — минимум VRAM, дольше считает.
  5 — максимум памяти, максимум скорости.
  Настраивается либо в скрипте (args.memory_profile = 3), либо через интерфейс Comfy (если есть GUI-обёртка).

[Master_Yoda]

• Вопрос: "Так у вас команда должна начинаться с python -m pip install. Это мне можно начинать сразу с pip install, но народ, чё по тритону-то? Установил вроде, но в UI Comfy ничего не изменилось, как понять — работает он или нет?"
  Ответ: Если просто поставил тритон, то он ничего сам не включит, надо в батнике вот так дописать:
  
  --use-sage-attention
  Это если ставил ещё SageAttention. Он без тритона не работает, кстати. Проверить можно в логах при запуске Comfy — будет строчка [SageAttention enabled] или чё-то типо того.
  
  Ссылка на .whl:
  https://github.com/woct0rdho/triton-windows/releases
• Вопрос: "Ребята, подскажите, пожалуйста. Я новичок, собрал билд на Py 3.12, Torch 2.6, CUDA 12.6. Поставил тритон через pip, но читал, что надо ещё и Visual Studio + SDK. Это обязательно вообще? Без неё всё собралось и запустилось..."
  Ответ: Не, если ты ставишь готовое колесо, то VS тебе не надо.
  Вот если будешь собирать Triton вручную — тогда да, нужна студия, SDK, и мозг 🧠
  Но в твоём случае — ничего не трогай, если работает. Проверь через pip list, что triton установлен.
• Вопрос: "Всё поставил по гайду Orex, Python 3.12, батник запускал. Но всё равно ошибка: No module named 'sageattention' Файл лежит рядом с Comfy. В чём прикол?"
  Ответ: Ты .whl ставил вручную или через pip просто так?
  Скачай нужный именно под свой torch+cuda:
  https://github.com/woct0rdho/triton-windows/releases
  Потом ставь из той же папки, где bat:
  
  .\python_embeded\python.exe -m pip install путь_до_файла.whl
  И не забудь прописать --use-sage-attention в батнике.
• Вопрос: "Поставил Triton и SageAttention, вроде всё норм. Но хочу ещё и FlashAttention добить, типа на всякий случай. Вопрос — можно ли ставить оба, или один другому будет мешать?"
  Ответ: Лучше один. Sage и Flash оба работают через перехват attention-механики, если оба активны — начнётся цирк.
  Обычно юзают Sage, потому что он быстрее Flash.
  Если прям хочешь поэкспериментировать — ставь, но в --attention-type пиши явно какой использовать.
• Вопрос: "Я сейчас в сборке от Orex, и у меня там уже Python 3.12, Torch 2.6, CUDA 12.6. Надо ли мне вообще тритон ставить? Может он там уже встроен?"
  Ответ: Нет, он не встроен. Это всё просто — окружение нужное есть, а сам тритон ты ставишь руками.
  Команда:
  
  pip install triton-windows
  Потом батник меняешь:
  
  --use-sage-attention
  Всё, готово. Проверяй лог при запуске — если есть "SageAttention enabled" — значит пашет.
  Ссылка ещё раз:
  https://github.com/woct0rdho/triton-windows
• Вопрос: "Хочу запускать через bat и чтоб тритон сработал. Как правильно это записать? У меня сейчас вот так: .\python_embeded\python.exe -s ComfyUI\main.py"
  Ответ: Просто добавь к этому:
  
  --use-sage-attention
  Можно ещё:
  
  --fast --windows-standalone-build
  Если хочешь загрузку побыстрее. Главное — --use-sage-attention должен быть после main.py, а не до.
• Вопрос: "Если я поставлю и тритон, и xformers, они как-то между собой конфликтуют? Хочу и то и другое, но чтоб не глючило."
  Ответ: Если ставить через pip — не конфликтуют.
  Но внимание: если включаешь оба, то в схемах могут быть ноды, которым не нравится каша в attention.
  Лучше активируй один — например, тритон.
  Если хочешь оба — включай явно нужный в параметрах запуска:
  
  --use-sage-attention
• Вопрос: "У меня при запуске с тритоном падает KSampler, раньше такого не было. Без тритона работает нормально. Комфи последняя, всё обновлено."
  Ответ: KSampler может не дружить со старой нодой, если ты не обновлял k_diffusion.
  
  Обнови ноды через ComfyUI-Manager.
  
  Или просто отключи тритон и проверь, какая нода валится.
  
  Иногда помогает откат Sage до более старой версии.
  Комбинировать всё не всегда помогает — лучше минимум и стабильность.
• Вопрос: "Народ, кто-нибудь пробовал запускать тритон в сборке WAN2.0 (там где всё вместе — Sage, Flash, Triton)? Где настраиваются профили памяти? Чёт у меня при memory_profile=3 жрёт в два раза больше, чем без тритона."
  Ответ: Профили памяти в WAN задаются либо в UI (если есть), либо прямо в args:
  
  args.memory_profile = 1  # до 5
  1 — экономно, 5 — максималка.
  Если при 3 жрёт много — значит ты на модели с высоким baseline.
  Ссылка на сборку:
  https://github.com/deepbeepmeep/Wan2GP
• Вопрос: "Тритон вообще даёт какую-то реальную прибавку? Или просто модно, молодёжно, хайп?"
  Ответ: Если у тебя GPU не древняя — даёт. Особенно с SDXL, Clarity и большими схемами.
  Генерация идёт на 20–30% быстрее.
  Но надо соблюсти все условия:
  
  Torch 2.6
  
  CUDA 12.6
  
  Python 3.12
  
  батник с --use-sage-attention
  Если что-то не так — не сработает или даст глюки.

[Master_Yoda]

Вопросы и ответы по установке и использованию xformers

• Вопрос: "Знает кто нибудь как узнать соответствующую версию xformers для своей сборки? Ставил вроде как положено, но что-то ошибок наловил. Есть ли вообще смысл от него?"
  Ответ: xformers штука капризная.
  
  Он должен точно совпадать с твоей версией Torch.
  
  Например, xformers==0.0.29.post3 требует torch==2.6.0, и это важно.
  
  Если не совпадёт — будет либо краш, либо не подгрузятся attention-ноды.
  Смысл есть — особенно на SDXL или если с памятью туго. Генерации идут быстрее и стабильнее, но только при правильной установке.
• Вопрос: "После очередного обновления Comfy (portable), начало ругаться на xformers. Хотя вроде раньше всё работало. Скрин ошибки выше. Как лечить?"
  Ответ: Удалите xformers.
  Скорее всего у тебя обновился Torch, а старая версия xformers не совместима.
  Скачай совместимую версию вручную (обычно .whl), и поставь заново через pip.
• Вопрос: "WARNING: пытаюсь установить Torch + CUDA 12.6, Python 3.10.6, хочу поставить xformers 0.0.29.post3 — в итоге конфликт зависимостей. Пишет, что не найдены совместимые версии, всё разваливается."
  Ответ: Там надо всё подбирать в связке:
  
  torch 2.6.0
  
  xformers 0.0.29.post3
  
  python 3.12
  Если не всё совпадает — pip не найдёт нужное колесо. Лучше ставь вручную из архива или ищи .whl отсюда:
  https://download.pytorch.org/whl/cu126/torch_stable.html
• Вопрос: "Вся беда в комфи — ноды, которые не хотят переходить на свежие версии. Я потому и сижу на Torch 2.5.1 и xformers 0.0.28, всё работает и не глючит."
  Ответ: Согласен. На стабильном старье спокойно тянет и SDXL, и лоры.
  xformers 0.0.29 постфактум обновился, но толку ноль — проблемы одни и те же, а прирост мизерный.
• Вопрос: "А без xformers оно просто медленнее работает, да? Или есть прям принципиальная разница?"
  Ответ: Да. Без него:
  
  больше VRAM уходит,
  
  attention в torch работает медленно,
  
  на слабых GPU вообще может лагать. Так что если хочешь комфорт — ставь. Только смотри, чтобы не была сломанная версия.
• Вопрос: "Технари давным-давно придумали всякие flash attention, sage attention, оптимизировали PyTorch, но xformers — это святое 😁"
  Ответ: Некоторые ноды вообще только с ним и работают. Особенно на старых сборках, где torch ещё 2.5.1. Так что да — вещь полезная. Но надо понимать, в какой момент его использовать, а не пихать везде слепо.
• Вопрос: "У меня сейчас всё работает, но с React-нодами и OpenPose проблемы. Думаю, может, из-за xformers? Он точно нужен, или его можно снести?"
  Ответ: Смотри, некоторые ноды обязаны иметь xformers в зависимостях, и удалить ты его не сможешь, не сломав цепочку.
  Но! Он может тянуть за собой torch 2.6.0, а это может быть несовместимо с другими нодами.
  Если хочешь стабильности — заморозь зависимости и ставь руками, без менеджеров.
• Вопрос: "Если comfy стала глючить после обновления — удали существующий xformers и поставь совместимый с твоим новым torch."
  Ответ: Многие забывают — он тянет за собой свою версию, не всегда совместимую. Проверь, что версия совпадает до патча!
• Вопрос: "Интересно, костюмы делает похожими... Я быстро накинула генерацию без правок, со своей LoRA. xformers вроде бы стоит, но не вижу разницы в скорости. Это вообще влияет?"
  Ответ: Влияет, но только если у тебя включён флаг использования xformers.
  Если запускаешь без него — он просто не задействуется.
  Проверь в батнике:
  
  set COMFYUI_USE_XFORMERS=True
  Или перед запуском через консоль экспортни переменную.
• Вопрос: "Такое ощущение, что у вас xformers не установлен. Или повреждён. Проверь:"
  Ответ: pip show xformers
  Если не находит — ставь из гитхаба или по версии отсюда:
  https://github.com/facebookresearch/xformers
  Только убедись, что версии совпадают с torch.

[Master_Yoda]

Практические вопросы по установке и использованию xformers

• Вопрос: "Кто ставил xformers на Windows? У меня при установке через pip вываливается ошибка с компиляцией. Там что, руками собирать надо?"
  Ответ: Слушай, если у тебя нет опыта с компилятором — не мучайся, ставь готовое колесо.
  
  Ищи .whl подходящий под твою связку (torch + python + cuda) на этом ресурсе:
  https://download.pytorch.org/whl/cu126
  
  Потом:
  pip install путь_до_файла.whl
  pip install xformers==0.0.29.post3
  Главное — сначала torch, потом xformers, и всё в одной CUDA.
• Вопрос: "Если использовать xformers, то нужно ли добавлять какой-то флаг в запуск Comfy? Или оно само определяет?"
  Ответ: Сам не включается.
  Добавляй в батник:
  set COMFYUI_USE_XFORMERS=True
  Или прямо в команду запуска добавь:
  --use-xformers
  Без этого он лежит мёртвым грузом и просто занимает место.
• Вопрос: "У меня SDXL работает, но жрет VRAM по 11 гигов. Это нормально? Есть ли смысл ставить xformers?"
  Ответ: xformers как раз нужен для таких случаев.
  Он режет VRAM примерно на 1–1.5 ГБ в сложных схемах.
  На больших моделях (типа SDXL, LoRA + ControlNet) очень помогает.
  Только ставь подходящий, иначе будешь лечить потом менеджер зависимостей полдня.
• Вопрос: "Такой вопрос — можно ли использовать одновременно xformers и Wave? Или будут мешать друг другу?"
  Ответ: Можно, мешать не будут.
  Wave — это модель и лейер-конфиг, xformers — ускоритель attention.
  Работают на разных уровнях.
  Но если хочешь стабильности — запускай на --fast и --use-xformers, тогда всё будет ок.
• Вопрос: "Ставлю Flux, лора, всё летит. Но если отключаю xformers, начинает всё тормозить. Можно как-то проверить точно, что он работает?"
  Ответ: Проверь через лог Comfy при запуске — должна быть строка:
  Using xformers for attention
  Если нет — не активен.
  Или поставь переменную окружения в батник:
  set COMFYUI_USE_XFORMERS=True
  И перезапусти, тогда точно подхватит.
• Вопрос: "Поставил сборку от Orex, всё работает, но при попытке установить xformers через pip install xformers — падает с ошибкой. Там какие-то "torch_cuda_extensions" не найдены."
  Ответ: Это потому что pip лезет в source-сборку, а у тебя нет компилятора.
  Решение:
  
  Скачай torch и xformers в .whl с нужной CUDA.
  
  Установи их вручную:
  pip install torch.whl
  pip install xformers.whl
  Или просто найди релиз под твою систему тут:
  https://github.com/facebookresearch/xformers/releases
• Вопрос: "Подскажите — можно ли использовать xformers вместе с Triton? Или они работают на одном и том же?"
  Ответ: Они оба делают ускорение attention, но по-разному.
  
  xformers — классика, поддерживается почти везде.
  
  Triton + SageAttention — новее, быстрее, но глючнее.
  Одновременно не рекомендую. Выбирай что-то одно и прописывай явно.
• Вопрос: "На одном ПК xformers работает нормально, на другом — нет. Один с i5, другой с i9, параметры те же. Почему на мощном — тормозит?"
  Ответ: Не в процессоре дело, а в драйверах CUDA.
  Если xformers не видит GPU или старые драйвера, он откатывается на CPU.
  Проверь:
  
  Версию драйвера NVIDIA
  
  Что CUDA 12.6 в системе
  
  Torch действительно на GPU
  Тогда xformers заработает как надо.
• Вопрос: "У меня SDXL+LoRA+Supir+Clarity, и на всём этом при включённом xformers оно таки тянет на 8Гб. Без него — тротлит и падает. Так что да, must have."
  Ответ: Поддерживаю. Без xformers на 8Гб делать нечего.
  Особенно если используешь тайловые апскейлеры или реставрацию фото.
  Это первое, что надо ставить после Comfy.
• Вопрос: "Можно ли отключить xformers выборочно? Типа только для одной схемы? А для остальных оставить?"
  Ответ: Нет, к сожалению, глобально включается.
  Но можно делать два bat-файла:
  
  один с --use-xformers,
  
  другой без.
  И запускать нужный в зависимости от проекта.

[Master_Yoda]

Дополнительные вопросы по xformers: установка, активация, производительность

• Вопрос: "если у меня стоит torch 2.5.1, а хочется xformers 0.0.29.post3 — оно заведётся? Или обязательно обновлять торч до 2.6.0?"
  Ответ: Не заведётся.
  0.0.29.post3 требует только torch 2.6.0, и никакие пляски не помогут.
  Если хочешь остаться на 2.5.1 — ставь xformers==0.0.28.
  Иначе будет либо ImportError, либо при запуске Comfy ничего не подключится.
• Вопрос: "А есть какой-то вариант, где xformers уже встроен в сборку Comfy? Чтобы руками не танцевать?"
  Ответ: Да, есть несколько:
  
  сборка от Orex
  
  Comfy-StableDif с Boosty
  Но даже если "встроен", всё равно надо проверять, что:
  
  xformers в pip list
  
  torch нужной версии
  
  в bat есть --use-xformers или переменная окружения
• Вопрос: "Подскажите, кто делал сравнение по скорости с и без xformers? Есть вообще смысл заморачиваться на RTX 3060?"
  Ответ: На 3060 — смысл есть.
  SDXL (1024x1024, 50 steps):
  
  Без xformers — 1 картинка за ~50 сек
  
  С xformers — 1 картинка за ~35 сек
  Плюс памяти кушает меньше, иногда это критично.
  Так что ставь, не думай.
• Вопрос: "Установил xformers, но теперь в логах при запуске пишет "fallback to pytorch attention". Он типа не работает?"
  Ответ: Именно.
  Это значит, что xformers установлен, но не активирован.
  Добавь в bat:
  set COMFYUI_USE_XFORMERS=True
  Или запусти Comfy через:
  --use-xformers
  Тогда заработает.
• Вопрос: "Ставил всё по гайду: Python 3.12, torch 2.6.0, xformers 0.0.29.post3, всё совпадает. Но при генерации падает с ошибкой в attention. Что смотреть?"
  Ответ: Проверь:
  
  Установлен ли xformers через pip list
  
  Есть ли конфликт нод (иногда старые лоры ссылаются на нестандартные ноды attention)
  
  Самый частый баг — не обновлённый k_diffusion или efficiency-nodes.
  Обнови кастомные ноды и попробуй снова.
  Если всё равно падает — удали и поставь xformers заново из .whl.
• Вопрос: "Я просто не понял — а xformers только на CUDA работает? Или можно на CPU без GPU?"
  Ответ: Только CUDA.
  Он работает внутри PyTorch, используя attention-ускорение на GPU.
  На CPU будет просто игнорироваться и всё уйдёт в обычный torch-attn.
  Без GPU даже смысла нет ставить.
• Вопрос: "Я правильно понял: xformers это по сути просто альтернатива torch-native attention? Он не влияет на стили, цвета, саму генерацию?"
  Ответ: В точку.
  xformers — чисто оптимизация на уровне attention.
  Он не меняет итог, просто делает всё быстрее и дешевле по VRAM.
  Никакой магии, просто улучшенный способ считать self-attention.
• Вопрос: "Маленький эксперимент: отключил xformers, сгенерил. Включил — с теми же настройками, результат другой. Это баг?"
  Ответ: Если рандом фиксирован (одинаковый seed), результат должен быть одинаковый.
  Но если seed случайный — могут быть расхождения.
  xformers немного по-другому интерпретирует матрицы, но визуально отличия минимальны.
• Вопрос: "Можно ли на Mac с M1 использовать xformers? Пишет, что не найден модуль, даже если вроде всё стоит."
  Ответ: На M1 и вообще на Mac — официальной поддержки xformers нет.
  Может быть только если сам соберёшь с Metal backend, но это отдельный цирк.
  Рекомендация — не трогай xformers, а включи --use-pytorch-cross-attention, он работает стабильно и на Mac.
• Вопрос: "Товарищи, кто гонял SDXL + Supir + Clarity на 8Гб с xformers? Есть ли шанс, или только страдания?"
  Ответ: На 8Гб с xformers — шанс есть.
  Без него — нет.
  Только тайловая генерация, низкий CFG и шаги 20–30.
  И не забудь:
  Enable tiled inference: ON 
  Overlap: 32 
  Tile size: 512
  Тогда даже SDXL со всеми приблудами пойдет.

[Master_Yoda]

• Вопрос: "а чем это нунчаку от квадробера отличается? их как то обновили? раньше они и назывались как модель, не нунчаку... и лоры для них свои надо было переверстывать? чего я пропустил?"
  Ответ: всё верно. SVDQuant. Модели.
  Wave — это не отдельная нода, это типа блок в самой модели.
  если модель типа AGFlux, то Wave уже внутри.
  на лору не влияет, просто ускоряет генерацию и немного мылит если переборщить.
  обычно ставят WaveStrength = 1.2
  тут хорошая инструкция и сами модели:
  https://civitai.com/models/134866
• Вопрос: "Вот смысл этих 'нунчак'? Картинку также портит как волна, даже хуже. Скорость на волне у меня выше. Волна понимает любую модель, лору, контролнет и т.д. Ничего конвертить не нужно."
  Ответ: волна даже при 1.1 даёт скорость практически не портя качество.
  так-то все привыкли гонять её на 1.2–1.5
  если лицо ломает — снижай до 1.1, а если фон мутный — ставь 1.3
  и да, удобство — главное.
  никаких костылей, всё работает из коробки.
• Вопрос: "от волны никаких волнений"
  Ответ: с моими 8Гб VRAM волна вообще спасение
  на ней и Clarity, и Supir идут, и даже с двумя ControlNet
  главное — ставь тайловую генерацию и не жадничай с LoRA
  и WaveStrength 1.2, не больше
• Вопрос: "а мне понравилось как она с промтом работает... я же приводил примеры голого Флакса и голого Квадробера... я работаю с сюжетами Тёмного фентези... и на флаксе не мог нормально с промта получить драматичный результат"
  Ответ: так просто T5 квадро немного другой.
  если использовать стандартный — то разницы особо не будет.
  а вот если с Wave — промт ложится лучше, особенно на сильных эмоциях.
  чтобы драму вытащить — ставь WaveStrength 1.3, и обязательно LoRA на lighting.
• Вопрос: "На волне 1.2 у меня скорость почти в 4 раза! быстрее на 50 шагов чем без волны. И это с учётом devfp16! и t5fp16! на моём древнем железе."
  Ответ: подтверждаю. у меня на 4070 волна даёт +40% к скорости.
  раньше было 65 секунд на 1к, сейчас — 38
  и без потерь по деталям.
  только аккуратно с лорами на лицо, там иногда деформация
  в этом случае FreeU спасает
• Вопрос: "да у меня уже больше недели как стоит... ))) я всё восторгался её скоростью"
  Ответ: теперь LoRA автоматом конвертится прямо из ноды
  можно кидать любые
  а если картинка чуть плывёт — добавь FreeU после Wave
  всё будет идеально
• Вопрос: "Да, вон снеговики постом выше сейчас на хайпе"
  Ответ: Снеговики уже уходящее
  Весна идёт!
  Думаю, что скоро вновь виртуальные переодевалки в тренд войдут
  особенно с FreeU и Wave — можно быстро подогнать под любой стиль
• Вопрос: "я работаю с сюжетами тёмного фентези... и на флаксе не мог нормально с промта получить драматичный результат"
  Ответ: в таких случаях как раз хорошо работает связка:
  AGFlux + WaveStrength 1.3 + FreeU (b1:1.2 b2:1.3 s1:0.9 s2:1.0)
  фон не умирает, а лица мягкие и не пластиковые
  если есть Clarity — ставь после FreeU, будет сочная глубина
• Вопрос: "Расстроился, да не то слово, я неделю, неделю бился, пытался эти колёса, нунчаки, поставить. Вчера подписался ради этого на Boosty, поставил сборку ComfyUI от Олега, поставил нунчаки от Олега, а в результате такое разочарование, снёс всё и по-прежнему гоняю волну."
  Ответ: лучше стабильная волна чем нестабильный нунчак
  если не хочется морочиться с установкой — бери AGFlux и всё
  там и Wave, и скорость, и результат на уровне
• Вопрос: "Вот смысл этих 'нунчак'? Картинку также портит как волна, даже хуже. Скорость на волне у меня выше. Волна понимает любую модель, лору, контролнет и т.д. Ничего конвертить не нужно."
  Ответ: согласен. портит больше чем волна.
  скорость у меня сопоставимая с волной.
  поставил потому, что мог
  но чувствую, что скоро сотру