Тут есть пользователи vast.ai ?

[forumfan]

Всех приветствую!
Есть тут пользователи, которые реально пользуются vast.ai ?? Вообще не понимаю, как там с чего можно начать
или все сидят на наших отечественных gpudc

[Master_Yoda]

Да, я часто пользуюсь, если надо на Flux прогнать полную фотосессию: 25-30 запросов по 10-15 вариантов по каждому.

1. регистрируетесь на сервисе. подходит стандартный google - аккаунт
2. Делаете себе американскую карточку у любого посредника . я себе делал тут на 11$ :
https://plati.io/itm/us-eu-card-3-10000-works-everywhere-price/1065234 (получил номер карточки с американским индексом и адресом)

3. закрываете браузер, открываете заново , включайте vpn, заходите  на сайт vast на страницу пополнения счета.
https://cloud.vast.ai/billing/
у меня американский vpn на странице оплаты не работал, заходил с немецким

4. выбирайте оплату stripe, вводите под vpn все необходимые данные

[Master_Yoda]

6. до тех пор пока не разберетесь с основными настройками и возможностями лучше выбирать готовые конфигурации - мне для моих задач зашло SD WebUI Forge
7. выбирайте шаблон и нажимаете треугольник, чтобы запустить его работу
8. после этого вы должны попасть на страницу готовых доступных серверов, если не попали переходите вручную https://cloud.vast.ai/create
9. убедитесь, что в верхнем левом углу выбран шаблон для stable diffusion , тогда сайт будет искать сервераю с нужными драйверами 
10. от выбранной конфигурации будет зависят стоимость оплаты, поэтому на 1 порах не жадничай
Disk Space To Allocate - 70 гигабайт
Host Reliability -98и%

вверху GPU 1X, для начала нужно взять дешевые входной билет для экспериментов RTX 3060 - они бывают по 4рубля  в час
выбираете опцию Interruptible - более дешевый и менее надежный вариант, который отлично подойдет для простой генерации и экспериментов . если повезет с ассортиментом, старайтесь выбирать сервер с голубой пометкой datacenter

делайте ставку на текущий вариант сервера . почти всегда продавец принимает ближайшую ставку, за исключением часа пик - прайм-тайм рабочего времени в Европе и Америке. утром дешевле всего

11. после того, как вашу ставку подтвердили, переходим в раздел https://cloud.vast.ai/instances/

[Master_Yoda]

12. там вы увидите все сервера, по которым  вы ставили ставки . если возле сервера стоит пункт outbid, значит ваша ставка была перебита и кто - то предложил больше. лучше сразу удалять этот вариант , нажимайте на мусорное ведро . если стоит надпись creating/loading/open - поздравляю, вам достался сервер )))

[Master_Yoda]

13. полная загрузка сервера и установка на него Forge обычно занимает около 5-7 минут, потом появляется кнопка Open. нажимайте на нее , и попадете в панель управления сервером .

[Master_Yoda]

14. В отличии от аренды сервера на windows, здесь идет работа через Jupyter. соответственно почти все команды для управления файлами будут происходить через консоль, файловый менеджер самый простой, зато WebUI Forge настоящий.
нажимаем последовательно кнопки :
WebUI Forge - для загрузки интерфейса stable diffusion forge
Jupyter - для примитивного файлового менеджера
Jupyter Terminal - для загрузки консоли

[Master_Yoda]

15. в самом forge по умолчанию будет стоит только 1 модель sdxl - все остальное нужно загружать самостоятельно.
можно, конечно, установить расширение civitai, но проще 1 раз написать список нужных моделей и каждый раз их загружать, экономия будет минут 20.
команды выглядят примерно так :
cd /workspace/stable-diffusion-webui-forge/models/ESRGAN
wget -O 8x_NMKD-Superscale_150000_G.pth \
  "https://huggingface.co/lantianhang/8x_NMKD-Superscale_150000_G/resolve/main/8x_NMKD-Superscale_150000_G.pth"

здесь мы сначала заходим в нужную папку , затем скачиваем нужный апскейлер (указываем имя сохраненного файла и путь, откуда нужно взять этот файл )
в остальном суть будет всегда примерно такая же. или можно заморочиться с облачными файловыми хранилище или дропбокс, но это уже следующий уровень.

16. если нужно скачать базовую модель флюкс -, то команда такая :
cd /workspace/stable-diffusion-webui-forge/models/Stable-diffusion
wget -O flux1-dev-fp8.safetensors \
  "https://huggingface.co/lllyasviel/flux1_dev/resolve/main/flux1-dev-fp8.safetensors"

17. если нужна продвинутая модель , то вместе с ней соответственно нужно скачать VAE, clip, t5:
cd /workspace/stable-diffusion-webui-forge/models/Stable-diffusion && \
wget -O jibMixFlux_v8AccentueightNSFW.safetensors \
"https://huggingface.co/John6666/jib-mix-flux-v8accentueight-nsfw-bf16-flux/resolve/main/jibMixFlux_v8AccentueightNSFW.safetensors"

cd /workspace/stable-diffusion-webui-forge/models/VAE && \
wget -O ae.safetensors \
"https://stableforum.ru/downloads/ae.safetensors"

cd /workspace/stable-diffusion-webui-forge/models/text_encoder && \
wget -O clip_l.safetensors \
"https://huggingface.co/lllyasviel/flux_text_encoders/resolve/main/clip_l.safetensors" && \
wget -O t5xxl_fp16.safetensors \
"https://huggingface.co/lllyasviel/flux_text_encoders/resolve/main/t5xxl_fp16.safetensors"


здесь и далее я специально сначала захожу в нужную папку, чтобы убедиться что она существует.

[Master_Yoda]

в зависимости от выбранного сервера и времени суток скорость загрузки напрямую с huggingface может достигать 100 мегабайт в секунду, напрямую с civitai редко превышает 50 мегабайт. так что по возможности лучше качать все файлы с Hugg

[Master_Yoda]

если нужны другие модели, то соответственно :

UltraReal Fine-Tune https://civitai.com/models/978314/ultrareal-fine-tune?modelVersionId=1413133
[ -d "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion" ] \
  && wget -O "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion/model_fp16.safetensors" \
     "https://civitai.com/api/download/models/1413133?type=Model&format=SafeTensor&size=full&fp=fp16"

FLUX https://civitai.com/models/618692/flux?modelVersionId=691639
[ -d "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion" ] \
  && wget -O "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion/model_fp32.safetensors" \
     "https://civitai.com/api/download/models/691639?type=Model&format=SafeTensor&size=full&fp=fp32"

Real Dream https://civitai.com/models/153568/real-dream?modelVersionId=1703341
[ -d "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion" ] \
  && wget -O "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion/model_fp8.safetensors" \
     "https://civitai.com/api/download/models/1703341?type=Model&format=SafeTensor&size=full&fp=fp8"

STOIQO NewReality https://civitai.com/models/161068/stoiqo-newreality-flux-sd35-sdxl-sd15?modelVersionId=979329
[ -d "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion" ] \
  && wget -O "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion/model_pruned_fp16.safetensors" \
     "https://civitai.com/api/download/models/979329?type=Model&format=SafeTensor&size=pruned&fp=fp16"

Copax TimeLess https://civitai.com/models/118111/copax-timeless?modelVersionId=1327418
[ -d "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion" ] \
  && wget -O "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion/model_pruned_fp16_1327418.safetensors" \
     "https://civitai.com/api/download/models/1327418?type=Model&size=pruned&fp=fp16"

Acorn Is Spinning FLUX https://civitai.com/models/673188/acorn-is-spinning-flux?modelVersionId=1656743
[ -d "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion" ] \
  && wget -O "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion/model_pruned_fp8_1656743.safetensors" \
     "https://civitai.com/api/download/models/1656743?type=Model&format=SafeTensor&size=pruned&fp=fp8"

Fluxmania https://civitai.com/models/778691/fluxmania?modelVersionId=1769925
[ -d "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion" ] \
  && wget -O "/workspace/stable-diffusion-webui-forge/models/Stable-diffusion/model_pruned_fp8_1769925.safetensors" \
     "https://civitai.com/api/download/models/1769925?type=Model&format=SafeTensor&size=pruned&fp=fp8"

[Master_Yoda]

соответственно , точно также нужно качать все модели для ControlNet и других расширений и скриптов . но здесь уже лежит подводный камень : поскольку мы выбрали самый дешевый тариф с аукционной ценой, то в самый неподходящий момент нас могут отключить от этого сервера. такое случается не часто, но бывает примерно 1 раз на 10 часов работы. так что если вам нужна именно долгосрочная работа с гарантированной работоспособности сервера, то в самом начале лучше выбирать  режим On-Demand - примерно в 2 раза дороже, но все равно по сравнению с нашими серверами цена гуманная и позволяет стабильно работать с длинными сложными схемами Comfy

[Master_Yoda]

Поскольку сам по себе интерфейс forge классический, то каждую отдельную генерацию можно сохранять, нажав на кнопку для скачивания в правом верхнем углу сгенерированного изображения. если же вы генерируете серию фотографий и вам не охота каждую по отдельности сохранять к себе, то в конце делаем архив любой нужной вам папки с изображениями :
cd /workspace/stable-diffusion-webui-forge/outputs
zip -r txt2img-images.zip txt2img-images

после чего переходим в файловый менеджер Jupyter , заходим в нужную папку, выделяем нужный файл и нажимаем скачать

[Master_Yoda]

при таком подходе 1 полноценная генерация flux обходится примерно в 5 копеек

[Master_Yoda]

Если кто надумает регистрироваться, то вот моя реферальная ссылка :
https://cloud.vast.ai/?ref_id=251301
вам все равно, а мне приятно 

[forumfan]

Спасибо, попробую!

[forumfan]

Еще раз огромное спасибо за инструкцию! Удалось сегодня запустить по вашему бесплатному тарифу, что-то даже генерирует. Подскажите пожалуйста, где найти окно консоли, чтобы увидеть, что конкретно происходит в системе и нет ли ошибок?