Каков объём данных, передаваемых между узлами ComfyUI и где они хранятся (RAM/VRAM/...)?

а каков размер этой области, как узнать? если подскажете плагины для сохранения этой области в файл, чтобы повторно в последующем снова использовать, буду рад

Каков объём данных, передаваемых между узлами ComfyUI и где они хранятся (RAM/VRAM/...)?

Everything_is_bad, оно возникло не на пустом месте)

Каков объём данных, передаваемых между узлами ComfyUI и где они хранятся (RAM/VRAM/...)?

rPman,

так же на сколько много тратится памяти определить сложно (в дебрях pytorch много чего происходит)

но ведь речь идёт именно о передаче данных между узлами - я не программист на python, но полагаю, что раз речь о "между узлами", внутрь pytorch лезть не надо, так как наверное узлы вызывают функции pytorch, а вот между вызовами данные передаёт сам ComfyUI ?

, обычно тупо на практике проще посмотреть.

так я не против, но как и чем в ComfyUI посмотреть данные, которые "гуляют" между узлами?))

Каков объём данных, передаваемых между узлами ComfyUI и где они хранятся (RAM/VRAM/...)?

Everything_is_bad, я пока не понял, где сидят русскоязычные юзеры-программисты ComfyUI ((
надо попробовать на англ на гитхабе поспрашивать. конечно если тут никто не ответит. я ж задаю тут вопрос в надежде что кто то из тех кто есть тут знает ответ - такое вполне реально)

Можно ли как-то узнать, какими нодами / сущностями и в каком процентном соотношении занята VRAM в ComfyUI?

nidalee, дело не в этом... я не совсем понял, почему "В любом случае, VAE и CLIP загрузить можете на процессоре. " но тоже самое вы не говорите про саму основную модель ?

Можно ли как-то узнать, какими нодами / сущностями и в каком процентном соотношении занята VRAM в ComfyUI?

nidalee, нет!
Фишка в том что, если я

VAE и CLIP загрузить можете на процессоре.

то они работают 5 минут, но если я гружу их даже на слабую видеокарту - за 30 секунд!

Суммарно, если всё на видяхе - 60 секунд на запрос, но стоит перекинуть VAE и CLIP на проц - время всего запроса удлиняется до 6 минут.
То есть всё-таки лучше всё грузить на видяху...

Можно ли закешировать результат загрузки gguf модели в Forge?

Ronaldo,

CLIP и VAE занимают очень мелкую часть просчета, если сборка принимает решение считать их на CPU, возможно это из-за малой VRAM.

А это действительно так?

VAE вроде бы да
но узлы CLIPtextencoder у меня работают минут 5 если грузить их на ЦПУ
и почти моментально, если я в ClipLoader принудительно ставлю cuda:0

Можно ли как-то узнать, какими нодами / сущностями и в каком процентном соотношении занята VRAM в ComfyUI?

nidalee,

В любом случае, VAE и CLIP загрузить можете на процессоре.

кстати это далеко даже не одна минута у меня на процессоре.
t5 CLIP так и вовсе весит больше 2 гб

Существует ли софт, позволяющий задействовать всю мощь CUDA при кодировании видеофайлов?

NKulikov, пока никто прошивку пропатчить не смог...

Cуществует ли софт для генерации трёхмерного (если нет - двухмерного) видео говорящего какой-либо заданный текст человека?

На первый взгляд подходит и задачу решает. Реально даже можно импортировать уже готовую озвучку mp3 - распознает фонемы и согласно им открывает рот

Как возможно короткое замыкание на выходе двух разных цепей питания на видеокарте HD3750?

pfg21, В общем, в итоге сдул видеочип и КЗ пропало.
Надо было не сдувать видеочип а сначала прогреть его, быть может КЗ бы исчезло после прогрева.
Но поспешил и сразу сдул.
Если будет время - прозвоню видеочип по даташиту.
Ставить обратно я его не планирую, поэтому чисто теоритический будет интерес.

Как возможно короткое замыкание на выходе двух разных цепей питания на видеокарте HD3750?

В общем, в итоге сдул видеочип и КЗ пропало.
Надо было не сдувать видеочип а сначала прогреть его, быть может КЗ бы исчезло после прогрева.
Но поспешил и сразу сдул.
Если будет время - прозвоню видеочип по даташиту.
Ставить обратно я его не планирую, поэтому чисто теоритический будет интерес.

Cуществует ли софт для генерации трёхмерного (если нет - двухмерного) видео говорящего какой-либо заданный текст человека?

Я не против если так, но вопрос в силе - какой софтиной/моделью? Желательно чтоб на 6 Gb VRAM работало (даже если придётся 5 минут видео генерить сутки)

Как возможно короткое замыкание на выходе двух разных цепей питания на видеокарте HD3750?

коль ты выпаял bga, то возьми даташит и прозвони питание на землю в них.

прошёлся мультиметром по тому месту, откуда выпаял чип памяти.
почти все линии звонятся на землю 0 ом КЗ
на рисунке отмечены жёлтым.
что это может означать?...
что дело не в плате а скорее всего GPU прогорел насквозь?
внешне он в норме, крайние шарики которые видно между ним и платой - выглядят норм.

В системе с двуми видеокартами DirectX "подсовывает" играм не ту видеокарту, которую надо. Как исправить?

Нет, пока не решил.
Стало ясно, что DirectX "подсовывает " ту карту, к которой подключён монитор.
Поведение как изменить - непонятно.

Удалось сделать костыль начав, использовать DXVK. DXVK заставляет игру работать через Vulkan, который есть только на 1060 - поэтому с помощью DXVK получается, что игра работает через 1060.

Как возможно короткое замыкание на выходе двух разных цепей питания на видеокарте HD3750?

спасибо за важное замечание, решил перемерить еще раз - сопротивление 0 ом с точностью до одной десятой ома..
всё таки КЗ получается

Как возможно короткое замыкание на выходе двух разных цепей питания на видеокарте HD3750?

"Это - норма", как и пишет 15432.

спасибо за важное замечание, решил перемерить еще раз - сопротивление 0 ом с точностью до одной десятой ома..
всё таки КЗ получается
похоже искать ослик с памятью или делать пиковый детектор особо смысла нет..

Можно ли как-то узнать, какими нодами / сущностями и в каком процентном соотношении занята VRAM в ComfyUI?

nidalee, спс, протещу

Можно ли как-то узнать, какими нодами / сущностями и в каком процентном соотношении занята VRAM в ComfyUI?

nidalee, Странно, что то я не видел такой таблицы в консоли сервера. надо будет разобраться

Можно ли как-то узнать, какими нодами / сущностями и в каком процентном соотношении занята VRAM в ComfyUI?

Ronaldo, у меня цель в том числе и исследования))

Винда тоже может отжимать от 0.5 до 3гб VRAM просто по факту загрузки.

не, ну я не настолько новичок))
перед нажатием на кнопку рендеринга в ComfyUI
смотрю сколько уже занято VRAM, обычно там не более 300мб, если сильно больше - закрываю какой нить хром или что то еще, что согласно диспетчеру NVIDIA засело в VRAM.

касаемо "Нет такого," - очень странно.
Ведь хотя бы монитор ресурсов как отдельное дополнение - сделали!
Стал анализировать вывод в консоли сервера (уже хоть что-то),
конкретно сейчас я хочу разобраться с надписями loaded partially - казалось бы
flux1-schnell-Q2_K.gguf весит менее 4 гб, должен весь в VRAM грузится
loaded partially и вот хочется понять почему. Да и вообще правильно ли я понимаю loaded partially.

Ещё не пойму - как нода отработала, её содержимое из VRAM выкидывается обратно в RAM или нет?
Допустим отработал CLIP, а потом пошёл KSampler.
то есть перед работой следующей ноды VRAM освобождается от предыдущей модели?