ComfyUI-MultiGPUv2,多GPU分配实战
Wan 2.2 工作流,可以实现将vae,text_encoder加载在cuda:1,高噪低噪模型加载在cuda:0。用于多GPU时合理分配模型加载,加速推理。或者小显存跑全参模型(Qwen-image/ Wan 2.2)git clone 项目到/ComfyUI/custom_nodes/ComfyUI-Manager中搜索ComfyUI-MultiGPU。用法2-WanVideoWrapper
·
GitHub上的custom node,https://github.com/pollockjj/ComfyUI-MultiGPU。
用于多GPU时合理分配模型加载,加速推理。或者小显存跑全参模型(Qwen-image/ Wan 2.2)
安装方法1
ComfyUI-Manager中搜索ComfyUI-MultiGPU
安装方法2
git clone 项目到/ComfyUI/custom_nodes/
用法1-ComfyUI官方节点支持
- CheckpointLoaderSimpleMultiGPU/CheckpointLoaderSimpleDistorch2MultiGPU
- CLIPLoaderMultiGPU
- ControlNetLoaderMultiGPU
- DualCLIPLoaderMultiGPU
- TripleCLIPLoaderMultiGPU
- UNETLoaderMultiGPU/UNETLoaderDisTorch2MultiGPU, and
- VAELoaderMultiGPU
用法2-WanVideoWrapper节点支持
- WanVideoModelLoaderMultiGPU & WanVideoModelLoaderMultiGPU_2
- WanVideoVAELoaderMultiGPU
- LoadWanVideoT5TextEncoderMultiGPU
- LoadWanVideoClipTextEncoderMultiGPU
- WanVideoTextEncodeMultiGPU
- WanVideoBlockSwapMultiGPU
- WanVideoSamplerMultiGPU
具体用法
Wan 2.2 工作流,可以实现将vae,text_encoder加载在cuda:1,高噪低噪模型加载在cuda:0。
参考工作流放在文章最后。
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)