GitHub上的custom node,https://github.com/pollockjj/ComfyUI-MultiGPU

用于多GPU时合理分配模型加载,加速推理。或者小显存跑全参模型(Qwen-image/ Wan 2.2)

安装方法1

ComfyUI-Manager中搜索ComfyUI-MultiGPU

安装方法2

git clone 项目到/ComfyUI/custom_nodes/

用法1-ComfyUI官方节点支持

  • CheckpointLoaderSimpleMultiGPU/CheckpointLoaderSimpleDistorch2MultiGPU
  • CLIPLoaderMultiGPU
  • ControlNetLoaderMultiGPU
  • DualCLIPLoaderMultiGPU
  • TripleCLIPLoaderMultiGPU
  • UNETLoaderMultiGPU/UNETLoaderDisTorch2MultiGPU, and
  • VAELoaderMultiGPU

用法2-WanVideoWrapper节点支持

  • WanVideoModelLoaderMultiGPU & WanVideoModelLoaderMultiGPU_2
  • WanVideoVAELoaderMultiGPU
  • LoadWanVideoT5TextEncoderMultiGPU
  • LoadWanVideoClipTextEncoderMultiGPU
  • WanVideoTextEncodeMultiGPU
  • WanVideoBlockSwapMultiGPU
  • WanVideoSamplerMultiGPU

具体用法

Wan 2.2 工作流,可以实现将vae,text_encoder加载在cuda:1,高噪低噪模型加载在cuda:0。

参考工作流放在文章最后。

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐