ComfyUI_TensorRT 安装和配置指南

【免费下载链接】ComfyUI_TensorRT 项目地址: https://gitcode.com/gh_mirrors/co/ComfyUI_TensorRT

项目基础介绍和主要编程语言

ComfyUI_TensorRT 是一个专为 NVIDIA RTX™ 显卡优化的 Stable Diffusion 性能提升工具。通过利用 NVIDIA TensorRT 技术，该项目能够显著提升图像生成速度和计算效率，为用户带来更流畅的 AI 图像生成体验。

该项目主要使用 Python 语言进行开发，支持多种 Stable Diffusion 版本，包括 SDXL、SDXL Turbo、Stable Video Diffusion 等主流模型。

项目使用的关键技术和框架

关键技术

• NVIDIA TensorRT: 核心优化技术，通过针对特定 NVIDIA RTX GPU 进行模型优化，释放硬件最大性能潜力
• Stable Diffusion 多版本支持: 全面兼容 SD1.5、SD2.1、SD3.0、SDXL、SDXL Turbo、SVD、SVD-XT 和 AuraFlow 等模型

核心框架

• ComfyUI: 作为用户友好的图形界面，提供直观的节点式工作流管理
• ONNX: 用于模型转换和优化的中间表示格式

项目安装和配置的准备工作

硬件要求

• NVIDIA GeForce RTX™ 或 NVIDIA RTX™ 显卡
• SDXL 和 SDXL Turbo 推荐使用 12 GB 或以上显存的 GPU
• Stable Video Diffusion (SVD) 推荐使用 16 GB 或以上显存的 GPU
• Stable Video Diffusion-XT (SVD-XT) 推荐使用 24 GB 或以上显存的 GPU

软件要求

• Python 3.x 环境
• Git 版本控制工具
• ComfyUI 基础环境

详细安装步骤

步骤1: 克隆项目仓库

打开终端并执行以下命令克隆项目：

git clone https://gitcode.com/gh_mirrors/co/ComfyUI_TensorRT.git

步骤2: 进入项目目录并安装依赖

cd ComfyUI_TensorRT
pip install -r requirements.txt

步骤3: 集成到 ComfyUI

将项目文件夹移动到 ComfyUI 的 custom_nodes 目录下：

mv ComfyUI_TensorRT /path/to/your/ComfyUI/custom_nodes/

步骤4: 启动 ComfyUI

cd /path/to/your/ComfyUI
python main.py

TensorRT 引擎构建和使用指南

构建 TensorRT 引擎

1. 在 ComfyUI 界面中添加 Load Checkpoint 节点
2. 添加 Static Model TensorRT Conversion 或 Dynamic Model TensorRT Conversion 节点
3. 将 Load Checkpoint 节点的输出连接到 TensorRT Conversion 节点的输入

4. 为生成的 TensorRT 模型提供有意义的文件名前缀，格式为 "tensorrt/文件名前缀"
5. 点击 Queue Prompt 开始构建 TensorRT 引擎

引擎构建说明

首次生成 TensorRT 引擎需要较长时间：

• 图像生成模型：3-10 分钟
• SVD 模型：10-25 分钟
• SVD-XT 模型：最长可能需要 1 小时

后续对相同检查点生成引擎会快很多。

使用 TensorRT 引擎

1. 添加 TensorRT Loader 节点
2. 从 unet_name 下拉菜单中选择 TensorRT 引擎
3. 确保 model_type 与 TensorRT 引擎的模型类型匹配
4. 将 MODEL 输出连接到采样器节点

文件命名规范

• 动态引擎: dyn-b-min-max-opt-h-min-max-opt-w-min-max-opt
• 静态引擎: stat-b-opt-h-opt-w-opt

其中：dyn=动态, stat=静态, b=批大小, h=高度, w=宽度

注意事项和局限性

• 当前版本暂不支持 ControlNets 或 LoRAs，兼容性将在未来更新中提供
• 构建的 TensorRT 引擎在 ComfyUI 会话中创建后，需要刷新浏览器（F5）才能在 TensorRT Loader 中显示
• 工作流程中的 CLIP 和 VAE 仍需使用原始模型检查点

通过以上步骤，您可以在 NVIDIA RTX 显卡上获得最佳的 Stable Diffusion 性能体验，享受更快速的图像生成过程。

【免费下载链接】ComfyUI_TensorRT 项目地址: https://gitcode.com/gh_mirrors/co/ComfyUI_TensorRT