新手记录 CosyVoice2 Docker部署指南(Ubuntu)

  1. 环境准备

    确保已安装 Docker 和 NVIDIA Container Toolkit(如需使用GPU加速)。
    如果没有NVIDIA显卡,可使用CPU模式运行。

  2. 克隆项目代码
    在终端运行以下代码:

    git clone --recursive https://github.com/FunAudioLLM/CosyVoice.git
    cd CosyVoice
    

    或者直接进入 https://github.com/FunAudioLLM/CosyVoice.git 将文件夹下载到本地,将 CosyVoice-Main 改名为 CosyVoice(也可以不改),然后 cd CosyVoice。如果是将文件下载到本地,记得 也将 Matcha-TTS 下载到本地然后替换 third_party下的Matcha-TTS,下载网址为https://github.com/shivammehta25/Matcha-TTS

  3. 构建Docker镜像
    进入包含Dockerfile的目录并构建镜像:

    cd runtime/python
    docker build -t cosyvoice:v2.0
    

    这边记得要配置好docker的下载环境,如果docker环境配置好可以直接到第四步。

    如果有报错可以运行如下代码:

     sudo tee /etc/docker/daemon.json <<-'EOF'
    {
      "registry-mirrors": [
        "https://docker.1ms.run",
        "https://k-docker.asia",
        "https://dockerproxy.cn"
      ]
    }
    EOF
    

    然后重新加载并重启docker

    sudo systemctl daemon-reload
    sudo systemctl restart docker
    
  4. 下载预训练模型

    创建一个Python脚本download_models.py,并粘贴以下代码:

    from modelscope import snapshot_download
    
    snapshot_download('iic/CosyVoice2-0.5B', local_dir='iic/CosyVoice2-0.5B')
    snapshot_download('iic/CosyVoice-300M', local_dir='pretrained_models/CosyVoice-300M')
    snapshot_download('iic/CosyVoice-300M-SFT', local_dir='pretrained_models/CosyVoice-300M-SFT')
    snapshot_download('iic/CosyVoice-300M-Instruct', local_dir='pretrained_models/CosyVoice-300M-Instruct')
    snapshot_download('iic/CosyVoice-ttsfrd', local_dir='pretrained_models/CosyVoice-ttsfrd')
    

    选择自己要用的模型。运行脚本以下载模型:

    python3 download_models.py
    

    如果想在 docker 中运行脚本,可以使用如下命令 ,不然直接 pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple

    docker pull python:3.10 #拉取 Python 基础镜像
    docker run -it --name modelscope-container -v /home/ubuntu/lwei:/app python:3.10 bash  # 运行容器并安装 modelscope
    ## modelscope-container 为自定义容器名字
    ## /home/ubuntu/lwei 为当前主机目录
    ## -v /home/ubuntu/lwei:/app 的具体含义为: 将宿主机的 /home/ubuntu/lwei 目录挂载到容器内的 /app 目录
    # 在容器内执行:
    pip install modelscope
    python /app/download_models.py
    

    或者创建一个DockerFile

    FROM python:3.10
    WORKDIR /app
    COPY download_models.py .
    RUN pip install modelscope
    CMD ["python", "download_models.py"]
    
  5. 安装模型成功:

    在这里插入图片描述

  6. 作者声明:

     本人纯新手,写下也是为了记录自己安装的过程,有什么问题可以一起讨论,欢迎大佬指点问题。
    
Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐