最近字节跳动把他们的 AI Agent 开发平台 Coze 开源，它们分别为 Coze Studio（https://github.com/coze-dev/coze-studio）和 Coze Loop（https://github.com/coze-dev/coze-loop）。

今天主要介绍一下Coze Loop 部署 + 实战应用。

01 Coze Loop 简介

Coze Loop 是一个面向开发者，专注于 AI Agent 开发与运维的平台级解决方案。它可以解决 AI Agent 开发过程中面临的各种挑战，提供从开发、调试、评估、到监控的全生命周期管理能力。

Coze Loop 通过提供全生命周期的管理能力，帮助开发者更高效地开发和运维 AI Agent。

Coze Loop 的主要功能：

• Prompt 开发：Coze Loop 的 Prompt 开发模块为开发者提供了从编写、调试、优化到版本管理的全流程支持，通过可视化 Playground 实现 Prompt 的实时交互测试，让开发者能够直观比较不同大语言模型的输出效果。
• 评测：Coze Loop 评测模块为开发者提供系统化的评测能力，能够对 Prompt 和扣子智能体的输出效果进行多维度自动化检测，例如准确性、简洁性和合规性等。
• 观测：Coze Loop 为开发者提供了全链路执行过程的可视化观测能力，完整记录从用户输入到 AI 输出的每个处理环节，包括 Prompt 解析、模型调用和工具执行等关键节点，并自动捕获中间结果和异常状态。

Coze Loop 的功能清单：

02 部署 Coze Loop

为方便起见，本文在优云智算平台上创建 GPU 算力实例，安装部署 Go 语言环境和 Docker，然后使用 Docker Compose 部署 Coze Studio。

特别提醒：使用GPU 算力实例，方便后续部署大语言模型。如果后续不再使用，建议即时删除算力实例，防止被扣费。

进入优云智算平台，选择相应 GPU 算力，然后根据具体需求选择数据盘、实例规格、镜像等。

本文实例镜像和实例规格核心信息为：

• 系统镜像：Ubuntu-22.04-nvidia
• GPU型号：RTX40系（24G显存 83TFLops）
• GPU数量：1
• GPU配置：16C 64GB
• 系统盘：免费200G
• CPU平台：Intel（x86_64）

部署好实例后，我们通过 SSH 登录到服务器。

默认用户名为 ubuntu 。

首先我们需要安装部署 Go 语言环境。

Go 语言版本为 1.23.11 。

mkdir -p /home/ubuntu/software
cd /home/ubuntu/software
wget https://go.dev/dl/go1.23.11.linux-amd64.tar.gz
sudo tar -C /home/ubuntu/software -xzf go1.23.11.linux-amd64.tar.gz

配置 Go 语言的环境变量：

vim ~/.bashrc

增加以下配置：

export PATH=$PATH:/home/ubuntu/software/go/bin
export GOPATH=$HOME/go

生效 Go 语言的配置：

source ~/.bashrc

查看 Go 语言的版本信息：

go version

接下来我们需要安装部署 Docker：

# 添加 Docker 官方的 GPG 密钥
sudo apt-get update
sudo apt-get install ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc

# 将仓库添加到 Apt 源中
echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
  $(. /etc/os-release && echo"${UBUNTU_CODENAME:-$VERSION_CODENAME}") stable" | \
  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt-get update

# 安装 Docker、Docker Compose
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

# 启动 Docker
sudo systemctl start docker
sudo systemctl status docker

查看 Docker 版本：

sudo docker version

修改 docker 的数据目录、镜像源：

mkdir -p /home/ubuntu/software/docker
sudo vim /etc/docker/daemon.json

修改的 daemon.json 内容如下：

{
"data-root": "/home/ubuntu/software/docker",
"registry-mirrors": [
"https://docker.1panel.live",
"https://docker.nju.edu.cn",
"https://docker.m.daocloud.io",
"https://dockerproxy.com",
"http://hub-mirror.c.163.com",
"https://docker.mirrors.ustc.edu.cn",
"https://registry.docker-cn.com",
"https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://mirror.baidubce.com",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"
  ]
}

重启 Docker：

sudo systemctl daemon-reload
sudo systemctl restart docker

克隆 Coze Loop 在 Github 上的项目，并配置相应的大语言模型。

本文以 DeepSeek 为例，DeepSeek 的 API Key 需要到 DeepSeek 的开发平台去创建和获取。

cd /home/ubuntu/software
git clone https://github.com/coze-dev/coze-loop.git
cd coze-loop/conf/default/app/runtime/
# 修改模型配置文件
vim model_config.yaml

修改 id、name、api_key 和 model 字段，并保存文件。

models:
-id:1# Change It
name:"DeepSeek-V3"# Change It
frame:"eino"
protocol:"deepseek"
protocol_config:
api_key:""# Change It。修改为你已申请的 API Key
model:"deepseek-chat"# Change It。修改为你已开通的模型 ID
param_config:#一般无需修改，决定了前端可调的参数有哪些，可调范围和默认值是多少
param_schemas:
-name:"temperature"
label:"生成随机性"
desc:"调高温度会使得模型的输出更多样性和创新性，反之，降低温度会使输出内容更加遵循指令要求但减少多样性。建议不要与 “Top p” 同时调整。"
type:"float"
min:"0"
max:"1.0"
default_val:"0.7"
-name:"max_tokens"
label:"最大回复长度"
desc:"控制模型输出的 Tokens 长度上限。通常 100 Tokens 约等于 150 个中文汉字。"
type:"int"
min:"1"
max:"4096"
default_val:"2048"
-name:"top_p"
label:"Top P"
desc:"生成时选取累计概率达 top_p 的最小 token 集合，集合外 token 被排除，平衡多样性与合理性。"
type:"float"#
min:"0.001"
max:"1.0"
default_val:"0.7"

部署并启动服务：

cd /home/ubuntu/software/coze-loop
# 启动服务，默认为开发模式
sudo docker compose up --build

开放外网防火墙端口：

• 8082: Coze Loop 前端服务端口。

通过浏览器访问 Coze Loop，可以先注册，然后再使用对应的账号登录。

03 使用 Coze Loop

登录 Coze Loop，使用 Playground 的功能。选择模型配置，然后在预览与调试窗口进行对话。

使用观测的功能：

结语

相信你现在已经知道如何部署和应用 Coze Loop。建议你不妨亲自动手去实践，体验一下使用 Coze Loop 的乐趣。

大模型算是目前当之无愧最火的一个方向了，算是新时代的风口！有小伙伴觉得，作为新领域、新方向人才需求必然相当大，与之相应的人才缺乏、人才竞争自然也会更少，那转行去做大模型是不是一个更好的选择呢？是不是更好就业呢？是不是就暂时能抵抗35岁中年危机呢？

答案当然是这样，大模型必然是新风口！

那如何学习大模型 ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。但是具体到个人，只能说是：

最先掌握AI的人，将会比较晚掌握AI的人有竞争优势。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

但现在很多想入行大模型的人苦于现在网上的大模型老课程老教材，学也不是不学也不是，基于此我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近100余次后，终于把整个AI大模型的学习路线完善出来！

在这个版本当中：

您只需要听我讲，跟着我做即可，为了让学习的道路变得更简单，这份大模型路线+学习教程已经给大家整理并打包分享出来, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型学习资源包》免费分享（安全咨料，放心领取）👈

​

一、大模型经典书籍（免费分享）

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

二、640套大模型报告（免费分享）

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

三、大模型系列视频教程（免费分享）

四、2025最新大模型学习路线（免费分享）

我们把学习路线分成L1到L4四个阶段，一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

全套的AI大模型学习资源已经整理打包，有需要的小伙伴可以微信扫描下方二维码，免费领取

👉CSDN大礼包🎁：全网最全《LLM大模型学习资源包》免费分享（安全资料，放心领取）👈

​