10-ai-agents-production

1. 评估 AI 代理

Evaluating AI Agents

在部署 AI Agent 之前、期间和之后，建立一套适当的评估系统至关重要。这将确保您的系统与您和您的用户的目标保持一致。

要评估一个 AI Agent，重要的是不仅要评估 Agent 的输出，还要评估 Agent 运行的整体系统。这包括但不限于：

• 初始模型请求。
• Agent 识别用户意图的能力。
• Agent 识别执行任务的正确工具的能力。
• 工具对代理请求的响应。
• 代理解释工具响应的能力。
• 用户对代理响应的反馈。

这使你能够以更模块化的方式识别改进领域。然后你可以更高效地监控模型、提示、工具和其他组件更改的效果。

2. AI代理常见问题及解决方案

Issue  问题	Potential Solution  潜在解决方案
AI 代理无法一致地执行任	- 精炼提供给 AI Agent 的提示；明确目标。 - 确定将任务分解为子任务并由多个 agent 处理能带来哪些帮助。
AI Agent 陷入连续循环	- 确保你有明确的终止条款和条件，以便 agent 知道何时停止流程。 - 对于需要推理和规划复杂任务，使用专门为推理任务设计的较大模型。
AI Agent 工具调用表现不佳	- 在代理系统之外测试和验证工具的输出。 - 优化定义的参数、提示和工具的命名。
多智能体系统表现不一致	- 优化分配给每个智能体的提示，确保它们具体且彼此不同。 - 使用"路由"或控制器智能体构建分层系统，以确定哪个智能体是正确的

• 多智能体系统（Multi-Agent System，简称 MAS）指的是多个 AI 或智能体（agents）在一个系统中协作或分工执行任务。
• “表现不一致”说明这些智能体在面对同一个任务或输入时，可能做出不同甚至冲突的行为、判断或输出。
• 比如：一个智能问答系统里有多个子模型负责不同类型问题，但它们有时给出相互矛盾的答案或风格不统一的回答。

1、优化分配给每个智能体的提示，确保它们具体且彼此不同。

• 提示（prompt）是用来指导每个智能体行为的输入信息或任务说明。
• 如果提示不明确或相互重叠，可能导致智能体执行类似的任务，从而输出冲突的结果。
• 优化方式包括：
  • 明确每个智能体的职责范围，例如：“你只负责法律问题”，“你只负责用户情绪识别”。
  • 设计 prompt 时尽量具体、差异化，避免重复。

2、使用“路由”或控制器智能体构建分层系统，确定哪个智能体是正确的

• “路由（routing）”或“控制器智能体（controller agent）”是一个高层调度者，用于：
  • 判断当前任务属于哪个子智能体处理范围；
  • 或者在多个智能体输出冲突时，选择一个“正确”或最合适的结果。
• 这相当于一个中控系统，类似于人类的“调度者”或“决策者”，来组织和协调多个下级智能体的行为。

2.1 什么是路由（Routing）

“路由”指的是一个决策机制，用来根据任务类型、输入特征、上下文等信息，把任务分配给最合适的智能体去处理。 作用类似：

• 客服系统中的“话务分配员”：判断用户是要售后还是咨询，就路由给不同的客服。
• 应用层网关：判断是视频流量还是图片请求，分配给不同的后端服务处理。

多智能体系统中的“路由”例子：

假设你有以下几个智能体：

智能体名称	专长
Agent_A	回答法律问题
Agent_B	提供情绪安抚和心理支持
Agent_C	总结长篇文档

引入 Routing 逻辑后的系统工作流如下：

1. 用户输入一个问题：“我的合同被解除，我该怎么办？”
2. 路由器分析关键词“合同”“怎么办” → 属于法律问题。
3. 将该输入路由给 Agent_A 处理，其他智能体不会参与。

2.2 什么是控制器智能体

Controller Agent

1、定义

控制器智能体是一个“更智能的决策者”，不仅能路由输入，还能：

• 协调多个智能体的响应；
• 判断哪个结果更可信；
• 整合多个智能体的观点生成最终答案；
• 决定是否还要继续请求其他智能体参与。

控制器智能体它可以是：

• 一个预先设定好规则的程序；
• 一个更强大的大模型（如 GPT-4）；
• 一个训练过的分类模型或强化学习智能体。

2、多智能体系统中的“控制器智能体”例子：

继续上面的例子，假设你没有路由，而是让三个智能体都处理输入，然后由控制器决定谁的回答最靠谱：

1. 用户输入问题：“我感觉压力很大，最近很焦虑。”
2. 三个智能体都尝试回答：
   • Agent_A 提供法律建议（不相关）；
   • Agent_B 提供情绪安慰（相关）；
   • Agent_C 尝试总结内容（不必要）。
3. 控制器智能体分析回答内容：
   • 判断 Agent_B 的回答最相关；
   • 选择它作为最终输出；
   • 或者将其作为主要内容，再补充 Agent_C 的摘要内容。

3、路由 vs 控制器：对比总结

特性	路由（Routing）	控制器智能体（Controller Agent）
功能	任务分配	任务分配 + 响应筛选/融合 + 决策控制
是否调用多个智能体	通常只调用一个	可以调用多个并做比较或融合
实现复杂度	相对简单：关键词匹配/分类器等	更复杂：可能需要大模型或规则融合
示例	判断语义后直接派发给一个智能体	多个智能体响应后，做判断、筛选、投票或合成

2.3 控制器智能体的设计方法

补充思路

• 规则式控制器（if-else）
  • 根据关键词、句法、用户意图等来选择结果。
• ML分类控制器
  • 用机器学习模型训练一个分类器，输入任务内容，输出最适合的 agent ID。
• 大模型作为控制器
  • 用一个强大的语言模型来判断：“哪个回答最相关？哪个需要补充？”可以提供更灵活和人性化的融合方案。

2.4 什么是ML分类控制器？

“ML分类控制器”指的是利用机器学习分类模型作为“控制器”，来判断输入任务应该交给哪个智能体处理。

1、定义

ML（Machine Learning）分类控制器是一个训练出来的模型，它接收输入任务（如文本、图片等），然后将其分类到某个智能体对应的类别，从而决定：

• 哪个 agent 来处理这个任务
• 或者 多个 agent 中谁更可靠、回答得最好

它是“控制器智能体”的一种实现方式，属于数据驱动型决策逻辑。

2、它是如何工作的

1）训练阶段（离线）

你需要准备训练数据集，形式如下：

输入文本	标签（agent ID）
“我想咨询一下离婚协议的问题”	Agent_Legal
“我最近很难过，经常失眠，有什么建议吗？”	Agent_Psych
“请总结以下这篇 3000 字的访谈记录”	Agent_Summarizer

然后使用这些数据训练一个文本分类模型，比如：

• 传统机器学习：SVM、RandomForest + TF-IDF
• 深度学习模型：BERT、RoBERTa、TextCNN 等

---

2）预测阶段（在线）

用户输入一段文本，比如：

“我跟公司签的劳动合同有纠纷，请问我该怎么做？”

ML分类控制器执行以下步骤：

• 提取文本特征（词向量或 embedding）
• 预测所属类别（比如输出概率为：Agent_Legal 92%）
• 返回预测类别（Agent_Legal）作为执行者
• 系统将任务路由给对应智能体（Agent_Legal）

---

3）它在多智能体系统中的角色

ML分类控制器通常作为系统架构中的 决策层，执行以下功能：

功能	描述
意图识别	判断输入意图属于哪个智能体的任务领域
路由决策	根据分类结果，自动路由给最合适的 agent
冲突仲裁	多个 agent 输出时，选一个最可能正确的（比如基于回答置信度+文本分类）

---

4）举个例子（架构流程）

你有 3 个智能体：

• Agent_A：法律顾问
• Agent_B：心理咨询
• Agent_C：文章摘要

你训练了一个 ML 模型（如 BERT 分类器），当系统接收到用户输入：

“请问公司随便解除我合同合法吗？”

系统执行流程如下：

1. 输入传给 ML 分类控制器
2. 控制器预测：Agent_A（法律） 置信度为 94%
3. 系统将请求路由给 Agent_A
4. Agent_A 输出回应

---

5）如何实现一个简单的 ML 分类控制器？

你可以用如下工具实现：

工具	用途
sklearn + TF-IDF	快速训练传统文本分类器
fastText	高速文本分类
Huggingface Transformers + BERT	构建强大的深度语义分类器
OpenAI / LLM + prompt	少量示例提示式分类（适合 zero-shot 或 few-shot）

3. 管理成本

Managing Costs

管理将 AI Agent 部署到生产环境成本的策略：

• Caching Responses 缓存响应 - 识别常见的请求和任务，并在它们通过你的 Agent 系统之前提供响应，是减少相似请求量的一个好方法。你甚至可以实施一个流程，使用更基础的 AI 模型来识别一个请求与你的缓存请求有多相似。
• Using Smaller Models 使用更小的模型 - 小型语言模型（SLM）在某些 Agent 用例中表现良好，并能显著降低成本。如前所述，建立一个评估系统来确定和比较与较大模型的性能，是了解 SLM 在你的用例中表现如何的最佳方法。
• Using a Router Model 使用路由模型 - 类似的策略是使用多种不同大小和类型的模型。你可以使用 LLM/SLM 或无服务器函数根据复杂性将请求路由到最合适的模型。这也有助于降低成本，同时确保在正确的任务上保持性能。