从“只会聊天”到“真的会干活”:AI Agent 到底是怎么做到的?
随着大模型技术的发展,AI 应用正在从简单的聊天机器人,逐渐发展为能够搜索信息、调用工具、处理数据甚至完成复杂任务的智能系统。
在这个过程中,我们经常会接触到:
- LLM
- Tool Calling
- Agent
- Workflow
- MCP
这些概念经常一起出现,但它们解决的问题并不相同。理解它们之间的关系,就能看懂现在大多数 AI Agent 应用的基本架构。
简单来说:LLM 负责理解和推理,Tool Calling 负责连接模型和工具,Agent 负责组织任务执行,Workflow 负责流程编排,而 MCP 负责标准化连接外部能力。
一、LLM:AI 应用的推理核心
LLM(Large Language Model)就是我们常说的大语言模型。
例如:
- GPT
- Claude
- Gemini
- DeepSeek
- Qwen
它主要负责:
- 理解用户输入
- 分析上下文
- 进行推理
- 生成回答
但是,LLM 本身并不能直接访问外部系统。
例如用户询问:查询一下上海今天的天气。模型不会直接访问天气接口。它只能判断:当前任务需要天气查询能力。真正获取天气数据,需要依靠外部程序完成。因此,一个完整 AI 应用通常由:
- LLM
- 应用程序
- 外部工具
共同组成。
LLM 更像系统中的“大脑”,负责判断和决策,而不是负责实际执行。
二、Tool Calling:让模型能够使用工具
单独的 LLM 只能处理已有信息。
如果希望 AI:
- 查询数据库
- 搜索网页
- 调用 API
- 操作文件
就需要让模型具备调用外部能力的方式。Tool Calling 就是解决这个问题的机制。
开发者会提前向模型描述:有哪些工具可以使用,以及工具需要什么参数。
例如:
天气工具:
工具:get_weather
参数:city
当用户询问天气时,模型会判断:当前问题需要天气数据。于是生成一个工具调用请求:
tool_calls: [
{
"name": "get_weather",
"arguments": {
"city": "上海"
}
}
]
这里需要注意:模型并没有真正调用天气接口。它只是告诉应用程序:我需要使用这个工具。真正执行工具的是运行 AI 应用的程序。
三、Tool 到底是谁执行的?
理解 Agent 之前,需要先明确工具调用过程中不同角色的职责。
LLM
负责:
- 理解任务
- 判断是否需要工具
- 选择工具
- 生成参数
应用程序
负责:
- 调用模型
- 接收工具调用请求
- 执行具体代码
- 获取执行结果
- 再交给模型处理
Tool
负责提供具体能力。
例如:
- 搜索服务
- 数据库
- 文件系统
- 第三方 API
- 企业业务系统
所以在实际运行过程中:用户提出需求后,LLM 负责判断下一步需要什么能力,应用程序负责执行对应工具,然后将结果重新交给模型生成最终答案。
四、Agent:让 AI 从回答问题变成完成任务
如果只有一次工具调用,其实还不能体现 Agent 的价值。
例如:
用户:查询上海天气。
流程非常简单:模型判断需要天气信息,然后调用天气工具,最后返回结果。但是复杂任务通常需要多个步骤。
例如:帮我制定一次上海迪士尼旅行计划。
可能需要:
- 获取天气
- 查询开放时间
- 分析热门项目
- 规划路线
这里的问题是:下一步应该做什么,并不是完全提前确定的。Agent 会根据当前任务状态,结合模型推理结果,决定:
- 是否需要调用工具;
- 调用哪个工具;
- 是否需要继续执行;
- 是否已经完成任务。
因此:
Agent 的核心并不是“会聊天”,而是:让 LLM 具备根据目标动态执行任务的能力。
一个 Agent 通常包含:
- LLM
- Tools
- 状态管理
- 执行循环

五、Workflow 和 Agent 的区别
Workflow 和 Agent 经常被放在一起讨论。
两者最大的区别在于:Workflow 强调流程设计和任务编排,Agent 强调运行过程中的动态决策。
Workflow:预先设计和编排的任务流程
Workflow 是开发者根据业务目标,将多个步骤组织起来形成的一套执行流程。
例如企业合同审核:
用户上传合同后:
- 文档解析
- 查询企业规范
- AI 风险分析
- 人工审核
- 输出结果
其中:
- 哪些步骤存在;
- 步骤之间如何连接;
- 哪些地方需要人工介入;
都是提前设计好的。
Workflow 的特点:
- 流程结构清晰
- 执行过程可控
- 容易监控
- 适合业务场景
常见应用:
- 企业审批
- 内容生产流程
- 数据处理
- 客服流程
Agent:动态决定执行路径
Agent 更适合开放式任务。
例如:
用户:分析一家公司的投资价值。
Agent 可能:
- 搜索公司信息;
- 查询财务数据;
- 获取行业资料;
- 综合分析。
执行过程中,下一步动作由模型根据当前信息动态决定。
Agent 特点:
- 灵活性更高;
- 能处理复杂任务;
- 可以自主选择工具。
实际应用中两者通常结合
真实生产系统通常不是:Workflow 或 Agent 二选一。
更常见的是:
Workflow 负责整体流程。
Agent 负责其中需要判断的环节。
例如:
一个企业知识助手:
- Workflow 负责用户认证、流程控制、结果输出;
- Agent 负责查询资料、调用工具、分析问题。
六、MCP:让 AI 标准化连接外部能力
随着 Agent 能力不断增加,一个新的问题出现:
例如:企业 AI 助手可能需要访问:
- GitHub
- Notion
- 数据库
- 文件系统
- CRM
- ERP
- 内部 API
传统方式:每接入一个系统,就需要单独开发连接逻辑。
这样会导致:
- 工具接口不统一;
- 代码重复;
- 能力难以复用。
MCP(Model Context Protocol)就是为了解决这个问题。
MCP 是什么?
MCP 是一种开放协议。
它定义了一套标准,让 AI 应用能够统一发现、连接和使用外部工具和数据,解决的最大问题,是彻底终结 AI 模型与外部工具 / 数据源之间的 M×N 碎片化集成困境,让 AI 与现实世界的连接从 “定制化、高成本、不可复用” 变成 “标准化、即插即用、跨模型兼容”。
它不是:
- 一个模型;
- 一个 Agent 框架;
- 一个替代 Tool Calling 的技术。
它解决的问题是:AI 应用如何标准化连接外部能力。
MCP 的核心组成
MCP Host
Host 是运行 AI 的应用。
例如:
- AI 助手
- Agent 应用
- 桌面客户端
负责管理 AI 应用运行环境。
MCP Client
Client 是应用内部负责 MCP 通信的组件。
它负责:
- 连接 MCP Server;
- 获取可用能力;
- 发送请求;
- 接收结果。
MCP Server
Server 负责向 AI 暴露外部能力。
例如:
GitHub Server 可以提供:
- 查询仓库;
- 查看代码;
- 管理 Issue。
数据库 Server 可以提供:
- 查询数据;
- 获取表结构。
这些能力通过统一协议暴露给 AI。
MCP 和 Tool Calling 的区别
这两个概念经常被混淆。
Tool Calling:
解决:模型如何请求调用工具。
MCP:
解决:AI 应用如何发现和连接工具。
两者关系:
Tool Calling 是调用机制。
MCP 是能力连接标准。
它们可以组合使用。
MCP 架构

七、总结:AI Agent 技术栈到底是什么?
现在可以重新理解整个 AI 应用架构:
- LLM 负责理解和推理;
- Tool Calling 负责提出工具调用请求;
- 应用程序负责执行工具;
- Agent 负责组织复杂任务;
- Workflow 负责业务流程编排;
- MCP 负责统一连接外部能力。
最终:AI Agent 并不是一个神秘的自动化机器人,而是一套由模型、工具、执行环境和流程控制共同组成的新型应用架构。
理解这些基础概念之后,你就能够看懂大部分 AI Agent 产品背后的实现方式。
更多推荐


所有评论(0)