随着大模型技术的发展,AI 应用正在从简单的聊天机器人,逐渐发展为能够搜索信息、调用工具、处理数据甚至完成复杂任务的智能系统。

在这个过程中,我们经常会接触到:

  • LLM
  • Tool Calling
  • Agent
  • Workflow
  • MCP

这些概念经常一起出现,但它们解决的问题并不相同。理解它们之间的关系,就能看懂现在大多数 AI Agent 应用的基本架构。

简单来说:LLM 负责理解和推理,Tool Calling 负责连接模型和工具,Agent 负责组织任务执行,Workflow 负责流程编排,而 MCP 负责标准化连接外部能力


一、LLM:AI 应用的推理核心

LLM(Large Language Model)就是我们常说的大语言模型。

例如:

  • GPT
  • Claude
  • Gemini
  • DeepSeek
  • Qwen

它主要负责:

  • 理解用户输入
  • 分析上下文
  • 进行推理
  • 生成回答

但是,LLM 本身并不能直接访问外部系统。

例如用户询问:查询一下上海今天的天气。模型不会直接访问天气接口。它只能判断:当前任务需要天气查询能力。真正获取天气数据,需要依靠外部程序完成。因此,一个完整 AI 应用通常由:

  • LLM
  • 应用程序
  • 外部工具

共同组成。

LLM 更像系统中的“大脑”,负责判断和决策,而不是负责实际执行。


二、Tool Calling:让模型能够使用工具

单独的 LLM 只能处理已有信息。

如果希望 AI:

  • 查询数据库
  • 搜索网页
  • 调用 API
  • 操作文件

就需要让模型具备调用外部能力的方式。Tool Calling 就是解决这个问题的机制。

开发者会提前向模型描述:有哪些工具可以使用,以及工具需要什么参数。

例如:

天气工具:

工具:get_weather
参数:city

当用户询问天气时,模型会判断:当前问题需要天气数据。于是生成一个工具调用请求:

tool_calls: [
	{
	  "name": "get_weather",
	  "arguments": {
	    "city": "上海"
	  }
	}
]

这里需要注意:模型并没有真正调用天气接口。它只是告诉应用程序:我需要使用这个工具。真正执行工具的是运行 AI 应用的程序。


三、Tool 到底是谁执行的?

理解 Agent 之前,需要先明确工具调用过程中不同角色的职责。

LLM

负责:

  • 理解任务
  • 判断是否需要工具
  • 选择工具
  • 生成参数

应用程序

负责:

  • 调用模型
  • 接收工具调用请求
  • 执行具体代码
  • 获取执行结果
  • 再交给模型处理

Tool

负责提供具体能力。

例如:

  • 搜索服务
  • 数据库
  • 文件系统
  • 第三方 API
  • 企业业务系统

所以在实际运行过程中:用户提出需求后,LLM 负责判断下一步需要什么能力,应用程序负责执行对应工具,然后将结果重新交给模型生成最终答案。


四、Agent:让 AI 从回答问题变成完成任务

如果只有一次工具调用,其实还不能体现 Agent 的价值。

例如:

用户:查询上海天气。

流程非常简单:模型判断需要天气信息,然后调用天气工具,最后返回结果。但是复杂任务通常需要多个步骤。

例如:帮我制定一次上海迪士尼旅行计划。

可能需要:

  • 获取天气
  • 查询开放时间
  • 分析热门项目
  • 规划路线

这里的问题是:下一步应该做什么,并不是完全提前确定的。Agent 会根据当前任务状态,结合模型推理结果,决定:

  • 是否需要调用工具;
  • 调用哪个工具;
  • 是否需要继续执行;
  • 是否已经完成任务。

因此:

Agent 的核心并不是“会聊天”,而是:让 LLM 具备根据目标动态执行任务的能力。

一个 Agent 通常包含:

  • LLM
  • Tools
  • 状态管理
  • 执行循环

在这里插入图片描述


五、Workflow 和 Agent 的区别

Workflow 和 Agent 经常被放在一起讨论。

两者最大的区别在于:Workflow 强调流程设计和任务编排,Agent 强调运行过程中的动态决策

Workflow:预先设计和编排的任务流程

Workflow 是开发者根据业务目标,将多个步骤组织起来形成的一套执行流程。

例如企业合同审核:

用户上传合同后:

  1. 文档解析
  2. 查询企业规范
  3. AI 风险分析
  4. 人工审核
  5. 输出结果

其中:

  • 哪些步骤存在;
  • 步骤之间如何连接;
  • 哪些地方需要人工介入;

都是提前设计好的。

Workflow 的特点:

  • 流程结构清晰
  • 执行过程可控
  • 容易监控
  • 适合业务场景

常见应用:

  • 企业审批
  • 内容生产流程
  • 数据处理
  • 客服流程

Agent:动态决定执行路径

Agent 更适合开放式任务。

例如:

用户:分析一家公司的投资价值。

Agent 可能:

  • 搜索公司信息;
  • 查询财务数据;
  • 获取行业资料;
  • 综合分析。

执行过程中,下一步动作由模型根据当前信息动态决定。

Agent 特点:

  • 灵活性更高;
  • 能处理复杂任务;
  • 可以自主选择工具。

实际应用中两者通常结合

真实生产系统通常不是:Workflow 或 Agent 二选一。

更常见的是:

Workflow 负责整体流程。

Agent 负责其中需要判断的环节。

例如:

一个企业知识助手:

  • Workflow 负责用户认证、流程控制、结果输出;
  • Agent 负责查询资料、调用工具、分析问题。

六、MCP:让 AI 标准化连接外部能力

随着 Agent 能力不断增加,一个新的问题出现:

例如:企业 AI 助手可能需要访问:

  • GitHub
  • Notion
  • 数据库
  • 文件系统
  • CRM
  • ERP
  • 内部 API

传统方式:每接入一个系统,就需要单独开发连接逻辑。

这样会导致:

  • 工具接口不统一;
  • 代码重复;
  • 能力难以复用。

MCP(Model Context Protocol)就是为了解决这个问题。

MCP 是什么?

MCP 是一种开放协议。

它定义了一套标准,让 AI 应用能够统一发现、连接和使用外部工具和数据,解决的最大问题,是彻底终结 AI 模型与外部工具 / 数据源之间的 M×N 碎片化集成困境,让 AI 与现实世界的连接从 “定制化、高成本、不可复用” 变成 “标准化、即插即用、跨模型兼容”

它不是:

  • 一个模型;
  • 一个 Agent 框架;
  • 一个替代 Tool Calling 的技术。

它解决的问题是:AI 应用如何标准化连接外部能力。


MCP 的核心组成

MCP Host

Host 是运行 AI 的应用。

例如:

  • AI 助手
  • Agent 应用
  • 桌面客户端

负责管理 AI 应用运行环境。


MCP Client

Client 是应用内部负责 MCP 通信的组件。

它负责:

  • 连接 MCP Server;
  • 获取可用能力;
  • 发送请求;
  • 接收结果。

MCP Server

Server 负责向 AI 暴露外部能力。

例如:

GitHub Server 可以提供:

  • 查询仓库;
  • 查看代码;
  • 管理 Issue。

数据库 Server 可以提供:

  • 查询数据;
  • 获取表结构。

这些能力通过统一协议暴露给 AI。


MCP 和 Tool Calling 的区别

这两个概念经常被混淆。

Tool Calling:

解决:模型如何请求调用工具。

MCP:

解决:AI 应用如何发现和连接工具。

两者关系:

Tool Calling 是调用机制。

MCP 是能力连接标准。

它们可以组合使用。


MCP 架构

在这里插入图片描述


七、总结:AI Agent 技术栈到底是什么?

现在可以重新理解整个 AI 应用架构:

  • LLM 负责理解和推理;
  • Tool Calling 负责提出工具调用请求;
  • 应用程序负责执行工具;
  • Agent 负责组织复杂任务;
  • Workflow 负责业务流程编排;
  • MCP 负责统一连接外部能力。

最终:AI Agent 并不是一个神秘的自动化机器人,而是一套由模型、工具、执行环境和流程控制共同组成的新型应用架构

理解这些基础概念之后,你就能够看懂大部分 AI Agent 产品背后的实现方式。

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐