AI智能体开发学习文档 - 汇总篇
AI 智能体开发 知识框架

1. 基础入门

1.1 大模型背景与基本原理
• 主流大模型生态(截至2026)
• 闭源:OpenAI GPT-4o / o3 / o4-mini、Anthropic Claude 4 Opus / Sonnet、Google Gemini 2.5 Pro / 2.0 Flash
• 开源:Qwen 3 / Qwen 2.5、DeepSeek-V3 / R1、Llama 4、Mistral Large 2
• 国产:通义千问 Qwen、DeepSeek、智谱 GLM-4、文心一言 4.5、讯飞星火 4.0、Kimi
• 大模型基本原理
• Transformer 架构(Encoder-Decoder / Decoder-Only)
• 缩放定律(Scaling Law)与涌现能力
• 上下文窗口扩展技术(RoPE、YaRN、Ring Attention)
• 推理能力提升:思维链(CoT)、Self-Consistency、Tree-of-Thoughts
• 模型部署方式对比
|
方式 |
优势 |
劣势 |
适用场景 |
|
本地部署(Ollama / vLLM / llama.cpp) |
数据隐私、零延迟 |
算力要求高、维护成本 |
企业内部、高频调用 |
|
云端部署(API) |
弹性扩缩、免运维 |
延迟、成本累积 |
原型开发、初期验证 |
|
混合部署 |
灵活、分层 |
架构复杂 |
企业级生产 |
• 智能体开发方案
|
方案类型 |
代表产品 |
适用人群 |
|
低代码平台 |
Dify、Coze、FastGPT、LangBot |
非开发者、快速验证 |
|
编程框架 |
LangChain/LangGraph、Spring AI、CrewAI、OpenAI Agents SDK |
专业开发、定制化 |
|
模型微调 |
LlamaFactory、Axolotl、Unsloth |
垂直领域深度定制 |
坑点:很多人从框架入手却忽略了大模型基本原理,导致调优时无从下手。先理解 Transformer、Tokenization、Attention 机制再使用框架,事半功倍。
▎ 详见 [2.1 Transformer 架构深度解析]
1.2 提示词工程(Prompt Engineering)
• 核心原则
• 明确性(Specific)
• 角色设定(Role)
• 上下文提供(Context)
• 示例引导(Example)
• 结构化提示词
系统指令 + 用户消息 + 示例 + 输出格式约束
• Few-Shot 与 Zero-Shot
• Zero-Shot:直接提问,依赖模型内化知识
• Few-Shot:提供 2-5 个示例引导输出格式和质量
• 2025-2026 趋势
• Meta-Prompting(让模型自己优化提示词)
• DSPy(声明式提示词编程框架)逐渐替代手工调优
• 思维链(Chain-of-Thought, CoT)
• 标准 CoT:Let's think step by step
• 进阶:Tree-of-Thoughts、Graph-of-Thoughts、Self-Consistency
• o1/o3 类模型的 reasoning_effort 参数控制推理深度
• 大模型幻觉与缓解
• 来源:数据偏差、解码随机性、知识边界不清
• 缓解:RAG 外部知识注入、引用溯源、Self-Check、对比解码
坑点:提示词不是万能的。对于需要深度推理或专业知识的任务,提示词优化到一定程度后收益递减,应引入 RAG 或微调。
1.3 开发环境与工具链
• Python 环境:uv(2025-2026 推荐替代 pip/poetry)、Conda、pyenv
• Node.js 环境(Spring AI 前端等):nvm、pnpm
• 模型本地运行:Ollama(一键部署)、vLLM(高性能推理引擎)、llama.cpp(边缘设备)
• 容器化:Docker + docker-compose
• MCP 相关工具:MCP 客户端(Claude Desktop、VS Code Copilot、Continue.dev)、MCP 服务器注册表
▎ 详见 [4.1 MCP 协议与开发]
2. 核心原理

2.1 Transformer 架构深度解析
• 核心组件
• 自注意力机制(Self-Attention):QKV 计算、缩放点积、多头注意力
• 位置编码(Positional Encoding):Sinusoidal、RoPE(旋转位置编码)、ALiBi
• 前馈网络(FFN):SwiGLU、GEGLU 等现代激活函数
• 层归一化(LayerNorm / RMSNorm):Pre-Norm vs Post-Norm
• 架构变体
• Encoder-Only(BERT):理解任务
• Decoder-Only(GPT 系列、LLaMA、Qwen):生成任务,当前主流
• Encoder-Decoder(T5、BART):序列到序列任务
• 2025-2026 新进展
• Mamba / State Space Models(SSM)作为 Transformer 替代方案
• 混合架构(Transformer + SSM):Jamba、Samba
• 超长上下文(1M+ tokens):Ring Attention、YaRN + 稀疏注意力
• 多 Token 预测(MTP):DeepSeek R1 采用的训练策略
2.2 检索增强生成(RAG)
• RAG 核心流程
用户查询 → 查询改写 → 检索(向量/关键词/混合)→ 重排序 → 上下文注入 → LLM 生成
• 分块策略演进
• 固定大小分块 → 语义分块 → 父子分块(Parent-Child Chunking)
• 滑动窗口 + 重叠
• 检索模式对比
|
模式 |
原理 |
优势 |
劣势 |
|
语义检索 |
向量相似度 |
理解语义 |
对领域术语不敏感 |
|
全文检索 |
BM25 / ElasticSearch |
精确匹配 |
无法处理同义词 |
|
混合检索 |
向量 + 关键词加权 |
综合最优 |
权重调优复杂 |
|
重排序 |
Cross-Encoder 评分 |
显著提升精度 |
额外延迟 |
• 2025-2026 RAG 进化
• Agentic RAG:Agent 自主决定何时检索、检索什么、如何融合
• Graph RAG:基于知识图谱的检索(微软 GraphRAG)
• Self-RAG:模型自我判断是否需要检索及检索结果可靠性
• 多模态 RAG:图文混合检索
2.3 智能体(Agent)核心机制
• Agent 循环
感知(工具结果/环境)→ 推理(LLM思考)→ 行动(Function Call)→ 观察 → 循环
• Function Calling / Tool Use
• 模型输出结构化工具调用参数 → 执行工具 → 结果回注上下文
• 关键难点:格式解析鲁棒性、错误处理、并发调用
• 记忆系统
• 短期记忆(上下文窗口内)、长期记忆(向量数据库存储 + 检索)
• MemGPT / Letta:OS 级记忆管理
• 规划能力
• ReAct(Reasoning + Acting)
• Plan-and-Solve
• 2026:深度研究(Deep Research)模式成为标配
▎ 详见 [4.1 MCP 协议]和 [4.2 A2A 协议]
2.4 智能体开发方案全景对比
|
方案 |
抽象层级 |
适用场景 |
2026 状态 |
|
Dify |
低代码/可视化 |
RAG应用、工作流 |
v1.15.0 新增 difyctl CLI、CoT 可视化 |
|
Coze |
低代码/No-Code |
快速搭建、插件市场 |
企业级工作流、记忆管理 |
|
LangChain |
高级框架 |
Agent、Chain、RAG |
v1.0 GA,稳定性承诺 |
|
LangGraph |
图式运行时 |
复杂多智能体、状态持久化 |
v1.2 新增 DeltaChannel/节点超时/优雅关闭 |
|
Spring AI |
Java 框架 |
Java 技术栈企业集成 |
与 Spring AI Alibaba 深度绑定 |
|
OpenAI Agents SDK |
官方 SDK |
OpenAI 生态、Handoff |
0.15+ 支持 100+ LLM |
|
Google ADK |
官方 SDK |
Google Cloud、A2A 原生 |
v2.2 GA,Workflow Runtime |
|
CrewAI |
角色编排 |
多角色协作 Demo |
快速原型 |
|
AutoGen / AG2 |
对话式多 Agent |
讨论型任务 |
AG2 月度发版 |
|
Claude Agent SDK |
Anthropic 官方 |
Anthropic 生态 |
A2A + Handoff 支持 |
3. 进阶应用

3.1 低代码平台深度实践
3.1.1 Dify
• 最新版本:v1.15.0(2026-06-25)
• 应用类型:文本生成、对话助手、Chatflow、Workflow、Agent
• 知识库管理
• 支持格式:TXT、PDF、Markdown、Excel( 1.15 新增嵌入图片提取)
• 分块策略:固定大小、语义分块、父子分块、Summary Index(v1.12)
• 检索策略:向量检索、全文检索、混合检索(权重可调)
• 重排序集成:Cohere Rerank、本地重排序模型
• 工具配置
• 内置工具:网页搜索、图像生成、代码执行等
• 内置 MCP 双向支持(v1.6+):可调用 MCP Server 作为工具,也可将 Agent 暴露为 MCP Server
• 自定义工具 API
• v1.14-v1.15 重大更新
• difyctl CLI:终端直接运行 Workflow
• CoT 思维链可视化:推理过程实时展示
• Human-in-the-Loop:支持下拉选择、文件上传
• 长耗时模型:图像/视频生成模型的轮询支持
• 协作编辑:多人实时编辑工作流(v1.14)
• 并行节点执行:缩短复杂流程执行时间
• 多智能体协作:Agent 网络,专业化智能体相互调用
• 实战项目:MCP 旅行工具、美妆智能体客服
3.1.2 Coze
• 工作流:拖拽式编排、条件分支、循环
• 插件生态:OCR 插件、Python 插件、Web 搜索、数据处理
• 知识库管理:支持多数据源、自动分段
• 记忆管理:用户对话记忆、长期记忆
• 实战:剧本测试助手(OCR + Python + RAG)
3.1.3 LangBot
• IM 多渠道:飞书、企业微信、钉钉
• Pipeline 架构:低代码 AI 能力编排
• 模型管理:多模型切换
• 对接能力:可对接 Dify、Coze 等平台
• 实战:客服飞书机器人
3.1.4 FastGPT
• 知识库管理:多数据源、QA 问答对提取模式
• 检索模式:语义检索 + 全文检索 + 混合检索
• 问题优化:查询改写、结果编排
• 实战:谷谷 AI 行政助理
3.2 模型微调与定制
3.2.1 微调基础
• 微调范式对比:
|
方式 |
参数量 |
显存需求 |
性能 |
适用场景 |
|
全参数微调 |
100% |
极高 |
最高 |
大量数据、有充足算力 |
|
LoRA |
~0.1-1% |
低 |
接近全参 |
数据少、资源有限 |
|
QLoRA |
~0.1-1% |
极低(4bit) |
稍低于 LoRA |
个人 GPU、快速实验 |
|
P-Tuning v2 |
~0.1-1% |
低 |
中等 |
分类/序列标注 |
• 2025-2026 微调趋势:
• LoRA 成为事实标准,QLoRA 在有限资源场景广泛采用
• DeepSpeed ZeRO-3 + QLoRA 组合实现 70B 级模型单卡微调
• Unsloth 框架:2x 训练速度、50% 显存节省
• PEFT(HuggingFace)统一微调接口
3.2.2 LlamaFactory 微调工具
• 环境搭建:依赖 PyTorch + Transformers + Datasets + PEFT
• 关键参数
• `lora_rank`(r)、`lora_alpha`、`lora_dropout`
• `learning_rate`、`num_train_epochs`、`per_device_train_batch_size`
• `train_mode`:全参 / LoRA / QLoRA
• 流程
数据准备 → 模型加载 → 参数配置 → 训练监控 → 模型导出 → 部署
• 实战:人类行为数据集微调
3.3 编程框架深度实践
3.3.1 LangChain / LangGraph
• LangChain v1.0(2025-10 GA):
• 核心优化:稳定 API、无 break change 至 2.0
• 标准化 Content Blocks
• 废弃 `langgraph.prebuilt`,迁移至 `langchain.agents`
• LangGraph v1.2(2026-05):
• DeltaChannel:增量式 checkpoint,节省 41x+ 存储成本
• Per-Node Timeouts:节点级超时控制(`run_timeout` / `idle_timeout`)
• Node-Level Error Handlers:节点故障恢复,支持 Saga 补偿模式
• Graceful Shutdown:优雅关闭后可恢复的 agent 执行
• Streaming v3:基于 Content Block 的新流式协议
• 核心组件:
• Model I/O:Prompt Template → LLM → Output Parser
• Chain:LLMChain、SequentialChain、RouterChain
• Memory:Buffer、Summary、Vector Store-backed
• Agent:ReAct Agent、Tool Calling Agent
• Retriever:Vector Store Retriever、MultiQuery、Contextual Compression
3.3.2 Spring AI
• Java 生态集成:Spring Boot 原生体验
• 核心功能:ChatClient、QuestionAnswer Advisor、Tool Calling
• RAG 支持:基于 Spring AI Alibaba + ElasticSearch
• 流式输出:WebFlux + SSE
• 实战项目:天机 AI 助手(Qwen + 多模态 + 多 Agent + MongoDB 记忆)
3.4 2025-2026 前沿趋势
|
趋势 |
描述 |
影响 |
|
MCP 无状态化 |
2026-07-28 规范移除 initialize 握手,支持水平扩展 |
生产部署革命性提升 |
|
A2A v1.0 GA |
跨智能体通信标准(2026-04),150+ 企业采用 |
多智能体协作标准化 |
|
Agent SDK 收敛 |
各厂商推出官方 SDK(OpenAI、Google ADK、Claude) |
框架碎片化问题缓解 |
|
Handoff 模式普及 |
去中心化编排替代中心 Supervisor |
API 设计范式统一 |
|
Agentic RAG |
Agent 自主决定检索策略 |
超越传统 RAG 的问答质量 |
|
Deep Research |
多步搜索 + 分析生成报告 |
知识工作者效率飞跃 |
|
多智能体协作 |
专业化 Agent 分工协同 |
复杂任务自动化突破 |
|
多模态 Agent |
视觉 + 代码 + 语言 Agent 协作 |
全链路自动化 |
4. 工程化与实战

4.1 MCP 协议与开发
• MCP(Model Context Protocol):AI 模型与外部工具/数据源的通用接口标准
• 2026 里程碑:
• 2025-12:Anthropic 将 MCP 捐赠给 Linux Foundation Agentic AI Foundation
• 2026-03:企业级路线图发布
• 2026-07-28:最大版本更新——无状态传输
• 2026-07-28 规范核心变化:
• 无状态传输:移除 `initialize` 握手、`Mcp-Session-Id` 头,实现水平扩展
• MCP Apps(扩展):工具返回交互式 HTML 界面(沙箱 iframe),Claude/ChatGPT/VS Code 已采用
• Tasks 扩展:异步任务生命周期 `tasks/get`、`tasks/update`、`tasks/cancel`
• SEP 框架:22 个 SEP(Spec Enhancement Proposal)组成新规范
• 形式化过期策略:弃用特性至少保留 12 个月
• 授权增强:对齐 OAuth 2.0 / OpenID Connect
• `Roots`、`Sampling`、`Logging` 标记为弃用
• SDK 生态:
• Tier 1:Python v2(beta)、TypeScript v2(beta)、Go(beta)、C#(beta)
• Tier 2 支持中
• 实战:浏览器控制 MCP Server、Redis 操作 MCP Server、12306 查询 MCP Server
▎ A2A 与 MCP 的关系:MCP 用于 Agent ↔ 工具,A2A 用于 Agent ↔ Agent,两者互补。
4.2 A2A 协议
• A2A(Agent-to-Agent):Google 提出,Linux Foundation 治理的跨智能体通信标准
• 2026 现状
• v1.2 当前稳定版(2026-03)
• 150+ 组织生产部署(AWS、Microsoft、Salesforce、SAP 等)
• SDK:Python(GA)、Go(GA)、Java(Beta)、.NET(Preview)、JS/TS(v0.3)
• GitHub 22k+ Stars
• 核心概念
• Agent Card:`.well-known/agent.json` 声明能力、URL、版本
• Task:任务生命周期(submitted → working → completed → failed)
• Part:统一的消息部分类型(text / file / data)
• Message:Agent 间通信的基本单元
• 传输:JSON-RPC 2.0 over HTTP(S) / SSE / gRPC(v1.2 新增)
• v1.0 / v1.2 关键特性
• 签名 Agent Card(JWS 加密验证)
• 企业级多租户
• OAuth 2.0 改进(Device Code / PKCE,废弃隐式/密码流)
• gRPC 支持降低延迟
• 延迟广播(Latency Broadcasting)用于智能路由
• 统一 Part 类型(废弃 TextPart / FilePart / DataPart 区分)
• ADK 1.0(Google Agent Development Kit):A2A 原生支持的官方框架,2026 I/O 大会 GA
• 实战:SmartVoyage 旅行助手(Python + LangChain + FastAPI + A2A + MCP)
4.3 多语言融合架构
|
方案 |
原理 |
优势 |
适用场景 |
|
Sidecar API 网关 |
独立网关代理后端服务 |
解耦、统一入口 |
Java 主栈 + Python AI 服务 |
|
Nacos 服务治理 |
注册发现 + 配置管理 |
成熟、运维友好 |
企业级微服务 |
|
gRPC 跨语言 |
Protobuf 契约 |
高性能 |
高吞吐场景 |
|
MCP + A2A |
标准化协议互通 |
语言无关 |
异构 Agent 系统 |
4.4 多智能体协作架构
• 编排模式对比
|
模式 |
代表框架 |
原理 |
优势 |
劣势 |
|
中心 Supervisor |
LangGraph、ADK |
单一协调器调度 |
可控性强 |
单点瓶颈 |
|
Handoff(去中心) |
OpenAI Agents SDK |
Agent 自主转交 |
自然、灵活 |
调试复杂 |
|
群聊模式 |
AG2、CrewAI |
Agent 群组讨论 |
适合头脑风暴 |
效率低 |
|
层级编排 |
Deep Agents |
顶层分解 → 中层管理 → 底层执行 |
高扩展性 |
设计复杂 |
• 2026 关键实践
• Checkpoint + Human-in-the-Loop:长流程可中断恢复
• LangGraph SubGraph(v1.0+):层级编排
• Dify Multi-Agent Network:低代码多智能体协作
• A2A 协议实现跨框架 Agent 互通(如 LangGraph Agent ↔ ADK Agent)
4.5 综合实战项目
|
项目 |
技术栈 |
核心价值 |
|
简历推荐系统 RAG |
LangChain + Milvus + ES + MongoDB + Streamlit |
完整 RAG 落地方案 |
|
中医药知识图谱 |
DeepSeek + LangChain + Neo4j + FAISS + LangGraph |
图+向量混合检索 |
|
Agent 智能工单 |
NLP清洗 + 知识图谱 + Vanna AI + MCP + Function Call |
企业级 Agent 系统 |
|
天机 AI 助手 |
Spring AI + Qwen + WebFlux + ES + MongoDB + SSE |
Java 全栈 AI 应用 |
|
Myklanos 独立智能体 |
Spring AI + Redis + React + Multi-Agent |
WebSocket 实时协同 |
|
InsightScan 扫描 Agent |
React + LangGraph + Flask + MCP + A2A + AGUI |
多协议融合 |
|
SmartVoyage 旅行助手 |
Python + LangChain + FastAPI + Streamlit + A2A + MCP |
A2A+MCP 综合实践 |
4.6 测试与部署
• 测试策略
• 单元测试:工具函数、Chain 调用
• 集成测试:RAG 检索精度、Agent 工具调用流程
• E2E 测试:Playwright 测试前端交互
• 📊 评估框架:LangSmith、Phoenix( 1.15 Dify 支持自定义 Trace ID)
• 部署方案
• Docker + docker-compose
• Kubernetes + Helm(生产级)
• 云原生:Agent Engine(Google)、Vertex AI、Amazon Bedrock
• 可观测性
• LangSmith Trace:Agent 级链路追踪
• Phoenix / Langfuse:RAG 检索步骤追踪
• MCP Server 指标暴露
5. 拓展与展望

5.1 知识体系总览图
5.2 遗漏重点补充表
5.3 学习路线建议
5.4 2025-2026 最新学习资源
5.5 未来趋势展望
更多推荐
所有评论(0)