AI 智能体开发 知识框架

1. 基础入门

链接:AI智能体开发学习文档(一)-CSDN博客

1.1 大模型背景与基本原理

•   主流大模型生态(截至2026)

•  闭源:OpenAI GPT-4o / o3 / o4-mini、Anthropic Claude 4 Opus / Sonnet、Google Gemini 2.5 Pro / 2.0 Flash

•    开源:Qwen 3 / Qwen 2.5、DeepSeek-V3 / R1、Llama 4、Mistral Large 2

•    国产:通义千问 Qwen、DeepSeek、智谱 GLM-4、文心一言 4.5、讯飞星火 4.0、Kimi

•   大模型基本原理

•    Transformer 架构(Encoder-Decoder / Decoder-Only)

•    缩放定律(Scaling Law)与涌现能力

•    上下文窗口扩展技术(RoPE、YaRN、Ring Attention)

•    推理能力提升:思维链(CoT)、Self-Consistency、Tree-of-Thoughts

•   模型部署方式对比

方式

优势

劣势

适用场景

本地部署(Ollama / vLLM / llama.cpp

数据隐私、零延迟

算力要求高、维护成本

企业内部、高频调用

云端部署(API

弹性扩缩、免运维

延迟、成本累积

原型开发、初期验证

混合部署

灵活、分层

架构复杂

企业级生产

•   智能体开发方案

方案类型

代表产品

适用人群

低代码平台

Dify、Coze、FastGPT、LangBot

非开发者、快速验证

编程框架

LangChain/LangGraph、Spring AI、CrewAI、OpenAI Agents SDK

专业开发、定制化

模型微调

LlamaFactory、Axolotl、Unsloth

垂直领域深度定制

 坑点:很多人从框架入手却忽略了大模型基本原理,导致调优时无从下手。先理解 Transformer、Tokenization、Attention 机制再使用框架,事半功倍。

▎ 详见 [2.1 Transformer 架构深度解析]

1.2 提示词工程(Prompt Engineering)

•   核心原则

•    明确性(Specific)

•    角色设定(Role)

•    上下文提供(Context)

•    示例引导(Example)

•   结构化提示词

系统指令 + 用户消息 + 示例 + 输出格式约束

•   Few-Shot 与 Zero-Shot

•    Zero-Shot:直接提问,依赖模型内化知识

•    Few-Shot:提供 2-5 个示例引导输出格式和质量

•   2025-2026 趋势

•    Meta-Prompting(让模型自己优化提示词)

•    DSPy(声明式提示词编程框架)逐渐替代手工调优

•   思维链(Chain-of-Thought, CoT)

•    标准 CoT:Let's think step by step

•    进阶:Tree-of-Thoughts、Graph-of-Thoughts、Self-Consistency

•   o1/o3 类模型的 reasoning_effort 参数控制推理深度

•   大模型幻觉与缓解

•    来源:数据偏差、解码随机性、知识边界不清

•  缓解:RAG 外部知识注入、引用溯源、Self-Check、对比解码

 坑点:提示词不是万能的。对于需要深度推理或专业知识的任务,提示词优化到一定程度后收益递减,应引入 RAG 或微调。

1.3 开发环境与工具链

•    Python 环境:uv(2025-2026 推荐替代 pip/poetry)、Conda、pyenv

•    Node.js 环境(Spring AI 前端等):nvm、pnpm

•    模型本地运行:Ollama(一键部署)、vLLM(高性能推理引擎)、llama.cpp(边缘设备)

•    容器化:Docker + docker-compose

•    MCP 相关工具:MCP 客户端(Claude Desktop、VS Code Copilot、Continue.dev)、MCP 服务器注册表

▎ 详见 [4.1 MCP 协议与开发]

2. 核心原理

链接:AI智能体开发学习文档(二)-CSDN博客

2.1 Transformer 架构深度解析

•   核心组件

•    自注意力机制(Self-Attention):QKV 计算、缩放点积、多头注意力

•    位置编码(Positional Encoding):Sinusoidal、RoPE(旋转位置编码)、ALiBi

•    前馈网络(FFN):SwiGLU、GEGLU 等现代激活函数

•    层归一化(LayerNorm / RMSNorm):Pre-Norm vs Post-Norm

•   架构变体

•    Encoder-Only(BERT):理解任务

•    Decoder-Only(GPT 系列、LLaMA、Qwen):生成任务,当前主流

•    Encoder-Decoder(T5、BART):序列到序列任务

•   2025-2026 新进展

•    Mamba / State Space Models(SSM)作为 Transformer 替代方案

•    混合架构(Transformer + SSM):Jamba、Samba

•    超长上下文(1M+ tokens):Ring Attention、YaRN + 稀疏注意力

•    多 Token 预测(MTP):DeepSeek R1 采用的训练策略

2.2 检索增强生成(RAG)

•   RAG 核心流程

用户查询 → 查询改写 → 检索(向量/关键词/混合)→ 重排序 → 上下文注入 → LLM 生成

•   分块策略演进

•    固定大小分块 → 语义分块 →  父子分块(Parent-Child Chunking)

•    滑动窗口 + 重叠

•   检索模式对比

模式

原理

优势

劣势

语义检索

向量相似度

理解语义

对领域术语不敏感

全文检索

BM25 / ElasticSearch

精确匹配

无法处理同义词

混合检索

向量 + 关键词加权

综合最优

权重调优复杂

重排序

Cross-Encoder 评分

显著提升精度

额外延迟

•   2025-2026 RAG 进化

•    Agentic RAG:Agent 自主决定何时检索、检索什么、如何融合

•    Graph RAG:基于知识图谱的检索(微软 GraphRAG)

•    Self-RAG:模型自我判断是否需要检索及检索结果可靠性

•    多模态 RAG:图文混合检索

2.3 智能体(Agent)核心机制

•   Agent 循环

感知(工具结果/环境)→ 推理(LLM思考)→ 行动(Function Call)→ 观察 → 循环

•   Function Calling / Tool Use

•    模型输出结构化工具调用参数 → 执行工具 → 结果回注上下文

•    关键难点:格式解析鲁棒性、错误处理、并发调用

•   记忆系统

•    短期记忆(上下文窗口内)、长期记忆(向量数据库存储 + 检索)

•    MemGPT / Letta:OS 级记忆管理

•   规划能力

•    ReAct(Reasoning + Acting)

•    Plan-and-Solve

•   2026:深度研究(Deep Research)模式成为标配

▎ 详见 [4.1 MCP 协议]和 [4.2 A2A 协议]

2.4 智能体开发方案全景对比

方案

抽象层级

适用场景

2026 状态

Dify

低代码/可视化

RAG应用、工作流

v1.15.0 新增 difyctl CLI、CoT 可视化

Coze

低代码/No-Code

快速搭建、插件市场

企业级工作流、记忆管理

LangChain

高级框架

Agent、Chain、RAG

v1.0 GA,稳定性承诺

LangGraph

图式运行时

复杂多智能体、状态持久化

v1.2 新增 DeltaChannel/节点超时/优雅关闭

Spring AI

Java 框架

Java 技术栈企业集成

与 Spring AI Alibaba 深度绑定

OpenAI Agents SDK

官方 SDK

OpenAI 生态、Handoff

0.15+ 支持 100+ LLM

Google ADK

官方 SDK

Google Cloud、A2A 原生

v2.2 GA,Workflow Runtime

CrewAI

角色编排

多角色协作 Demo

快速原型

AutoGen / AG2

对话式多 Agent

讨论型任务

AG2 月度发版

Claude Agent SDK

Anthropic 官方

Anthropic 生态

A2A + Handoff 支持

3. 进阶应用

链接:AI智能体开发学习文档(三)-CSDN博客

3.1 低代码平台深度实践

3.1.1 Dify

•    最新版本:v1.15.0(2026-06-25)

•    应用类型:文本生成、对话助手、Chatflow、Workflow、Agent

•    知识库管理

•    支持格式:TXT、PDF、Markdown、Excel( 1.15 新增嵌入图片提取)

•    分块策略:固定大小、语义分块、父子分块、Summary Index(v1.12)

•    检索策略:向量检索、全文检索、混合检索(权重可调)

•    重排序集成:Cohere Rerank、本地重排序模型

•    工具配置

•    内置工具:网页搜索、图像生成、代码执行等

•    内置 MCP 双向支持(v1.6+):可调用 MCP Server 作为工具,也可将 Agent 暴露为 MCP Server

•    自定义工具 API

•    v1.14-v1.15 重大更新

•    difyctl CLI:终端直接运行 Workflow

•    CoT 思维链可视化:推理过程实时展示

•  Human-in-the-Loop:支持下拉选择、文件上传

•    长耗时模型:图像/视频生成模型的轮询支持

•    协作编辑:多人实时编辑工作流(v1.14)

•    并行节点执行:缩短复杂流程执行时间

•    多智能体协作:Agent 网络,专业化智能体相互调用

•    实战项目:MCP 旅行工具、美妆智能体客服

3.1.2 Coze

•    工作流:拖拽式编排、条件分支、循环

•    插件生态:OCR 插件、Python 插件、Web 搜索、数据处理

•    知识库管理:支持多数据源、自动分段

•    记忆管理:用户对话记忆、长期记忆

•    实战:剧本测试助手(OCR + Python + RAG)

3.1.3 LangBot

•    IM 多渠道:飞书、企业微信、钉钉

•    Pipeline 架构:低代码 AI 能力编排

•    模型管理:多模型切换

•    对接能力:可对接 Dify、Coze 等平台

•    实战:客服飞书机器人

3.1.4 FastGPT

•    知识库管理:多数据源、QA 问答对提取模式

•    检索模式:语义检索 + 全文检索 + 混合检索

•    问题优化:查询改写、结果编排

•    实战:谷谷 AI 行政助理

3.2 模型微调与定制

3.2.1 微调基础

•    微调范式对比:

方式

参数量

显存需求

性能

适用场景

全参数微调

100%

极高

最高

大量数据、有充足算力

LoRA

~0.1-1%

接近全参

数据少、资源有限

QLoRA

~0.1-1%

极低(4bit)

稍低于 LoRA

个人 GPU、快速实验

P-Tuning v2

~0.1-1%

中等

分类/序列标注

•    2025-2026 微调趋势:

•    LoRA 成为事实标准,QLoRA 在有限资源场景广泛采用

•    DeepSpeed ZeRO-3 + QLoRA 组合实现 70B 级模型单卡微调

•    Unsloth 框架:2x 训练速度、50% 显存节省

•    PEFT(HuggingFace)统一微调接口

3.2.2 LlamaFactory 微调工具

•    环境搭建:依赖 PyTorch + Transformers + Datasets + PEFT

•    关键参数

•    `lora_rank`(r)、`lora_alpha`、`lora_dropout`

•    `learning_rate`、`num_train_epochs`、`per_device_train_batch_size`

•    `train_mode`:全参 / LoRA / QLoRA

•    流程

数据准备 → 模型加载 → 参数配置 → 训练监控 → 模型导出 → 部署

•    实战:人类行为数据集微调

3.3 编程框架深度实践

3.3.1 LangChain / LangGraph

•    LangChain v1.0(2025-10 GA):

•    核心优化:稳定 API、无 break change 至 2.0

•    标准化 Content Blocks

•    废弃 `langgraph.prebuilt`,迁移至 `langchain.agents`

•    LangGraph v1.2(2026-05):

•    DeltaChannel:增量式 checkpoint,节省 41x+ 存储成本

•    Per-Node Timeouts:节点级超时控制(`run_timeout` / `idle_timeout`)

•    Node-Level Error Handlers:节点故障恢复,支持 Saga 补偿模式

•    Graceful Shutdown:优雅关闭后可恢复的 agent 执行

•    Streaming v3:基于 Content Block 的新流式协议

•    核心组件:

•    Model I/O:Prompt Template → LLM → Output Parser

•    Chain:LLMChain、SequentialChain、RouterChain

•    Memory:Buffer、Summary、Vector Store-backed

•    Agent:ReAct Agent、Tool Calling Agent

•    Retriever:Vector Store Retriever、MultiQuery、Contextual Compression

3.3.2 Spring AI

•    Java 生态集成:Spring Boot 原生体验

•    核心功能:ChatClient、QuestionAnswer Advisor、Tool Calling

•    RAG 支持:基于 Spring AI Alibaba + ElasticSearch

•    流式输出:WebFlux + SSE

•    实战项目:天机 AI 助手(Qwen + 多模态 + 多 Agent + MongoDB 记忆)

3.4 2025-2026 前沿趋势

趋势

描述

影响

MCP 无状态化

2026-07-28 规范移除 initialize 握手,支持水平扩展

生产部署革命性提升

A2A v1.0 GA

跨智能体通信标准(2026-04),150+ 企业采用

多智能体协作标准化

Agent SDK 收敛

各厂商推出官方 SDK(OpenAI、Google ADK、Claude)

框架碎片化问题缓解

Handoff 模式普及

去中心化编排替代中心 Supervisor

API 设计范式统一

Agentic RAG

Agent 自主决定检索策略

超越传统 RAG 的问答质量

Deep Research

多步搜索 + 分析生成报告

知识工作者效率飞跃

多智能体协作

专业化 Agent 分工协同

复杂任务自动化突破

多模态 Agent

视觉 + 代码 + 语言 Agent 协作

全链路自动化

4. 工程化与实战

链接:AI智能体开发学习文档(四)-CSDN博客

4.1 MCP 协议与开发

•    MCP(Model Context Protocol):AI 模型与外部工具/数据源的通用接口标准

•    2026 里程碑:

•    2025-12:Anthropic 将 MCP 捐赠给 Linux Foundation Agentic AI Foundation

•    2026-03:企业级路线图发布

•    2026-07-28:最大版本更新——无状态传输

•    2026-07-28 规范核心变化:

•    无状态传输:移除 `initialize` 握手、`Mcp-Session-Id` 头,实现水平扩展

•    MCP Apps(扩展):工具返回交互式 HTML 界面(沙箱 iframe),Claude/ChatGPT/VS Code 已采用

•    Tasks 扩展:异步任务生命周期 `tasks/get`、`tasks/update`、`tasks/cancel`

•    SEP 框架:22 个 SEP(Spec Enhancement Proposal)组成新规范

•    形式化过期策略:弃用特性至少保留 12 个月

•    授权增强:对齐 OAuth 2.0 / OpenID Connect

•    `Roots`、`Sampling`、`Logging` 标记为弃用

•    SDK 生态:

•    Tier 1:Python v2(beta)、TypeScript v2(beta)、Go(beta)、C#(beta)

•    Tier 2 支持中

•    实战:浏览器控制 MCP Server、Redis 操作 MCP Server、12306 查询 MCP Server

▎ A2A 与 MCP 的关系:MCP 用于 Agent ↔ 工具,A2A 用于 Agent ↔ Agent,两者互补。

4.2 A2A 协议

•    A2A(Agent-to-Agent):Google 提出,Linux Foundation 治理的跨智能体通信标准

•   2026 现状

•    v1.2 当前稳定版(2026-03)

•    150+ 组织生产部署(AWS、Microsoft、Salesforce、SAP 等)

•    SDK:Python(GA)、Go(GA)、Java(Beta)、.NET(Preview)、JS/TS(v0.3)

•    GitHub 22k+ Stars

•   核心概念

•    Agent Card:`.well-known/agent.json` 声明能力、URL、版本

•    Task:任务生命周期(submitted → working → completed → failed)

•    Part:统一的消息部分类型(text / file / data)

•    Message:Agent 间通信的基本单元

•    传输:JSON-RPC 2.0 over HTTP(S) / SSE / gRPC(v1.2 新增)

•   v1.0 / v1.2 关键特性

•    签名 Agent Card(JWS 加密验证)

•    企业级多租户

•  OAuth 2.0 改进(Device Code / PKCE,废弃隐式/密码流)

•    gRPC 支持降低延迟

•    延迟广播(Latency Broadcasting)用于智能路由

•    统一 Part 类型(废弃 TextPart / FilePart / DataPart 区分)

•    ADK 1.0(Google Agent Development Kit):A2A 原生支持的官方框架,2026 I/O 大会 GA

•    实战:SmartVoyage 旅行助手(Python + LangChain + FastAPI + A2A + MCP)

4.3 多语言融合架构

方案

原理

优势

适用场景

Sidecar API 网关

独立网关代理后端服务

解耦、统一入口

Java 主栈 + Python AI 服务

Nacos 服务治理

注册发现 + 配置管理

成熟、运维友好

企业级微服务

gRPC 跨语言

Protobuf 契约

高性能

高吞吐场景

 MCP + A2A

标准化协议互通

语言无关

异构 Agent 系统

4.4 多智能体协作架构

•   编排模式对比

模式

代表框架

原理

优势

劣势

中心 Supervisor

LangGraph、ADK

单一协调器调度

可控性强

单点瓶颈

Handoff(去中心)

OpenAI Agents SDK

Agent 自主转交

自然、灵活

调试复杂

群聊模式

AG2、CrewAI

Agent 群组讨论

适合头脑风暴

效率低

层级编排

Deep Agents

顶层分解 → 中层管理 → 底层执行

高扩展性

设计复杂

•   2026 关键实践

•    Checkpoint + Human-in-the-Loop:长流程可中断恢复

•    LangGraph SubGraph(v1.0+):层级编排

•    Dify Multi-Agent Network:低代码多智能体协作

•    A2A 协议实现跨框架 Agent 互通(如 LangGraph Agent ↔ ADK Agent)

4.5 综合实战项目

项目

技术栈

核心价值

简历推荐系统 RAG

LangChain + Milvus + ES + MongoDB + Streamlit

完整 RAG 落地方案

中医药知识图谱

DeepSeek + LangChain + Neo4j + FAISS + LangGraph

图+向量混合检索

Agent 智能工单

NLP清洗 + 知识图谱 + Vanna AI + MCP + Function Call

企业级 Agent 系统

天机 AI 助手

Spring AI + Qwen + WebFlux + ES + MongoDB + SSE

Java 全栈 AI 应用

Myklanos 独立智能体

Spring AI + Redis + React + Multi-Agent

WebSocket 实时协同

InsightScan 扫描 Agent

React + LangGraph + Flask + MCP + A2A + AGUI

多协议融合

SmartVoyage 旅行助手

Python + LangChain + FastAPI + Streamlit + A2A + MCP

A2A+MCP 综合实践

4.6 测试与部署

•   测试策略

•    单元测试:工具函数、Chain 调用

•    集成测试:RAG 检索精度、Agent 工具调用流程

•    E2E 测试:Playwright 测试前端交互

•    📊 评估框架:LangSmith、Phoenix( 1.15 Dify 支持自定义 Trace ID)

•   部署方案

•    Docker + docker-compose

•    Kubernetes + Helm(生产级)

•    云原生:Agent Engine(Google)、Vertex AI、Amazon Bedrock

•   可观测性

•    LangSmith Trace:Agent 级链路追踪

•    Phoenix / Langfuse:RAG 检索步骤追踪

•    MCP Server 指标暴露

5. 拓展与展望

链接:AI智能体开发学习文档(五)-CSDN博客

5.1 知识体系总览图

5.2 遗漏重点补充表

5.3 学习路线建议

5.4 2025-2026 最新学习资源

5.5 未来趋势展望

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐