前言

在构建智能体或 RAG 系统时,我们经常面临一个核心挑战:用户的自然语言输入与系统的执行逻辑之间存在巨大的鸿沟。

用户说:“我电脑连不上网了。”

系统如果直接检索:“电脑连不上网”,可能会匹配到一堆无关的维修广告。

但一个成熟的 IT 支持 Agent 应该做的是:

  1. 识别意图:这是一个“故障排查”请求,不是“购买咨询”,也不是“闲聊”。
  2. 重写查询:将口语化的描述转化为技术检索词,如“网络连接失败 故障排查 步骤 Windows/Mac”。
  3. 路由分发:调用“IT 知识库检索”工具,而不是去查“员工手册”。

这就是 意图路由(Routing)查询重写(Rewriting) 的价值。它们构成了 Agent 的推理层,决定了系统是“智能”还是“智障”。

本文将深入探讨这两个模块的通用设计模式、prompt 工程最佳实践,以及它们在 dify/coze 等平台中的复用逻辑。

01 意图路由

意图路由的本质是一个分类任务(Classification Task)。它的目标是根据用户的输入,将控制权分发给最合适的下游工作流或工具。

在企业级应用中,这通常对应着不同的业务部门或数据孤岛。

一个典型的企业级 agent 路由逻辑简单示例如下:

通用路由 Prompt 模板

实现高准确率路由的关键,在于 Prompt 的设计必须遵循 “定义明确、边界清晰、输出结构化” 的原则。

以下是一个通用路由 prompt 模板示例:`# Role
你是一个智能系统的意图分类器。你的任务是接收用户输入,并将其精准分类到预定义的意图类别中。

Intent Definitions (意图定义)

请基于以下标准进行判断:

  1. [Knowledge_Retrieval]:

    • 定义:用户询问关于产品功能、公司政策、操作手册等客观事实。
    • 示例:“如何重置密码?”、“年假有多少天?”
  2. [Data_Analysis]:

    • 定义:用户需要查询具体的业务数据、报表或进行统计分析。通常包含时间、指标和聚合需求。
    • 示例:“上个月销售额是多少?”、“统计各部门人数。”
  3. [System_Action]:

    • 定义:用户请求执行某个具体操作或变更系统状态。
    • 示例:“帮我提交这个请假条”、“预订明天的会议室。”
  4. [General_Chat]:

    • 定义:问候、闲聊或不属于上述任何类别的通用问题。

Constraints (约束)

  • 不要尝试回答用户的问题。
  • 仅输出分类标签,不要包含任何解释。
  • 输出格式必须为 JSON: {“category”: “分类标签”}

User Input

{{user_query}}`

这种路由逻辑是通用的,比如:

  • 在 python 代码中:这是 RouterChainLLMChain 的核心逻辑。
  • 在 dify 中:对应 “问题分类器” 节点。你只需在界面上填入上述分类定义,系统会自动生成分支。

02 查询重写

用户的提问往往是模糊的、缺失上下文的,甚至是带有误导性的。查询重写(Query Rewriting)的目标,是将用户的“原始需求”转化为机器可理解的“精准指令”。

1. 常见重写策略

根据不同的业务场景,重写策略可以分为以下三类:

  • 同义扩展:解决专有名词匹配问题。
  • 输入:“我想买个本子。”
  • 重写:“笔记本电脑 Laptop 办公电脑 价格 型号”
  • 指代消解:解决多轮对话中的上下文缺失。
  • 输入:“它多少钱?”(上文聊的是 iPhone 15)
  • 重写:“iPhone 15 的价格是多少?”
  • 后退提示:解决问题过于具体导致检索失败的问题,将其抽象化。
  • 输入:“为什么我的 Python 代码报了 KeyError?”
  • 重写:“Python 中 KeyError 的常见原因及解决方法。”

2. 高级策略:HyDE (假设性文档嵌入)

在一些复杂的知识检索场景中,单纯的关键词重写不够用。我们可以使用 HyDE (Hypothetical Document Embeddings) 技术。

逻辑:让 LLM 先生成一个“假设的答案”,然后用这个“假设答案”去检索“真实文档”。因为“答案”和“答案”在向量空间中比“问题”和“答案”更接近。

通用重写 Prompt 模板

以下是一个集成了“多角度分解”和“关键词优化”的prompt:`# Role
你是一个搜索查询优化专家。你的目标是将用户的原始问题转化为搜索引擎或向量数据库更容易理解的查询版本。

Instructions1.

  1. 分析意图:理解用户问题的核心需求。
  2. 消除歧义:如果问题包含模糊代词(如“它”、“那个”),请结合常识进行补全。
  3. 关键词提取:提取核心实体、动作和约束条件。
  4. 多维度扩展:生成 3 个不同角度的搜索查询,以提高召回率。

Output Format

请直接输出一个 JSON 列表,包含优化后的查询字符串:
[“查询版本1”, “查询版本2”, “查询版本3”]

Examples

User: “最近那个很火的 AI 视频工具叫什么?”
Output: [“OpenAI Sora2 介绍”, “AI 视频生成工具 推荐 2025”, “热门 文本转视频 AI 模型”]

User: “怎么配置那个环境变量?”
Output: [“配置系统环境变量 教程”, “Windows/Linux 设置环境变量 步骤”, “Python PATH 环境变量配置方法”]

User Input

{{user_query}}`

03 意图识别与元数据过滤的联动

在结构化数据查询(如商品检索、简历筛选)中,意图识别不仅仅是分类,还需要提取实体(Entity Extraction),用于构建结构化的过滤条件(Pre-filtering)。

这是连接自然语言与数据库查询(SQL/NoSQL)的关键桥梁。

场景示例: 用户输入:“帮我找几个北京的、三年经验以上的 Java 工程师。”

处理流程:

  1. LLM****提取

  2. location: “北京”

  3. years_of_experience: { “$gte”: 3 }

  4. skill: “Java”

  5. role: “Engineer”

  6. 系统动作

  7. 生成数据库查询语句(或向量库 Filter)。

  8. 执行精确检索。

无论是手写代码,还是使用dify/coze等平台,“意图路由”“查询重写” 都是构建高质量 Agent 的必修课。

  • 意图路由 解决了 “去哪里” 的问题,防止了通用大模型在垂直领域胡乱回答。
  • 查询重写 解决了 “怎么查” 的问题,弥补了人类表达与机器索引之间的差异。

在 Agent 开发中,我们将不再直接把用户输入扔给 LLM,而是会构建一个由 Router(路由)、Rewriter(重写)、Extractor(提取) 组成的推理前处理层

这层“认知中间件”,才是区分一个简单的 Chatbot 和一个真正的智能业务助理的分水岭。

普通人如何抓住AI大模型的风口?

为什么要学AI大模型

当下,⼈⼯智能市场迎来了爆发期,并逐渐进⼊以⼈⼯通⽤智能(AGI)为主导的新时代。企业纷纷官宣“ AI+ ”战略,为新兴技术⼈才创造丰富的就业机会,⼈才缺⼝将达 400 万!

DeepSeek问世以来,生成式AI和大模型技术爆发式增长,让很多岗位重新成了炙手可热的新星,岗位薪资远超很多后端岗位,在程序员中稳居前列。

在这里插入图片描述

与此同时AI与各行各业深度融合,飞速发展,成为炙手可热的新风口,企业非常需要了解AI、懂AI、会用AI的员工,纷纷开出高薪招聘AI大模型相关岗位。
在这里插入图片描述

AI大模型开发工程师对AI大模型需要了解到什么程度呢?我们先看一下招聘需求:

在这里插入图片描述

知道人家要什么能力,一切就好办了!我整理了AI大模型开发工程师需要掌握的知识如下:

大模型基础知识

你得知道市面上的大模型产品生态和产品线;还要了解Llama、Qwen等开源大模型与OpenAI等闭源模型的能力差异;以及了解开源模型的二次开发优势,以及闭源模型的商业化限制,等等。

img

了解这些技术的目的在于建立与算法工程师的共通语言,确保能够沟通项目需求,同时具备管理AI项目进展、合理分配项目资源、把握和控制项目成本的能力。

产品经理还需要有业务sense,这其实就又回到了产品人的看家本领上。我们知道先阶段AI的局限性还非常大,模型生成的内容不理想甚至错误的情况屡见不鲜。因此AI产品经理看技术,更多的是从技术边界、成本等角度出发,选择合适的技术方案来实现需求,甚至用业务来补足技术的短板。

AI Agent

现阶段,AI Agent的发展可谓是百花齐放,甚至有人说,Agent就是未来应用该有的样子,所以这个LLM的重要分支,必须要掌握。

Agent,中文名为“智能体”,由控制端(Brain)、感知端(Perception)和行动端(Action)组成,是一种能够在特定环境中自主行动、感知环境、做出决策并与其他Agent或人类进行交互的计算机程序或实体。简单来说就是给大模型这个大脑装上“记忆”、装上“手”和“脚”,让它自动完成工作。

Agent的核心特性

自主性: 能够独立做出决策,不依赖人类的直接控制。

适应性: 能够根据环境的变化调整其行为。

交互性: 能够与人类或其他系统进行有效沟通和交互。

img

对于大模型开发工程师来说,学习Agent更多的是理解它的设计理念和工作方式。零代码的大模型应用开发平台也有很多,比如dify、coze,拿来做一个小项目,你就会发现,其实并不难。

AI 应用项目开发流程

如果产品形态和开发模式都和过去不一样了,那还画啥原型?怎么排项目周期?这将深刻影响产品经理这个岗位本身的价值构成,所以每个AI产品经理都必须要了解它。

img

看着都是新词,其实接触起来,也不难。

从0到1的大模型系统学习籽料

最近很多程序员朋友都已经学习或者准备学习 AI 大模型,后台也经常会有小伙伴咨询学习路线和学习资料,我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师(吴文俊奖得主)
在这里插入图片描述

给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料,这些学习资料不仅深入浅出,而且非常实用,让大家系统而高效地掌握AI大模型的各个知识点。

图片

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

适学人群

应届毕业生‌: 无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。

零基础转型‌: 非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈: 传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型‌。
在这里插入图片描述

AI大模型系统学习路线

在面对AI大模型开发领域的复杂与深入,精准学习显得尤为重要。一份系统的技术路线图,不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点,还能提供一条高效、有序的学习路径。

  • 基础篇,包括了大模型的基本情况,核心原理,带你认识了解大模型提示词,Transformer架构,预训练、SFT、RLHF等一些基础概念,用最易懂的方式带你入门AI大模型
  • 进阶篇,你将掌握RAG,Langchain、Agent的核心原理和应用,学习如何微调大模型,让大模型更适合自己的行业需求,私有化部署大模型,让自己的数据更加安全
  • 项目实战篇,会手把手一步步带着大家练习企业级落地项目,比如电商行业的智能客服、智能销售项目,教育行业的智慧校园、智能辅导项目等等

img

但知道是一回事,做又是另一回事,初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性,在这基础上,找到高质量的学习资源,不浪费时间、不走弯路,又是重中之重。

AI大模型入门到实战的视频教程+项目包

看视频学习是一种高效、直观、灵活且富有吸引力的学习方式,可以更直观地展示过程,能有效提升学习兴趣和理解力,是现在获取知识的重要途径

在这里插入图片描述
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

海量AI大模型必读的经典书籍(PDF)

阅读AI大模型经典书籍可以帮助读者提高技术水平,开拓视野,掌握核心技术,提高解决问题的能力,同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说,阅读经典书籍是非常有必要的。
在这里插入图片描述

600+AI大模型报告(实时更新)

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
在这里插入图片描述

AI大模型面试真题+答案解析

我们学习AI大模型必然是想找到高薪的工作,下面这些面试题都是总结当前最新、最热、最高频的面试题,并且每道题都有详细的答案,面试前刷完这套面试题资料,小小offer,不在话下
在这里插入图片描述

在这里插入图片描述

AI时代,企业最需要的是既懂技术、又有实战经验的复合型人才,**当前人工智能岗位需求多,薪资高,前景好。**在职场里,选对赛道就能赢在起跑线。抓住AI这个风口,相信下一个人生赢家就是你!机会,永远留给有准备的人。

如何获取?

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐