1、什么是RAG技术？

RAG的全称是Retrieval-Augmented Generation,称为检索增强生成技术，可以理解为给大模型安装一个“外接大脑”，RAG是这样工作的：当大模型收到一个问题时，它不会直接凭自己的记忆回答，而是会：

a.先从一个海量的、可更新的知识库（外接大脑）中查找相关信息

b.然后把找到的信息和问题一起交给大模型

c.最后让大模型基于这些准确的信息生成答案

2、为什么需要RAG技术？

大模型虽然强大，但存在五个问题：

知识过时：大模型的训练数据有截止日期，无法获取最新信息。GPT-4的知识截止到2023年4月，之后发生的事情它一无所知。

缺乏专业知识：通用模型在医疗、法律等专业领域深度不够，难以提供可靠答案。

凭空捏造：当模型不确定时，可能会“自信地”编造答案，产生所谓的“幻觉”。
数据泄露：GPT-2是通过数据攻击大模型获取个人敏感数据。

训练成本：模型的参数规模不断攀升，需要更多的训练资源。

RAG技术恰好解决了这些问题：

知识实时更新：外接知识库可以随时更新，保证答案的时效性专业精准：可接入专业领域的数据库，提供权威答案有据可查：每个答案都有来源依据，可追溯可验证

数据更安全：个人私有数据得到保证

训练成本少：早在2021年，便于科学家论文证明利用RAG系统，大模型训练成本大大减少

3、RAG的工作流程

RAG的工作过程可以分为三个清晰的步骤：

检索（Retrieval） - 当用户提出问题时，RAG系统首先从外部知识库中检索与问题相关的信息。这个过程类似于使用搜索引擎，找到最相关的文档片段。

增强（Augmentation） - 将检索到的相关信息与用户原问题组合成一个新的、 enriched 的提示词。例如：“基于以下资料{检索到的信息}，请回答：{用户原问题}”。

生成（Generation） - 将这个增强后的提示词输入大模型，让模型基于提供的资料生成最终答案。

整个过程通常只需几秒钟，用户感受到的是一个直接、准确且有针对性的答案。

4、RAG的优缺点

RAG的优势：

准确性高：基于最新、最可靠的信息生成答案，降低幻觉

成本低廉：相比重新训练模型，更新知识库的成本几乎可以忽略不计

透明度高：可以提供答案的来源和依据，增强可信度

易于实现：技术相对成熟，有多种开源框架可用

模型可解释性：RAG具有一定程度的可解释性，可以理解模型是如何生成回答的

RAG的挑战：

依赖检索质量：如果检索不到相关信息，系统无法给出好答案

上下文长度限制：大模型有输入长度限制，可能无法处理过多检索结果

延迟问题：检索需要时间，会增加整体响应延迟

依赖于现有的知识库：需要专业的且大规模的知识库

5、RAG的应用场景

RAG技术正在各行各业发挥重要作用：

智能客服：接入最新的产品文档和FAQ，提供准确客服咨询

企业知识管理：构建企业专属知识库，员工可随时查询公司制度、流程

医疗辅助：结合最新医学文献，为医生提供诊断建议和治疗方案参考

法律咨询：接入法律条文和判例库，提供初步法律意见

教育领域：基于教材和最新研究资料，为学生提供个性化辅导

内容创作：帮助作者查找资料，生成内容翔实的文章

6、RAG的范式演变

RAG技术本身也在不断进化，经历了几个阶段的演变：

初级RAG（Naive RAG）：简单的检索-读取流程，存在检索不准确、生成内容与查询不匹配等问题。

高级RAG（Advanced RAG）：引入优化技术，包括更精细的检索前处理（更好的文本分割、索引优化）、检索过程优化（更好的检索策略和排序算法）以及检索后优化（对检索结果的重排序和过滤）。

模块化RAG（Modular RAG）：将RAG系统拆分为多个可替换的模块，如搜索模块、记忆模块、检索模块和重排序模块等。这种架构更加灵活，可以根据不同需求定制解决方案。

大模型RAG：主导的系统可以通过Agent来实现，Agent可以看作LLM于工具集合（如搜索引擎、数据库、网站导航）的集成。

多模态RAG：是RAG系统的扩展，可以处理不同模态的数据，如文本、图片、音频、视频。生成的结构也更加丰富和多样化。

RAG技术不是要取代大模型，而是让大模型变得更加可靠、实用。它解决了大模型“一本正经地胡说八道”的问题，让AI能够基于事实、依据最新资料给出回答。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】