从幻觉的三类成因讲到 RAG、引用出处与降温 · 面向要把 LLM 落地到生产的开发者

面试里几乎必问、上线后天天遇到的一个问题：大模型为什么会"幻觉"——语气笃定地编出一个不存在的 API、错误的日期、根本没写过的论文引用？更要命的是，它编得越流畅、越有细节，越容易骗过审阅的人。要治它，得先分清幻觉是怎么来的，再对症下药。这篇把成因和缓解手段一次串清楚。

先对齐定义：什么才算幻觉

幻觉（hallucination）指模型生成了流畅、自信，但与事实或给定上下文不符的内容。它通常分两类：

• 事实性幻觉

：与真实世界的事实冲突——编造人物生平、虚构 API、错误引用文献；

• 忠实性幻觉

：与你给它的上下文/材料冲突——你贴了一段文档让它总结，它却总结出材料里根本没有的结论。

关键要认清一点：语言模型的训练目标是"预测下一个最可能的 token"，而不是"说真话"。它优化的是流畅与似真，事实正确只是副产品。理解这一点，成因就顺理成章了。

成因一：训练分布外——它没见过，就开始"猜"

模型的知识来自训练语料。当你的问题落在训练分布之外（out-of-distribution），比如训练截止日期之后的新事件、极冷门的长尾知识、你公司内部的私有数据，模型并没有对应的可靠记忆。

但它不会因此沉默——生成机制要求它逐字往下接一个"看起来最合理"的续写。于是它用见过的相似模式去插值填空，产出一个统计上像模像样、事实上却是虚构的答案。问它 2026 年的比赛结果、问它一个不存在的函数名，它照样给你编得头头是道。

成因二：上下文缺失或冲突——线索不够就自己补

第二类成因和当次对话的上下文直接相关：

• 关键信息没给全

：你没提供必要材料，模型只能靠先验参数记忆去补，补错了就是幻觉；

• 检索到的资料不相关或相互矛盾

：RAG 场景下召回了噪声文档，模型被误导；

• 长上下文"中间遗忘"

：材料很长时，模型对处在中段的信息利用变差（lost in the middle），答题时相当于没看到，又转去凭空生成。

换句话说，很多幻觉不是模型"不知道"，而是该给的证据没送到它眼前，或者送了它没抓住。

成因三：过度自信——它不会表达"不确定"

这是最隐蔽也最危险的一类。经过对齐（尤其是 RLHF）的模型，往往被训练得倾向于给出一个确定、有帮助的回答，而不是坦白"我不知道"。评测和奖励机制若只看"答得像不像、有没有帮上忙"，就等于在奖励瞎猜——蒙对了得分，蒙错了也不比拒答更亏。

结果是模型的语气自信程度和它真实的把握程度脱节：它对编造的内容和对真知识用一样笃定的口吻。这让下游的人和系统很难从措辞上判断哪句可信，幻觉因此格外难防。

成因	本质	对应的缓解手段
训练分布外	没有可靠记忆，靠模式插值瞎补	RAG 补外部证据、明确知识边界、给出时效
上下文缺失/冲突	该给的线索没到位或被噪声干扰	补全材料、提升检索质量、结构化提示
过度自信	倾向硬答而非拒答，自信≠正确	允许"不知道"、要求标注置信度、降温

缓解手段：给证据 + 可溯源

缓解幻觉没有单一银弹，但主线非常清晰——给它证据，让它可溯源。下面几条按性价比排列。

① RAG 补证据：把答案锚在真实材料上。检索增强生成（Retrieval-Augmented Generation）先从知识库/文档/搜索里召回相关片段，塞进上下文，再让模型基于这些片段作答而不是凭参数记忆。这直接治的是"训练分布外"和"上下文缺失"两类成因——把模型没有的知识、最新的信息现场喂给它。前提是检索质量要好，召回噪声反而会引入新幻觉。

② 要求引用出处：可溯源即可核查。在提示里强制模型为每个关键结论标注它引用了哪段材料（如 [来源3]）。这带来双重收益：一是约束模型"说的话得在材料里找得到依据"，抑制它自由发挥；二是让答案可被人工或程序回查校验——溯源到原文就能一眼识破编造。

# 一段抑制幻觉的系统提示示例
只依据下面提供的【资料】回答问题。
- 每个结论后用 [来源N] 标注依据的资料编号；
- 资料中找不到依据的内容，一律不要写；
- 若资料不足以回答，直接回复"资料中未提及"。

③ 降温（降低 temperature）：少一点随机发挥。采样温度 temperature 越高，模型越倾向选那些概率不是最高的 token，输出更发散、也更容易滑向编造。对事实问答、抽取、代码这类要准确的任务，把温度调低（接近 0）能减少随意性。注意这只是降低概率、不能根治——温度为 0 也照样会自信地答错分布外的问题。

④ 允许"不知道就说不知道"：把拒答变成合法选项。针对"过度自信"这条成因，在提示里显式授权模型拒答——“没把握时请回答’我不确定’”。更进一步，可以要求它输出置信度，或在系统设计层面用第二个模型/规则做事实校验（如让模型自查、交叉验证、把答案与证据做一致性比对）。核心是打破"必须硬答"的默认，让"承认不知道"不再被惩罚。

一条实践顺序：先RAG 给证据（治没知识）→ 再要求引用出处（可溯源、可核查）→ 配合降温（减发挥）→ 兜底允许拒答（治过度自信）。四招叠加，而非四选一。

一句话总结

幻觉的根子是模型"预测下一个词"而非"说真话"：遇到分布外就瞎补、上下文缺失就自造、又因过度自信不肯认怂。缓解的主线是给证据 + 可溯源——用 RAG 把答案锚在真实材料上、要求引用出处让每句话可回查、降温少发挥、并允许它说"不知道"；这不是四选一，而是层层叠加的组合拳。

这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！

👇👇扫码免费领取全部内容👇👇

1. 成长路线图&学习规划

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

这里，我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的，我们精选了一系列深入探讨大模型技术的书籍和学习文档，它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。（书籍含电子版PDF）

3. 大模型视频教程

对于很多自学或者没有基础的同学来说，书籍这些纯文字类的学习教材会觉得比较晦涩难以理解，因此，我们提供了丰富的大模型视频教程，以动态、形象的方式展示技术概念，帮助你更快、更轻松地掌握核心知识。

4. 2026行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

5. 大模型项目实战

学以致用 ，当你的理论知识积累到一定程度，就需要通过项目实战，在实际操作中检验和巩固你所学到的知识，同时为你找工作和职业发展打下坚实的基础。

6. 大模型面试题

面试不仅是技术的较量，更需要充分的准备。

在你已经掌握了大模型技术之后，就需要开始准备面试，我们将提供精心整理的大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

7. 资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇