摘要

随着大规模语言模型（Large Language Models, LLMs）在自然语言处理领域的广泛应用，其生成内容的可靠性问题日益凸显。AI幻觉（Hallucination）作为大模型输出不可靠的典型表现，指模型生成内容看似合理但与输入矛盾、自相矛盾或违背事实的现象。本文从工科视角系统分析了AI幻觉的类型划分、产生机理、检测方法与抑制策略。研究表明，幻觉问题源于训练数据偏差、模型结构限制及解码策略缺陷等多方面因素。当前有效的检测技术包括基于知识图谱的事实验证、不确定性估计和交叉检验等；抑制方法涵盖检索增强生成（RAG）、推理干预和优化解码策略等。本论文进一步探讨了多技术融合的未来发展方向，为构建可靠、安全的大模型应用提供理论支持与实践参考。

1 引言

大规模语言模型如GPT系列、LLaMA等已在文本生成、问答系统、代码编程等任务中展现出卓越能力，但其生成内容中的幻觉现象成为制约实际应用的关键挑战。所谓AI幻觉，即模型生成内容中存在与输入信息矛盾（Input-conflicting）、自相矛盾（Context-conflicting）或与事实不符（Fact-conflicting）的现象。这类问题在医疗、金融、法律等高风险领域尤为突出，可能引发严重后果。例如，在医疗诊断中，大模型可能生成错误的药物推荐；在金融领域，可能提供不存在的法规信息。

幻觉问题根源复杂，既有数据质量因素（如训练数据包含错误或过时信息），也有模型结构因素（如Transformer的自回归生成机制导致错误累积），还有推理过程因素（如解码策略的随机性）。技术上面临的核心难点在于如何在不牺牲模型创造力的前提下，有效识别和抑制幻觉。随着应用深入，幻觉研究从初期分类定性向检测抑制技术发展，涌现出多种解决方案。

本文从工科角度系统梳理幻觉检测与抑制的技术路线：第2部分分析幻觉类型与成因；第3部分探讨检测技术；第4部分评估抑制策略；第5部分展望未来研究方向。通过文献综述与技术分析，旨在为提升大模型可靠性提供理论支持与实践指南。

2 大模型幻觉的类型与成因分析

2.1 幻觉的类型学分类

根据表现形式和产生机制，大模型幻觉可分为三大类型。事实性幻觉（Factuality Hallucination）指模型输出与客观事实不符，包括事实矛盾（如实体错误、关系错误）和事实编造（如生成不可验证的内容）。忠实性幻觉（Faithfulness Hallucination）指模型输出未遵循输入指令或上下文，包括指令不一致、内容不一致和逻辑不一致。内部矛盾幻觉则指模型在生成长文本时前后信息矛盾。

表1：大模型幻觉的主要类型及特点

幻觉类型	子类别	典型表现	危害程度
事实性幻觉	事实矛盾	实体错误、关系错误	高
	事实编造	不可验证内容、夸大陈述	高
忠实性幻觉	指令不一致	未遵循用户指令	中
	内容不一致	与上文信息冲突	中
	逻辑不一致	推理过程错误	中-高
内部矛盾	上下文冲突	前后信息矛盾	中

2.2 幻觉产生的多层次原因

2.2.1 数据层面成因

训练数据的质量缺陷是幻觉的重要源头。大模型的预训练数据常来自互联网，其中包含大量错误、偏见或过时信息。当模型学习这些数据时，会将错误模式内化。另一方面，数据覆盖的不完全性导致知识边界问题：模型在遇到训练数据中少见或未出现的知识时，倾向于编造合理但错误的内容。特别是在专业领域（如医疗、法律），训练数据与实际应用场景的知识分布差异更大，幻觉现象更为突出。

数据偏差同样重要。社会文化偏见、信息源倾向性等会导致模型生成带有系统性偏差的内容。例如，当训练数据中某些群体信息不足时，模型对该群体的生成内容可能更不准确。

2.2.2 训练过程成因

大模型的训练通常包括预训练、有监督微调（SFT）和人类反馈强化学习（RLHF）三个阶段，每个阶段都可能引入幻觉。

在预训练阶段，Transformer的自回归生成机制导致模型仅根据上文预测下文，无法利用下文信息。这种单向建模限制了模型对上下文的理解能力，尤其生成长文本时，后续生成可能偏离原始语境。同时，雪球效应使得前期生成中的小错误会随生成过程累积放大。

在SFT阶段，当指令数据超出模型知识边界时，模型可能被强制生成不合理内容。研究表明，模型通常缺乏拒绝能力，面对未知问题时倾向于编造答案而非承认无知。RLHF阶段则可能因奖励模型设计缺陷，使模型过度迎合人类偏好，输出看似合理但实际错误的内容（谄媚现象）。

2.2.3 推理过程成因

推理阶段的解码策略是幻觉产生的重要因素。常用随机采样方法（如top-p采样）为保持生成多样性，但会增加不确定性。研究表明，随着生成序列延长，模型注意力分布趋于分散，对后续词的预测准确性下降，幻觉风险增加。

此外，Softmax函数存在的瓶颈效应限制了模型输出分布的表达能力，当多个候选词具有相似语义时，模型可能选择不合理项。模型的过度自信现象也是问题之一：模型对最近生成内容赋予过高权重，而忽略整体上下文，导致生成偏离。

3 幻觉检测的技术路线

3.1 基于事实验证的检测方法

知识图谱验证是事实检测中最直接的方法。如图GraphEval框架，通过从知识图谱中采样三元组，将其转化为陈述语句，让模型判断真伪。具体流程分为两步：从模型输出中提取原子断言并构建子图；将该子图与知识图谱中的对应部分比较。这种方法的优势在于利用结构化知识提供客观事实基准，但依赖知识图谱的覆盖范围和质量。

检索增强验证是另一种常见方法，如Re-KGR方法针对医学领域设计：从模型响应中提取关键实体和关系三元组，在权威知识库中检索验证。该方法特别适合时效性要求高的场景，可结合搜索引擎获取最新信息。但检索验证的计算开销较大，且检索结果本身可能不可靠。

表2：主要幻觉检测方法比较

检测方法	技术原理	适用场景	优势	局限
知识图谱验证	比对知识图谱中的事实关系	事实密集型任务	准确性高	依赖知识库质量
检索增强验证	实时检索外部知识验证	时效性要求高的场景	信息更新及时	计算开销大
不确定性估计	分析token概率或熵值	黑盒模型场景	无需外部知识	阈值设定敏感
自我一致性检查	多次生成比较一致性	开放域生成任务	实现简单	成本较高
交叉检验	多模型或多轮交互验证	高风险应用	准确性高	实现复杂

3.2 基于不确定性估计的检测方法

基于模型内部状态的方法利用模型的预测分布评估确定性。例如，通过计算关键概念中token概率的最小值或熵值，识别低置信度生成。具体而言，对于包含n个token的概念c，其不确定性得分可计算为：$score=\text{MIN}(p_1,p_2,...,p_n)$，其中$p_i$表示第i个token的预测概率。低概率表明模型对该概念不确定，可能是幻觉信号。

基于模型行为的方法在只能API访问时特别有用。SelfCheckGPT通过同一提示生成多个响应，比较其一致性：如果模型掌握事实，多次生成应相似；反之则可能发散。一致性可通过BERTScore等语义相似度度量量化。类似地，LM-vs-LM方法采用交叉检验机制，让一个模型审查另一个模型的声明，通过多轮交互发现不一致。

3.3 领域特定的检测方法

在垂直领域如医疗、法律等，幻觉检测需结合领域知识。医疗领域可通过专业知识图谱验证诊断建议。命名实体误差（NE误差）是常用指标：检查生成内容中的医学术语是否符合权威来源。另一种方法是信息提取系统，将生成内容转化为关系元组，与知识库中的标准关系对比。

针对长文本生成任务，忠实度度量尤为重要。蕴含率（被参考文本蕴含的句子比例）可通过自然语言推理（NLI）模型计算。基于问答的方法则通过问题生成模型创建问题-答案对，然后比较基于生成文本和参考文本的答案相似度。

4 幻觉抑制的关键策略

4.1 数据与训练层面的抑制策略

数据质量管控是抑制幻觉的基础。包括严格的数据过滤、去重和增强，以减少训练数据中的噪声和错误。在医疗领域，DS-小布医生系统通过整合多模态数据（电子病历、检查结果等）并进行标准化治理，确保数据质量。数据蒸馏技术也可应用，邀请领域专家参与数据标注，提升数据可靠性。

知识增强训练是另一种有效策略。在预训练阶段注入知识图谱等结构化知识，帮助模型建立事实基础。例如，Ernie 3.0模型通过大规模知识增强预训练，提升语言理解与生成的事实性。模型编辑技术可修正模型中的错误知识，分为定位-编辑和元学习两类方法。

优化训练流程也能减少幻觉。在SFT阶段添加"拒识"样本（如"我不知道"类回答），培养模型在超出能力范围时拒绝回答的习惯。在RLHF阶段，可设计针对事实性的奖励信号，引导模型生成更准确内容。

4.2 推理与解码阶段的干预策略

检索增强生成（RAG）是当前最有效的幻觉抑制方法之一。RAG将检索与生成结合，为模型提供实时外部知识。具体分为一次检索、迭代检索和事后检索三类。在医疗领域，华为云推出疾病辅助诊断系统，结合最新医学指南，显著降低诊断建议的幻觉率。但RAG面临检索知识可靠性、与参数知识冲突等挑战。

解码策略优化可直接影响生成事实性。Factuality Enhanced Language Models提出事实核心采样算法，动态调整top-p值：pt=max⁡{ω,p×λt−1}p_t=\max\{\omega,p\times\lambda^{t-1}\}pt​=max{ω,p×λt−1}，其中$\lambda$为衰减因子，$\omega$为下限。该策略在句子开头保持创造性，随生成进行逐渐降低随机性，提高事实性。

推理干预技术如"推理时间干预"（Inference-time Intervention），通过识别模型中对事实敏感的关注头，在推理时沿特定方向调整激活值，引导模型生成更真实内容。上下文感知解码则结合基于上下文和仅基于提示的生成概率，优先选择依赖上下文的输出。

4.3 系统级抑制方案

多智能体验证系统通过智能体间交互降低幻觉。例如，多智能体辩论框架让多个模型实例就同一问题生成响应并相互批评，最终达成共识。在医疗场景，可设计医生-患者双角色模拟，通过角色间问答暴露潜在矛盾。这类方法虽然计算成本高，但在高风险场景下可靠性显著提升。

人机协同循环将人类专家纳入生成过程。例如，在生成关键内容（如诊断建议）时，系统可标记低置信度部分，交由人类专家审核。蚂蚁集团的"蚁天鉴"系统实现产业级应用的全流程监控与干预，在金融、政务等场景验证有效性。

表3：幻觉抑制策略的效果与适用场景

抑制策略	技术特点	抑制效果	计算成本	适用场景
检索增强生成(RAG)	结合实时外部知识	高	中-高	知识密集型任务
解码策略优化	调整生成随机性	中	低	通用生成任务
推理干预	调整模型激活值	中-高	低-中	事实性要求高的任务
多智能体验证	多个模型实例交叉验证	高	高	高风险应用场景
人机协同循环	人类专家参与审核	高	依赖人力	医疗、金融等专业领域

5 未来研究方向与挑战

随着大模型应用深入，幻觉研究面临新挑战与机遇。首先，知识更新与时效性是关键问题。传统静态训练模型难以适应快速变化的世界，需要研究持续学习机制，使模型能够在不重复训练的情况下更新知识。同时，个性化幻觉抑制是重要方向：不同应用场景对幻觉的容忍度不同（如创意写作vs医疗诊断），需开发可调整的抑制策略。

其次，可解释性与透明度亟待提升。大模型的"黑箱"特性使得幻觉难追踪难调试。未来研究需探索幻觉的可视化分析工具，如注意力映射、特征激活追踪等，帮助理解幻觉产生机制。在医疗领域，模型不仅要提供诊断建议，还需输出结构化的推理过程，方便医生审查。

第三，评估基准与指标需要进一步完善。现有基准如TruthfulQA、HaluEval等专注于通用领域，缺乏专业领域的针对性评估。需构建多语言、多领域的幻觉评估基准，覆盖更全面应用场景。同时，现有指标（如忠实度、事实性）的评估粒度需细化，从句子级到短语级甚至实体级。

最后，多模态幻觉抑制将成为新兴方向。随着视频、音频大模型发展，幻觉从文本向多模态扩展。需研究跨模态一致性验证技术，确保不同模态间信息统一。此外，轻量级抑制方案对中小企业至关重要，需在效果与成本间寻求平衡。

6 结论

大模型幻觉检测与抑制是提升AI输出可靠性的关键环节。本文系统分析了幻觉类型、成因、检测与抑制技术。研究表明，幻觉问题需从数据、训练、推理多层面综合解决：在数据层面，通过质量管控与知识增强提升数据可靠性；在训练层面，优化策略培养模型事实意识；在推理层面，借助RAG、解码优化等技术实时干预。

未来研究应朝三方向发展：一是技术融合，结合知识图谱、检索增强与多智能体验证，构建多层次抑制框架；二是领域适配，开发医疗、金融等高风险领域的专用解决方案；三是评估体系，建立标准化、细粒度的幻觉评估基准。通过持续创新，有望在保持大模型创造力的同时，显著提升生成内容的可靠性，推动AI技术在关键领域的深度应用。

参考文献

1. 知识图谱、大模型与幻觉：自然语言处理的视角. 51CTO. 2025.
2. 论文导读 | 大模型幻觉的检测与消除. 讯飞AI开发者社区. 2024.
3. AI大模型面经——关于大模型幻觉问题的深化理解. 魔乐社区. 2024.
4. 论文解读：Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models. 2048 AI社区. 2023.
5. 面对已读乱回的AI，到底要如何分辨真假？哈工大&华为大模型幻觉综述！ CSDN. 2025.
6. 大模型落地，跑得快更要跑得稳. 新华网. 2024.
7. 三轮驱动之下 医疗大模型开启落地“加速度”. 数字中国建设峰会. 2025.