AI 幻觉：成因、类型与缓解思路
幻觉来自「概率性语言生成」与「事实性知识需求」的矛盾，RAG 是目前最直接的约束手段。
什么是幻觉
AI 幻觉是指模型生成看似合理、实则与事实不符或无依据的内容的现象：模型会一本正经地胡说八道，甚至编造不存在的事实、数据、引用或逻辑。
核心特征
- 虚假但可信：内容语法通顺、逻辑自洽，普通人很难分辨真假。例如被问及某年诺贝尔物理学奖得主时，模型可能编造一个人名和研究成果。
- 无事实依据：内容并非来自训练数据，也不是对数据的合理推导，而是模型脑补出来的。
- 难以预判：同一问题在不同输入、不同模型版本下可能产生不同幻觉，无法提前完全规避。
根本原因
大语言模型的核心机制是概率性预测下一个词，而不是理解事实、进行逻辑推理。这是幻觉的根源。
训练数据的局限
- 数据量庞大但存在噪声、冲突或缺失，模型学习时无法区分真实信息与错误信息。
- 数据时效性不足，训练是离线的，无法获取截止日期之后的新信息。
记忆与推理的缺陷
- 模型没有真正的记忆，只是通过参数拟合了训练数据的语言模式和关联规律，而非事实本身。
- 面对复杂推理（数学计算、多步骤逻辑）时，中间步骤容易出错，进而推出错误结论。
生成策略的影响
- 为了生成流畅的内容，模型会优先选择符合语言习惯的词，而不是符合事实的词。
- 提示词模糊、开放时，模型更容易自由发挥。
常见类型
| 类型 | 说明 | 示例 |
|---|---|---|
| 事实性幻觉 | 编造不存在的事实、数据、人物、事件 | 声称某位科学家获得过诺贝尔文学奖 |
| 引用性幻觉 | 伪造论文、书籍、名人名言的出处 | 编造一篇并不存在的期刊论文 |
| 逻辑型幻觉 | 推理过程错误，结论与前提矛盾 | 已知「人需要喝水」「小明是人」，却推出「小明不需要喝水」 |
| 知识性幻觉 | 对专业领域知识的错误表述 | 混淆「进程」与「线程」的定义 |
缓解手段
幻觉无法完全消除，但可以通过技术手段大幅降低。
检索增强生成（RAG）
核心逻辑是：在模型生成回答前，先从真实的知识库或向量数据库中检索与问题相关的事实性信息，再让模型基于这些信息生成回答。
用真实数据约束生成过程，避免模型凭空编造。比如在设备操控场景中，向量数据库存储真实的设备特征和指令，Agent 基于检索结果生成指令，而不是脑补操作方式。
提示词工程
- 明确要求模型「基于已知信息回答，不知道就说不知道」。
- 提供参考资料或事实依据，缩小生成范围。
模型微调
用高质量、标注准确的数据集微调，强化模型对事实的记忆。针对医疗、法律等专业领域，用领域数据微调可以显著提升准确性。
事实核查
在生成之后增加核查模块，把内容与权威数据源比对，标记可疑信息。例如用搜索引擎或专业数据库验证模型提到的事实。
一句话总结
幻觉的本质是概率性语言生成与事实性知识需求之间的矛盾：模型只懂「怎么说通顺」，不懂「说得对不对」。
缓解幻觉的核心思路，就是用真实的外部数据约束生成过程。