什么是 AI 幻觉？
AI 幻觉（Hallucination）是指大模型生成的内容虽然语法通顺、逻辑看似合理，但实际是错误的、虚构的或与事实不符的。模型会以非常自信的语气说出完全不真实的信息，这是大模型使用中最需要警惕的问题。
为什么会产生幻觉？
概率学习的本质：大模型本质上是"下一个词预测器"，它学习的是语言模式，而不是事实数据库。当它不确定时，它会生成"最可能"的下一个词，但"最可能"不等于"正确"。
知识边界模糊：模型不知道"自己知道什么、不知道什么"。被问到超出知识范围的问题时，它不会说"我不知道"，而是会尝试编造一个合理的答案。
训练数据局限：训练数据中可能存在错误信息，或者某些主题的信息太少，模型没有学到正确的知识。
如何减少 AI 幻觉？
使用 RAG 技术：让模型在回答时检索外部知识库，基于事实生成回答，而不是依赖模型内部记忆。
降低温度参数：较低的 Temperature 值让模型更倾向于选择最确定的输出，减少随机编造。
明确要求引用：提示词中要求模型提供信息来源或引用，让模型更谨慎。
人工验证：对于关键信息，始终进行人工核实。
需要注意的领域
AI 幻觉在法律、医疗、金融等专业领域尤其危险。在这些场景中使用 AI 时，务必对模型输出进行严格的事实核查，不要轻信 AI 的"自信回答"。