四种幻觉类型

2026 年的现实：变好了，但没有归零

需要说清楚事实：

• 前沿系统在许多基准上的幻觉率确实显著低于早期模型

• 有 grounding 的产品强制使用来源，效果远好于纯记忆式对话

• 结构化输出和验证步骤能消除整类"捏造"

但"零幻觉"没有到来。任何声称完全消除的说法都应视为演示话术，而非架构事实。

运营层面的真问题不是"AI 会不会幻觉"，而是"在我们的任务上，它多久编造一次，以及怎么被抓住"。

第一层：Grounding（最有效的单一手段）

把模型锚定在特定文档或数据上，要求它据此作答。

用户问题
   ↓
检索最相关的文档片段（向量检索）
   ↓
片段 + 问题 + 指令「仅基于以下文档回答」→ 模型
   ↓
验证输出包含引用/来源

RAG 在"回答我们知识库里的问题"这类应用中通常能降低 60-80% 的幻觉。

但它不能完全消除——模型仍可能以未被授权的方式"解读"文档。这就需要后续几层。

注意一个关键点：grounding 的效果完全取决于检索质量。检索差的 RAG 加一个流畅的模型，仍然产出自信的胡话。 所以"降低幻觉"的幕后真相往往是"修好了检索器"。

第二层：自我一致性与多模型投票

Self-consistency：问同一个问题多次（或问几个不同的模型），比较答案。

实用变体：同时问三个不同的模型。若三者返回同一个数字、日期、事实——大概率正确。若有分歧，升级到人或更贵的模型。

这个模式与模型分层路由结合，能同时实现降本 + 提可信度。

第三层：评估流水线

没有评估流水线的 LLM 生产部署，等于没有测试的代码。

RAG 四指标

推荐的评估工具

每个新的 LLM 应用都应该有一组 50-500 道已知正确答案的评估题。忠实度跌破 90% 就阻断部署。

第四层：护栏与输出校验

在把输出交给用户之前做规则校验。

一个精妙的设计：如果模型无法输出假的案例 ID（因为该字段必须匹配数据库查询结果），一整类失败模式就消失了。

工具：Guardrails AI、NeMo Guardrails、Instructor。自研往往更简单也更便宜。

第五层：人在回路

高风险场景（法律、医疗、财务、HR 决策）这一层是必需的。

随机抽检这一条最容易被跳过，也最有价值——它是发现系统性偏差的唯一可靠手段。

关键的产品设计：允许说"不知道"

这是被严重低估的一条，但它其实最有效。

如果系统在"不确定"时受罚，它就一定会猜。

产品和提示词设计应该让弃答成为合法选项：

只基于提供的来源回答。
如果来源不足，明确说明缺少什么。
不要编造引用。

这三个句子对幻觉率的下降，往往超过调模型本身。

Agent 场景：风险升级了

Agent 让问题更严重，因为错误会变成行动。

设计 Agent 循环时要有显式状态：

尝试了什么
工具返回了什么
什么还未确认
什么需要审批

Narration 不是证据，工具输出才是。

什么不能可靠地"阻止"幻觉

这些可能在边际上有帮助，但它们不是控制系统。

一个实用的防护栈

对于大多数团队，合理的栈是这样：

1. 权威文档/事实系统作为唯一真相源
2. 检索或直接工具读取
3. 回答约束在来源之内
4. 尽可能用结构化输出
5. 高风险字段自动校验
6. 不可逆步骤人工审批
7. 失败记录与复盘

这就是把幻觉从"不断惊喜"变成"可管理的运营风险"的方式。

用风险等级指导投入