RAG 的根本失败通常发生在生成之前¶
RAG 常被当成“给模型接一个向量数据库”,于是答案错误时首先调整提示或更换生成模型。但回答能够成立 的前提是:
- 来源中存在正确内容;
- 解析没有破坏表格、标题或关键关系;
- 检索单元保留了需要的上下文;
- 查询把正确证据召回并排到足够靠前;
- 上下文没有被重复、冲突和无关内容淹没。
只要这些前提失败,生成阶段就没有可靠材料。更强的模型有时能凭参数知识猜对,却会破坏 RAG 的 可追溯性,也让系统难以知道答案究竟来自哪里。
因此排障应按“来源 → 解析 → 召回 → 排序 → 上下文 → 生成”的顺序进行。