# RAG：从资料到有依据的回答

> 顺着文档处理、检索和生成理解知识库问答，区分没找到、找错了和回答错了。

适合阅读：所有需要理解知识库应用的读者  
更新：2026-09-05

## 为什么需要检索

模型自身的参数并不是实时业务数据库。面对产品政策、企业文件或持续更新的知识，可以先检索相关材料，再把材料和问题交给模型生成答案。这就是检索增强生成的基本思路。RAG 通常不通过这一步更新模型参数。

它可以为答案提供材料，但不保证回答自动正确。文档过期、解析错误、检索遗漏或模型误解都可能造成问题。产品仍需展示依据，并明确材料不足时怎样回答。

## 一条典型链路

资料进入系统后，先转成可处理文本，再按结构切分并建立索引。用户提问时，系统查找候选片段，可进一步重排，然后把选中的证据放入上下文生成回答。生成后还要考虑引用、信息不足和用户反馈。

| 环节 | 在处理什么 | 常见问题 |
| --- | --- | --- |
| 导入与解析 | PDF、网页、表格等原始资料 | 表格错行、图片文字丢失、文档过期 |
| 切分与索引 | 适合被检索的内容片段 | 上下文断裂、片段过长或过短 |
| 检索与重排 | 问题相关的候选证据 | 关键词相同但含义不同、必要证据遗漏 |
| 生成与引用 | 基于证据组织答案 | 扩写出材料没有的结论、引用错配 |

## 一个知识问答的排查例子

教学示例：用户问“晚到一天还能申请吗”，系统回答可以，但现行通知明确截止。先看现行通知是否在库中；如果有，再看检索有没有找到；如果找到了，再看模型是否使用了它；最后检查页面是否把旧答案缓存展示给用户。

这四种原因分别涉及知识更新、检索、生成和应用实现。只换更大的模型可能无法解决前三种之外的问题；只看最后一句话也难以区分责任环节。

## RAG 与微调、Agent 的关系

RAG 侧重给模型补充当前任务的外部材料；微调侧重用训练改变模型行为；Agent 侧重在任务中选择并执行行动。它们可以组合：Agent 调用检索工具获取资料，模型也可能经过微调。

知识库变化频繁时，可以先检查内容维护与检索方案；输出格式或特定任务行为需要稳定适配时，才进一步分析训练是否合适。选择取决于问题和评价结果，而不是把所有技术叠加。

## 参考资料与出处

- [LLM Cookbook：面向开发者的大模型手册](https://github.com/datawhalechina/llm-cookbook)（Datawhale / 基于 DeepLearning.AI 课程的中文翻译与实践）

- [Knowledge](https://docs.dify.ai/en/cloud/use-dify/knowledge/readme)（Dify）

- [动手学大模型应用开发](https://github.com/datawhalechina/llm-universe)（Datawhale）

- [Semantic Search](https://www.sbert.net/examples/sentence_transformer/applications/semantic-search/README.html)（Sentence Transformers）

- [LLM Course](https://huggingface.co/learn/llm-course/chapter1/1)（Hugging Face）

## 对应经验原帖

- [富途AI产品经理日常实习二面](https://www.nowcoder.com/feed/main/detail/34d7ed816cac425da58f4dd35210d913)｜刘下苍茫｜2025-05-22｜内部 AI 应用 · 日常实习

- [美团大模型产品转正实习面经（已offer）](https://www.nowcoder.com/feed/main/detail/2550761776d8461ab8aea206ff2db36f)｜美团专业内推官｜2025-03-25｜大模型产品 · 转正实习

- [字节面经-字节运营岗面经-01](https://api-cdn.nowcoder.com/discuss/924099496047280128?sourceSSR=enterprise)｜林小白zii｜页面显示 09-01；条目含 2026 年面试日期｜AI 数据、模型与服务运营 · 汇编

## 关联阅读

- [Agent、工作流与工具调用](https://cv.shujinxing777.com/career/handbook/agents)

- [评测：让“效果好”有明确含义](https://cv.shujinxing777.com/career/handbook/evaluation)

- [贯穿案例：一个知识客服如何工作](https://cv.shujinxing777.com/career/handbook/customer-support)

- [AI 开发：把模型接入真实系统](https://cv.shujinxing777.com/career/handbook/engineering)