RAG:从资料到有依据的回答
顺着文档处理、检索和生成理解知识库问答,区分没找到、找错了和回答错了。
与本章一起读的原文
方法 / 教程LLM Cookbook:面向开发者的大模型手册个人面经内部 AI 应用 · 日常实习 · 刘下苍茫个人面经大模型产品 · 转正实习 · 美团专业内推官讲义为教学整理;个人经验反映作者当时的情境。查看完整导读与资料目录 →
01为什么需要检索
模型自身的参数并不是实时业务数据库。面对产品政策、企业文件或持续更新的知识,可以先检索相关材料,再把材料和问题交给模型生成答案。这就是检索增强生成的基本思路。RAG 通常不通过这一步更新模型参数。
它可以为答案提供材料,但不保证回答自动正确。文档过期、解析错误、检索遗漏或模型误解都可能造成问题。产品仍需展示依据,并明确材料不足时怎样回答。
02一条典型链路
资料进入系统后,先转成可处理文本,再按结构切分并建立索引。用户提问时,系统查找候选片段,可进一步重排,然后把选中的证据放入上下文生成回答。生成后还要考虑引用、信息不足和用户反馈。
| 环节 | 在处理什么 | 常见问题 |
|---|---|---|
| 导入与解析 | PDF、网页、表格等原始资料 | 表格错行、图片文字丢失、文档过期 |
| 切分与索引 | 适合被检索的内容片段 | 上下文断裂、片段过长或过短 |
| 检索与重排 | 问题相关的候选证据 | 关键词相同但含义不同、必要证据遗漏 |
| 生成与引用 | 基于证据组织答案 | 扩写出材料没有的结论、引用错配 |
03一个知识问答的排查例子
教学示例:用户问“晚到一天还能申请吗”,系统回答可以,但现行通知明确截止。先看现行通知是否在库中;如果有,再看检索有没有找到;如果找到了,再看模型是否使用了它;最后检查页面是否把旧答案缓存展示给用户。
这四种原因分别涉及知识更新、检索、生成和应用实现。只换更大的模型可能无法解决前三种之外的问题;只看最后一句话也难以区分责任环节。
04RAG 与微调、Agent 的关系
RAG 侧重给模型补充当前任务的外部材料;微调侧重用训练改变模型行为;Agent 侧重在任务中选择并执行行动。它们可以组合:Agent 调用检索工具获取资料,模型也可能经过微调。
知识库变化频繁时,可以先检查内容维护与检索方案;输出格式或特定任务行为需要稳定适配时,才进一步分析训练是否合适。选择取决于问题和评价结果,而不是把所有技术叠加。
来源与延伸阅读
正文为教学整理与分析。下列公开资料用于核对概念、产品能力和招聘入口;具体岗位条件以原公告为准。
从 Prompt 和问答系统两部分进入,再查个人数据检索、评估改进和高级 RAG。原站同时列出英文课程来源。