求职/免费讲义/串联知识
08 讲 · 串联知识

RAG:从资料到有依据的回答

顺着文档处理、检索和生成理解知识库问答,区分没找到、找错了和回答错了。

下载本章 Markdown

与本章一起读的原文

方法 / 教程LLM Cookbook:面向开发者的大模型手册个人面经内部 AI 应用 · 日常实习 · 刘下苍茫个人面经大模型产品 · 转正实习 · 美团专业内推官

讲义为教学整理;个人经验反映作者当时的情境。查看完整导读与资料目录 →

01为什么需要检索

模型自身的参数并不是实时业务数据库。面对产品政策、企业文件或持续更新的知识,可以先检索相关材料,再把材料和问题交给模型生成答案。这就是检索增强生成的基本思路。RAG 通常不通过这一步更新模型参数。

它可以为答案提供材料,但不保证回答自动正确。文档过期、解析错误、检索遗漏或模型误解都可能造成问题。产品仍需展示依据,并明确材料不足时怎样回答。

02一条典型链路

资料进入系统后,先转成可处理文本,再按结构切分并建立索引。用户提问时,系统查找候选片段,可进一步重排,然后把选中的证据放入上下文生成回答。生成后还要考虑引用、信息不足和用户反馈。

环节在处理什么常见问题
导入与解析PDF、网页、表格等原始资料表格错行、图片文字丢失、文档过期
切分与索引适合被检索的内容片段上下文断裂、片段过长或过短
检索与重排问题相关的候选证据关键词相同但含义不同、必要证据遗漏
生成与引用基于证据组织答案扩写出材料没有的结论、引用错配

03一个知识问答的排查例子

教学示例:用户问“晚到一天还能申请吗”,系统回答可以,但现行通知明确截止。先看现行通知是否在库中;如果有,再看检索有没有找到;如果找到了,再看模型是否使用了它;最后检查页面是否把旧答案缓存展示给用户。

这四种原因分别涉及知识更新、检索、生成和应用实现。只换更大的模型可能无法解决前三种之外的问题;只看最后一句话也难以区分责任环节。

04RAG 与微调、Agent 的关系

RAG 侧重给模型补充当前任务的外部材料;微调侧重用训练改变模型行为;Agent 侧重在任务中选择并执行行动。它们可以组合:Agent 调用检索工具获取资料,模型也可能经过微调。

知识库变化频繁时,可以先检查内容维护与检索方案;输出格式或特定任务行为需要稳定适配时,才进一步分析训练是否合适。选择取决于问题和评价结果,而不是把所有技术叠加。

来源与延伸阅读

正文为教学整理与分析。下列公开资料用于核对概念、产品能力和招聘入口;具体岗位条件以原公告为准。

LLM Cookbook:面向开发者的大模型手册Datawhale / 基于 DeepLearning.AI 课程的中文翻译与实践 · 中文 / 英文

从 Prompt 和问答系统两部分进入,再查个人数据检索、评估改进和高级 RAG。原站同时列出英文课程来源。

KnowledgeDify · 英文

看知识导入、分段与检索配置,理解知识库为什么不等于把文件放进聊天框。

动手学大模型应用开发Datawhale · 中文

围绕知识库应用阅读数据准备、检索与问答的衔接;代码示例用于理解实现。

Semantic SearchSentence Transformers · 英文

理解查询与文档的向量表示,以及短问题检索长文档和相似句检索的区别。

LLM CourseHugging Face · 英文

重点看 Tokenizer、数据集、模型使用和微调;认识模型训练的数据流。