1. RAG基础认知：什么是RAG？为什么需要RAG？RAG与微调的区别

大家好，欢迎来到《RAG知识库增强智能体实战课程》。我是这门课的主讲，一个在NLP和知识工程领域摸爬滚打了好几年的工程师。

咱们第一节课，不急着写代码。先聊聊RAG到底是什么，为什么这两年它这么火，以及它跟微调到底有啥区别。把这些概念理清了，后面学起来才不迷糊。

1.1 什么是RAG？

RAG，全称是Retrieval-Augmented Generation，翻译过来就是“检索增强生成”。

说白了，就是给大语言模型（LLM）配了一个“外挂知识库”。模型在回答问题之前，会先去这个知识库里检索相关的信息片段，然后基于检索到的内容来生成答案。

我习惯用一个比喻来解释：

• 传统LLM：就像一个闭卷考试的天才。它只能依靠自己训练时“背下来”的知识答题。如果知识更新了，或者考了它没背过的冷门内容，它就容易胡编乱造（也就是“幻觉”）。
• RAG系统：就像一个开卷考试的学霸。它手里有一本厚厚的参考书（知识库）。遇到问题，它先快速翻书找到相关段落，然后结合自己的理解，组织语言给出答案。准确率自然高得多。

你想想看，这个流程其实很符合人类的认知习惯。我们遇到不懂的问题，第一反应也是去查资料，而不是凭空想象。

下面这张图，就是RAG最经典的架构。我建议你多看几遍，把每个环节都印在脑子里。

1.2 为什么需要RAG？

你可能要问：现在的LLM不是已经很厉害了吗？为什么还要搞个RAG这么麻烦？

嗯，这里要注意。LLM虽然强大，但有几个天生的“硬伤”，我在项目里吃过不少亏。

痛点	具体表现	RAG如何解决
知识过时	模型训练数据有截止日期，无法回答最新事件。	实时更新知识库，无需重新训练模型。
幻觉问题	模型会“自信地”编造不存在的知识。	答案基于检索到的真实文档，有据可查。
领域知识匮乏	通用模型不懂企业内部的专业术语和流程。	注入企业私有文档，让模型秒变“行业专家”。
长尾知识	模型对低频、冷门的问题回答质量极差。	只要知识库里有，就能精准检索并回答。
可解释性差	模型是个“黑盒”，你不知道它为什么这么答。	可以展示引用的原文片段，答案可追溯、可验证。

我记得有一次，帮一家金融公司做智能客服。他们要求模型必须回答最新的监管政策。如果用传统微调，光是收集和标注数据就要一个月，等模型训完，政策又变了。后来我们用RAG，直接把政策PDF丢进知识库，当天就上线了。效果立竿见影。

1.3 RAG与微调的区别

很多新手容易把RAG和微调搞混。其实它们俩是解决不同问题的工具。我习惯用一个表格来对比，一目了然。

对比维度	RAG（检索增强生成）	Fine-tuning（微调）
核心思想	模型 + 外部知识库	模型参数调整
知识来源	外部动态知识库，可随时增删改	模型内部参数，知识固化在权重中
更新成本	低。只需更新知识库文档	高。需要重新收集数据、训练模型
幻觉控制	强。答案有检索依据	弱。模型仍可能自由发挥
可解释性	高。可展示引用来源	低。黑盒输出
适用场景	知识密集型任务、实时更新、需要溯源	改变模型行为、风格、输出格式
对模型要求	模型需要具备较强的指令跟随能力	需要足够的计算资源和训练数据

说白了，RAG是让模型“知道更多”，微调是让模型“变得更听话”。

• 什么时候用RAG？ 当你需要模型回答大量、多变、需要实时更新的知识时。比如：企业知识库问答、产品文档助手、法律政策咨询。
• 什么时候用微调？ 当你希望模型学会特定的输出风格、遵循固定的指令格式、或者掌握某种推理模式时。比如：让模型学会写特定风格的文案、按照JSON格式输出、或者学会做数学推理。

当然，RAG和微调也不是非此即彼的关系。在实际项目中，我经常把它们结合起来用。比如，先用微调让模型学会“如何从检索结果中提取关键信息”，再用RAG注入最新的业务知识。这就是所谓的“RAG + Fine-tuning”双轮驱动，效果往往1+1 > 2。