RAG 和微调怎么选？

从时效性、成本、幻觉三个角度给出判断口诀

原题：项目里想让大模型掌握公司的业务知识，你会选择 RAG 还是微调？请从知识时效性、成本、幻觉三个角度说说你的判断依据。

RAG基础

30 秒回答

1. 微调是“改模型本身”：用领域数据继续训练模型，把知识和行为方式写进参数里
2. RAG 是“外挂资料库”：模型不动，回答前先检索资料喂给它
3. 知识时效性：知识经常变 → 选 RAG，改知识库即时生效；微调的知识固化在参数里，更新就得重训
4. 成本：RAG 主要是工程成本；微调需要标注数据 + GPU 训练，且每次知识更新都要再花一遍

回答与解析

答案要点

• 微调是“改模型本身”：用领域数据继续训练模型，把知识和行为方式写进参数里

• RAG 是“外挂资料库”：模型不动，回答前先检索资料喂给它

• 知识时效性：知识经常变 → 选 RAG，改知识库即时生效；微调的知识固化在参数里，更新就得重训

• 成本：RAG 主要是工程成本；微调需要标注数据 + GPU 训练，且每次知识更新都要再花一遍

• 幻觉：RAG 答案有原文可溯源，更可控；微调过的知识模型照样可能记岔、编造

核心概念

RAG 与微调（Fine-tuning）是给大模型补充领域能力的两条路线：RAG 在回答时从外部知识库检索资料喂给模型，模型参数不变；微调则是用领域数据继续训练模型，把知识和说话方式直接写进模型参数。前者像给员工发一本随时更新的操作手册，后者像送员工去脱产培训。

三个角度对比

角度	RAG	微调
知识时效性	改知识库立即生效，适合频繁更新的知识（价格、政策、文档）	知识固化在参数里，更新一次就要重新训练一次
成本	无需训练，主要是建知识库和调检索的工程成本	需要准备标注数据 + GPU 算力，门槛和单次成本都高
幻觉	答案有检索原文支撑，可标注出处、可核对	学过的知识仍可能记岔编造，且很难定位错误来源

一个简单的判断口诀

1. 要补的是知识（事实、文档、制度、产品信息）→ 优先 RAG

2. 要教的是能力和风格（固定输出格式、行业话术、特定任务套路）→ 考虑微调

3. 实际项目里两者并不对立，常见打法是组合拳：RAG 管知识来源，微调管表达方式和任务能力

对入门者的建议是：九成的“让模型懂业务”需求，先用 RAG 验证效果，不够再考虑微调。入门之后，可以深入了解 LoRA 等低成本微调方法，以及 RAG 与微调结合落地的真实案例。

口语版讲法(约2分钟)

• 面试官问RAG还是微调，本质是问怎么给模型补知识
• 先说边界：RAG管事实，微调管表达
• 然后从时效性、成本、幻觉三个角度展开
• 最后给出组合拳的判断和延伸

这道题其实问的是：当你想让大模型掌握公司业务知识，你是打算动模型本身，还是给它一个外挂资料库。我理解这本质上是在问知识接入的架构选择。

先说边界划分。RAG 适合补事实类知识，比如价格、政策、产品参数，这些知识经常变，改了知识库马上生效。微调适合教能力和风格，比如固定的输出格式、行业话术、特定任务套路，这些需要写进模型参数里才能稳定。但实际落地很少二选一，真正常见的做法是RAG加微调组合，RAG管知识来源，微调管表达方式。

具体从三个角度对比。先说知识时效性。如果知识频繁更新，比如电商平台的满减政策每周调，那RAG天然有优势，改知识库就生效。微调的话，知识固化在参数里，每次更新都得重新训练，成本很高。

再一个成本。RAG主要是工程成本，建知识库、调检索、搭链路，不需要GPU训练。微调需要标注数据加GPU算力，门槛高，而且每次知识更新都要再花一遍钱。如果团队没有持续标注和训练的能力，微调很容易做成一次性项目，上线后知识就僵住了。

最后是幻觉。RAG的答案有检索原文支撑，可以标注出处，用户能核对。微调过的知识，模型照样可能记岔或者编造，而且错误来源很难定位。所以对准确率要求高的场景，比如客服退款、企业合规文档，RAG更可控。

当然，RAG也不是万无一失。比如检索质量如果不行，召回的都是无关文档，那模型再强也答不对。所以上线我会特别关注Rerank这一步，确保Top5文档确实能回答问题。

所以整体上我更倾向：九成以上的业务知识需求，先用RAG快速验证效果，不够再考虑微调。如果必须微调，也会优先用LoRA这类低成本方法，降低迭代开销。

关键一句:RAG不是万无一失，检索质量是瓶颈，需要靠Rerank保障Top5文档质量。

面试官还可能这样问

1. 问法 1 · 场景切入假设你在做一个电商客服机器人，退换货政策每个月都可能调整，同时又要求回复口吻符合品牌风格。这种情况下 RAG 和微调你怎么安排？
2. 问法 2 · 追问边界你说知识类需求优先 RAG，那有没有 RAG 搞不定、必须上微调的情况？反过来，微调做完了是不是就可以不要 RAG 了？