微调、提示词、检索增强，三条路各适合什么场景

微调、提示词、检索增强，三条路各适合什么场景

企业想用 AI 做点实事，几乎都会走到同一个岔路口：模型给的答案太通用，不懂我们的业务。这时候有三条路摆在面前，听人讲起来都像能解决问题，选错了要白花几个月。

三条路是提示词、检索增强、微调。说清楚它们各自改的是什么，选型就不难了。

三者改的位置不一样

提示词改的是输入。模型没变，你在每次提问时把要求写清楚：按什么格式答、用谁的视角、哪些不能说、遇到不确定怎么处理。零成本，改完立刻生效。

检索这条路改的是信息来源。模型本身也没变，但回答之前先去你的资料库里查一遍，把查到的片段一起交给它。它从「凭记忆答」变成「看着材料答」。

微调改的是模型本身。拿一批高质量样本继续训练，把某些能力刻进去。模型文件会变，部署成本也变。

三者的关系不是替代，是叠加。一个成熟的系统里，提示词一定在做格式约束，检索一定在补知识，微调可能用在特定环节。选型的问题不是「选哪个」，是「先做哪个、做到什么程度」。

提示词能解决的和不能解决的

先说能力边界。提示词擅长的是控制和约束：输出成表格还是段落、语气正式还是口语、判断某份材料合规还是不合规、把长文压缩到三百字以内。这些事模型本来就会，只是需要你说清楚。

提示词解决不了知识空白。如果模型根本没学过你家产品的型号体系，你怎么写提示词它都不知道。这时候硬写提示词，常见的结果是它编一个看起来合理的型号。这不是提示词没写好，是把知识问题当成了指令问题。

实践中提示词的效果被低估了。很多团队一上来就想微调，实际把提示词认真改三轮，八成需求就满足了。质量差的提示词和精心设计的提示词，输出质量能差出一倍，成本却完全一样。

提示词还有个隐性成本：维护。每个任务一套提示词，任务多了就有几十套在跑，改一处可能影响好几处。所以成熟的做法是把提示词当代码管起来，有版本、有测试用例、有回归检查。

检索接手知识问题

内部制度、产品手册、历史案例、客户档案——这些东西模型肯定不知道，也来不及知道（每天都在更新）。这类需求就该走检索：把文档切片存进向量库，提问时先检索相关片段，再让模型基于片段作答。

这条路最大的好处是可溯源。答案能指回具体哪份文件的哪一段，出了问题能查。在需要审计的场景里，这一点比准确率本身更重要。

难点在检索质量。检索不准，后面全错。常见的坑有这么几个：切片切得太碎，一句话一段，检索到的片段没有上下文；切得太粗，一份二十页的文件整块塞进去，模型要自己找重点；文档格式混乱，表格转成文字后错位，检索到的内容是乱的。

还有一个容易忽略的问题：检索到的内容互相矛盾。旧版制度没删，新版制度也在库里，检索出两条相反的规定。模型会挑一条答，答哪条看运气。所以资料库要有人维护，过期的文档要下线，不能只往里扔。

微调适合什么

微调不是用来灌知识的，这一点必须先说清。拿一批文档去微调，指望模型记住里面的内容，结果通常是它记住了语气，记不住事实，还学会了更自信地编。知识的事交给检索，微调做的是另一类事。

微调真正适合的是三件事。

一是固定风格。比如所有对外文案都要符合某个品牌调性，提示词写了几十条还是不稳定，这时候拿几百条符合调性的样本微调，风格就稳了。风格是模式，模式可以学进参数。

二是固定格式。有些行业的输出格式极其严格，字段顺序、术语写法、嵌套结构都有规范。提示词能约束大部分情况，但长尾的格式错误一直存在。微调能把这个错误率压下去。

三是特定任务的准确率。某个分类任务，提示词方案做到百分之八十五就上不去了，剩下那部分需要模型对领域有更细的判别力。这种场景微调有效，前提是有一批标注质量高的样本。

微调的隐性成本

数据准备是大头。五百条高质量样本，人工标注加上交叉校验，两三个人要做两周。样本质量差，微调效果不如不改。这一步省不了，省了就是白花钱。

还有维护成本。微调后的模型是独立的一份，基础模型升级了你跟不跟？跟，要重新微调；不跟，就落后。有些厂商提供增量训练，能缓解，但版本管理的复杂度还在。

所以微调一般放在最后做。前面两条路走完，确认还有明确的瓶颈，再上微调。

怎么定顺序

问三个问题，顺序就出来了。

第一个问题：模型是不是不知道某些信息？如果答案是需要它了解你公司的具体情况，先上检索。这是优先级最高的一步，因为它解决的是根本性的信息缺口。

第二个问题：知道了信息之后，输出还是不合要求吗？如果格式、语气、判断标准不对，先做提示词优化。这一步成本最低，见效最快，值得反复打磨。

第三个问题：提示词打磨到极限，还有稳定的错误率吗？如果某类错误反复出现，且你有能力准备高质量样本，再考虑微调。

这个顺序符合成本递增的规律：从零成本到中等成本再到高成本。反过来的路径——先花钱微调，发现是提示词问题——是行业里最常见的浪费。

几个常见的误判

有一种误判是把「不听话」当成能力问题。模型没按格式输出，团队认为是模型不行，要换模型或者微调。实际上提示词里少了一句「只输出表格，不要任何解释文字」，加上就好了。

另一种是把「不知道」当成不听话。模型答错了内部数据，团队去改提示词，改了十几版还是错。这明明是缺知识，该上检索。判断方法很简单：把正确信息直接贴给它，看它能不能用对。能用对，就是知识缺口，不是指令问题。

还有一种是把检索当万能。上了检索系统，什么需求都往里塞，包括需要推理判断的任务。检索能提供材料，替代不了判断。让模型做竞品分析，检索出一堆竞品资料，它照样会得出肤浅的结论。这类任务要靠提示词设计分析框架，检索只是供货。

一句实话

三条路的选择，问的其实是「缺的是什么」。缺信息就补信息，缺控制就加约束，缺稳定的判别力才动模型。

大部分企业的实际瓶颈在第一层和第二层，很少有真正需要微调的。那些宣称一上来就微调的服务商，多半是想把项目做得看起来更重。你自己把这三个问题问清楚，就能判断对方给的方案是不是在解决真问题。