16小时前发布
答案浮动有 3 个来源,摸清之后能压下一部分。
一是采样随机。同样的提示词,每次挑的下一个词可能不同,回答越长差异越明显。
二是上下文。在同一个会话里追问,前面聊过的内容会进入计算,答案跟着变。
三是版本和线路。同一个产品,网页端、App、接口背后的模型版本可能不同,灰度期间尤其明显。
能控的部分是提问方式。把问题写成一条完整指令,条件、范围、输出格式一次说完,别分几轮补。
还有个小动作有效:要求它先列 3 个要点再展开,骨架固定之后,两次答案会接近很多。
判断有没有被随机性影响,可以连问 5 次看结论分布,5 次里 4 次一致就按主流那个用。
把提问固定成模板,最省力,5 个字段就够。
1. 角色和范围。写明「你只根据以下材料回答」,范围先框住。
2. 问题本体。一句话问完,别在一句里塞 3 个问题。
3. 输出格式。要几段、要不要列表、要不要标出处,写清楚。
4. 材料。需要引用原文的,把原文贴在问题后面,控制在 2000 字以内。
5. 兜底。写「材料里没有就说没有」,避免它自己补。
这套模板我用了半年,50 多个问题重复问 3 次,结论一致的比例从六成上到九成。
模板存成一份文档放在共享盘里,部门 6 个人都用同一份,半年改过 2 次,改动记在文档末尾。
把「不稳定」分成 2 类看,处理办法不一样。
一类是措辞不同、结论相同。这类不用管,说明模型读懂了问题,只是表达有随机性。
另一类是结论相反。这类必须查,通常意味着问题本身有歧义,或者材料里有互相冲突的说法。
判断办法很简单:同一个问题问 3 次,只抄结论那一句来对比,别看整段。
3 次一致就可以用;2 次一致 1 次跑偏,把跑偏的那次追问「依据是什么」,多半能问出歧义点。
3 次三个说法,说明问题需要拆,拆成 2 到 3 个更小的问题再问一轮。
3 次问完大概花 10 分钟,比反复纠结哪个版本对要快,也能留下记录备查。
最多设置5个标签!
答案浮动有 3 个来源,摸清之后能压下一部分。
一是采样随机。同样的提示词,每次挑的下一个词可能不同,回答越长差异越明显。
二是上下文。在同一个会话里追问,前面聊过的内容会进入计算,答案跟着变。
三是版本和线路。同一个产品,网页端、App、接口背后的模型版本可能不同,灰度期间尤其明显。
能控的部分是提问方式。把问题写成一条完整指令,条件、范围、输出格式一次说完,别分几轮补。
还有个小动作有效:要求它先列 3 个要点再展开,骨架固定之后,两次答案会接近很多。
判断有没有被随机性影响,可以连问 5 次看结论分布,5 次里 4 次一致就按主流那个用。
把提问固定成模板,最省力,5 个字段就够。
1. 角色和范围。写明「你只根据以下材料回答」,范围先框住。
2. 问题本体。一句话问完,别在一句里塞 3 个问题。
3. 输出格式。要几段、要不要列表、要不要标出处,写清楚。
4. 材料。需要引用原文的,把原文贴在问题后面,控制在 2000 字以内。
5. 兜底。写「材料里没有就说没有」,避免它自己补。
这套模板我用了半年,50 多个问题重复问 3 次,结论一致的比例从六成上到九成。
模板存成一份文档放在共享盘里,部门 6 个人都用同一份,半年改过 2 次,改动记在文档末尾。
把「不稳定」分成 2 类看,处理办法不一样。
一类是措辞不同、结论相同。这类不用管,说明模型读懂了问题,只是表达有随机性。
另一类是结论相反。这类必须查,通常意味着问题本身有歧义,或者材料里有互相冲突的说法。
判断办法很简单:同一个问题问 3 次,只抄结论那一句来对比,别看整段。
3 次一致就可以用;2 次一致 1 次跑偏,把跑偏的那次追问「依据是什么」,多半能问出歧义点。
3 次三个说法,说明问题需要拆,拆成 2 到 3 个更小的问题再问一轮。
3 次问完大概花 10 分钟,比反复纠结哪个版本对要快,也能留下记录备查。
一周热门 更多>