2小时前发布
上下文长度,说白了就是它一次能记住多少内容。
你发的话、它回的话、你上传的文档,全部算在里面。这些内容加起来有个上限,超过上限的部分它看不到。
打个比方:它没有长期记忆,每次都像重新开始,只能看你这次给它的那一段。给多少它读多少,给的超出范围,前面的就被挤出去了。
表现出来是这样几种情况。长文档传到一半不读了,问后面的内容它答不上来;聊了很久以后,它把你最早说的要求忘了;同一段对话里前后矛盾,因为它只记得最近那部分。
各家给的额度差别不小,有的几万字,有的上百万字。额度大不代表一定用得好,中间位置的信息容易被忽略,开头和结尾记得更牢。所以重要的要求放开头,或者结尾再重复一次。
上下文超了,通常有这几个信号:
它回答的内容和文档后半部分对不上。这是最直接的信号,说明后半部分没进去。
它开始重复已经说过的内容。上下文挤满之后,重复是最常见的反应。
它把你前面定的规则忘了。比如你说过「不要用表格」,几轮之后它又给了表格。
它答得越来越短、越来越敷衍。有时候不是它偷懒,是没空间了。
对应的处理办法:把长文档拆成几份,一份一次;把要求写在每次提问里,不指望它记住;一个话题聊完就开新对话,别在一个窗口里从头做到尾。
还有一条经验:同一个对话窗口,超过二三十轮之后质量会明显下滑。这时候与其接着聊,不如把前面的结论复制出来,开个新窗口继续。
上下文这个限制,容易被误解成「字数上限」,实际比这复杂一点。
它限制的是「一次能带进计算的内容总量」,这句话和回答都算。这就意味着:它答得越多,留给后面提问的空间越少。聊到后面明显变笨,常常是这个原因。
还有一层:不同位置的记忆强度不一样。开头和最近的内容记得清楚,中间那一段容易被忽略。所以把关键要求埋在中间,是最容易失效的写法。
处理办法有几条。重要要求放开头,必要时结尾再说一遍;长文档分段喂,每段单独问;讨论完一个子问题就总结一句,把结论固定下来。
别指望靠加大额度解决所有问题。额度再大,混在里面的无关内容也会分散注意力。少喂、喂准,比多喂更管用。
最多设置5个标签!
上下文长度,说白了就是它一次能记住多少内容。
你发的话、它回的话、你上传的文档,全部算在里面。这些内容加起来有个上限,超过上限的部分它看不到。
打个比方:它没有长期记忆,每次都像重新开始,只能看你这次给它的那一段。给多少它读多少,给的超出范围,前面的就被挤出去了。
表现出来是这样几种情况。长文档传到一半不读了,问后面的内容它答不上来;聊了很久以后,它把你最早说的要求忘了;同一段对话里前后矛盾,因为它只记得最近那部分。
各家给的额度差别不小,有的几万字,有的上百万字。额度大不代表一定用得好,中间位置的信息容易被忽略,开头和结尾记得更牢。所以重要的要求放开头,或者结尾再重复一次。
上下文超了,通常有这几个信号:
它回答的内容和文档后半部分对不上。这是最直接的信号,说明后半部分没进去。
它开始重复已经说过的内容。上下文挤满之后,重复是最常见的反应。
它把你前面定的规则忘了。比如你说过「不要用表格」,几轮之后它又给了表格。
它答得越来越短、越来越敷衍。有时候不是它偷懒,是没空间了。
对应的处理办法:把长文档拆成几份,一份一次;把要求写在每次提问里,不指望它记住;一个话题聊完就开新对话,别在一个窗口里从头做到尾。
还有一条经验:同一个对话窗口,超过二三十轮之后质量会明显下滑。这时候与其接着聊,不如把前面的结论复制出来,开个新窗口继续。
上下文这个限制,容易被误解成「字数上限」,实际比这复杂一点。
它限制的是「一次能带进计算的内容总量」,这句话和回答都算。这就意味着:它答得越多,留给后面提问的空间越少。聊到后面明显变笨,常常是这个原因。
还有一层:不同位置的记忆强度不一样。开头和最近的内容记得清楚,中间那一段容易被忽略。所以把关键要求埋在中间,是最容易失效的写法。
处理办法有几条。重要要求放开头,必要时结尾再说一遍;长文档分段喂,每段单独问;讨论完一个子问题就总结一句,把结论固定下来。
别指望靠加大额度解决所有问题。额度再大,混在里面的无关内容也会分散注意力。少喂、喂准,比多喂更管用。
一周热门 更多>