4小时前发布
两件事在机制上就不同。
搜索引擎做的是检索加排序。它把网页抓回来建成索引,你搜的时候从索引里找出相关页面,按一套公开的规则排个序,然后交给你。它本身并不理解内容,只负责找和排。
大模型做的是生成。它按概率一个词一个词往下写,写之前并不去查证。它之所以看着懂很多,是因为训练时读过的文本里的语言规律和事实关联被压进了参数。
编答案的根源就在这里。遇到训练语料里稀少的细节,它仍然要往下写,写出来的就可能是语言上通顺、事实上有误的东西。这种输出有个专业说法,叫幻觉。
所以两者的使用方式不能混。搜索引擎给的是线索,需要你自己判断。大模型给的是一段成形的话,需要你回头去核。它接上联网也只是在生成之前多了一步检索,生成这一环照样按概率写,误读材料的情况仍然存在。
我踩过一次,印象挺深。
去年帮我妈查一个慢性病门诊的报销比例,问 AI 给了一个数,我照着准备了材料,到了窗口发现不对,是另一个数。回头看它那段话写得特别确定,还分了两种情况说明,我一点没怀疑。
后来琢磨明白了。这类信息各地不一样、还经常调整,训练数据里本来就乱,它凑了一个看起来合理的出来。
现在的做法变了:让 AI 帮我搞清楚该问什么、要带哪些材料,具体数字一律去官网或者打热线确认。多花五分钟,省掉跑一趟。
所以我不觉得它没用,只是要把它放在合适的位置上。当草稿用挺好,当依据用容易出事。
还有一类情况更隐蔽:它给的数字是对的,但前提条件被省掉了。比如告诉你某个比例,却没说那只适用于特定人群。这类错法最难发现,因为你核了数字没问题,就以为整段都对。
想分辨它有没有在编,有几个信号可以看。
看它有没有给出来源。愿意说清是哪个文件、哪个页面的,比只给结论的可靠一些。给了来源就去点开看一眼,确认能打开、内容和它说的一致。
看它说得是不是过于具体。数字、日期、文件编号、人名,这些越具体越要警惕。流畅的一段话里突然冒出一个精确的编号,往往就是编出来的。
看它跟你给的材料有没有出入。你贴了原文,它的回答里出现原文没有的内容,那部分要单独核。
看换个问法它还答不答得一致。同一个问题换个说法再问一遍,答案差得离谱,说明它对这块本来就不确定。
这几个判断不需要专业知识,养成习惯之后几秒钟就能过一遍。
还有个办法是让它自己说把握。问一句「这部分你有多大把握」,虽然它的回答不一定准,但如果它主动说不确定、建议核实,那就是个提示。反过来,答得越斩钉截铁又没有来源的,越要警惕。
最需要警惕的是这几类问题,答错了后果比较重。
政策类的,包括各种补贴的申领条件、截止时间、覆盖范围。各地标准不同而且常改,训练数据永远滞后。
医疗类的,用药剂量、禁忌、检查指标的含义。这类问题错一点后果不小,问医生比问 AI 稳妥。
法律和合同类的,条款怎么解释、责任怎么划分。表述差几个字,意思就变了。
金额和比例类的,报销多少、收费多少、税率多少。这些数字最容易被编得很像真的。
还有两个隐蔽的坑:它会顺着你的话往下编,你说一个错误前提,它当成真的继续答;它还会自己补细节,话说得越具体越像真的,而具体恰恰是幻觉的高发区。
这几类问题,AI 的答案只用来决定你去哪里查,不用来当结论。
还有一点容易被忽略:别拿它给的答案去跟别人争论。传出去之后,错的信息会被当成你的判断,责任也跟着落到你头上。
最多设置5个标签!
两件事在机制上就不同。
搜索引擎做的是检索加排序。它把网页抓回来建成索引,你搜的时候从索引里找出相关页面,按一套公开的规则排个序,然后交给你。它本身并不理解内容,只负责找和排。
大模型做的是生成。它按概率一个词一个词往下写,写之前并不去查证。它之所以看着懂很多,是因为训练时读过的文本里的语言规律和事实关联被压进了参数。
编答案的根源就在这里。遇到训练语料里稀少的细节,它仍然要往下写,写出来的就可能是语言上通顺、事实上有误的东西。这种输出有个专业说法,叫幻觉。
所以两者的使用方式不能混。搜索引擎给的是线索,需要你自己判断。大模型给的是一段成形的话,需要你回头去核。它接上联网也只是在生成之前多了一步检索,生成这一环照样按概率写,误读材料的情况仍然存在。
我踩过一次,印象挺深。
去年帮我妈查一个慢性病门诊的报销比例,问 AI 给了一个数,我照着准备了材料,到了窗口发现不对,是另一个数。回头看它那段话写得特别确定,还分了两种情况说明,我一点没怀疑。
后来琢磨明白了。这类信息各地不一样、还经常调整,训练数据里本来就乱,它凑了一个看起来合理的出来。
现在的做法变了:让 AI 帮我搞清楚该问什么、要带哪些材料,具体数字一律去官网或者打热线确认。多花五分钟,省掉跑一趟。
所以我不觉得它没用,只是要把它放在合适的位置上。当草稿用挺好,当依据用容易出事。
还有一类情况更隐蔽:它给的数字是对的,但前提条件被省掉了。比如告诉你某个比例,却没说那只适用于特定人群。这类错法最难发现,因为你核了数字没问题,就以为整段都对。
想分辨它有没有在编,有几个信号可以看。
看它有没有给出来源。愿意说清是哪个文件、哪个页面的,比只给结论的可靠一些。给了来源就去点开看一眼,确认能打开、内容和它说的一致。
看它说得是不是过于具体。数字、日期、文件编号、人名,这些越具体越要警惕。流畅的一段话里突然冒出一个精确的编号,往往就是编出来的。
看它跟你给的材料有没有出入。你贴了原文,它的回答里出现原文没有的内容,那部分要单独核。
看换个问法它还答不答得一致。同一个问题换个说法再问一遍,答案差得离谱,说明它对这块本来就不确定。
这几个判断不需要专业知识,养成习惯之后几秒钟就能过一遍。
还有个办法是让它自己说把握。问一句「这部分你有多大把握」,虽然它的回答不一定准,但如果它主动说不确定、建议核实,那就是个提示。反过来,答得越斩钉截铁又没有来源的,越要警惕。
最需要警惕的是这几类问题,答错了后果比较重。
政策类的,包括各种补贴的申领条件、截止时间、覆盖范围。各地标准不同而且常改,训练数据永远滞后。
医疗类的,用药剂量、禁忌、检查指标的含义。这类问题错一点后果不小,问医生比问 AI 稳妥。
法律和合同类的,条款怎么解释、责任怎么划分。表述差几个字,意思就变了。
金额和比例类的,报销多少、收费多少、税率多少。这些数字最容易被编得很像真的。
还有两个隐蔽的坑:它会顺着你的话往下编,你说一个错误前提,它当成真的继续答;它还会自己补细节,话说得越具体越像真的,而具体恰恰是幻觉的高发区。
这几类问题,AI 的答案只用来决定你去哪里查,不用来当结论。
还有一点容易被忽略:别拿它给的答案去跟别人争论。传出去之后,错的信息会被当成你的判断,责任也跟着落到你头上。
一周热门 更多>