大模型和搜索引擎到底差在哪?为什么它有时会编答案

7小时前发布

用久了发现一个现象,搜索引擎给我一堆链接,大模型直接给我一段话。想问这两种东西在原理上到底差在哪,以及为什么大模型偶尔会说得很像真的但其实不对。

用久了发现一个现象,搜索引擎给我一堆链接,大模型直接给我一段话。想问这两种东西在原理上到底差在哪,以及为什么大模型偶尔会说得很像真的但其实不对。
4条回答
bikengtixing
7小时前

最需要警惕的是这几类问题,答错了后果比较重。

政策类的,包括各种补贴的申领条件、截止时间、覆盖范围。各地标准不同而且常改,训练数据永远滞后。

医疗类的,用药剂量、禁忌、检查指标的含义。这类问题错一点后果不小,问医生比问 AI 稳妥。

法律和合同类的,条款怎么解释、责任怎么划分。表述差几个字,意思就变了。

金额和比例类的,报销多少、收费多少、税率多少。这些数字最容易被编得很像真的。

还有两个隐蔽的坑:它会顺着你的话往下编,你说一个错误前提,它当成真的继续答;它还会自己补细节,话说得越具体越像真的,而具体恰恰是幻觉的高发区。

这几类问题,AI 的答案只用来决定你去哪里查,不用来当结论。

还有一点容易被忽略:别拿它给的答案去跟别人争论。传出去之后,错的信息会被当成你的判断,责任也跟着落到你头上。