7小时前发布
用久了发现一个现象,搜索引擎给我一堆链接,大模型直接给我一段话。想问这两种东西在原理上到底差在哪,以及为什么大模型偶尔会说得很像真的但其实不对。
最需要警惕的是这几类问题,答错了后果比较重。
政策类的,包括各种补贴的申领条件、截止时间、覆盖范围。各地标准不同而且常改,训练数据永远滞后。
医疗类的,用药剂量、禁忌、检查指标的含义。这类问题错一点后果不小,问医生比问 AI 稳妥。
法律和合同类的,条款怎么解释、责任怎么划分。表述差几个字,意思就变了。
金额和比例类的,报销多少、收费多少、税率多少。这些数字最容易被编得很像真的。
还有两个隐蔽的坑:它会顺着你的话往下编,你说一个错误前提,它当成真的继续答;它还会自己补细节,话说得越具体越像真的,而具体恰恰是幻觉的高发区。
这几类问题,AI 的答案只用来决定你去哪里查,不用来当结论。
还有一点容易被忽略:别拿它给的答案去跟别人争论。传出去之后,错的信息会被当成你的判断,责任也跟着落到你头上。
最多设置5个标签!
最需要警惕的是这几类问题,答错了后果比较重。
政策类的,包括各种补贴的申领条件、截止时间、覆盖范围。各地标准不同而且常改,训练数据永远滞后。
医疗类的,用药剂量、禁忌、检查指标的含义。这类问题错一点后果不小,问医生比问 AI 稳妥。
法律和合同类的,条款怎么解释、责任怎么划分。表述差几个字,意思就变了。
金额和比例类的,报销多少、收费多少、税率多少。这些数字最容易被编得很像真的。
还有两个隐蔽的坑:它会顺着你的话往下编,你说一个错误前提,它当成真的继续答;它还会自己补细节,话说得越具体越像真的,而具体恰恰是幻觉的高发区。
这几类问题,AI 的答案只用来决定你去哪里查,不用来当结论。
还有一点容易被忽略:别拿它给的答案去跟别人争论。传出去之后,错的信息会被当成你的判断,责任也跟着落到你头上。
一周热门 更多>