模型训练用的是什么数据,为什么会有知识截止

模型训练用的是什么数据,为什么会有知识截止 问 AI 一个两年前的政策,它答得清楚;问它上个月刚开的会,它说不知道,或者给了一个明显过时的版本。同样是「知道」,为什么有个时间分界? 答案藏在训练方式里。模型的知识不是实时获取的,它在某个时间点被...

多模态模型怎么「看懂」图片,它到底能看准什么

多模态模型怎么「看懂」图片,它到底能看准什么 第一次用多模态模型的人,常有两个极端反应。一种是惊到:随手拍一张乱糟糟的办公桌,它能说出桌上有显示器、水杯、几叠文件、一盆绿植。另一种是失望:让它数一下照片里有几个人,它数错了;让它读一张 {MOD}...

模型为什么会「幻觉」,它自己知道在编吗

模型为什么会「幻觉」,它自己知道在编吗 有人拿一份内部制度去问 AI,它回答得条理清晰,还引用了《劳动合同法》第某条。拿去给法务看,法务说这条确实存在,但内容和这里说的不是一回事。条文号是真的,表述是它自己攒的。 这种情况太常见了。研究者给它...

推理模型的「思考过程」是真的在思考吗

推理模型的「思考过程」是真的在思考吗 用过新一代推理模型的人,大多见过那个折叠的思考面板。点开,里面是一段自我对话:「问题是……,我需要先确定……,但这里有个矛盾……,让我换个角度」。看着确实像在思考,甚至会自我否定、回头重算。 这段文字带...

参数量大就代表聪明吗,普通人该怎么看这个数

参数量大就代表聪明吗,普通人该怎么看这个数 打开任何一个模型发布会的稿子,都有一行数字很显眼:千亿参数、万亿参数。旁边配一张柱状图,比上一代高出一截。看多了容易形成一个直觉——数字越大,模型越强。这个直觉在几年前大致成立,现在越来越靠不住。...

微调、提示词、检索增强,三条路各适合什么场景

微调、提示词、检索增强,三条路各适合什么场景 企业想用 AI 做点实事,几乎都会走到同一个岔路口:模型给的答案太通用,不懂我们的业务。这时候有三条路摆在面前,听人讲起来都像能解决问题,选错了要白花几个月。 三条路是提示词、检索增强、微调。说清楚...

同一个模型不同版本,差别到底在哪

同一个模型不同版本,差别到底在哪 上线两个月的系统,某天开始输出格式不对了。排查代码,一行没改。查依赖,库版本没动。最后发现问题在模型侧:服务商把后端模型静默升级了一个版本,输出风格变了。 这种情况比想象中常见。模型不是固件,它会更新。同一...

大模型是什么意思?为什么叫“大”模型

大模型,说白了就是一个用海量文字喂出来的程序,你给它一段话,它能顺着往下接出一段像人写的回答。它不像计算器那样等你按完加减号才动,更像一个读了太多书、又特别会接话的人,你起个头,它就能顺着聊下去。 要弄懂它,先把「大」这个字拆开。这个字不是...

大语言模型和搜索引擎有什么区别?各自适合什么场景

一句话说清区别:搜索引擎帮你找到别人写好的内容,大语言模型直接给你一段自己组织出来的回答。前者甩给你一堆链接,后者甩给你一段话。这个差别看着不大,用起来完全是两回事。 一、一个给链接,一个给答案 在搜索框里敲「空调不制冷」,你会拿到十几条结...

RAG 是什么意思?用大白话讲清楚它的作用

RAG 的意思是「检索增强生成」,英文全称 Retrieval-Augmented Generation。用大白话讲:让模型先去翻资料,再照着翻到的内容回答,而不是关起门来凭记性答。你问它公司的报销标准,它不会硬猜,而是先去翻你放进来的那份制度文件,找到对应段落,再照着写答...

Token 是什么意思?为什么 AI 都按 Token 算

一句话说清:token 是模型处理文字时切出来的最小单位,它不等于字,也不等于词。模型读一段话、写一段话,都是先把文字拆成一串 token,再按这串 token 去算。你看到的字数,只是这些碎片重新拼回去之后的样子。 所以同一段话交给不同的模型,算出来的 toke...

大模型的上下文窗口到底是什么,为什么会影响回答

大模型的上下文窗口到底是什么,为什么会影响回答 有一类问题反复出现:把一份五十页的合同丢给 AI,让它总结风险点,它总结得头头是道,但你追问第三条里的付款条件,它答的是第五条的内容。或者前十分钟聊得好好的,你补充了一个条件,它给出的方案把那个...

为什么同样的提示词,不同平台结果差很多

为什么同样的提示词,不同平台结果差很多 把同一段提示词贴进三个平台,一份直接能用,一份啰嗦得没法看,还有一份答得完全跑偏。提示词一个字没改,结果却像换了三个完全不同的人。 这不是谁抄错了。三家平台从模型到参数到前置指令都不一样,你看到的那段...

模型评测榜单能信几分,怎么看一个模型强不强

模型评测榜单能信几分,怎么看一个模型强不强 榜单第一名换了三茬,你手上那个用着最顺的模型一直排在十名开外。这个反差不是错觉,也不是榜单作假,是榜单测的东西和你需要的东西对不上。 榜单有用,但用途窄。它适合快速排除一眼就不行的选项,不适合替你...

AI 的「记忆」是怎么实现的,存在哪

AI 的「记忆」是怎么实现的,存在哪 上个月说过的事,这个月它全忘了。同一款产品,有人发现它记得自己喜欢简洁回答,有人发现换个窗口就什么都不记得。这些差别不是玄学,背后是几套不同的机制在起作用。 「记忆」这个词被用得很松。它有时指上下文窗口,...