0

温度、随机种子这些参数调的是什么

• jjipb_admin_66 发布于
• 收藏

温度、随机种子这些参数调的是什么 同一段提示词，连着提交两次，回答的开头就不一样。有人以为模型在「状态不稳」，有人怀疑是不是网络抖动。都不是。这是模型本身的设计：它输出的不是唯一答案，而是一个概率分布里抽出来的一个样本。 温度、随机种子、top_p 这几个参数，动的是抽样方式，不是模型的知识。理解这一点，很多困惑就散了。 输出为什么带着随机性 模型的工作方式是预测下一个词。给定前面所有内容...

0

开源模型和闭源模型，差的是能力还是工程

• jjipb_admin_66 发布于
• 收藏

开源模型和闭源模型，差的是能力还是工程 同一个问题分别抛给两款模型，一款能把权重下载到本地，一款只能通过接口调用，答案读起来差不多。有人由此下结论：开源已经追平闭源，剩下的只是习惯问题。这个判断只说对了一半。 能力确实在靠近。工程上的距离不但没缩小，反而因为「能自己改」而变得更复杂。想把这件事看明白，得把「模型本身」和「把模型用起来」拆成两件事。 两者的分界线在哪 闭源模型卖的是服务。厂商...

0

模型训练用的是什么数据，为什么会有知识截止

• jjipb_admin_66 发布于
• 收藏

模型训练用的是什么数据，为什么会有知识截止 问 AI 一个两年前的政策，它答得清楚；问它上个月刚开的会，它说不知道，或者给了一个明显过时的版本。同样是「知道」，为什么有个时间分界？ 答案藏在训练方式里。模型的知识不是实时获取的，它在某个时间点被灌进去一次，之后就固定了。这个时间点，就是知识截止。 训练数据是什么 主流模型的数据来源有这几类，比例各家不同。 公开网页。这是最大的一块，包含新...

0

多模态模型怎么「看懂」图片，它到底能看准什么

• jjipb_admin_66 发布于
• 收藏

多模态模型怎么「看懂」图片，它到底能看准什么 第一次用多模态模型的人，常有两个极端反应。一种是惊到：随手拍一张乱糟糟的办公桌，它能说出桌上有显示器、水杯、几叠文件、一盆绿植。另一种是失望：让它数一下照片里有几个人，它数错了；让它读一张发票上的金额，它读串行了。 两种反应都是真的。它不是「会看图」，是「能对图片做某种特定处理」。搞清楚这个处理在哪些地方可靠、哪些地方会失灵，用起来就顺手了。 图...

0

推理模型的「思考过程」是真的在思考吗

• jjipb_admin_66 发布于
• 收藏

推理模型的「思考过程」是真的在思考吗 用过新一代推理模型的人，大多见过那个折叠的思考面板。点开，里面是一段自我对话：「问题是……，我需要先确定……，但这里有个矛盾……，让我换个角度」。看着确实像在思考，甚至会自我否定、回头重算。 这段文字带来一个很自然的联想：它在心里琢磨，琢磨清楚了才说话。这个联想对了一半。它确实在做额外的计算，但屏幕上那段文字，未必是它真实的「内心活动」。 多出来的那部分...