0

为什么同样的提示词，不同平台结果差很多

• jjipb_admin_66 发布于
• 收藏

为什么同样的提示词，不同平台结果差很多 把同一段提示词贴进三个平台，一份直接能用，一份啰嗦得没法看，还有一份答得完全跑偏。提示词一个字没改，结果却像换了三个完全不同的人。 这不是谁抄错了。三家平台从模型到参数到前置指令都不一样，你看到的那段提示词，只是喂进去的全部内容里的一小块。 差别出在这几处 模型本身不同 不同厂商的模型训练数据、训练方式、对齐策略都不一样。同样一句「帮我写个方案」，...

0

模型评测榜单能信几分，怎么看一个模型强不强

• jjipb_admin_66 发布于
• 收藏

模型评测榜单能信几分，怎么看一个模型强不强 榜单第一名换了三茬，你手上那个用着最顺的模型一直排在十名开外。这个反差不是错觉，也不是榜单作假，是榜单测的东西和你需要的东西对不上。 榜单有用，但用途窄。它适合快速排除一眼就不行的选项，不适合替你做最终决定。想知道一个模型在你的活上强不强，只有一个办法：拿你的活去考它。 榜单在测什么 主流榜单是一批固定题库，覆盖数学、代码、常识、阅读理解、专业考...

0

AI 的「记忆」是怎么实现的，存在哪

• jjipb_admin_66 发布于
• 收藏

AI 的「记忆」是怎么实现的，存在哪 上个月说过的事，这个月它全忘了。同一款产品，有人发现它记得自己喜欢简洁回答，有人发现换个窗口就什么都不记得。这些差别不是玄学，背后是几套不同的机制在起作用。 「记忆」这个词被用得很松。它有时指上下文窗口，有时指放在服务器上的对话记录，有时指模型权重里学到的知识。三件事完全不同，混在一起谈就会得出矛盾结论。 最浅的一层：上下文窗口 最原始的记忆就是当前这...

0

蒸馏、量化这些词是什么意思，和普通人有什么关系

• jjipb_admin_66 发布于
• 收藏

蒸馏、量化这些词是什么意思，和普通人有什么关系 看模型发布的消息，常能看到「7B 蒸馏版」「4bit 量化，显存只占 6G」。这些词听起来像工程师的内部行话，实际上它们决定了你手上的设备能不能跑起来一个模型，以及跑起来的那个模型还剩几分本事。 把这两个词拆开看，不需要数学基础，只需要理解它们各自在「拿什么换什么」。 蒸馏：把大模型的本事挪到小模型身上 训练一个大模型贵得离谱，跑一个大模型也...

0

为什么 AI 写不出准确的数字和日期

• jjipb_admin_66 发布于
• 收藏

为什么 AI 写不出准确的数字和日期 让模型算「三万七千乘以百分之十三」，它给出的数你得自己验一遍。让它推「下个月第二个星期二」，它经常差一天。这不是它偷懒，是它处理数字的方式和我们不一样。 数字和日期，是这类模型最不可靠的地方。知道为什么不可靠，才知道哪一步该自己接手。 它处理数字的方式 模型把文字切成小片段，一个片段是一个字、两个字的词，或者半个词。数字被切开的方式尤其糟糕：37 是一...