算力、显存、上下文长度之间是什么关系
-
jjipb_admin_66
发布于
AI原理科普
- 0评论
- 31次浏览
- 0人收藏
- 2026-10-29 15:01
算力、显存、上下文长度之间是什么关系
看机器配置或者云服务报价，这三个词总是一起出现。有人把它们当成同义词，觉得数字越大就越强。实际上它们各管一段，缺一段就卡住，其中一段不够会直接跑不起来。
把这三件事分清，采购时就不会买错，部署时也知道瓶...
为什么 AI 写不出准确的数字和日期
-
jjipb_admin_66
发布于
AI原理科普
- 0评论
- 26次浏览
- 0人收藏
- 2026-10-29 14:44
为什么 AI 写不出准确的数字和日期
让模型算「三万七千乘以百分之十三」，它给出的数你得自己验一遍。让它推「下个月第二个星期二」，它经常差一天。这不是它偷懒，是它处理数字的方式和我们不一样。
数字和日期，是这类模型最不可靠的地方。知道为什么不可...
开源模型和闭源模型，差的是能力还是工程
-
jjipb_admin_66
发布于
AI原理科普
- 0评论
- 25次浏览
- 0人收藏
- 2026-10-29 14:43
开源模型和闭源模型，差的是能力还是工程
同一个问题分别抛给两款模型，一款能把权重下载到本地，一款只能通过接口调用，答案读起来差不多。有人由此下结论：开源已经追平闭源，剩下的只是习惯问题。这个判断只说对了一半。
能力确实在靠近。工程上的距离不...
温度、随机种子这些参数调的是什么
-
jjipb_admin_66
发布于
AI原理科普
- 0评论
- 25次浏览
- 0人收藏
- 2026-10-29 14:43
温度、随机种子这些参数调的是什么
同一段提示词，连着提交两次，回答的开头就不一样。有人以为模型在「状态不稳」，有人怀疑是不是网络抖动。都不是。这是模型本身的设计：它输出的不是唯一答案，而是一个概率分布里抽出来的一个样本。
温度、随机种子、to...
蒸馏、量化这些词是什么意思，和普通人有什么关系
-
jjipb_admin_66
发布于
AI原理科普
- 0评论
- 22次浏览
- 0人收藏
- 2026-10-29 14:45
蒸馏、量化这些词是什么意思，和普通人有什么关系
看模型发布的消息，常能看到「7B 蒸馏版」「4bit 量化，显存只占 6G」。这些词听起来像工程师的内部行话，实际上它们决定了你手上的设备能不能跑起来一个模型，以及跑起来的那个模型还剩几分本事。
把这两...