token 是模型切字之后的计量单位,1 个汉字大约折 1.0 到 1.6 个 token。用 token 这件事拆成两半:动手前估算这次任务吃掉多少,动手时把超长材料切成能算清的块。网页版聊天框只显示上下文余量,接口后台才有每次请求的输入与输出两列。
上个月我给一家做注塑模具的小厂核过一次账面。他们把 78 页工艺说明整段贴进对话框,单次输入冲到 11 万 token,被窗口直接挡回来;改成按章节切块之后,同一批问答跑完,输入总量降到 4.1 万,回答反而更准。下面按估、切、填、查四段写,末尾给 3 个能自己复算的动作。
网页版一个手机号就能开,不用装任何东西。要接自己的系统,去开放平台建一个 key,账户里留点余额,欠费时接口直接返回错误码。两条路的 token 分开计价:网页版按月订阅,接口按实际量扣,额度不互通,混着算一定算错。
材料先转成纯文本。扫描件、图片里的表格,模型读不出来,照样按输入 token 计费,答出来还是错的。我惯用的做法是用文档工具导出 txt,删掉页眉页脚、目录页和重复空行,一份 40 页的说明书通常能压掉三成 token。
网页版按对话轮次算,贴多了提示超出上下文长度;接口按 token 精确计费,能自己控制截断位置,还能开缓存。判断用哪条路看频率:一天问 20 次以内,网页版省事;一天要跑几百条,接口按量扣费更好控。
接口那条路要多准备一件事:把每次调用记进本地日志。平台用量页只留 30 天上下的明细,过了时间只剩月度汇总,逐条对账做不了。我用一张 csv 记时间、模型、输入、输出、缓存命中五个字段,月底直接做透视表。
估算分三步:数汉字、乘系数、加余量。中文 1000 字大致对应 1200 到 1600 个 token,代码和英文单词的系数更高,1000 个字符常在 250 到 400 之间。乘完再加两成余量,留给模型的输出。
系数 1.4 是折中值。纯中文叙述偏低,取 1.2 就够;夹着表格、英文型号、标点的材料偏高,我遇到过一份产品参数表,3200 字实测 5900 个 token,系数到了 1.8。表格多的材料单独按 1.8 估。
输出这一头容易被忽略。让模型写 3000 字,实际输出常在 2200 到 2600 之间浮动,按字数上限给额度不会浪费,计费只算真实生成的部分。额度给太低会出现中途截断,看着像模型出错,其实是长度参数卡住了。
差在历史消息。对话开到第 15 轮,每轮都会把前面 14 轮重发一遍,输入 token 是第 1 轮的十几倍。估算只算新贴的材料,漏掉历史的累积,账面自然对不上。
长任务开新对话比一直续着省。我的做法是把上一轮的结论复制到新对话开头,历史不重复发,到第 15 轮时输入量能差出 5 倍以上。同一份材料问 20 个问题,把材料放进系统提示只发一次,后面每个问题只追加一句,命中的部分按折扣价计。
切块按语义切,不按字数切。同一份 78 页的工艺说明,我从章标题处断开,最长的一块 9 页,最短的 2 页,每块单独发一次请求,回答里带上章节号,最后自己拼。按字数机械切会把一句话劈成两半,模型读到半句就开始猜。
每块控制在 6000 个 token 以内比较稳。超过这个量,模型对后半段的引用精度往下掉,问到细节时容易答成前面章节的内容。我测过同一份 1.2 万字的材料,整段贴和切成两块问同一道题,切块后的答案多出 3 个具体参数。
三个位置适合下刀:章标题、表格前后、问答分界处。表格尽量整张放一块,劈开以后列名和数值对不上,模型会把 A 列的数值安到 B 列。问答分界处断开的好处是每块自带上下文,不用另写说明。
切完给每块编号,提示词里写清“这是第 3 块,共 5 块,只回答本块内容”。不加这句,模型会把前一块的结论带进来,最后拼起来出现前后矛盾。编号这件事花不了 1 分钟,省下的返工要多得多。
| 字段 | 填什么 | 常错在哪 |
|---|---|---|
| 模型版本 | 长文用长上下文那档,短问答用轻量版 | 一律用贵的,费用翻 3 倍 |
| 输出上限 | 报告 2600,清单 1200,问答 500 | 默认拉满,模型凑字数 |
| 温度 | 归纳类 0.3,起标题类 0.8 | 写公文给到 1.2,措辞发散 |
| 历史轮数 | 长对话只带最近 5 轮 | 全带上,输入叠 4 倍 |
| 缓存开关 | 同一份材料问多题时打开 | 每问一次重贴一遍材料 |
缓存这一行最省钱。平台定价页把缓存命中和未命中分成两列,账单上也单列一行,对着那一行能算出打开了没有。20 个问题共用一份 6000 token 的材料,命中之后那部分只按折扣计价,省下的额度够再问几十轮。
温度在归纳类任务里别乱动。让模型照材料整理参数,给 0.3,措辞稳定;让它换说法、起标题,给 0.8 才有变化。同一篇稿子先归纳再起标题,拆成两次调用比一次调完可控。
要求写 2500 字,上限给 3000 就够;给到 8000 反而出现大段复述,因为模型会为了凑满而重复前面说过的内容。写清单类任务时上限给 1200 左右最稳,条数够用又不注水。
第 1 条要分清两种超限。一种是单次贴入超过窗口,删材料就解决;另一种是对话轮次太多,历史累积超了,开新对话把结论搬过去。两种的提示文字很像,看用量页那一列是输入偏大还是合计偏大,就能分开。
第 4 条我遇到过两次。写 3000 字的稿子,回来只有 1400 字,末尾停在半个句子上,看着像模型崩了,其实是上限卡住。调高之后一次出完,费用没多多少,输出只按实际生成的字数算。
头一个,拿 1200 字的稿子跑一次,看用量页显示的输入是多少,据此校准自己的系数。我拿这个办法测出常用材料落在 1.35 到 1.5 之间,估算误差压到 8% 以内。
第二个,把用量页的单次明细和本地日志按时间对齐,两边的请求时间能配上,说明没漏记。第三个,月底把输入与输出分开汇总,跟定价页那一档对,差额超过 5% 就去要明细。
四段做完,同样一份活能干到原来四成上下的费用。省下来的部分,八成来自删材料和提前设住长度,剩下两成靠缓存和新开对话。本文信息核对时间:2026-11。