token 是什么,为什么 AI 要按 token 收费

2小时前发布

看账单的时候看到按 token 计费,不太清楚 token 和字数是什么关系,也不知道怎么估算成本。
4条回答
hangyeguancha
1楼-- · 2小时前

token 是模型处理文字的最小单位,可以理解成「字块」。

它不按字数切,按词频切。常见词往往算一个 token,生僻词可能被拆成两三个。中文里一个字常常就是一个 token,也可能两个字合成一个。

粗略的换算:一百个汉字大约一百到一百五十个 token;一百个英文单词大约一百三十个。这个比例各家模型不一样,只能当估算用。

按 token 收费的原因,是它和计算量直接挂钩。模型处理每个 token 都要走一遍运算,token 越多,占用的算力越多。按用量计价,比按次数计价更接近真实成本。

计费通常分两块:输入和输出。输出的单价一般比输入高几倍,因为生成比读取更费算力。

所以省钱的方向有两个:少喂无关内容,少让它写废话。上传一整份文档只问一个小问题,钱基本花在读文档上。

bikengtixing
2楼-- · 2小时前

估算成本,记住这几个数就够用了:

一百个汉字,大约一百到一百五十个 token。

一份二十页的文档,大约一万五到两万个 token。

一次普通对话,输入加输出,通常在两三千个 token 以内。

输出的单价,一般是输入的三到五倍。

省钱有四个做法:长文档先自己摘出相关章节再传;同一个问题别反复贴同样的背景;要求它答得简短,输出是最贵的部分;批量任务集中做,别一条一条问。

还有一个容易忽略的点:多轮对话里,每一轮都会把之前的全部内容重新带上。聊到二十轮,每次提问其实都在为前面的内容付费。这也是长对话越聊越贵的原因。

shiyongjilu
3楼-- · 2小时前

我第一个月的账单比预想高了三倍,查了半天才明白钱花在哪。

我把一整份产品手册传上去,让它每次回答一个问题。问一次传一次,问一次传一次。手册两万多 token,问了十几轮,光输入就烧掉一大截。

后来改成一个文档只开一个对话,问题攒着一起问,或者先让它把关键章节摘出来,后面只带摘要。第二个月账单下来了,用量差不多,费用少一半多。

还有一处是输出。我以前喜欢让它「尽量详细」,答一次上千字。改成「三百字以内」之后,输出费用降得很明显,内容其实更实用了。

现在我大概有个数:写一篇两千字的稿子,来回三四轮,成本在几毛到一块之间。有了这个数,做预算心里就有底了。

duibiceping
4楼-- · 2小时前

按次订阅和按量计费,适合的人不一样。

按次订阅适合用得杂的人。每天问几十次,内容长短不定,订阅制不用算账,省心。缺点是额度用不完就浪费了。

按量计费适合用量集中的团队。做批量处理、跑自动化任务,一次几十万 token,按量比订阅便宜得多。缺点是费用随用量波动,月底才知道花了多少,得自己设上限。

还有一类中间形态:订阅含一定额度,超出部分按量。这类适合用量不稳定的人,平时不浪费,忙的时候也不至于断。

怎么选,看两件事:你的用量是稳定的还是波动的,你能不能接受月末账单不确定。稳定加怕麻烦,选订阅;波动加能管住用量,选按量。

我见过不少小团队一开始就选按量,结果忘了设上限,月底被账单吓一跳。这条要提前设好。