2小时前发布
token 是模型处理文字的最小单位,可以理解成「字块」。
它不按字数切,按词频切。常见词往往算一个 token,生僻词可能被拆成两三个。中文里一个字常常就是一个 token,也可能两个字合成一个。
粗略的换算:一百个汉字大约一百到一百五十个 token;一百个英文单词大约一百三十个。这个比例各家模型不一样,只能当估算用。
按 token 收费的原因,是它和计算量直接挂钩。模型处理每个 token 都要走一遍运算,token 越多,占用的算力越多。按用量计价,比按次数计价更接近真实成本。
计费通常分两块:输入和输出。输出的单价一般比输入高几倍,因为生成比读取更费算力。
所以省钱的方向有两个:少喂无关内容,少让它写废话。上传一整份文档只问一个小问题,钱基本花在读文档上。
估算成本,记住这几个数就够用了:
一百个汉字,大约一百到一百五十个 token。
一份二十页的文档,大约一万五到两万个 token。
一次普通对话,输入加输出,通常在两三千个 token 以内。
输出的单价,一般是输入的三到五倍。
省钱有四个做法:长文档先自己摘出相关章节再传;同一个问题别反复贴同样的背景;要求它答得简短,输出是最贵的部分;批量任务集中做,别一条一条问。
还有一个容易忽略的点:多轮对话里,每一轮都会把之前的全部内容重新带上。聊到二十轮,每次提问其实都在为前面的内容付费。这也是长对话越聊越贵的原因。
我第一个月的账单比预想高了三倍,查了半天才明白钱花在哪。
我把一整份产品手册传上去,让它每次回答一个问题。问一次传一次,问一次传一次。手册两万多 token,问了十几轮,光输入就烧掉一大截。
后来改成一个文档只开一个对话,问题攒着一起问,或者先让它把关键章节摘出来,后面只带摘要。第二个月账单下来了,用量差不多,费用少一半多。
还有一处是输出。我以前喜欢让它「尽量详细」,答一次上千字。改成「三百字以内」之后,输出费用降得很明显,内容其实更实用了。
现在我大概有个数:写一篇两千字的稿子,来回三四轮,成本在几毛到一块之间。有了这个数,做预算心里就有底了。
按次订阅和按量计费,适合的人不一样。
按次订阅适合用得杂的人。每天问几十次,内容长短不定,订阅制不用算账,省心。缺点是额度用不完就浪费了。
按量计费适合用量集中的团队。做批量处理、跑自动化任务,一次几十万 token,按量比订阅便宜得多。缺点是费用随用量波动,月底才知道花了多少,得自己设上限。
还有一类中间形态:订阅含一定额度,超出部分按量。这类适合用量不稳定的人,平时不浪费,忙的时候也不至于断。
怎么选,看两件事:你的用量是稳定的还是波动的,你能不能接受月末账单不确定。稳定加怕麻烦,选订阅;波动加能管住用量,选按量。
我见过不少小团队一开始就选按量,结果忘了设上限,月底被账单吓一跳。这条要提前设好。
最多设置5个标签!
token 是模型处理文字的最小单位,可以理解成「字块」。
它不按字数切,按词频切。常见词往往算一个 token,生僻词可能被拆成两三个。中文里一个字常常就是一个 token,也可能两个字合成一个。
粗略的换算:一百个汉字大约一百到一百五十个 token;一百个英文单词大约一百三十个。这个比例各家模型不一样,只能当估算用。
按 token 收费的原因,是它和计算量直接挂钩。模型处理每个 token 都要走一遍运算,token 越多,占用的算力越多。按用量计价,比按次数计价更接近真实成本。
计费通常分两块:输入和输出。输出的单价一般比输入高几倍,因为生成比读取更费算力。
所以省钱的方向有两个:少喂无关内容,少让它写废话。上传一整份文档只问一个小问题,钱基本花在读文档上。
估算成本,记住这几个数就够用了:
一百个汉字,大约一百到一百五十个 token。
一份二十页的文档,大约一万五到两万个 token。
一次普通对话,输入加输出,通常在两三千个 token 以内。
输出的单价,一般是输入的三到五倍。
省钱有四个做法:长文档先自己摘出相关章节再传;同一个问题别反复贴同样的背景;要求它答得简短,输出是最贵的部分;批量任务集中做,别一条一条问。
还有一个容易忽略的点:多轮对话里,每一轮都会把之前的全部内容重新带上。聊到二十轮,每次提问其实都在为前面的内容付费。这也是长对话越聊越贵的原因。
我第一个月的账单比预想高了三倍,查了半天才明白钱花在哪。
我把一整份产品手册传上去,让它每次回答一个问题。问一次传一次,问一次传一次。手册两万多 token,问了十几轮,光输入就烧掉一大截。
后来改成一个文档只开一个对话,问题攒着一起问,或者先让它把关键章节摘出来,后面只带摘要。第二个月账单下来了,用量差不多,费用少一半多。
还有一处是输出。我以前喜欢让它「尽量详细」,答一次上千字。改成「三百字以内」之后,输出费用降得很明显,内容其实更实用了。
现在我大概有个数:写一篇两千字的稿子,来回三四轮,成本在几毛到一块之间。有了这个数,做预算心里就有底了。
按次订阅和按量计费,适合的人不一样。
按次订阅适合用得杂的人。每天问几十次,内容长短不定,订阅制不用算账,省心。缺点是额度用不完就浪费了。
按量计费适合用量集中的团队。做批量处理、跑自动化任务,一次几十万 token,按量比订阅便宜得多。缺点是费用随用量波动,月底才知道花了多少,得自己设上限。
还有一类中间形态:订阅含一定额度,超出部分按量。这类适合用量不稳定的人,平时不浪费,忙的时候也不至于断。
怎么选,看两件事:你的用量是稳定的还是波动的,你能不能接受月末账单不确定。稳定加怕麻烦,选订阅;波动加能管住用量,选按量。
我见过不少小团队一开始就选按量,结果忘了设上限,月底被账单吓一跳。这条要提前设好。
一周热门 更多>