Skip to content

Token扣除规则

Token定义

Token的基本定义是对文本进行分割后的最小单元。在大模型中需要将文本拆分成一个个的token,以便模型能够理解和处理。在WenLiu中因推理框架原因, 暂无法统计真实模型Token数,故采用1字符 = 1Token的计算方式

Token扣除范围

用户在在线问答以及通过开放API调用进行推理时均会扣除Token,但是调用失败的情况下不会扣除。

Token扣除顺序

用户的Token余量均来自套餐包,所以在扣除Token时问柳平台直接从套餐包剩余token中扣除,如果当前套餐包剩余Token数量不足以本次扣除,不会从其他套餐包扣除

每个套餐包仅支持特定的模型,推理前请保证套餐包内支持的模型与目标模型一致,否则无法进行推理。

在进行推理时WenLiu会根据所选模型查看用户的可用套餐包,如果用户有多个可用套餐包,将会对最早到期的套餐包进行Token扣除

Released by Jestion.