Token 用量计算
Token 是模型处理文本的基本计量单位。实际 Token 数由模型分词器和完整请求上下文共同决定。
从响应读取用量
非流式响应通常在 usage 字段返回输入、输出和总 Token。流式请求是否返回 usage 取决于上游模型及请求参数。
{
"usage": {
"prompt_tokens": 128,
"completion_tokens": 42,
"total_tokens": 170
}
}Token 是模型处理文本的基本计量单位。实际 Token 数由模型分词器和完整请求上下文共同决定。
非流式响应通常在 usage 字段返回输入、输出和总 Token。流式请求是否返回 usage 取决于上游模型及请求参数。
{
"usage": {
"prompt_tokens": 128,
"completion_tokens": 42,
"total_tokens": 170
}
}