模型路由与故障处理
服务会校验 API Key 的模型范围,将请求模型匹配到当前渠道配置的模型路由,并记录请求状态、延迟和 Token 用量。请求失败时返回对应 HTTP 状态和可读错误信息。
模型如何匹配
渠道按优先级和权重排序。服务优先匹配与请求模型完全一致的模型路由;未配置映射时,按渠道可用模型列表查找。请求模型不在 API Key 授权范围内时会返回 403。
可追踪的请求结果
- 成功或失败请求都会记录模型、渠道、状态、延迟和错误信息。
- 请求完成后记录输入、输出与缓存命中 Token;没有 Token 用量的失败请求不会按正常用量扣费。
- 用户可在用量统计中按 API Key、日期范围查看汇总和请求记录。
失败处理边界
当没有可匹配的渠道、网络连接失败或模型服务返回错误时,服务会返回相应错误状态,客户端按错误码执行有限重试。