流式响应

对话补全接口可通过 stream=true 请求 SSE 流式响应。服务会在模型服务以 text/event-stream 返回时将数据逐行转发给客户端，并在流结束后记录请求结果。

发起流式请求

{
  "model": "你的模型 id",
  "messages": [{ "role": "user", "content": "请逐步回答" }],
  "stream": true
}

客户端处理

按 SSE 事件顺序读取 data 行，并在完成标记后关闭连接。
为客户端、反向代理和网关配置足够的读取超时。
客户端中断连接后，不应把尚未收到的内容视为完整回答。

用量记录

服务能从流中的 usage 数据提取 Token 用量。