ZBStream 产品介绍：一个 API，接入全部大模型
ZBStream 是面向开发者的 LLM 网关。你的应用只需对接一个 OpenAI 兼容端点、持有一把 API Key，即可调用 DeepSeek、通义千问、Kimi、MiniMax、智谱、豆包等主流模型——统一鉴权、统一计费、统一用量追踪，无需按月订阅，按实际 Token 消耗购买额度即可。
换模型不必改代码，换供应商不必重新谈合同。网关替你处理路由、故障转移与运维细节，让你把精力放在产品本身。
我们解决什么问题 The problem we solve
团队第一次把大模型接入生产环境后，往往会遇到同一套困境：OpenAI SDK 管一家、Anthropic SDK 管另一家；每家一个控制台、一套账单；某个模型宕机时，改代码切渠道；Agent 工具各自要求不同的 Base URL 和 Key 格式。
ZBStream 把这一层碎片化接口折叠成单一开发者契约：你的客户端、脚本、Agent 框架都指向 ZBStream，由网关在背后连接多家推理服务商。
产品架构一览 How it fits in your stack
网关不替代模型厂商——它不负责训练或托管 GPU 集群。它做的是统一 API 层：鉴权、模型目录、智能路由、计量计费、错误处理与可观测性，全部在一个产品里交付。
核心能力 Core capabilities
一个 API，接入主流模型
OpenAI 兼容 Chat Completions，同时支持 Anthropic 兼容 Messages。现有 SDK 改 Base URL 即可，无需 fork 框架。
更高可用性
多渠道冗余与自动故障转移。单条上游链路抖动时，请求可切换备用渠道，降低生产中断风险。
更优价格与性能
聚合采购与边缘部署，在控制成本的同时缩短用户到推理服务之间的延迟，兼顾吞吐与响应速度。
自定义数据策略
细粒度策略管控：指定请求可发往哪些模型与服务商，满足合规与数据驻留要求。
Agent 生态就绪
OpenCode、Hermes、OpenClaw 等支持自定义 Base URL 的 Agent 工具，可直接将 ZBStream 作为统一推理后端。文档中心提供 Hermes 接入教程与 WorkBuddy 集成指南。
与其他方案的区别 Gateway vs proxy vs vendor API
| 层级 | 做什么 | 不做什么 |
|---|---|---|
| HTTP 代理 | 把请求转发到固定上游 URL | 通常没有模型目录、统一计费与路由策略 |
| 路由器 | 选择由哪个模型或渠道处理请求 | 可能不持有 Key、积分账户或面向开发者的产品 API |
| LLM 网关（ZBStream） | 稳定开发者 API + 路由 + 鉴权 + 计量 + 运维 | 不是运行模型的 GPU 集群本身 |
| 模型厂商 API | 训练或托管模型并返回补全结果 | 不会替你统一其他厂商的接口 |
双协议支持 OpenAI + Anthropic compatible
技术栈里若同时存在「走 OpenAI SDK 的脚本」和「走 Anthropic SDK 的 Agent」，传统做法需要两套 Key、两套账单。ZBStream 允许两者共用同一个 API Key 与积分账户：
- OpenAI 兼容：
https://api.zbstream.com/v1— openai-python、openai-node、go-openai 直接可用 - Anthropic 兼容：
https://api.zbstream.com— 官方 anthropic SDK 只改 Base URL
export ZBSTREAM_API_KEY="sk-你的密钥"
# OpenAI SDK
client = OpenAI(
api_key=os.environ["ZBSTREAM_API_KEY"],
base_url="https://api.zbstream.com/v1",
)
# 同一 Key，Anthropic SDK
client = anthropic.Anthropic(
api_key=os.environ["ZBSTREAM_API_KEY"],
base_url="https://api.zbstream.com",
)
几分钟上手 Get started in minutes
注册账号
使用 Google 或 GitHub 登录即可开始；稍后可创建组织，与团队共享额度与 Key。
购买额度
积分按 Token 消耗计费，全模型通用，无强制月费或订阅套餐。
创建 API Key 并调用
在控制台生成 Key，将 Base URL 指向 ZBStream，发送第一条 Chat Completions 或 Messages 请求。
适用场景 Who it's for
- 独立开发者与小团队：快速试错多个模型，不必为每家厂商单独开户
- AI 原生产品：需要路由、降级与统一账单的生产级调用链路
- Agent 与工作流：Hermes、OpenCode、OpenClaw 等工具的统一推理后端
- 企业合规场景：通过数据策略限制请求可到达的上游范围