用量总览
本月消费¥23,410
月预算 ¥30,000 · 已用 78%
本月请求2,847,120
成功率 99.95%
Tokens(in / out)8.2B / 1.9B
缓存命中率 26.4% · 节省 ¥1,204
混合单价(Blended)¥2.32/M tok
上月 ¥2.61 · 路由优化 ↓11%
平均首字延迟0.62s
P95 2.1s · 路由开销 <20ms
每日消费(按模型)
按模型分布(本月)
| deepseek-v4 | ¥14,860 | 63% |
| qwen-plus | ¥3,720 | 16% |
| kimi-k3 | ¥3,180 | 14% |
| glm-5 | ¥1,650 | 7% |
| 时间 | 项目 / Key | 模型 | tokens(in/out) | 首字延迟 | 费用 | 状态 |
|---|---|---|---|---|---|---|
| 14:02:11 | 客服机器人 / ak-7f3••• | deepseek-v4 | 1,204 / 512 | 0.42s | ¥0.0082 | 200 |
| 14:01:58 | 营销文案 / ak-9e8••• | kimi-k3 | 3,880 / 1,041 | 0.88s | ¥0.0417 | 200 |
| 14:01:40 | 客服机器人 / ak-7f3••• | qwen-plus | 640 / 220 | 0.31s | ¥0.0011 | 200(缓存命中 · ¥0) |
| 14:01:22 | 营销文案 / ak-9e8••• | glm-5 | 1,913 / 388 | 0.71s | ¥0.0201 | 200 |
点击任意请求查看明细(模型/供给渠道/计量/延迟与路由开销拆解/结束原因)——对标 OpenRouter 的 Activity 聚合 + Logs 单请求下钻
模型目录9 个模型 · 全国产 · 每模型 ≥2 供给渠道
全部对话推理增强长上下文可私有化按价格 ↑按延迟 ↑
deepseek-v4对话推理增强
通用旗舰,复杂推理与代码场景表现均衡;平台侧 3 个供给渠道自动比价与故障切换。
输入 ¥2.4/M tok输出 ¥9.6/M tok上下文 128K首字延迟 0.5s(P50)吞吐 48 tok/s供给渠道 3可私有化
qwen-plus对话
高性价比主力,客服/摘要等高频场景首选;支持语义缓存加速。
输入 ¥1.0/M tok输出 ¥2.5/M tok上下文 128K首字延迟 0.3s(P50)吞吐 62 tok/s供给渠道 2可私有化
kimi-k3长上下文
超长文档理解与编码场景;当前一个供给渠道处于半开观察,平台自动倾斜至健康渠道。
输入 ¥6.0/M tok输出 ¥18.0/M tok上下文 256K首字延迟 0.9s(P50)吞吐 35 tok/s供给渠道 2 供给降级
glm-5对话
中文理解与结构化输出稳健;等保场景常用。
输入 ¥4.8/M tok输出 ¥14.4/M tok上下文 128K首字延迟 0.7s(P50)吞吐 41 tok/s供给渠道 2可私有化
界面形态对标 OpenRouter Models:价格/上下文/实时性能/供给数一屏可比;差异是我们标注"可私有化/合规"标签(国内 2B 刚需)。
API Keys
| 名称 / Key | 所属项目 | 治理策略 | 月限额 | 本月已用 | 过期 | 状态 | 操作 |
|---|---|---|---|---|---|---|---|
| 生产主 Key ak-7f3••••• | 客服机器人 | 生产严格 | ¥20,000 | ¥18,220(91%) | 2026-12-31 | 启用 | |
| 测试 Key ak-2c1••••• | 客服机器人 | 租户默认 | ¥500 | ¥310(62%) | 永不 | 启用 | |
| 营销 Key ak-9e8••••• | 营销文案 | 租户默认 | ¥8,000 | ¥4,880(61%) | 2026-09-30 | 启用 |
Key 归属项目、项目归属租户——限额与模型白名单由所挂"治理策略"统一定义,在网关硬执行;策略详情见左侧"治理策略"。
额度与账单
本月已消费¥23,410
账期:月结 30 天 · 对公
月预算¥30,000
超限动作:告警(管理员可改)
缓存累计节省¥1,204
语义缓存命中 26.4%
| 账期 | 消费金额 | 状态 | 发票 | |
|---|---|---|---|---|
| 2026-08(进行中) | ¥23,410 | 计量中 | — | |
| 2026-07 | ¥26,180 | 已结清 | ||
| 2026-06 | ¥19,930 | 已结清 |
路由偏好管理员
成本 / 质量权衡影响平台为你自动选择供给渠道与(未来)模型档位的倾向
省钱质量故障自动切换(Failover)供给渠道异常时自动切换,业务无感;关闭则直接返回错误
数据合规约束标记后,相关请求只会路由到满足约束的渠道
语义缓存相似请求直接返回缓存结果(费用为 0);可按项目粒度开关
场景绑定指定项目锁定模型集合,平台不做跨模型调度
内部知识库 → 锁定 qwen-plus 自带供应商额度(BYOK)绑定你与供应商直签的 Key:优先消耗你自己的额度,异常时自动回退平台共享池
已绑定:火山引擎 ×1 参数模板(Presets)系统提示词 + 模型 + 参数存成模板,API 按名引用;改配置不用改代码
2 个模板(客服-稳态 / 营销-创意) 对标 OpenRouter 的 Auto Router(按成本档位自动选模型)+ Provider Routing(order/fallback/ZDR)+ BYOK + Presets,本土化为:合规约束 + 场景绑定 + 项目级缓存开关。
治理策略管理员
| 策略名称 | 状态 | 策略内容 | 作用范围 | 操作 |
|---|---|---|---|---|
| 租户默认策略 未单独挂策略的 Key 自动套用 | 生效中 | 月限额 ¥30,000(超限告警)· 数据不出域 · 全模型可用 | 全部 Key | |
| 生产严格策略 | 生效中 | 月限额 ¥20,000(超限熔断)· 仅 deepseek-v4 / qwen-plus · 禁止输入输出留存 | 生产主 Key | |
| 实验沙箱策略 | 草稿 | 日限额 ¥50 · 仅 qwen-plus · 输入输出全量留存(内部审计) | 未挂载 |
把"消费限额 + 数据约束 + 模型白名单 + 超限动作"打包成可复用策略,挂到 Key 上、网关硬执行——对标 OpenRouter Guardrails;本土化差异:增加数据出域/留存约束与审计留存选项(等保场景)。
可观测性
输入 / 输出日志留存
开启后请求明细可查看完整 prompt 与回复,用于调试与评测;默认关闭(仅留计量元数据)
开启后请求明细可查看完整 prompt 与回复,用于调试与评测;默认关闭(仅留计量元数据)
日志外发(零埋点)
网关自动把每条请求的 trace 推送到你自己的观测平台,业务代码无需任何埋点改造。
自建 Langfuse
LLM 全链路 trace
已连接
LLM 全链路 trace
已连接
阿里云 SLS
日志检索与告警
日志检索与告警
对象存储 OSS / S3
明细归档,供 BI 消费
明细归档,供 BI 消费
自定义 Webhook
签名回调,接入内部系统
签名回调,接入内部系统
对标 OpenRouter Observability(Broadcast 到 Langfuse / Datadog / S3 等 19 类目的地)——企业客户"数据回流自有系统"的刚需;国内首发目的地选 SLS / OSS / 自建 Langfuse。
接入文档
60 秒接入
from openai import OpenAI
client = OpenAI(
api_key="ak-你的Key",
base_url="https://gw.example.com/v1" # 仅改这一行
)
resp = client.chat.completions.create(
model="deepseek-v4",
messages=[{"role": "user", "content": "你好"}]
)
OpenAI 兼容协议:现有代码只改 base_url 与 Key,零改造迁移。Anthropic 兼容端点、流式、工具调用见完整文档(演示略)。