产品简介
VeyraOS Router 是一个智能模型路由服务。你的应用只需要对接一个地址、一个 Key,即可获得多模型、多供应商的统一调用入口——路由层自动完成选模型、容灾切换、计量计费与调用留痕。
核心概念
| 概念 | 说明 |
|---|---|
| 对外模型 | 你在 model 字段填写的名字。直接映射到具体的供应商通道,行为与普通模型 API 一致 |
| 智能路由池 | 一种特殊的对外模型:调用时由路由层按任务类型与难度,在池内多个模型中自动选择一个最合适的。选池 = 把「选哪个模型」交给路由层 |
| 通道 | 一个对外模型背后可以挂多个供应商通道,互为备份,故障时自动切换 |
| API Key | 调用凭证。在控制台自助签发,可限定可用模型范围与月度限额 |
能力地图
- 三协议兼容:OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 三种协议同一个 Key 通用,现有代码几乎零改造。详见三种 API 协议。
- 智能选路:路由池按任务语义自动分档(简单/中等/复杂/推理),简单任务自动落到便宜模型,复杂任务落到强模型。
- 自动容灾:上游 429/5xx/超时自动重试并切换备用通道;故障通道进入冷却,恢复后自动回归。
- 计量计费:每次调用按 tokens 精确计量,费用按售价口径按天出账。详见用量与账单。
- 路由偏好:成本优先/质量优先、延迟敏感、排除指定通道,组织级一次设置全部 Key 生效。详见路由偏好。
- 调用留痕:每次调用的选路原因、落地通道、延迟、token 用量与费用都可在控制台「调用记录」中追溯。