Skip to content

产品简介

VeyraOS Router 是一个智能模型路由服务。你的应用只需要对接一个地址、一个 Key,即可获得多模型、多供应商的统一调用入口——路由层自动完成选模型、容灾切换、计量计费与调用留痕。

核心概念

概念说明
对外模型你在 model 字段填写的名字。直接映射到具体的供应商通道,行为与普通模型 API 一致
智能路由池一种特殊的对外模型:调用时由路由层按任务类型与难度,在池内多个模型中自动选择一个最合适的。选池 = 把「选哪个模型」交给路由层
通道一个对外模型背后可以挂多个供应商通道,互为备份,故障时自动切换
API Key调用凭证。在控制台自助签发,可限定可用模型范围与月度限额

能力地图

  • 三协议兼容:OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 三种协议同一个 Key 通用,现有代码几乎零改造。详见三种 API 协议
  • 智能选路:路由池按任务语义自动分档(简单/中等/复杂/推理),简单任务自动落到便宜模型,复杂任务落到强模型。
  • 自动容灾:上游 429/5xx/超时自动重试并切换备用通道;故障通道进入冷却,恢复后自动回归。
  • 计量计费:每次调用按 tokens 精确计量,费用按售价口径按天出账。详见用量与账单
  • 路由偏好:成本优先/质量优先、延迟敏感、排除指定通道,组织级一次设置全部 Key 生效。详见路由偏好
  • 调用留痕:每次调用的选路原因、落地通道、延迟、token 用量与费用都可在控制台「调用记录」中追溯。

下一步

智能模型路由服务