工具介绍
OmniRoute 是什么
OmniRoute 是一个以 MIT 许可开源的 AI 网关,作者为 Diego Souza,仓库目前由 cheaper-inference 组织维护。它在本机(默认 http://localhost:20128/v1)提供一个兼容 OpenAI、Claude、Gemini 等请求格式的统一接口,把 Claude Code、Codex CLI、Cursor、Cline、Copilot 等客户端发出的请求转发到你配置的模型服务商,并在配额耗尽、报错或限流时按规则切到下一个可用目标。项目自述覆盖数百家服务商与上百个免费额度入口、22 种路由策略,具体数量随版本变化(README 中不同版本给出的服务商数并不一致)。
本文依据仓库 README、LICENSE、package.json 与发布页整理,未进行安装、路由与计费实测。文中功能、数量与节省比例均为项目方自述,可能随版本变化。
主要功能(据官方说明整理,未实测)
- 统一端点:同一
/v1下提供 OpenAI Chat Completions、Responses 与 Anthropic 兼容路径,另有/v1/models、/v1/ocr、/v1/audio/transcriptions等接口。 - 自动路由与降级:模型填
auto(或auto/coding、auto/cheap、auto/fast等变体)时,按健康度、配额、成本、延迟等因素实时打分选路;也可自建 combo,用 priority、round-robin、cost-optimized、quota-weighted 等策略编排模型链。 - 多层容错:官方描述为服务商级熔断、单个密钥冷却、单模型锁定三层机制,失败时改走下一个健康目标。
- Token 压缩:官方称 RTK + Caveman 压缩在符合条件的负载上可省 15%–95% token,此比例未经本站验证。
- 免费额度目录:仪表盘
/dashboard/free-tiers汇总各服务商免费层;官方给出的“约 16.2 亿 token/月”是把多个第三方免费池去重后的估算总量,不是 OmniRoute 发放的额度,各服务商可随时调整或取消。 - 其他模块:MCP 工具服务、A2A 代理协议、记忆模块、PII 与凭据脱敏护栏、按密钥限制模型与预算、无界面 headless 模式、桌面端与 PWA;密钥默认本地存储(官方称使用 AES-256-GCM 加密)。
适合谁
- 手上有多个模型订阅或 API Key、不想为每个 CLI/IDE 单独配置的个人开发者。
- 需要统一出口、按密钥分配模型与预算的团队运维。
- 希望自托管、让提示词不经过第三方中转的用户。
环境门槛
- Node.js:package.json 声明 engines 为
>=22.22.2 <23或>=24 <27;用 Docker 或桌面安装包可避开本地 Node 环境,但各发行包的具体要求待核查。 - 至少一个可用服务商连接:全新安装可能没有可用的免密钥目标,此时
auto无路可走;部分免密钥服务商也会拒绝第三方客户端。 - 条款风险标记:官方提示标为
tos: avoid的服务商(如 Kiro)默认不参与自动路由,绑定账号也不会解除。 - 桌面安装包体积较大(Windows 安装包为数百 MB 量级,可查看发布页资产)。
安装与使用
官方提供 npm 包(包名 omniroute)、Docker 镜像以及 Windows / macOS / Linux 桌面安装包等多种方式,具体命令、端口与环境变量请以仓库 README 和 docs/ 目录为准,本文不复制未核对的命令。大致流程是:安装并启动服务 → 在仪表盘连接服务商账号或填入 API Key → 在 Dashboard 的 Endpoints 页复制 OmniRoute 密钥 → 把客户端 base URL 指向 http://localhost:20128/v1,模型填 auto 或指定模型 ID。README 给出的调用示例为向 /v1/chat/completions 发起 curl 请求,并带上 Authorization: Bearer <你的 OmniRoute 密钥>。
费用与许可
- 软件本身为 MIT 许可,可自托管、修改与再分发,需保留版权与许可声明(Copyright (c) 2026 diegosouzapw)。
- 上游模型费用由各服务商结算;免费额度受各服务商条款、地区与风控约束,可能随时变更或取消。
- 可选的 Radar 目录为订阅性质,入口为 radar.omniroute.online/planos,价格与权益待核查。项目接受赞助,官方称赞助不影响路由优先级。
国内使用的注意事项(待核查)
- 多数海外服务商需要网络可达与合适的支付方式,部分免费额度要求区域身份验证;国内网络条件下的实际可用性需自行测试。
- 团队或商业场景下,需自行确认所选服务商条款是否允许经网关转发,以及数据跨境的合规要求。
- 项目包含可选的反向代理、TLS 指纹与 MITM/TPROXY 流量解密等能力,是否合规、是否获得授权需自行判断,建议仅在自己的账号与网络内使用。
风险提示
共享、转售或批量注册免费额度账号可能违反服务商条款,请以各服务商协议为准;本文不构成可用性、安全性或计费结论。
来源与加工说明
来源:https://github.com/cheaper-inference/OmniRoute
许可证:MIT
依据 GitHub 原始资料由 AI 整理的中文待审核草稿,未经本站实测。原始版权与许可归原作者;未声明许可不代表允许转载或再分发。
来源类型:GitHub;授权范围待核验
运行与适配
如何理解使用难度?
- 直接使用:通常打开网页或登录账号即可使用。
- 简单配置:需要填写密钥、连接服务或导入配置。
- 需要部署:需要安装依赖、配置运行环境或自行部署。
- 技术开发:需要编程、接口集成或开发调试。
格数越多,使用门槛越高;具体要求请看下方说明。
国内可用性待核验
访问来源 ↗国内使用情况与网友核验
网友核验 用户经验分享
与站长实测独立,不代表官方认证或本站已实测。
最近核验:暂无有效核验。参与人数按当前项目有效身份去重;不同核验项分别统计,不合并成用户总结果。仅统计审核通过且未过期的记录。
分项统计、有效期与样本量
| 核验项目 | 有效人数 | 成功 / 部分 / 失败 / 无法判断 | 成功率 | 最近核验 / 有效期 |
|---|---|---|---|---|
| 官方网站访问 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 7 天 |
| GitHub 仓库访问 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 7 天 |
| 安装与运行 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 官方服务国内连接 / MCP 连接 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 国内网络情况 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 7 天 |
| 国内模型兼容性 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 自定义 API | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 海外服务依赖 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 海外账号要求 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 中文界面 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 客户端兼容性 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 账号及费用信息 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
成功率 = 成功 ÷(成功 + 部分成功 + 失败);无法判断不计入分母。至少 5 份可判断结果才显示成功率。账号、费用、海外依赖与语言等事实项,成功表示核查结论与资料吻合,具体观察另行统计;不表示免费或没有海外依赖。不同网络、客户端和版本的结果不能直接等同。
最近有效核验
暂无审核通过且未过期的网友核验。欢迎提交真实使用记录。
查看全部有效核验 →