返回列表

OmniRoute|多服务商AI模型统一路由网关

把 Claude、GPT、Gemini 等多家模型服务接到同一个本地接口,供 Claude Code、Cursor 等工具统一调用,配额不足时自动切换备用线路,适合想自建 AI 网关的开发者与小团队,需自备服务商账号或 API 密钥。

AI基础设施平台TypeScriptMCP自托管Claude Code多模型路由DockerToken 压缩AI 网关自动故障转移OpenAI 兼容 API免费额度汇总MIT 许可站长实测状态尚未登记

工具介绍

OmniRoute 是什么

OmniRoute 是一个以 MIT 许可开源的 AI 网关,作者为 Diego Souza,仓库目前由 cheaper-inference 组织维护。它在本机(默认 http://localhost:20128/v1)提供一个兼容 OpenAI、Claude、Gemini 等请求格式的统一接口,把 Claude Code、Codex CLI、Cursor、Cline、Copilot 等客户端发出的请求转发到你配置的模型服务商,并在配额耗尽、报错或限流时按规则切到下一个可用目标。项目自述覆盖数百家服务商与上百个免费额度入口、22 种路由策略,具体数量随版本变化(README 中不同版本给出的服务商数并不一致)。

本文依据仓库 README、LICENSE、package.json 与发布页整理,未进行安装、路由与计费实测。文中功能、数量与节省比例均为项目方自述,可能随版本变化。

主要功能(据官方说明整理,未实测)

  • 统一端点:同一 /v1 下提供 OpenAI Chat Completions、Responses 与 Anthropic 兼容路径,另有 /v1/models、/v1/ocr、/v1/audio/transcriptions 等接口。
  • 自动路由与降级:模型填 auto(或 auto/coding、auto/cheap、auto/fast 等变体)时,按健康度、配额、成本、延迟等因素实时打分选路;也可自建 combo,用 priority、round-robin、cost-optimized、quota-weighted 等策略编排模型链。
  • 多层容错:官方描述为服务商级熔断、单个密钥冷却、单模型锁定三层机制,失败时改走下一个健康目标。
  • Token 压缩:官方称 RTK + Caveman 压缩在符合条件的负载上可省 15%–95% token,此比例未经本站验证。
  • 免费额度目录:仪表盘 /dashboard/free-tiers 汇总各服务商免费层;官方给出的“约 16.2 亿 token/月”是把多个第三方免费池去重后的估算总量,不是 OmniRoute 发放的额度,各服务商可随时调整或取消。
  • 其他模块:MCP 工具服务、A2A 代理协议、记忆模块、PII 与凭据脱敏护栏、按密钥限制模型与预算、无界面 headless 模式、桌面端与 PWA;密钥默认本地存储(官方称使用 AES-256-GCM 加密)。

适合谁

  • 手上有多个模型订阅或 API Key、不想为每个 CLI/IDE 单独配置的个人开发者。
  • 需要统一出口、按密钥分配模型与预算的团队运维。
  • 希望自托管、让提示词不经过第三方中转的用户。

环境门槛

  • Node.js:package.json 声明 engines 为 >=22.22.2 <23 或 >=24 <27;用 Docker 或桌面安装包可避开本地 Node 环境,但各发行包的具体要求待核查。
  • 至少一个可用服务商连接:全新安装可能没有可用的免密钥目标,此时 auto 无路可走;部分免密钥服务商也会拒绝第三方客户端。
  • 条款风险标记:官方提示标为 tos: avoid 的服务商(如 Kiro)默认不参与自动路由,绑定账号也不会解除。
  • 桌面安装包体积较大(Windows 安装包为数百 MB 量级,可查看发布页资产)。

安装与使用

官方提供 npm 包(包名 omniroute)、Docker 镜像以及 Windows / macOS / Linux 桌面安装包等多种方式,具体命令、端口与环境变量请以仓库 README 和 docs/ 目录为准,本文不复制未核对的命令。大致流程是:安装并启动服务 → 在仪表盘连接服务商账号或填入 API Key → 在 Dashboard 的 Endpoints 页复制 OmniRoute 密钥 → 把客户端 base URL 指向 http://localhost:20128/v1,模型填 auto 或指定模型 ID。README 给出的调用示例为向 /v1/chat/completions 发起 curl 请求,并带上 Authorization: Bearer <你的 OmniRoute 密钥>。

费用与许可

  • 软件本身为 MIT 许可,可自托管、修改与再分发,需保留版权与许可声明(Copyright (c) 2026 diegosouzapw)。
  • 上游模型费用由各服务商结算;免费额度受各服务商条款、地区与风控约束,可能随时变更或取消。
  • 可选的 Radar 目录为订阅性质,入口为 radar.omniroute.online/planos,价格与权益待核查。项目接受赞助,官方称赞助不影响路由优先级。

国内使用的注意事项(待核查)

  • 多数海外服务商需要网络可达与合适的支付方式,部分免费额度要求区域身份验证;国内网络条件下的实际可用性需自行测试。
  • 团队或商业场景下,需自行确认所选服务商条款是否允许经网关转发,以及数据跨境的合规要求。
  • 项目包含可选的反向代理、TLS 指纹与 MITM/TPROXY 流量解密等能力,是否合规、是否获得授权需自行判断,建议仅在自己的账号与网络内使用。

风险提示

共享、转售或批量注册免费额度账号可能违反服务商条款,请以各服务商协议为准;本文不构成可用性、安全性或计费结论。

来源与加工说明

来源:https://github.com/cheaper-inference/OmniRoute

许可证:MIT

依据 GitHub 原始资料由 AI 整理的中文待审核草稿,未经本站实测。原始版权与许可归原作者;未声明许可不代表允许转载或再分发。

来源类型:GitHub;授权范围待核验

运行与适配

使用难度
如何理解使用难度?
  • 直接使用:通常打开网页或登录账号即可使用。
  • 简单配置:需要填写密钥、连接服务或导入配置。
  • 需要部署:需要安装依赖、配置运行环境或自行部署。
  • 技术开发:需要编程、接口集成或开发调试。

格数越多,使用门槛越高;具体要求请看下方说明。

国内可用性待核验

访问来源 ↗

国内使用情况与网友核验

网友核验 用户经验分享

与站长实测独立,不代表官方认证或本站已实测。

我要核验
0 位参与者0 份有效分项记录

最近核验:暂无有效核验。参与人数按当前项目有效身份去重;不同核验项分别统计,不合并成用户总结果。仅统计审核通过且未过期的记录。

分项统计、有效期与样本量
核验项目有效人数成功 / 部分 / 失败 / 无法判断成功率最近核验 / 有效期
官方网站访问00 / 0 / 0 / 0样本不足暂无 / 7 天
GitHub 仓库访问00 / 0 / 0 / 0样本不足暂无 / 7 天
安装与运行00 / 0 / 0 / 0样本不足暂无 / 30 天
官方服务国内连接 / MCP 连接00 / 0 / 0 / 0样本不足暂无 / 30 天
国内网络情况00 / 0 / 0 / 0样本不足暂无 / 7 天
国内模型兼容性00 / 0 / 0 / 0样本不足暂无 / 30 天
自定义 API00 / 0 / 0 / 0样本不足暂无 / 30 天
海外服务依赖
00 / 0 / 0 / 0样本不足暂无 / 30 天
海外账号要求
00 / 0 / 0 / 0样本不足暂无 / 30 天
中文界面
00 / 0 / 0 / 0样本不足暂无 / 30 天
客户端兼容性00 / 0 / 0 / 0样本不足暂无 / 30 天
账号及费用信息
00 / 0 / 0 / 0样本不足暂无 / 30 天

成功率 = 成功 ÷(成功 + 部分成功 + 失败);无法判断不计入分母。至少 5 份可判断结果才显示成功率。账号、费用、海外依赖与语言等事实项,成功表示核查结论与资料吻合,具体观察另行统计;不表示免费或没有海外依赖。不同网络、客户端和版本的结果不能直接等同。

最近有效核验

暂无审核通过且未过期的网友核验。欢迎提交真实使用记录。

查看全部有效核验 →

反馈此内容的问题