New API 统一 AI 网关

New API 是什么

New API 是一个自托管的 AI 网关，用于把多家大模型服务聚合起来，再以统一接口对外分发。它可以把不同厂商的模型转换成 OpenAI 兼容、Claude 兼容或 Gemini 兼容格式，让客户端只改一次地址就能自由切换上游。

项目使用 Go 编写，提供 Web 控制台，适合个人、团队乃至企业做多模型统一管理。

核心能力

多协议接入与互转

• OpenAI Chat Completions / Responses
• Anthropic Messages
• Gemini generateContent / streamGenerateContent
• Realtime、Images、Audio、Embeddings、Rerank 等接口

底层通过 RelayKit 在多种文本协议之间做请求、响应与流式转换，客户端无需为每家上游单独适配。

渠道与路由管理

• 配置模型映射、渠道优先级与权重
• 失败重试、渠道亲和、多上游 Key 轮换
• 上游可接入 OpenAI、Anthropic、Gemini、Azure OpenAI、AWS Bedrock、Vertex AI、DeepSeek、Qwen 等

用量、计费与权限

• 配额、订阅、用量日志与缓存计费
• 基于表达式的分层定价
• 用户、分组、细粒度权限与 API Key 限制
• OAuth/OIDC、Passkey、双因素认证与登录会话管理

控制台与扩展

• 渠道与模型配置、用量与审计日志、模型调试场
• 界面支持简体中文、繁体中文、英文、法文、日文、俄文、越南文
• 可通过 JavaScript 插件扩展图像、视频等异步任务 API

典型使用方式

1. 使用 Docker 等方式部署 New API 服务。
2. 在控制台添加上游渠道并填入合法的 API Key。
3. 为渠道配置模型映射、权重与重试策略。
4. 创建用户与 API Key，分发给应用或团队成员。
5. 客户端把 Base URL 指向网关，即可用统一协议调用。

客户端 → New API 网关 → 上游模型服务
        (统一协议)      (OpenAI/Claude/Gemini...)

注意事项

• 请合法获取上游 API Key 与账号，并遵守各供应商服务条款。
• 若作为公开生成式 AI 服务运营，需自行完成备案、许可、内容安全、实名、日志留存等合规义务。
• 项目采用 AGPL-3.0 协议，二次分发与商用需注意其约束。