多模型路由相关工具、教程与提示词

汇集多模型路由主题下已发布的工具、教程、提示词与场景资料,帮助你了解用途、使用条件及操作方法。

AI 工具

l
github

litellm|统一调用百余家大模型的AI网关与Python开发库

用统一的OpenAI格式调用OpenAI、Anthropic、Gemini、Bedrock、Azure等上百家大模型,可作Python开发库集成,也可自建网关集中管理团队调用。

LLM 推理与部署Python 开发库;可自托管的 Web 网关服务
使用难度
站长实测状态尚未登记
O
外部应用

OmniRoute|可自托管的多服务商AI网关

可自行部署的AI网关,将多家模型服务商统一到一个兼容OpenAI的接口,并在某个服务不可用或超额时自动切换到备用来源,适合需要稳定调用多家模型的中小团队与开发者。

通用 LLM 应用自托管服务,通过兼容 OpenAI 的 HTTP API 调用,具体部署环境以仓库文档为准(待核查)
使用难度
站长实测状态尚未登记