L
githubLocalAI|本地部署多模态AI模型的开源推理引擎
在自有电脑或服务器上运行大语言模型、语音、图像、视频等多模态模型的推理引擎,可为需要数据不出内网、按需加载后端的开发者和运维团队提供兼容主流云端接口的本地AI服务。
LLM 推理与部署跨平台(容器 / macOS 应用 / 服务端)使用难度
站长实测状态尚未登记
汇集API兼容主题下已发布的工具、教程、提示词与场景资料,帮助你了解用途、使用条件及操作方法。
在自有电脑或服务器上运行大语言模型、语音、图像、视频等多模态模型的推理引擎,可为需要数据不出内网、按需加载后端的开发者和运维团队提供兼容主流云端接口的本地AI服务。
LLM 推理与部署跨平台(容器 / macOS 应用 / 服务端)