本地部署相关工具、教程与提示词

汇集本地部署主题下已发布的工具、教程、提示词与场景资料,帮助你了解用途、使用条件及操作方法。

Agent 与工作流精选

✧

Upsonic|Python 自主式与传统 AI Agent 构建框架

Upsonic

Upsonic 是一个 Python 框架,可用于构建自主式 Agent 与传统任务型 Agent,并支持自定义工具、MCP 工具接入与统一 OCR 文档处理接口。

Agent 开发框架 Python智能体框架本地部署
需要部署 · 国内可用性待核验
使用难度待核验
✧

livekit/agents|实时语音AI Agent开发框架

livekit/agents

用于构建可编程实时多模态语音AI Agent的Python开源框架,支持STT、LLM、TTS组合、电话接入、MCP工具与测试。

Agent 开发框架 Python智能体框架本地部署
需要部署 · 国内可用性待核验
使用难度待核验
✧

localGPT|本地私有文档问答与检索平台

localGPT

LocalGPT 是一套可在本机部署的私有文档智能平台,用混合检索、重排序与 Ollama 模型对自有文档做问答、摘要与溯源。

Agent 配套工具 本地模型本地部署RAG
需要部署 · 国内可用性待核验
使用难度待核验
✧

PrivateGPT|本地模型私有 AI 应用 API 接入层

PrivateGPT

PrivateGPT 是一个开源 API 层,把本地 OpenAI 兼容推理服务封装为面向私有 AI 应用的 Claude 风格接口,提供检索、工具、MCP、数据库等后端能力。

Agent 开发框架 本地模型本地部署RAG
需要部署 · 国内可用性待核验
使用难度待核验
✧

Jan|本地运行大模型的开源桌面客户端

Jan

Jan 是一款开源桌面应用,可在本机下载运行开源大模型,也可接入云端模型服务,并提供本地 OpenAI 兼容接口。

Agent 配套工具 本地模型本地部署多模型接入
需要部署 · 国内可用性待核验
使用难度待核验
✧

Ollama|本地与云端大模型运行及接入工具

Ollama

用于在本地或云端下载、运行和管理开放模型,并通过命令行、REST API 与 Python/JavaScript SDK 接入自有应用的模型运行时。

Agent 配套工具 本地模型本地部署多模型接入
需要部署 · 国内可用性待核验
使用难度待核验
✧

PraisonAI|开源Python多智能体框架,可离线运行

PraisonAI

PraisonAI 是一个开源 Python Agent 框架,支持多智能体协作、工作流编排、工具与 MCP 接入,并可用本地模型离线运行。

Agent 开发框架 Python智能体框架本地部署
需要部署 · 国内可用性待核验
使用难度待核验
✧

sagentic-af|构建与本地运行自主智能体的TypeScript框架

sagentic-af

Sagentic.ai Agent Framework 是一个用于创建项目、在本地开发服务器中运行并通过 /spawn 接口启动智能体的 TypeScript 框架。

Agent 开发框架 智能体框架本地部署TypeScript
需要部署 · 国内可用性待核验
使用难度待核验
✧

LobeHub|团队多智能体协作与 Agent 工作台

LobeHub

LobeHub 是一个面向团队的超级智能体协作平台,可接入聊天应用、模型与 MCP/Skills,并支持自托管部署。

Agent 配套工具 智能体框架本地部署TypeScript
需要部署 · 国内可用性待核验
使用难度待核验

AI 工具

O
GitHub 开源

Open WebUI|统一接入本地与远程模型的AI对话Web界面

一个面向AI模型交互的Web界面,可连接Ollama与OpenAI API兼容服务,适合希望自建对话入口的开发者,但安装方式、许可证与安全性仍待核查。

通用 LLM 应用
使用难度
站长实测状态尚未登记
S
GitHub 开源

StaffDeck|企业数字员工与智能体平台

面向企业场景的数字员工与智能体平台候选项目,可用于评估构建、编排和管理企业数字化员工应用,适合企业IT团队与集成商调研选型。

Agent 工作台与协作
使用难度
站长实测状态尚未登记
I
github

InvokeAI|本地部署的AI图像生成与编辑工作台

一款可在自己电脑上部署的AI图像生成与编辑工作台,提供网页界面、统一画布和节点式工作流,适合希望本地自主掌控素材与流程的插画师、设计师和AI绘画爱好者使用。

AI 图像生成桌面应用(本地部署,浏览器界面)
使用难度
站长实测状态尚未登记
V
外部应用

VoiceStudio|本地优先的多引擎语音工作台

一个开源、以本地运行为优先的AI语音工作台,把多款语音合成与语音识别引擎聚合在一起,可做零样本音色克隆、视频配音和有声书制作,适合想自建语音工具的创作者与开发者。

语音处理与翻译本地部署,具体支持的操作系统与硬件要求待核验
使用难度
站长实测状态尚未登记
C
外部应用

CosyVoice|开源多语言语音合成模型

阿里开源的一套语音合成模型,可将文本合成为自然语音,并支持基于参考音频的音色复刻,适合研究者和开发者本地部署做语音生成实验。

语音合成TTS本地部署(Python环境)
使用难度
站长实测状态尚未登记
F
外部应用

FunASR|开源工业级语音识别工具包

面向开发者与算法团队的开源语音识别工具包,可在本地部署完成音频转文字,并探索说话人分离、情感检测等能力,适合构建字幕与语音转写流水线。

语音识别与字幕本地部署,需Python环境与可选的CUDA显卡;提供兼容OpenAI风格的HTTP接口
使用难度
站长实测状态尚未登记
M
外部应用

MiniMax H3|开源多模态音视频生成系统

MiniMax 开源的通用多模态生成系统,支持文生视频、图生视频与音视频生成,适合有本地部署条件的研究者与开发者自行搭建使用。

AI 视频创作本地部署,支持 SGLang、vLLM、diffusers、ComfyUI 等推理途径
使用难度
站长实测状态尚未登记
m
外部应用

mu|带判定内核的开源AI智能体

开源的AI智能体,提供命令行和桌面端,把三十多个例行判断交给小而快的判定模型处理,让主模型专注干活,适合关注成本与可控性的开发者。

AI Agent命令行;桌面端(macOS、Windows、Linux)
使用难度
站长实测状态尚未登记
l
外部应用

llmrun|显卡与迷你主机开源大模型可运行能力查询

一个免费网站,输入你的显卡、Mac或迷你主机配置,就能查看能运行哪些开源大模型,以及各量化方案的显存需求和预估生成速度。

大语言模型排行榜Web 网站
使用难度
站长实测状态尚未登记