本地大模型相关工具、教程与提示词

汇集本地大模型主题下已发布的工具、教程、提示词与场景资料，帮助你了解用途、使用条件及操作方法。

AI 工具

github

在普通台式机和笔记本上离线运行大语言模型并与文档对话的桌面应用，无需调用云端接口或独立显卡，适合注重数据隐私的个人用户和开发者试用本地模型。

AI 工作台与智能体桌面应用（Windows、macOS、Linux），另提供 Python 客户端与 Docker API 服务

使用难度

站长实测状态尚未登记

github

一款可在电脑上离线运行开源大模型的桌面客户端，支持从HuggingFace下载Llama、Gemma、Qwen等模型，也能接入多家云端模型，适合注重隐私、想自己掌控AI对话与助手的普通用户。

AI 工作台与智能体Windows、macOS、Linux 桌面应用

使用难度

站长实测状态尚未登记

github

一个可自行部署的AI对话平台，通过Ollama或OpenAI兼容接口接入本地与云端模型，支持离线运行，适合希望统一管理模型、保护数据隐私的个人与团队使用。

AI 工作台与智能体Web 自托管 / 桌面应用 / Docker

使用难度

站长实测状态尚未登记

外部应用

ollama 是一款在本地轻松运行和管理大型语言模型的工具，支持 Llama、Qwen、DeepSeek、Gemma 等模型。它适合希望在个人电脑或服务器上离线体验和开发 AI 应用的用户，简化模型下载、启动与调用流程。

通用 LLM 应用待核查

使用难度

站长实测状态尚未登记

GitHub 开源

OpenWhispr把桌面语音输入、会议转写和笔记组织在同一应用中。按热键说话后可把文字粘贴到光标处，也可选择本地识别模型或云端服务。本站未测试听写准确率、会议识别或系统兼容性。

AI 音频与字幕macOS、Windows、Linux；Intel Mac部分功能有限制

使用难度

站长实测状态尚未登记