查看方案
LocalAIproject:单机本地 AI 助手 + ComfyUI 批量视频流水线
编辑说明:本文为第三方整理稿,依据仓库 README 与目录结构编写,本站尚未在自有机器上实测,文中凡标注「作者自述」的内容均待核查。仓库未声明开源许可证(license 为空),版权归原作者,转载、再分发或商用前请先向作者确认授权。本文不是原作者的中文文档。
一、它想解决什么业务问题
作者自述的痛点是:想在本机用上类似 ChatGPT 桌面版的助手,同时这台机器还要跑 ComfyUI 的图片与视频批量渲染。难点不在「能不能跑模型」,而在于一块显卡被两件事同时抢——渲染任务占着显存时,助手不该崩溃或把渲染打断;助手也不该被允许随意执行任何命令。
仓库因此把重点放在「模型外面的一层」:模型只能调用具名的白名单工具,不能直接执行 shell;每一跳都要先判断 GPU 是空闲、忙碌还是被预留,再决定用哪张模型;回复发出前还要检查它有没有谎称自己做了某个文件操作。
二、适用人群与场景(待核查是否与实际需求匹配)
- 自媒体、短视频与动画分镜:需要批量产出静帧与短片段,且素材不便上传云端。
- 独立开发者与小团队:想自建一个本地内部助理,能改文件、跑脚本,但有审批与审计要求。
- 教育与培训:制作演示用图、视频素材,机房或内网环境无法访问外部服务。
- 研究与大模型工程:需要一套可改、可测的路由与工具调用骨架。
以上是依据 README 描述归纳的场景,是否适合具体行业需自行评估。
三、作者描述的工作流程
- 入口:桌面 GUI 或已配对的手机端发来消息。
- 安全闸门:先过工具白名单与审批闸门,再进入有跳数上限的 Agent 循环。
- 逐跳路由:
router.py判断显卡状态——空闲时用 GPU 上的 14B 模型,渲染占卡时切到 CPU 上的 8B 模型。 - 工具执行:
run_code在每次运行独立的目录中执行,带审计钩子,默认无网络。 - 出口校验:回复发出前核对,模型不得声称做过实际未发生的文件操作。
- 视频流水线:提示词包 → Flux 静帧 → MiniMax H3 或 Wan 生成视频 → QA 判分 → 动作迁移;入口脚本为
gvd_watcher.py→batch_run_backrooms_gvd.py→generate_video.py,用gvd_watcher_keepalive.ps1保活。 - 可选扩展:第二台机器经 Redis + Celery 分担后台任务(其结果被视为不可信);
model_gateway/可在同一路由接缝上增加可选的云端模型层。
四、所需工具与环境
- 操作系统与硬件:作者环境为 Windows PC,RTX 5080、16 GB 显存;其他配置是否可用待核查。
- 运行时:Python ≥ 3.11(据 pyproject.toml)。
- 依赖:README 给出
pip install -r requirements.txt(numpy、Pillow、cryptography、psutil);可选能力用requirements-optional.txt(dspy、torch、celery、rns 等)。核心模块作者称仅依赖标准库。 - 模型与渲染:需自备 Ollama 本地模型、ComfyUI,以及 Flux、MiniMax H3 或 Wan 等相关模型权重;仓库不包含权重、渲染产物与运行时状态。
- 环境变量:
GVD_ROOT、COMFY_SHARED_INPUT、COMFY_SHARED_OUTPUT、COMFY_URL,默认值按作者工作站布局。 - 启动:
local_agent\START_LOCAL_AGENT_GUI.ps1启动助手,服务绑定127.0.0.1:8760;流水线用gvd_watcher_keepalive.ps1。
以上命令均转述自 README,本站未执行。
五、投入条件与门槛
- 一张显存足够的独立显卡,且愿意让助手与渲染共享它。
- 愿意自行搭建 Python 环境、ComfyUI 与本地模型,并处理路径、端口、模型版本等排错。
- 手机桥接需配置 Reticulum / Sideband 配对身份;不配也能用桌面端。
- 项目缺乏面向新用户的一键安装说明,仓库结构按作者个人工作台组织(含个人归档与交接文档),复用到他人环境需做改造。
- 费用、许可证、国内网络可用性均待核查:仓库未声明许可,云端混合路由与第三方模型(Flux、MiniMax H3、Wan 等)的授权与商用条款需另行确认。
六、可核验成果(建议自行验证,本文不作效果承诺)
- 测试规模:README 称有 180+ 个
test_*.py、约 1,300 个单元测试,作者注明conftest.py会跳过本机跑不了的部分。可运行python -m pytest自行观察通过情况。 - 代码结构是否与描述一致:核对
local_agent/下是否存在server.py、agent.py、router.py、tools.py,以及model_gateway/、worker_farm/、edge_gateway/等目录。 - 安全控制点是否可查:作者称工具白名单、审批闸门、沙箱、隔离区、审计日志在配套仓库
local-agent-core的src/下是可独立测试的小模块,可逐项查看。 - 视频流水线能否出片:必须自备 ComfyUI 与相应模型权重才能复现,仓库不含权重与渲染样例;本项只能由使用者自测。
七、已知边界与待核查事项
- 许可证状态待核查:仓库 license 字段为空,不得默认允许转载或再分发。
- 兼容性待核查:作者仅在自有 Windows 工作站验证,Linux/macOS 与不同显卡的表现未知。
- 具体阈值待核查:GPU 温度上限、显存水位、跳数上限等参数的实际取值以代码为准。
- 手机桥接与远程访问的安全模型需自行评估,作者默认多数动作拒绝。
- 仓库含个人项目历史、归档与交接文档,其中部分内容已过期,不应作为当前行为依据。
来源与加工说明
来源:https://github.com/rhinerad/LocalAIproject
许可证:未声明,转载与再分发权限待核验
依据 GitHub 原始资料由 AI 整理的中文待审核草稿,未经本站实测。原始版权与许可归原作者;未声明许可不代表允许转载或再分发。
来源类型:GitHub;授权范围待核验
关联内容
适用人群:未指定
目标成果:详见正文
国内使用情况与网友核验
网友核验 用户经验分享
与站长实测独立,不代表官方认证或本站已实测。
最近核验:暂无有效核验。参与人数按当前项目有效身份去重;不同核验项分别统计,不合并成用户总结果。仅统计审核通过且未过期的记录。
分项统计、有效期与样本量
| 核验项目 | 有效人数 | 成功 / 部分 / 失败 / 无法判断 | 成功率 | 最近核验 / 有效期 |
|---|---|---|---|---|
| 官方网站访问 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 7 天 |
| GitHub 仓库访问 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 7 天 |
| 安装与运行 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 官方服务国内连接 / MCP 连接 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 国内网络情况 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 7 天 |
| 国内模型兼容性 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 自定义 API | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 海外服务依赖 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 海外账号要求 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 中文界面 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 客户端兼容性 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
| 账号及费用信息 | 0 | 0 / 0 / 0 / 0 | 样本不足 | 暂无 / 30 天 |
成功率 = 成功 ÷(成功 + 部分成功 + 失败);无法判断不计入分母。至少 5 份可判断结果才显示成功率。账号、费用、海外依赖与语言等事实项,成功表示核查结论与资料吻合,具体观察另行统计;不表示免费或没有海外依赖。不同网络、客户端和版本的结果不能直接等同。
最近有效核验
暂无审核通过且未过期的网友核验。欢迎提交真实使用记录。
查看全部有效核验 →