返回列表

LocalAIproject|单机本地AI助手与ComfyUI批量视频流水线

在单台 Windows 工作站上离线运行的桌面 AI 助手,能对话、调用白名单工具、读写文件,并与 ComfyUI 渲染共用一块显卡批量出图出片;适合想自建本地助理、又不愿把素材上传云端的个人和小团队。

职场办公Python本地部署沙箱执行AI AgentComfyUI工具白名单Windows离线AI助手批量视频生成GPU调度许可待核查

查看方案

LocalAIproject:单机本地 AI 助手 + ComfyUI 批量视频流水线

编辑说明:本文为第三方整理稿,依据仓库 README 与目录结构编写,本站尚未在自有机器上实测,文中凡标注「作者自述」的内容均待核查。仓库未声明开源许可证(license 为空),版权归原作者,转载、再分发或商用前请先向作者确认授权。本文不是原作者的中文文档。

一、它想解决什么业务问题

作者自述的痛点是:想在本机用上类似 ChatGPT 桌面版的助手,同时这台机器还要跑 ComfyUI 的图片与视频批量渲染。难点不在「能不能跑模型」,而在于一块显卡被两件事同时抢——渲染任务占着显存时,助手不该崩溃或把渲染打断;助手也不该被允许随意执行任何命令。

仓库因此把重点放在「模型外面的一层」:模型只能调用具名的白名单工具,不能直接执行 shell;每一跳都要先判断 GPU 是空闲、忙碌还是被预留,再决定用哪张模型;回复发出前还要检查它有没有谎称自己做了某个文件操作。

二、适用人群与场景(待核查是否与实际需求匹配)

  • 自媒体、短视频与动画分镜:需要批量产出静帧与短片段,且素材不便上传云端。
  • 独立开发者与小团队:想自建一个本地内部助理,能改文件、跑脚本,但有审批与审计要求。
  • 教育与培训:制作演示用图、视频素材,机房或内网环境无法访问外部服务。
  • 研究与大模型工程:需要一套可改、可测的路由与工具调用骨架。

以上是依据 README 描述归纳的场景,是否适合具体行业需自行评估。

三、作者描述的工作流程

  1. 入口:桌面 GUI 或已配对的手机端发来消息。
  2. 安全闸门:先过工具白名单与审批闸门,再进入有跳数上限的 Agent 循环。
  3. 逐跳路由:router.py 判断显卡状态——空闲时用 GPU 上的 14B 模型,渲染占卡时切到 CPU 上的 8B 模型。
  4. 工具执行:run_code 在每次运行独立的目录中执行,带审计钩子,默认无网络。
  5. 出口校验:回复发出前核对,模型不得声称做过实际未发生的文件操作。
  6. 视频流水线:提示词包 → Flux 静帧 → MiniMax H3 或 Wan 生成视频 → QA 判分 → 动作迁移;入口脚本为 gvd_watcher.py → batch_run_backrooms_gvd.py → generate_video.py,用 gvd_watcher_keepalive.ps1 保活。
  7. 可选扩展:第二台机器经 Redis + Celery 分担后台任务(其结果被视为不可信);model_gateway/ 可在同一路由接缝上增加可选的云端模型层。

四、所需工具与环境

  • 操作系统与硬件:作者环境为 Windows PC,RTX 5080、16 GB 显存;其他配置是否可用待核查。
  • 运行时:Python ≥ 3.11(据 pyproject.toml)。
  • 依赖:README 给出 pip install -r requirements.txt(numpy、Pillow、cryptography、psutil);可选能力用 requirements-optional.txt(dspy、torch、celery、rns 等)。核心模块作者称仅依赖标准库。
  • 模型与渲染:需自备 Ollama 本地模型、ComfyUI,以及 Flux、MiniMax H3 或 Wan 等相关模型权重;仓库不包含权重、渲染产物与运行时状态。
  • 环境变量:GVD_ROOT、COMFY_SHARED_INPUT、COMFY_SHARED_OUTPUT、COMFY_URL,默认值按作者工作站布局。
  • 启动:local_agent\START_LOCAL_AGENT_GUI.ps1 启动助手,服务绑定 127.0.0.1:8760;流水线用 gvd_watcher_keepalive.ps1。

以上命令均转述自 README,本站未执行。

五、投入条件与门槛

  • 一张显存足够的独立显卡,且愿意让助手与渲染共享它。
  • 愿意自行搭建 Python 环境、ComfyUI 与本地模型,并处理路径、端口、模型版本等排错。
  • 手机桥接需配置 Reticulum / Sideband 配对身份;不配也能用桌面端。
  • 项目缺乏面向新用户的一键安装说明,仓库结构按作者个人工作台组织(含个人归档与交接文档),复用到他人环境需做改造。
  • 费用、许可证、国内网络可用性均待核查:仓库未声明许可,云端混合路由与第三方模型(Flux、MiniMax H3、Wan 等)的授权与商用条款需另行确认。

六、可核验成果(建议自行验证,本文不作效果承诺)

  • 测试规模:README 称有 180+ 个 test_*.py、约 1,300 个单元测试,作者注明 conftest.py 会跳过本机跑不了的部分。可运行 python -m pytest 自行观察通过情况。
  • 代码结构是否与描述一致:核对 local_agent/ 下是否存在 server.py、agent.py、router.py、tools.py,以及 model_gateway/、worker_farm/、edge_gateway/ 等目录。
  • 安全控制点是否可查:作者称工具白名单、审批闸门、沙箱、隔离区、审计日志在配套仓库 local-agent-core 的 src/ 下是可独立测试的小模块,可逐项查看。
  • 视频流水线能否出片:必须自备 ComfyUI 与相应模型权重才能复现,仓库不含权重与渲染样例;本项只能由使用者自测。

七、已知边界与待核查事项

  • 许可证状态待核查:仓库 license 字段为空,不得默认允许转载或再分发。
  • 兼容性待核查:作者仅在自有 Windows 工作站验证,Linux/macOS 与不同显卡的表现未知。
  • 具体阈值待核查:GPU 温度上限、显存水位、跳数上限等参数的实际取值以代码为准。
  • 手机桥接与远程访问的安全模型需自行评估,作者默认多数动作拒绝。
  • 仓库含个人项目历史、归档与交接文档,其中部分内容已过期,不应作为当前行为依据。

来源与加工说明

来源:https://github.com/rhinerad/LocalAIproject

许可证:未声明,转载与再分发权限待核验

依据 GitHub 原始资料由 AI 整理的中文待审核草稿,未经本站实测。原始版权与许可归原作者;未声明许可不代表允许转载或再分发。

来源类型:GitHub;授权范围待核验

关联内容

适用人群:未指定

目标成果:详见正文

国内使用情况与网友核验

网友核验 用户经验分享

与站长实测独立,不代表官方认证或本站已实测。

我要核验
0 位参与者0 份有效分项记录

最近核验:暂无有效核验。参与人数按当前项目有效身份去重;不同核验项分别统计,不合并成用户总结果。仅统计审核通过且未过期的记录。

分项统计、有效期与样本量
核验项目有效人数成功 / 部分 / 失败 / 无法判断成功率最近核验 / 有效期
官方网站访问00 / 0 / 0 / 0样本不足暂无 / 7 天
GitHub 仓库访问00 / 0 / 0 / 0样本不足暂无 / 7 天
安装与运行00 / 0 / 0 / 0样本不足暂无 / 30 天
官方服务国内连接 / MCP 连接00 / 0 / 0 / 0样本不足暂无 / 30 天
国内网络情况00 / 0 / 0 / 0样本不足暂无 / 7 天
国内模型兼容性00 / 0 / 0 / 0样本不足暂无 / 30 天
自定义 API00 / 0 / 0 / 0样本不足暂无 / 30 天
海外服务依赖
00 / 0 / 0 / 0样本不足暂无 / 30 天
海外账号要求
00 / 0 / 0 / 0样本不足暂无 / 30 天
中文界面
00 / 0 / 0 / 0样本不足暂无 / 30 天
客户端兼容性00 / 0 / 0 / 0样本不足暂无 / 30 天
账号及费用信息
00 / 0 / 0 / 0样本不足暂无 / 30 天

成功率 = 成功 ÷(成功 + 部分成功 + 失败);无法判断不计入分母。至少 5 份可判断结果才显示成功率。账号、费用、海外依赖与语言等事实项,成功表示核查结论与资料吻合,具体观察另行统计;不表示免费或没有海外依赖。不同网络、客户端和版本的结果不能直接等同。

最近有效核验

暂无审核通过且未过期的网友核验。欢迎提交真实使用记录。

查看全部有效核验 →