返回列表

llmrun|显卡与迷你主机开源大模型可运行能力查询

一个免费网站,输入你的显卡、Mac或迷你主机配置,就能查看能运行哪些开源大模型,以及各量化方案的显存需求和预估生成速度。

大语言模型排行榜本地部署开源模型硬件选型显存估算站长实测状态尚未登记

工具介绍

工具说明

llmrun 是一个免费的网页工具,用来回答一个常见问题:我这台机器到底能跑哪些开源大模型?

它面向本地部署爱好者、准备买显卡或迷你主机的用户,以及需要评估硬件与模型匹配度的人。

已知能力

  • 按显卡、Mac 或迷你主机等硬件条件,列出可运行的开源模型。
  • 显示不同量化版本所需的显存。
  • 给出预估生成速度(tok/s)。
  • 提供综合评分:基于 Epoch AI、LiveBench、SWE-bench、MMLU-Pro 等公开基准,用 2PL IRT 方法拟合,方法论公开。

使用步骤

  1. 打开网站,选择或填写你的硬件配置。
  2. 浏览可运行模型列表,按显存需求与速度预估筛选。
  3. 参考综合评分比较不同模型的相对水平。
  4. 结合量化等级判断实际占用是否落在硬件承受范围内。

费用与限制

  • 网站宣称免费,具体条款待核验。
  • 速度为预估数值,实际表现受驱动、框架、上下文长度等影响,需自行实测。
  • 综合评分依赖第三方公开基准与方法论假设,不同任务下的适用性需自行判断。
  • 国内访问可用性待核验;导航资料许可为 CC-BY-4.0,与网站本身条款无关。

来源与使用边界

原始入口:https://llmrun.dev/

整理来源:https://github.com/ikaijua/Awesome-AITools

依据来源资料经AI翻译整理,未由本站实测。原始资料许可:CC-BY-4.0;目录许可不代表各产品或文件的使用授权。费用、账号、国内访问与版本兼容条件以原始发布者最新说明为准。

运行与适配

使用难度
如何理解使用难度?
  • 直接使用:通常打开网页或登录账号即可使用。
  • 简单配置:需要填写密钥、连接服务或导入配置。
  • 需要部署:需要安装依赖、配置运行环境或自行部署。
  • 技术开发:需要编程、接口集成或开发调试。

格数越多,使用门槛越高;具体要求请看下方说明。

Web 网站

无需安装,浏览器访问即可使用;适合在购买硬件或选择模型前做初步筛查。

访问来源 ↗

国内使用情况与网友核验

网友核验 用户经验分享

与站长实测独立,不代表官方认证或本站已实测。

我要核验
0 位参与者0 份有效分项记录

最近核验:暂无有效核验。参与人数按当前项目有效身份去重;不同核验项分别统计,不合并成用户总结果。仅统计审核通过且未过期的记录。

分项统计、有效期与样本量
核验项目有效人数成功 / 部分 / 失败 / 无法判断成功率最近核验 / 有效期
官方网站访问00 / 0 / 0 / 0样本不足暂无 / 7 天
GitHub 仓库访问00 / 0 / 0 / 0样本不足暂无 / 7 天
安装与运行00 / 0 / 0 / 0样本不足暂无 / 30 天
官方服务国内连接 / MCP 连接00 / 0 / 0 / 0样本不足暂无 / 30 天
国内网络情况00 / 0 / 0 / 0样本不足暂无 / 7 天
国内模型兼容性00 / 0 / 0 / 0样本不足暂无 / 30 天
自定义 API00 / 0 / 0 / 0样本不足暂无 / 30 天
海外服务依赖
00 / 0 / 0 / 0样本不足暂无 / 30 天
海外账号要求
00 / 0 / 0 / 0样本不足暂无 / 30 天
中文界面
00 / 0 / 0 / 0样本不足暂无 / 30 天
客户端兼容性00 / 0 / 0 / 0样本不足暂无 / 30 天
账号及费用信息
00 / 0 / 0 / 0样本不足暂无 / 30 天

成功率 = 成功 ÷(成功 + 部分成功 + 失败);无法判断不计入分母。至少 5 份可判断结果才显示成功率。账号、费用、海外依赖与语言等事实项,成功表示核查结论与资料吻合,具体观察另行统计;不表示免费或没有海外依赖。不同网络、客户端和版本的结果不能直接等同。

最近有效核验

暂无审核通过且未过期的网友核验。欢迎提交真实使用记录。

查看全部有效核验 →

反馈此内容的问题