SemIf（原名 OpenJev）｜基于概率读取的小决策判定工具

工具说明

SemIf（原名 OpenJev）是一个独立开源项目，资料称其采用 MIT 许可，并声明与 Jev / TypeSafe 无关联。它的思路是把运行时语义决策做成一次前向即可读出的概率接口：不训练、不微调，用冻结的 Qwen3.5-4B 直接读取各选项的概率，不生成文本，也不需要解析 JSON。目标场景是 Agent 流程中的小决策，例如请求路由、是否重试、某条证据是否成立。

已知能力（据项目资料）

• 21 个是非判断任务上，直接读概率的中位耗时为 1.02s，逐字生成 JSON 为 5.33s，资料称约快 5.2 倍；
• 与 TypeSafe 公开的 102 条子集一致率 84.5%，资料称闭源 Jev 公布为 88.3%；
• 可运行在单卡 RTX 3090、Apple Silicon（MLX/MPS）、纯 CPU（llama.cpp），并提供免 waitlist 的浏览器 WebGPU demo。

以上数字均为项目方公开说法，本站未做实测，实际表现取决于硬件、提示词与任务分布。

使用步骤

1. 在项目仓库阅读说明，确认依赖与模型文件获取方式；
2. 按硬件选择后端（CUDA、MPS 或 CPU）并配置模型路径；
3. 将候选选项写成互斥的标签列表，调用概率读取接口；
4. 设定阈值，将概率转为是否结论，并记录日志以便复核；
5. 先在自有数据上抽样评估，再考虑接入 Agent 流程。

费用与限制

项目自身据资料采用 MIT 许可，但模型权重与第三方组件的许可需分别查阅。硬件最低要求、显存占用、推理速度等需按实际环境核验；浏览器 demo 是否可稳定访问待核查。国内直接访问 GitHub 与模型下载可能受限。概率判定不等于事实核验，低置信度结果应转人工或兜底流程。

来源与使用边界

原始入口：https://github.com/TheoLeeCJ/SemIf-OpenJev

整理来源：https://github.com/ikaijua/Awesome-AITools

依据来源资料经AI翻译整理，未由本站实测。原始资料许可：CC-BY-4.0；目录许可不代表各产品或文件的使用授权。费用、账号、国内访问与版本兼容条件以原始发布者最新说明为准。