AX 爱鲜报

Headroom 上下文压缩层

Headroom 是面向 AI Agent 的上下文压缩层,在工具输出、日志、文件与 RAG 片段进入 LLM 前进行本地压缩,编码 Agent 可省约 20% token,JSON 场景可省 60-95%,答案质量基本不变。

过去 7 天收获 3 颗 Star

爱鲜报评分

0.0

0 人评分

开源 · Apache-2.0 #LLM #AI #Agent #MCP #RAG #token-optimization

78k

星数

否

中文

Python

主语言

是

活跃

352

贡献者

人工分析

EDITORIAL

推荐理由

随着 Agent 与长上下文应用普及,token 成本与上下文窗口成为核心瓶颈,Headroom 用本地压缩 + 可逆检索的方式在几乎不损失答案质量的前提下显著降低开销。它同时提供库、代理、MCP Server 与 Agent 包装等多种接入方式,落地成本低,适合正在做上下文工程的团队评估。

适用场景

  • Claude Code、Cursor 等编码 Agent 的长会话上下文压缩
  • RAG 检索片段与工具调用结果进入 LLM 前的精简
  • 日志、JSON 大对象、代码库探索结果的 token 优化
  • 多 Agent 共享记忆与跨会话上下文管理
  • 通过 MCP Server 为任意 MCP 客户端提供压缩能力

优点

  • 压缩在本地完成,提示词与文件内容不外传,隐私友好
  • 支持库、代理、Agent 包装、MCP Server 多种接入方式,零代码改动即可试用
  • 按内容类型路由到 JSON、代码 AST、文本等不同压缩器,针对性更强
  • CCR 可逆机制保留原文,模型需要时可检索完整内容
  • 提供基准脚本与仪表盘,节省效果可量化验证

缺点

  • 压缩后仍存在信息损失风险,关键场景需自行验证答案一致性
  • Agent 包装模式会额外安装 Serena 等组件,环境配置略复杂
  • CLI 仅在 PyPI 包中提供,npm 包只是 TypeScript SDK,容易混淆
  • 项目较新且迭代快,接口与行为可能变化
上手难度 进阶

Headroom 是什么

Headroom 是面向 AI Agent 的上下文压缩层。它在工具输出、日志、文件内容、RAG 片段以及对话历史进入 LLM 之前先做压缩,从而在保持答案基本一致的前提下大幅减少 token 消耗。官方给出的参考数据是:编码 Agent 场景约减少 20% token,JSON 类内容可减少 60%–95%。

压缩过程完全在本地执行,提示词和文件内容不会被发送到外部服务进行压缩。

核心能力

  • Library:在 Python 或 TypeScript 应用中直接调用 compress(messages)。
  • Proxy:以 headroom proxy --port 8787 启动本地代理,零代码改动,任何语言均可接入。
  • Agent 包装:一条命令包装 Claude、Codex、Cursor、Aider 等编码 Agent,并可用 headroom unwrap 撤销。
  • MCP Server:提供 headroom_compress、headroom_retrieve、headroom_stats 等工具,供任意 MCP 客户端使用。
  • 跨 Agent 记忆:在 Claude、Codex、Gemini、Grok 之间共享一个带自动去重的记忆存储。
  • 可逆压缩(CCR):原文缓存在本地,模型需要时可按需检索完整内容。

工作原理

整体流程可以概括为:

Agent / 应用
   │ 提示词 · 工具输出 · 日志 · RAG 结果 · 文件
   ▼
Headroom(本地运行)
  CacheAligner → ContentRouter → CCR
                   ├─ SmartCrusher(JSON)
                   ├─ CodeCompressor(AST)
                   └─ Kompress-v2-base(文本)
   ▼
LLM 提供商(Anthropic · OpenAI · Bedrock 等)
  • ContentRouter 识别内容类型并选择合适的压缩器。
  • SmartCrusher / CodeCompressor / Kompress-v2-base 分别处理 JSON、源码与自然语言文本。
  • CacheAligner 标记可能破坏提供商 KV-cache 前缀的易变内容,但不会改写提示词。
  • CCR 在本地保存原文,模型可通过 headroom_retrieve 取回全文。

快速上手

安装方式(注意 CLI 仅随 PyPI 包提供):

uv tool install --python 3.13 "headroom-ai[all]"
pip install "headroom-ai[all]"
npm install headroom-ai   # 仅 TypeScript SDK,无 CLI

选择一种使用模式:

headroom deploy              # 本地部署并配置 Agent
headroom wrap claude         # 包装编码 Agent
headroom proxy --port 8787   # 本地代理,零代码改动

在 Python 中内联使用:

from headroom import compress

messages = [{"role": "user", "content": "Analyze these results"}]
result = compress(messages, model="gpt-4o")
print(result.messages)
print(f"Saved {result.tokens_saved} tokens")

适用与注意事项

Headroom 适合需要控制 token 成本、缓解上下文窗口压力的 Agent 与 RAG 应用。使用时建议:

  • 对关键任务自行验证压缩前后答案一致性;
  • 注意 Agent 包装模式会额外安装 Serena 等组件;
  • 关注项目迭代带来的接口变化。

评论

登录后才可评论与评分

0 条评论

  • 暂无评论,来写第一条吧。