鱼皮AI导航
鱼皮AI导航
  • 主页
  • 社区
  • AI工具
  • AI知识库
  • AI提示词
  • MCP
  • Skills
  • AI学习资源
  • AI资讯
  • GitHub开源
登录/注册
站长:程序员鱼皮 老鱼简历 商务合作 增值电信业务经营许可证
2026 鱼皮AI导航 | 沪ICP备19026706号-6
4
3
7

Harness -- 上下文压缩

K弟
K弟
2026-07-04 11:05
阅读 1381
K弟
2026-07-04 11:05
阅读 1381

常见压缩策略

参考Agent Scope 框架

1. 对话摘要压缩 (CompactionMiddleware)

按消息条数或估算 token 触发,把对话前缀用一次 LLM 调用压成结构化摘要,保留尾部 N 条最近消息原文,然后把 [summary] + [recent tail] 写回 AgentState.contextMutable()。

2. 大工具结果卸载 (ToolResultEvictionMiddleware)

跟摘要压缩独立。当某条工具结果文本超过阈值(默认 80K 字符 ≈ 20K tokens),把全文写到工作区某个目录,上下文里只保留首尾各约 2K 字符 + 一个 **read_file** 路径提示符。agent 想看全文就自己 read_file。

默认排除 read_file / write_file / edit_file / grep_files / glob_files / list_files / memory_* / session_search——这些工具要么自带分页、要么返回值很小。Shell **execute** 默认不排除,因为命令输出可能非常大。

3. 上下文溢出兜底

如果模型直接返回 context_length_exceeded / maximum context / token limit 等错误,HarnessAgent.recoverFromOverflow() 会强制走一次 triggerMessages=1 的极端压缩,然后自动重试一次。前提是构造 agent 时配了 .compaction(...),否则错误原样抛回上层。

这条兜底链路无需额外配置:只要 compaction 开了,溢出恢复就自动开。

Claude Code -- 压缩

在Claude Code 的这种AI Coding的Agent中,“上下文窗口”是制约 Agent 长程任务执行能力的核心瓶颈。随着对话轮数的增加,海量的工具调用输出、代码片段和历史交互会迅速耗尽 token 配额,导致模型“失忆”或响应延迟。为了解决这一痛点,Claude Code提供了一套先进的上下文管理思路,就是这个三层渐进式压缩体系

  • Layer 1: MicroCompact(微压缩) — 无 LLM 调用,纯规则驱动,极致轻量。
  • Layer 2: Session Memory Compact(会话记忆压缩) — 基于已有会话记忆进行替换,零额外推理成本。
  • Layer 3: Full LLM Compact(完全压缩) — 调用 LLM 生成结构化摘要,精度最高但成本也最高。

MicroCompact(微压缩)—— 规则驱动的“第一道防线”

在很多人的认知里,压缩上下文似乎必须依赖大模型的总结摘要能力,但这往往带来了不必要的延迟和成本。实际上,对于大量结构化的工具输出,规则驱动的微压缩才是 ROI 最高的选择。

Claude Code提供了这种设计的细节。系统定义了一个可压缩工具白名单,仅针对如 Bash、Read、Grep、Glob 等产生大量标准输出的工具进行压缩处理;而对于 Edit、Write 等涉及核心状态变更的操作,其输出则被完整保留,以确保后续决策的准确性。这种“抓大放小”的策略,既控制了体积,又守住了安全底线。

微压缩主要包含两条执行路径:

  • 1.基于时间的路径:直接对超过一定时间阈值的旧消息工具输出进行截断。
  • 2.基于缓存的路径:智能识别 KV Cache 的边界,仅在边界之外执行压缩,最大化利用缓存命中率。

Session Memory Compact(会话记忆压缩)—— 复用已有的“智慧”

当微压缩不足以缓解上下文压力时,Claude Code进入第二层压缩:会话记忆压缩。这一层的核心理念是“不要重复造轮子”。

在之前的交互中,Claude Code 可能已经生成过高质量的会话记忆(Session Memory)。这一层的策略就是直接利用这些现有的摘要来替换冗长的原始历史消息,而无需再次调用 LLM 进行新的总结。

  • 触发时机:只有当上下文 Token 数 ≥ 10,000 且文本消息条数 ≥ 5 条时才触发,避免频繁操作干扰短期记忆。
  • 压缩上限:单次最大压缩 40,000 token,防止一次性丢失过多细节。
  • 执行逻辑:将符合条件的旧消息替换为会话记忆摘要,同时严格保留最近几轮的消息不动,确保模型对当前任务的“近因效应”感知不被破坏。

Full LLM Compact(完全 LLM 压缩)—— 高精度的“终极手段”

如果前两层依然无法将上下文控制在安全范围内,或者任务场景极其复杂,Claude Code需要动用“重型武器”:调用 LLM 进行全量压缩。

  • 为了保证摘要的质量并防止模型“偷懒”或产生幻觉,这里引入了两个关键的 Prompt Engineering 技巧:隐式思维链(Implicit CoT)优化:Claude Code在 Prompt 中明确要求模型在输出最终摘要前,先在  标签内进行全面的逻辑推演和分析,然后再在summary>标签中输出结果。在实际返回给系统的过程中, 块会被程序剥离,只保留纯净的摘要。这种做法极大地提升了摘要的逻辑连贯性和信息密度。
  • 反工具调用保护:这是一个非常容易被忽视但至关重要的细节。Claude Code在 Prompt 头部加入了强约束指令(NO_TOOLS_PREAMBLE),严厉禁止模型在压缩过程中调用任何工具(如 Read、Bash 等)。明确告知模型:“工具调用将被拒绝,且会浪费你唯一的一次机会,导致任务失败”。这有效防止了模型在压缩阶段产生不可控的副作用。

自动压缩触发机制 —— 智能的“流量调节阀”

当超过上下文窗口的80%首先尝试会话记忆压缩,如果不满足使用完全 LLM 压缩

OpenClow -- 压缩

一:上下文压缩
分块设计,旧消息被自适应分为多个块,对每个块进行总结,然后对这些总结在进行总结

触发时机:

  • 手动触发
  • 超过上下文阈值自动触发

注意:为防止重要信息在压缩丢失

OpenClaw在生成Summary的时候,会被特别要求保留当前活跃的任务、重要的决策和结论、待办事项(TODO)、做过的承诺、所有不透明标识符(如UUID、哈希值等,必须原文保留,不能自己瞎改)。而且,在将要压缩的内容送入Summary模型之前,会先调用stripToolResultDetails()移除工具输出中的一些details的字段。这是因为工具的结果中可能包含一些冗长的内容,不适合直接送入Summary模型。

二:精细化裁剪

除了对话历史的压缩,工具调用的返回结果往往是占用上下文的“大户”。

  • 头尾保留,中间省略:基于经验法则,Exception、Error、Traceback等这些报错的关键信息通常位于开头和结尾,而正常的如JSON这样的数据结构的核心定义也在头部。因此,系统在检测到超长输出时,会智能地保留首尾部分,将中间内容替换为 ... 或简略标记。
  • 止损策略:虽然这种裁剪可能在极端情况下损失部分细节,但在上下文受限的硬约束下,这是避免整体理解偏差的必要妥协。系统通常会控制裁剪比例(不超过 50%),以最大程度保留核心语义。

Q1:在压缩摘要时,关键信息被压缩掉了怎么处理?

第一步:预先防止关键信息被压缩

  1. 在系统提示词加上强制约束(如下)
▼
latex
复制代码
你是一个专业的对话历史压缩专家。你的任务是将冗长的对话历史浓缩为一段精炼的摘要(Summary),以便后续模型能够无缝接续当前任务。 在执行压缩时,你必须严格遵守以下约束: 1. 核心信息保留: - 当前活跃的任务:准确记录用户当前正在执行的核心任务及进度。 - 重要决策与结论:保留对话中达成的关键共识、架构决策或最终结论。 - 待办事项(TODO):完整提取并列出所有尚未完成的待办事项。 - 做出的承诺:保留模型或用户做出的明确承诺(如“稍后提供代码”、“下一步将执行...”)。 2. 标识符绝对保真: - 所有不透明标识符(如 UUID、哈希值、Token、API Key 等)必须【逐字原文保留】。 - 严禁对这类标识符进行任何修改、缩写、推测或重新生成。 3. 内容边界限制: - 仅基于提供的对话历史进行总结,不要引入外部知识。 - 保持摘要的客观性,不要遗漏关键的上下文转折。
  1. 压缩前进行记忆摘要
▼
latex
复制代码
摘要发生前是否先把对话前缀里的事实抽取到长期记忆(Memory)中

第二步:信息被压缩掉了 要进行恢复(用 agent 自己查历史会话)

注册三个查询工具会自动注册,agent 自己就能调:

  • session_list agentId="..." —— 列出某个 agent 的历史会话。
  • session_history agentId="..." sessionId="..." lastN=20 —— 看某次会话最近 N 条消息。
  • session_search query="..." agentId="..." —— 在历史会话里关键词搜索。

这些工具读的是永不压缩的对话日志(<workspace>/agents/<agentId>/sessions/<sessionId>.log.jsonl),所以即使上下文已经被压缩成摘要,agent 也能查到原始消息。

AI
4
7
分享
操作
评论
相关内容
0个评论
全部评论
点击登录,快来和大家讨论吧~
表情
图片

目录

🔥 热门文章
1
离谱,DeepSeek 崩了 5 小时,大家却喊:梁圣恩情还不完??
430
2
DeepSeek 全新模型发布,性价比最高的一集!
390
3
B 站上 DeepSeek 闹鱼灾了,我发起《大肥鱼清除计划》!
380
4
自己学习ai,直接买cursor 的套餐,还是买gpt 或者claude 的套餐?
360
5
又一个国产版 Codex 神器,也来卷办公了!
330
6
day3-如何写出一个高质量的 Skill(组内分享) 高质量 Skill 不是“一个调得很顺的巨型 Prompt”,而是一个可验证、可回归、可维护的能力包。 先定义“什么算好”,再实现“怎么做好”。评估体系先于 Skill 本身成型。 下面用“故障诊断 Markdown 转 YAML”作为例子,但方法是通用的。 --- 一、先想清楚:Skill 到底是什么 一个 Skill 至少包含四部分: 部分 作用 接口 输入什么、输出什么、边界在哪 流程 分几步做,每步的产物是什么 规则 硬约束、经验规则、失败模式 降级策略 不确定时怎么办,而不是硬编一个看似合理的结果 高质量 Skill 的共同点:职责单一、接口清晰、规则可定位、输出可验证。 反例:把几十条经验全塞进一个主 Prompt,改一条规则要重调整个 Prompt,评估时也不知道是哪条规则退化。 --- 二、核心方法:先建评估,再写 Skill 不要先写转换器再补测试。正确顺序是: 1. 定义输出契约:什么算合法、什么算合格; 2. 建金标准集:一小批人工认可“可放行”的样本; 3. 先写评估 Skill:让它在金标准集上跑出基线; 4. 再迭代生成 Skill:每次修改跑同一套评估,无退化且目标维度提升才算正向。 这就是评估驱动开发:评估是 Skill 的单元测试,金标准集是回归锚点。 --- 三、评估 Skill:三层门禁,逐层递进 前一层不过,后一层不跑。每层留可追溯证据。 第 1 层:确定性硬门禁 用解析器、Schema、校验器完成,不消耗模型成本。 · 输出可解析; · 必填字段齐全,类型/枚举合法; · 引用目标存在,无悬空引用、无不可达节点; · 关键路径至少有一条能到达预期出口。 不通过直接打回。 第 2 层:语义断言 用脚本 + 结构遍历检查“逻辑对不对”,仍然保持确定性。 通用检查项: · 覆盖率:源材料里的关键步骤、分支、条件,输出里是否都有对应? · 完整性:每个判断节点是否都有明确出口?有没有死胡同? · 可达性:每条路径是否都能到达预期终点?有没有无出口循环? · 顺序与依赖:有先后依赖的操作,是否保留了顺序?有没有被拍平成无序列表? 例子:故障诊断转换中,检查“每个判断项是否有是/否/异常出口”“每条路径是否能到根因”。 第 3 层:LLM-as-Judge 只处理解析器表达不了的维度:忠实度、完整性、可执行性。 但 Judge 会漂移,不能单独放行,必须建立在第 1、2 层之上。Judge 的 Prompt、rubric、模型版本都要版本化,换模型必须用金标准集重新校准。 通用 Judge 维度: 维度 问什么 忠实度 输出是否忠实源材料意图?有没有自行发明内容? 完整性 关键步骤、条件、证据是否保留?隐式知识有没有被压成空话? 收敛性 输出是否仍指向原目标,而不是发散? 可执行性 下游不依赖源材料能否直接使用? --- 四、金标准集:回归测试的锚点 不需要一开始就标注几百份。用已认可的样本当种子,扩到 15~30 份,覆盖失败模式而非随机抽样: · 完整正例:典型流程; · 边界/异常分支:异常路径、循环、前置失败回退; · 已知易错模式:实际踩过的坑; · 留出集:不参与调优,只用于最终验收,防过拟合。 金标准不需要完美,只需要当前标准下认可可放行。 回归指标:关键路径用 pass^k(k 次全过),稳定性用 pass@k。 --- 五、工程约束:让批量产出可重放 · 幂等:同输入 + 同 Skill 版本 + 同规则 → 输出一致,否则无法判断变好是 Skill 改了还是随机波动; · 隔离不阻断:单份失败进隔离队列,记录失败层和原因,不阻塞其余; · 版本绑定:规则、rubric、金标准集进 Git;每份报告绑定“源版本 + 生成 Skill 版本 + 评估 Skill 版本 + Judge 模型版本”; · 抽样人工复核:Judge 临界样本 + 易错模式,人工抽检结果反过来校准 rubric。 --- 六、Skill 本身怎么写 · SKILL.md 控制篇幅,写清:输入约定、输出契约、分步流程、硬规则、降级策略; · 经验规则放 references/ 或 rules/,按失败模式分类,不要全塞进主 Prompt; · 不确定时标 needs_review: true,不要硬编看似合理的结果; · 迭代由评估报告驱动:报告告诉你哪层挂了、哪类失败模式,你改对应规则文件,而不是漫无目的调 Prompt。 --- 七、落地顺序(不要反过来) 1. 固化输出契约:Schema + 结构约束; 2. 建金标准集:从已认可的 + 最易出错的样本开始; 3. 先写评估 Skill:跑出基线报告; 4. 再迭代生成 Skill:每次修改对比逐项通过率,无退化且目标提升才算正向; 5. 批量运行 + 隔离回放:失败进队列,结束后人工抽检; 6. 评估 Skill 自身版本化:换 Judge 模型必须重新校准。 --- 八、给组员的三条硬要求 1. 不许凭感觉说“变好了”:每次修改必须附评估报告对比,逐项通过率说话。 2. 不许跳过确定性门禁直接看 Judge 分数:前两层挂了,Judge 分数没有意义。 3. 不许把规则堆进主 Prompt:规则按失败模式分文件,评估报告要能定位到具体文件。 --- 一句话收尾 生成 Skill 决定“能不能做”,评估 Skill 决定“敢不敢用”。 先让评估体系站稳,再让生成器迭代。这样交付的不是一堆“看起来还行”的产出,而是一套可证明、可回归、可交接的 Skill 质量体系。
310
7
AI 越强,被它拒绝的代价就越大 我有时候会想:AI 越来越厉害之后,有些事情,会不会反而越来越难做? 这个想法看起来有点矛盾。AI 明明在降低门槛,让不会写代码的人做出软件,让不会画画的人生成图片,让一个人完成过去需要整支团队才能完成的工作。但今天用 Codex 的时候,AI 拒绝帮我编写 SQL 注入的请求体,而那还是我有源码、在本地跑测试的情况。那么,往后是否只会更难? 我们假设某一天,AI 说:「这个请求违规,我不能帮助你。」到那个时候,你还有多少能力,能绕过它,把事情做完? 这里的「违规」需要打个引号。平台的规则、模型的判断、法律的要求,以及一件事实际有没有造成伤害,彼此之间并不总是画得上等号。一个请求可能确实危险,也可能只是缺少上下文被误判,或者恰好落在某家公司的限制范围里。 无论是哪种情况,随着我们越来越依赖 AI,这句拒绝都可能变得越来越贵。 今天,一个程序员让 AI 帮忙写代码,AI 拒绝了,他大概率还有别的办法:查文档、找开源项目、问同行,或者自己写。麻烦一点,慢一点,但路还在。 可如果十年之后,大部分程序都由 AI 完成,情况就不一样了。 很多人从接触编程的第一天起,就习惯了描述需求、等待生成、运行结果、继续迭代。他们能做出相当复杂的产品,却未必经历过独立处理底层问题的训练。平时,这种能力结构完全够用,效率甚至更高。只有 AI 拒绝的时候,他们才会发现:平常被省掉的那段学习过程,恰好是此刻最需要的东西。 到那时,一次拒绝的成本,可能就从「今晚多花两个小时」,变成「先花半年学会这门技术」。 拿 SQL 注入举个稍显极端的例子:往后,连真正理解这类攻击如何发生、能够独立构造测试的人,会不会也越来越少? 这里也包括那些有正当需求的人。一个开发者想检查自己的旧系统,一个经过授权的安全研究员想复现漏洞,假如 AI 识别到危险模式就拒绝,而使用者又只熟悉「让 AI 帮我检查」,这项原本可以独立完成的工作,就这样卡住了。 但是安全专家不会因此消失,但这类技能可能越来越集中在少数人手里。你仍然可以找专家,只是要付出更多的钱、更多的时间,以及更高的沟通成本。 类似的困境,未必只发生在网络安全领域。 你想从一个停止维护的软件里取回自己的数据,需要解析它的旧文件格式。AI 判断这涉及规避保护措施,拒绝继续。你拥有这些数据,却没有能力把它们读出来。 你买了一台设备,厂商停止提供服务。你想修改程序让它继续运转,过程中需要处理某种访问限制。AI 不愿协助,而你所掌握的维修方式,早已只剩下「把报错发给 AI」。 你想给常用的网站写一个辅助工具,减少重复操作。平台将此归入自动化限制,AI 也据此拒绝。过去会写脚本的人可以自己判断、自己处理;未来的使用者,可能连从哪里开始都不知道。 这些例子有一个共同点:当工具同时承担了「执行工作」和「传授知识」的角色,它的拒绝就不只是挡住了一次任务,也挡住了获得这种能力的机会。 更麻烦的是,这种依赖往往是我们主动选择的,而且每一步都很合理。 既然 AI 几秒钟就能做好,为什么还要花几个月学习?既然公司可以采购成熟的 AI 服务,为什么还要养一支负责基础工作的团队?既然市场上已经很少有人手写这些东西,学校为什么还要花大量时间教? 对个人、公司和学校来说,这些选择都有现实依据。但叠加起来,整个社会保留的独立能力就可能越来越少。等到某项能力突然受到限制,我们才发现,备用方案早已在追求效率的过程中被一点点削掉了。 所以,「AI 越强,做事越便宜」可能只描述了未来的一半。 另一半是:被允许的事情越来越便宜,被拒绝的事情依然需要人工完成,却要面对更少的人才、更高的报价,以及越来越难获得的知识。两边的成本差距,会越拉越大。 有人会说,可以换一个模型,或者用本地模型。这确实是重要的选项。只要工具之间还有充分竞争,开放模型还足够可用,限制就未必能形成真正的门槛。 但备用方案也需要维护。它需要硬件、知识、软件生态,以及一群仍然理解这些系统的人。如果大多数人已经习惯了最方便的商业服务,那么「理论上还有别的办法」和「普通人实际用得起、用得明白」,之间仍然可能隔着很远。 我担心的,正是这段距离。 我不指望 AI 对任何请求都照单全收。对明显会伤害他人的行为设置限制,有充分的理由。但我们也需要关心:限制由谁定义,误判有没有申诉渠道,用户能不能换工具,以及脱离这个工具之后,还剩下多少独立行动的能力。 保留这些能力,平时看起来甚至有点低效,明明可以自动生成,还要理解原理;明明可以一键完成,还要知道手动怎么做。 但这些看似多余的知识,会在工具拒绝、失效、涨价或改变规则的那一刻,成为真正的选择权。 AI 越强,我们可能越需要留意它说「不」的那一刻。 因为那句话的分量,最终取决于:它拒绝之后,我们还能做什么。
310
8
什么是LLM
300
9
Vibe Coding 实战:从零构建现代专业级 AI 搜索引擎
290
10
我的第一个出海产品!7 天 2 万
290
🔥热门工具
朱雀AI检测朱雀AI检测
朱雀AI检测助手朱雀AI检测助手
LovartLovart
老鱼简历老鱼简历
WritePass官网WritePass官网
面多多面多多
CursorCursor
星月写作星月写作
零感AI零感AI
墨得问题墨得问题