上下文压缩会抹去用户指令
The Decoder··作者 Matthias Bastian
关键信息
这项研究区分了“会话约束”、任务目标和系统指令：前者是诸如“在做任何更改前先确认”的用户规则，只在当前会话中生效，但在压缩时尤其脆弱。在 COMPINT 评估中，保留完整未压缩上下文时，规则遵守率为 59% 到 71%；而大多数压缩器的表现都远低于此，即使是专门用于保留约束的提示词，保留率也仍低于 40%。
资讯摘要
当用户长时间持续使用同一个聊天窗口时，AI 助手会遇到上下文窗口瓶颈，因此各家实验室开始使用“压缩”或“compaction”来概括旧对话并释放 token。这样做的代价是，摘要过程中可能会丢失重要细节，宾夕法尼亚州立大学的研究人员因此系统性地测量了到底丢失了什么。研究重点是用户施加的“会话约束”，例如“在做任何更改前先问我”或“不要在回复里使用我的名字”。这些约束不是任务目标，也不是永久性的系统指令，但它们仍然决定了助手在会话期间应该如何行为。研究人员发现，这类约束在压缩过程中尤其脆弱，因为压缩系统更优先保留任务状态和下一步动作，而不是这些附加条件。结果就是，代理后续可能会表现得像根本没有收到这些规则一样。
研究显示，注入的会话约束平均只有 17% 能在压缩后保留下来，而且许多测试过的压缩器表现甚至比完全不压缩上下文还差。当完整约束仍在上下文中时，规则遵守率为 59% 到 71%；而在压缩之后，这一指标通常会降到接近没有约束时的水平。研究人员还指出，即使使用专门优化来保留用户约束的提示词，保留率仍然低于 40%。作为补救，他们基于 Qwen3.5-9B 构建了一个小型插件模块，专门扫描用户输入中的会话约束，并把这些规则附加到压缩摘要中，从而帮助保住主压缩器本来会丢掉的内容。研究团队还把 COMPINT 基准和提取器发布到了 GitHub。
资讯正文
当 AI 系统在压缩上下文以腾出空间时，用户指令往往会在过程中被悄悄丢失。平均而言，只有 17% 的指令能在压缩后幸存下来。一个小型附加 LLM 可以解决大部分问题。
当用户在不新开聊天的情况下进行长时间对话时，AI 模型的上下文窗口就会成为瓶颈。我们之前报道过上下文管理为何会影响输出质量，但对于普通用户来说，这几乎触不可及——他们只是把所有内容一股脑扔进同一个聊天窗口，然后不断回来继续聊。也正因为如此，AI 实验室开发了上下文压缩，也称为“compaction”，它会对现有对话历史进行摘要，以腾出空间。代价是，这个过程 inevitably 会丢失细节。
宾夕法尼亚州立大学的研究人员如今系统地研究了哪些细节会丢失，以及损害到底有多严重。
用户限制最先丢失
损失最大的是研究人员所说的“会话约束”（session constraints）。这些是用于在整个会话期间约束 AI 系统行为的规则，比如“在做任何更改之前先和我确认”或“在回复中永远不要使用我的名字”。它们不是实际任务的一部分，也不是永久性的系统指令，只在当前会话中生效。
这使它们非常脆弱。压缩系统的设计目标是保留任务连续性，也就是保留目标、当前状态和下一步操作。用户附加的边条件则会被丢弃。
如果有人说“未经我的批准不要发送任何电子邮件”，那他就必须预料到，在压缩之后，代理会正好这么做。这既是质量问题，也是安全问题。代理最终可能会进行未经授权的工具调用、泄露被要求保密的信息，或者跳过用户明确要求的验证步骤。
为了衡量这种损失，研究人员提出了一个名为 COMPINT 的评估套件。平均来看，只有 17% 的注入式会话约束能在压缩后保留下来。研究中测试的大多数压缩器配置，实际上表现都比完全不进行压缩还差，不过 GPT-5.4-mini 在某些场景下优于基线。
根据这项研究，当代理获得完整、未压缩且包含用户约束的上下文时，规则遵守率在 59% 到 71% 之间。压缩之后，对于大多数测试过的压缩器，遵守率都会大幅下降，而且通常只比完全没有给出约束时的水平略高一点。研究人员表示，更有针对性的压缩提示词确实有所帮助，但无法弥补这一差距。即便是专门为保留用户约束而设计的提示词，也只能把保留率维持在 40% 以下。
一个小型语言模型提供了即插即用的修复方案
研究人员表示，真正有效的是一个与主压缩系统并行运行的小型附加模块。它基于 Qwen3.5-9B，这是一款紧凑型语言模型，它会读取每一条用户输入，识别会话约束，并将其收集到一个单独的列表中。之后当上下文被摘要时，这个模块会把该列表附加到摘要末尾，从而让用户规则保持完整。
COMPINT 评估套件和该提取器都已在 GitHub 上提供。
订阅 THE DECODER，可享受无广告阅读、每周 AI 新闻简报、我们每年六期的独家“AI Radar”前沿报告、完整档案访问权限，以及进入评论区的权限。
来源与参考
收录于 2026-08-19