AI压缩上下文时悄然丢弃用户指令

上下文压缩导致指令丢失

当大语言模型处理长对话并压缩上下文以节省计算资源时，会系统性忽略用户设定的关键约束条件。宾州州立大学研究人员实测发现，主流方法平均仅保留约17%的用户指令，其余83%被静默丢弃——这些指令多为安全、合规或个性化操作限制。

轻量模块显著提升保全率

研究团队提出一种小型附加模块，基于通义千问Qwen3.5-9B模型构建，无需重训基础模型。该模块专用于识别、锚定并优先保留用户指令，在保持推理效率的同时，使规则保留率跃升至90%以上。实验覆盖多种压缩策略与指令类型，结果具有一致性。

实际影响与部署可行性

该方案不改变原有模型架构或推理流程，可作为即插即用组件集成至现有AI服务中，适用于客服、办公助手等需严格遵循用户策略的场景。