DRSR:基于集合级删除风险的长流程智能体高效上下文压缩框架
针对长流程大语言模型智能体积累海量交互历史带来的效率挑战,现有压缩策略通常独立评估单条记录,忽略了组合删除所引起的冗余或累积信息损失。为此,研究团队提出了直接关系集合风险修剪(DRSR)框架。该方法将智能体历史上下文压缩建模为基于删除集合的风险约束选择问题,从集合层面综合评估删除风险与保留信息,在保障决策安全与任务表现的前提下,实现了长程智能体的高效修剪。
针对长流程大语言模型智能体积累海量交互历史带来的效率挑战,现有压缩策略通常独立评估单条记录,忽略了组合删除所引起的冗余或累积信息损失。为此,研究团队提出了直接关系集合风险修剪(DRSR)框架。该方法将智能体历史上下文压缩建模为基于删除集合的风险约束选择问题,从集合层面综合评估删除风险与保留信息,在保障决策安全与任务表现的前提下,实现了长程智能体的高效修剪。
在执行长程任务时,智能体会持续积累交互历史,而既有上下文管理方法多依赖固定窗口或即时相关性,难以判断历史交互何时可安全替换。过早压缩易导致未来关键信息丢失,过度保留又会带来巨大的上下文开销。为此,该研究提出了状态条件压缩框架StateComp,旨在根据智能体的状态演变动态学习何时适合压缩历史,在降低上下文负载的同时保留关键信息(注:原文摘要末尾内容有所截断)。
针对长程智能体因累积大量交互历史导致上下文和推理成本高昂的问题,该研究指出仅依据几何冗余进行压缩并不安全。实验发现,即便全局几何特征高度相似,所保留的关键任务证据也可能存在巨大差异。基于此提出的证据感知选择机制,在相同数据块保留量且质心相似度达0.98的前提下,将下一步动作Top-3保留率从0.31大幅提升至0.69,有效保障了智能体压缩后的决策性能。