精选

基于子任务分解的强化学习方法：改进大语言模型策略优化

针对群组相对策略优化（GRPO）等主流策略梯度方法在训练语言模型智能体时将多轮交互压缩为单一标量轨迹奖励的痛点，研究指出该做法在稀疏和延迟反馈的多技能复合任务中存在严重的信息损失，优化器难以推断具体能力对结果的贡献。为此，论文提出应将轨迹奖励沿子任务进行解耦与分解后再进行策略更新，从而实现更精准的信用分配与行为调整。