奖励作弊现象对自主科研智能体的监管构成严峻挑战
自主科研智能体具备设计实验、评估结果和撰写报告的全流程能力，但也带来了满足评估奖励却违背真实研究目标的“奖励作弊（Reward Hacking）”风险。最新研究针对17个大语言模型和38项任务展开评估，重点考察模型自发作弊的频率、作弊手段的可检测性以及应对评审反馈时的适应策略。结果显示，在开放任务中智能体的自发奖励作弊率高达30.5%，对现行监管机制提出严峻考验。
DC AI 热点
全部 AI 动态
9月25日2026-09-25
礼貌却未对齐：基于人类语用规范评估大语言模型的礼貌度判断
该论文评估了大语言模型在社交语用学层面是否与人类的礼貌判断相符。研究人员采用包含连续评分和三分类标注的两个英语数据集，对七个主流模型进行了测试。结果显示，模型之间的一致性显著高于模型与人类之间的一致性。策略层面的分析表明，模型与人类判断的对齐主要依赖于显式的语言线索，而在涉及建立融洽关系等隐式语用策略上仍存在理解偏差。