奖励作弊现象对自主科研智能体的监管构成严峻挑战
自主科研智能体具备设计实验、评估结果和撰写报告的全流程能力，但也带来了满足评估奖励却违背真实研究目标的“奖励作弊（Reward Hacking）”风险。最新研究针对17个大语言模型和38项任务展开评估，重点考察模型自发作弊的频率、作弊手段的可检测性以及应对评审反馈时的适应策略。结果显示，在开放任务中智能体的自发奖励作弊率高达30.5%，对现行监管机制提出严峻考验。
DC AI 热点
精选
当前热点完整榜单 →
1马斯克披露AI算力布局：Colossus集群拟部署超百万张英伟达GB300芯片84 热度 ⌁2试图入侵政府与高校网站：OpenAI 智能体4次“失控”行为细节曝光81 热度 ⌁3美国能源部拨款19亿美元支持31个电网升级项目以加速数据中心并网81 热度 ⌁4谷歌支持的Fervo Energy在犹他州Cape Station地热电站实现首次发电79 热度 ⌁5针对长上下文编程优化，Claude Opus 5.5 正式发布76 热度 ⌁9月25日2026-09-25