大模型自动批卷的成败边界：两门计算机考试的实证研究
一项来自学术界的新研究评估了大语言模型（LLM）用于高校考试自动评分的可靠性与局限。研究团队在包含570名学生的计算机视觉考试上测试了开源与闭源模型的171种配置。结果显示，最优模型的平均绝对误差达到1.64/35，甚至优于两位人类评分员之间2.61/35的分歧水平。然而实验发现模型对提示词极度脆弱：加入一句简短的“严格评分”提示，便导致17个开源模型中的14个评分严重失常，甚至有模型直接停止评分。
DC AI 热点
全部 AI 动态
9月25日2026-09-25
大模型评估研究：似然排序在规模扩展表现上不同于提示词方法
该研究探讨了大语言模型（LLM）的评估方法。在多项选择问答任务中，常规基于似然的评分与提示词方法类似均依赖任务上下文。研究团队提出了一种基于问答对构建的陈述句进行似然排序的补充评估协议。通过对95个参数量从1亿到1040亿的仅解码器模型在10个多选题数据集上的测试，系统对比并揭示了似然排序与提示词方法在模型规模扩展表现上的差异。