大模型自动批卷的成败边界:两门计算机考试的实证研究
一项来自学术界的新研究评估了大语言模型(LLM)用于高校考试自动评分的可靠性与局限。研究团队在包含570名学生的计算机视觉考试上测试了开源与闭源模型的171种配置。结果显示,最优模型的平均绝对误差达到1.64/35,甚至优于两位人类评分员之间2.61/35的分歧水平。然而实验发现模型对提示词极度脆弱:加入一句简短的“严格评分”提示,便导致17个开源模型中的14个评分严重失常,甚至有模型直接停止评分。
一项来自学术界的新研究评估了大语言模型(LLM)用于高校考试自动评分的可靠性与局限。研究团队在包含570名学生的计算机视觉考试上测试了开源与闭源模型的171种配置。结果显示,最优模型的平均绝对误差达到1.64/35,甚至优于两位人类评分员之间2.61/35的分歧水平。然而实验发现模型对提示词极度脆弱:加入一句简短的“严格评分”提示,便导致17个开源模型中的14个评分严重失常,甚至有模型直接停止评分。
该研究探讨了大语言模型(LLM)的评估方法。在多项选择问答任务中,常规基于似然的评分与提示词方法类似均依赖任务上下文。研究团队提出了一种基于问答对构建的陈述句进行似然排序的补充评估协议。通过对95个参数量从1亿到1040亿的仅解码器模型在10个多选题数据集上的测试,系统对比并揭示了似然排序与提示词方法在模型规模扩展表现上的差异。
文章介绍了针对GPT-6优化的提示词缓存(Prompt Caching)技术。该机制通过实现更高的缓存命中率、引入全新诊断工具、显式断点设置以及细粒度控制功能,帮助开发者在调用模型时有效减少推理延迟并降低API使用成本。摘要中未提及更多底层架构细节或具体的性能测试对比数据。
在智能体开发中,技能(Skills)可将特定领域流程编码为可复用的便携指令,但仅凭流畅的回答无法证明智能体选择了正确的技能或严格遵循了指令。本文介绍了如何利用 Strands Evals 与 Amazon Bedrock AgentCore 评测体系,量化衡量智能体在实际任务中的技能选择准确性及指令遵循能力,为构建可靠的智能体应用提供系统化评测方案。