DCAI
DC AI 热点

全部 AI 动态

9月24日2026-09-24
arXiv 自然语言处理✦ 精选AI 评分 60/10012:00

句子级法律解释准则分类:基于德国联邦宪法法院判决的评测基准

针对大语言模型在司法推理分析中的难点,该研究提出了一个句子级基准,用于评估大模型分类法律解释准则的能力。研究基于传统法学解释理论构建了分类标准,发布了经过句子级人工标注的德国联邦宪法法院判决数据集,并在专家手写提示词设定下,对来自三个模型家族的四款大语言模型进行了基线性能评测。

阅读原文 ↗推荐理由:该研究构建了首个针对德国宪法判决的句子级法律解释基准,推进了大模型在细粒度法律推理评测中的应用。# 法律大模型# 司法推理# 基准测试# NLP# 法律解释
arXiv 机器学习✦ 精选AI 评分 78/10012:00

终端基准测试何以称“难”?研究揭示智能体评测中的“真假难度”陷阱

前沿基准测试常依赖当前模型无法解决的任务来衡量能力边界,但零通过率并不等同于真正的高难度。该研究指出,任务全军覆没既可能源于真实的能力代差,也可能是由缺失上下文、损坏的参考方案或基础设施故障等“虚假难度”导致。基于 Terminal-Bench 3 等基准中涵盖 639 个任务、2.8 万余次试验及逾 10 万美元开销的真实记录,研究系统性厘清了导致智能体任务失败的本质原因,为评测体系纠偏。

阅读原文 ↗推荐理由:通过大规模实证分析揭示了智能体基准评测中零通过率背后的工程与设计缺陷,对规范 Agent 评估体系具有重要参考意义。# 智能体# 基准测试# Terminal-Bench# Agent评测# 大模型
arXiv 自然语言处理✦ 精选AI 评分 70/10012:00

面向网络生成文本的字素转音素基准 UGTPhon:涵盖多语言与组合式方法

文本转语音(TTS)系统在处理网络生成文本(如缩写 ppl、imo)时,需根据规范表达而非表面拼写来推断发音。为此,研究人员推出了首个针对英语、越南语和韩语网络文本的字素转音素(G2P)基准 UGTPhon,并配套提出用于细粒度诊断的分类体系。测试显示,现有 G2P 模型及前沿大模型在此类文本上的音素错误率(PER)最高落后 66.8 点。研究团队进一步提出了一种结合规范形式证据的组合式 G2P 基线方法。

阅读原文 ↗推荐理由:针对语音合成在处理网络缩写及非规范文本时的发音难题,首创了多语言 G2P 基准与评估分类体系。# 文本转语音# G2P# 基准测试# 网络文本# 大语言模型
arXiv 人工智能✦ 精选AI 评分 75/10012:00

ShowTellArena:评估智能体从业务演示中理解工作流能力的基准数据集

研究人员提出了 ShowTellArena,这是一个用于评估智能体在观看带有口述解说的业务演示后其理解能力的基准测试协议与公开数据集。该基准模拟了人类通过“边演示边讲解”指导新同事的场景。v1.0 版本涵盖财务、招聘、采购、客户决策、库存和物流等领域的 50 个业务工作流任务,包含屏幕录像、截图、旁白解说及 502 道评估试题,旨在系统性测试智能体对复杂商业流程的掌握水平。

阅读原文 ↗推荐理由:针对智能体从多模态演示与讲解中学习业务工作流的能力,提出了标准化的评测协议与多行业数据集。# 智能体# 基准测试# 工作流自动化# 多模态# ShowTellArena
arXiv 机器学习✦ 精选AI 评分 72/10012:00

序列推荐系统时序归因可解释方法系统基准测试

序列推荐系统通过用户历史交互序列驱动下一步决策,是现代个性化服务的核心。基于CNN和Transformer的深度学习架构虽能有效捕获时序依赖,但其非线性特征导致模型沦为黑盒。为了提升模型透明度与信任度,帮助开发者审查模型行为并为用户提供推荐依据,该研究针对序列推荐系统中的时序归因可解释性方法展开系统化基准评估(注:原论文摘要结尾存在截断,具体评估结果详见完整论文)。

阅读原文 ↗推荐理由:针对黑盒序列推荐模型建立了时序归因可解释性基准,对提升推荐算法的可解释性与透明度具有参考价值。# 序列推荐# 可解释AI# 时序归因# Transformer# 基准测试