EduBehaviors:面向教育对话可审计标注的断言架构框架
大语言模型已被广泛应用于教育对话数据的教学构念标注与分类,但其黑盒推理特性导致难以验证模型对具体话语分类的机理依据。为此,研究团队提出了 EduBehaviors 框架。该框架是一种可解释且具扩展性的教育数据标注方案,通过利用大语言模型量化与多种构念相关的可观测重复行为,进而训练下游分类器,实现标注过程的可追溯与审计(原摘要结尾略有截断)。
大语言模型已被广泛应用于教育对话数据的教学构念标注与分类,但其黑盒推理特性导致难以验证模型对具体话语分类的机理依据。为此,研究团队提出了 EduBehaviors 框架。该框架是一种可解释且具扩展性的教育数据标注方案,通过利用大语言模型量化与多种构念相关的可观测重复行为,进而训练下游分类器,实现标注过程的可追溯与审计(原摘要结尾略有截断)。
针对心电图(ECG)和脑电图(EEG)等生理时间序列在复杂时序结构与高决策透明度方面的需求,现有深度学习模型往往缺乏对异常原因及局部关联的可解释性。研究团队提出了一种名为 Signal2Symbol 的神经符号框架,旨在实现可解释的生物信号异常检测。该方法首先将连续的生理信号转化为符号序列,进而结合神经符号时序推理,提升检测决策的透明度与规律挖掘能力。
针对多形性胶质母细胞瘤(GBM)生存预测对高准确度和透明度的双重需求,研究人员指出现有方法往往在性能与可解释性间妥协,且过度依赖单一成像模态,未能充分利用互补信息。该研究提出一种超图神经网络方案,认为这两者并非固有冲突,旨在利用图神经网络的结构优势,在保证强判别能力的同时提取具解释性的特征表征,以提升多模态临床预测能力(原文摘要截断)。
针对 AI 虚拟细胞模型在预测生物干预响应时可能并未真正利用输入信息的“预测-主张差距”,研究团队提出了审计框架 CELLAUDIT。在大模型智能体自动发现和迭代预测模型的场景下,CELLAUDIT 从源码计算路径、拟合依赖性以及实际预测贡献三个维度切入,系统性验证模型对输入扰动信息的使用主张是否属实,以确保智能体生成的科学预测模型具备真正的因果有效性和可靠性。