跨模型错误中的文本知识蒸馏:鲁棒故障与保守修复
该研究探讨了基于失败案例的文本知识蒸馏方法,旨在通过分析任务错误来发现模型的知识漏洞。研究定义了在推理时注入输入的独立“规则原子”,指出其虽然能编码可迁移的任务知识,但也可能包含特定于原模型的推理补丁,从而在跨模型迁移时产生干扰;此外,注入的规则还可能被错误应用于不相关场景并引发误判。(注:原文摘要末尾未完)
该研究探讨了基于失败案例的文本知识蒸馏方法,旨在通过分析任务错误来发现模型的知识漏洞。研究定义了在推理时注入输入的独立“规则原子”,指出其虽然能编码可迁移的任务知识,但也可能包含特定于原模型的推理补丁,从而在跨模型迁移时产生干扰;此外,注入的规则还可能被错误应用于不相关场景并引发误判。(注:原文摘要末尾未完)
许多用于节点分类的图神经网络(GNN)将线性分类器应用于局部消息的非负混合中。预测错误往往源于混合权重不佳或可达 logit 集合的几何位置不适合该分类器。该研究通过精确质量线性规划和两种后验修复方法区分了这两类原因。研究表明,每个重加权预测都对应一个中心化的 logit 平移。在8个数据集、8个 GNN 骨干网络及10种划分上的实验表明,重加权使冻结模型的平均准确率从62.6%提升至63.8%。