AIDC
DC AI 热点

精选

当前热点完整榜单 →
1微软发布新版Copilot超级应用:整合聊天、编程与智能体能力83 热度 ⌁2Anthropic 与 Akamai 达成 116 亿美元云算力协议,年内算力支出承诺已超 5000 亿美元81 热度 ⌁3马斯克披露AI算力布局:Colossus集群拟部署超百万张英伟达GB300芯片79 热度 ⌁4谷歌启动Project Suncatcher:计划下周开展首个太空轨道数据中心测试79 热度 ⌁5Meta推出Muse智能体:为每位用户配备运行Ubuntu的完整云端电脑78 热度 ⌁
9月24日2026-09-24
arXiv 人工智能✦ 精选AI 评分 78/10012:00

虚拟人设能否预测真实受众反应?研究揭示无角色基线反超人设模拟

当前营销领域常使用大语言模型构建“虚拟人设”以预测真实受众对文案的反应。本研究基于Upworthy研究档案中数千次真实流量点击率A/B测试作为基准,开展了从模拟到真实的有效性检验。实验对比了基于真实人口统计特征构建的10人虚拟人设面板与无角色设定的基准模型,结果显示,无角色基准在文案效果模拟上的表现反而击败了基于人设的模拟,对当前AI受众模拟的有效性提出了质疑。

阅读原文 ↗推荐理由:通过大规模真实A/B测试数据实证检验,挑战了当下大模型虚拟人设在受众预测中的有效性假设。# 大模型# 虚拟人设# 受众模拟# A/B测试# 实证研究
arXiv 自然语言处理✦ 精选AI 评分 60/10012:00

研究人员开源ISAAC大规模社会态度语料库,覆盖超5.27亿条Reddit帖子

研究人员推出了伊利诺伊社会态度综合语料库(ISAAC)及其可复现的处理流水线。该语料库汇集了2007年至2023年间超过5.27亿条英文Reddit帖子,重点围绕种族、性取向、年龄、身体能力、体重和肤色六大社会群体维度。通过多步骤的人工审计过滤流程,各分类的不相关内容比例均控制在10%以下,并且每条帖子均通过算法标注了用户的推断居住区域等元数据,为大规模分析社会群体话语提供了开放工具。

阅读原文 ↗推荐理由:发布了跨度长达17年、规模超5亿条的高质量社会群体话语标注语料库,为自然语言处理与计算社会科学研究提供了重要资源。# 语料库# 数据工程# 自然语言处理# 社交网络# 计算社会科学
arXiv 机器学习✦ 精选AI 评分 70/10012:00

Drift Contract:结合谱更新实现深度鲁棒的局部学习算法

局部学习通过各层独立的辅助损失避免了全局反向传播,具备天然的结构并行优势,但长期受困于深度增加时的精度衰减和超参数脆弱性。该研究首次将类似 Muon 的谱更新几何(包含动量正交化与谱步长缩放)应用于逐层局部更新。在 CIFAR-10 MLP 基准测试中,该方法在深度 12 至 48 层、宽度 128 至 2048 的范围内,仅需单一固定步长即可取得最优表现,显著提升了局部学习对网络深度的鲁棒性。

阅读原文 ↗推荐理由:将 Muon 谱更新机制引入局部学习,有效解决了该领域在深层网络中超参数脆弱与精度退化的核心痛点。# 局部学习# 谱更新# Muon# 优化算法# 反向传播
arXiv 人工智能✦ 精选AI 评分 68/10012:00

现有预条件器能否改善生物医学表格基座学习?TabPFN优化实证研究

针对结构化生物医学数据分析,表格基座模型展现出巨大潜力,其中TabPFN在小样本表格分类任务中表现尤为突出。然而,优化和预条件策略对生物医学场景微调的影响尚缺乏研究。本文对TabPFN v2.5展开系统性实证评估,在涵盖阿尔茨海默病、乳腺癌、精神分裂症等疾病及KEEL库的59个生物医学数据集上,测试了五种基于AdamW的预条件策略,为优化生物医学表格基座模型微调提供了实验参考。

阅读原文 ↗推荐理由:系统评估了五种预条件策略在多达59个生物医学数据集上微调TabPFN的效果,填补了表格基座模型优化的研究空白。# TabPFN# 表格基座模型# 医疗AI# 微调# 优化器
arXiv 自然语言处理✦ 精选AI 评分 68/10012:00

事实核查评分提升由何驱动?针对验证模型与大语言模型的证据与答案归因研究

该论文探讨了联合事实核查评分提升背后的机制,分析在固定答案的前提下证据质量对综合评分的独立贡献。研究基于FEVEROUS基准数据集中的7,890条声明及4个DeBERTa模型检查点展开实验。结果显示,将DCUF证据替换为UnifEE证据后,严格核查评分显著提升9.61个百分点,而答案准确率仅提高1.96个百分点。该研究通过细粒度归因,揭示了高质量证据检索对联合事实核查评估指标的决定性影响。

阅读原文 ↗推荐理由:深入解耦了事实核查任务中证据检索与预测答案对评分的各自贡献,为大模型事实性评估提供了严谨的分析框架。# 事实核查# 大模型# 评测# 自然语言处理# DeBERTa
arXiv 机器学习✦ 精选AI 评分 70/10012:00

Signal2Symbol:用于可解释生理时间序列异常检测的神经符号时序推理框架

针对心电图(ECG)和脑电图(EEG)等生理时间序列在复杂时序结构与高决策透明度方面的需求,现有深度学习模型往往缺乏对异常原因及局部关联的可解释性。研究团队提出了一种名为 Signal2Symbol 的神经符号框架,旨在实现可解释的生物信号异常检测。该方法首先将连续的生理信号转化为符号序列,进而结合神经符号时序推理,提升检测决策的透明度与规律挖掘能力。

阅读原文 ↗推荐理由:将神经符号推理引入医疗生理时序异常检测,针对性解决了深度学习黑盒模型的透明度与可解释性痛点。# 神经符号AI# 时间序列# 异常检测# 生物信号# 可解释性
arXiv 人工智能✦ 精选AI 评分 78/10012:00

4DGS-JEPA:面向动态高斯泼溅的时序组合联合嵌入预测架构

动态高斯泼溅能显式表征随时间演化的3D场景,但现有方法多针对重建、未来状态生成或渲染进行优化,缺乏对可复用预测动力学的学习。对此,研究人员提出了 4DGS-JEPA,一种用于动态高斯场景因果多时域预测的原生联合嵌入预测架构。该模型构建了涵盖场景级、运动群级及高斯级的层次化表征,并结合时域条件转移算子,能够同时支持直接预测与递归推演。

阅读原文 ↗推荐理由:将JEPA自监督预测范式引入动态高斯泼溅中,为3D动态场景表征与物理动力学预测提供了新方案。# 高斯泼溅# JEPA# 3D视觉# 世界模型# 表征学习
arXiv 自然语言处理✦ 精选AI 评分 62/10012:00

NADI 2026:第二届多方言阿拉伯语语音处理共享任务发布

NADI 2026 是精细阿拉伯语方言识别(NADI)系列的第七届共享任务,也是第二次专注于多方言阿拉伯语语音处理的评测。本届任务包含五项核心任务与八个子任务,覆盖自动语音识别(ASR)、方言识别(SDID)、语音合成(TTS)、语音翻译(SLT)和口语理解(SLU)。该评测重点关注低带宽、混合方言、语码转换、域外及零样本等真实场景,并首次在该系列中引入了 TTS、SLT 和 SLU 赛道。

阅读原文 ↗推荐理由:该任务系统性推进了多方言及低资源阿拉伯语语音处理的基准建设,涵盖多项复杂真实场景评估。# 语音处理# 阿拉伯语方言# 评测# 语音
arXiv 机器学习✦ 精选AI 评分 68/10012:00

HARN:面向事件驱动多时间周期预测的分层联想共振网络

针对金融时间序列在多时间尺度预测中重复计算不变表征的难题,研究者提出了分层联想共振网络(HARN)。该模型专为事件驱动的多周期预测设计,通过在不同时间层级维护持久化表征,仅在对应周期的K线数据生成完成后才触发该层更新,显著避免了冗余计算。其架构综合了因果多尺度时间编码、门控联想记忆、跨层级共振以及分层证据聚合机制。

阅读原文 ↗推荐理由:提出了一种事件驱动的多时间尺度预测架构,有效降低了时序表征更新中的冗余计算。# 时间序列# 模型架构# 金融AI# 深度学习# 联想记忆
arXiv 人工智能✦ 精选AI 评分 62/10012:00

基于超图神经网络的胶质母细胞瘤生存期精准与可解释预测研究

针对多形性胶质母细胞瘤(GBM)生存预测对高准确度和透明度的双重需求,研究人员指出现有方法往往在性能与可解释性间妥协,且过度依赖单一成像模态,未能充分利用互补信息。该研究提出一种超图神经网络方案,认为这两者并非固有冲突,旨在利用图神经网络的结构优势,在保证强判别能力的同时提取具解释性的特征表征,以提升多模态临床预测能力(原文摘要截断)。

阅读原文 ↗推荐理由:探索利用超图神经网络化解医学影像生存预测中准确率与可解释性难以兼得的痛点。# 超图神经网络# 医疗AI# 胶质母细胞瘤# 可解释性# 生存预测
arXiv 自然语言处理✦ 精选AI 评分 75/10012:00

RECAP:面向大语言模型高效推理的冗余感知归因学习

针对大语言推理模型常生成正确却冗长低效的推理链问题,现有优化方法多依赖轨迹级或局部标记信号,未能充分建模步骤间的语义依赖,导致难以有效区分冗余步骤与关键支撑步骤。研究团队提出了 RECAP(通过传播实现的冗余感知信用分配)方法。该方法基于推理步骤在后续推导中的实际下游作用精准分配信用,从而在确保模型推理准确率的前提下精简推理过程,显著提升推理效率。

阅读原文 ↗推荐理由:针对大语言模型推理过程冗长低效的痛点,提出了通过建模步骤依赖关系来精简推理链的新算法。# 大模型# 高效推理# 思维链# 模型优化# RECAP
arXiv 机器学习✦ 精选AI 评分 78/10012:00

终端基准测试何以称“难”?研究揭示智能体评测中的“真假难度”陷阱

前沿基准测试常依赖当前模型无法解决的任务来衡量能力边界,但零通过率并不等同于真正的高难度。该研究指出,任务全军覆没既可能源于真实的能力代差,也可能是由缺失上下文、损坏的参考方案或基础设施故障等“虚假难度”导致。基于 Terminal-Bench 3 等基准中涵盖 639 个任务、2.8 万余次试验及逾 10 万美元开销的真实记录,研究系统性厘清了导致智能体任务失败的本质原因,为评测体系纠偏。

阅读原文 ↗推荐理由:通过大规模实证分析揭示了智能体基准评测中零通过率背后的工程与设计缺陷,对规范 Agent 评估体系具有重要参考意义。# 智能体# 评测# Terminal-Bench# Agent评测# 大模型
arXiv 人工智能✦ 精选AI 评分 78/10012:00

Ovis-Embedding:拓展通用全模态嵌入模型前沿

该研究推出了全模态嵌入模型家族 Ovis-Embedding,实现对文本、图像、视频和音频的原生整合。不同于将各个独立的模态塔简单组合,Ovis-Embedding 采用共享的多模态骨干网络,将不同模态编码至统一的表征空间中。该模型以预训练的 Qwen-omni 为骨干网络,通过低秩初始化的对比训练完成适配,并引入了以数据为中心的全模态训练策略。

阅读原文 ↗推荐理由:提出基于统一骨干网络的原生全模态嵌入模型,推动了音视频图文统一表征学习的发展。# 多模态嵌入# 全模态# 表征学习# Qwen-omni# 对比学习
arXiv 自然语言处理✦ 精选AI 评分 68/10012:00

基于证据融合的LLM长文本价值测量新方法TEF

在利用大语言模型评估社交媒体长文本的公众价值取向时,文本通常夹杂背景信息、引用及少数关键立场句。现有方法直接预测篇章标签易导致过度自信,而传统的句子级聚合投票则忽视了句子间置信度的差异。为此,研究团队将长文本价值测量构建为决策融合问题,并提出了无需训练的“回火证据融合”(TEF)方法,旨在更有效地聚合模型判断并提升长文本价值衡量的准确性。

阅读原文 ↗推荐理由:提出了一种解决大模型在长文本价值评估中置信度不均衡问题的无训练融合算法。# 大模型# 长文本分析# 证据融合# 观点挖掘# 自然语言处理
arXiv 机器学习✦ 精选AI 评分 68/10012:00

LWCal:面向含噪标签表格分类器的损失加权概率校准方法

传统事后概率校准通常假设留出校准集标签完全干净,但在实际落地场景中,校准标签往往受弱标注或启发式规则影响而存在噪声。为此,研究人员针对表格分类器提出了一种名为LWCal的轻量级事后校准器。该方法仅依赖CPU运行,通过降低与基模型留出预测概率相矛盾的含噪样本权重,在无需干净验证集的情况下完成有效校准,解决了弱监督或含噪环境下的概率可靠性问题。

阅读原文 ↗推荐理由:针对实际应用中校准集标签常受噪声污染的痛点,提出了无需干净验证标签的高效校准方案。# 概率校准# 表格模型# 标签噪声# 机器学习# 弱监督学习
arXiv 人工智能✦ 精选AI 评分 72/10012:00

X-Planner:面向具身智能的事件结构化任务规划框架

针对现代视觉-语言-动作(VLA)系统在长程操作中缺乏显式中间结构、现有思维链规划器依赖粗粒度标注的问题,研究团队提出了 X-Planner 规划前端。该方案同时改善具身推理的监督与表征,融合了第一人称视角、通用操作接口及遥操作等多源数据,构建了具备分层粒度和差异化标注深度的规划数据集。由于原始摘要截断,具体的下游控制效果待全文进一步阐释。

阅读原文 ↗推荐理由:针对具身智能长程任务中规划能力不足的痛点,提出了创新的事件结构化规划前端与多源分层数据集。# 具身智能# 任务规划# VLA# 机器人操作# 思维链
arXiv 自然语言处理✦ 精选AI 评分 68/10012:00

抓住关键信息:面向大规模复杂推理的原则性上下文表示方法

在科学、医疗、法律和金融等领域解决复杂任务时,通常需要整合分散在海量异构数据源中的关联信息,其规模远超模型自身的上下文长度限制。现有方法多将信息组织为图谱、文本记忆或检索集合等形式以便推理,但其构建方式大多缺乏统一原则。本研究借鉴认知科学等理论,探讨如何规范化构建上下文表示以提升大规模推理能力。由于提供的内容在方法阐述处截断,具体技术细节有待进一步公开。

阅读原文 ↗推荐理由:针对大模型超长异构上下文推理面临的信息组织碎片化痛点,提出了规范化的上下文表示新思路。# 大模型# 上下文表示# 复杂推理# 认知建模# 长上下文
arXiv 机器学习✦ 精选AI 评分 68/10012:00

面向术中急性肾损伤早期预测的防数据泄露多模态评估框架 SynerT

针对非心脏大手术后急性肾损伤(AKI)早期术中风险分层难的问题,该研究提出了一种名为 SynerT 的纯波形混合时序骨干网络。该网络结合了因果扩张时间卷积网络(TCN)与分层扩张循环层,用于编码术中早期生理轨迹。此外,研究还构建了引入结构化临床背景的多模态扩展变体 SynerT-MM 进行晚期融合预测。注:输入素材尾部存在文本截断,后续具体融合细节未完全展示。

阅读原文 ↗推荐理由:针对术中急性肾损伤预测提出新型混合时序骨干与多模态评估架构,展现了时序深度学习在临床监护中的应用价值。# 医疗AI# 急性肾损伤# 时序模型# 多模态# 深度学习
arXiv 人工智能✦ 精选AI 评分 65/10012:00

Lean Pool:由AI智能体自主维护与优化的形式化数学代码库

Lean Pool 是一个形式化数学代码库,其核心特色在于完全由 AI 智能体负责拓展、维护与持续优化。该项目展示了人工智能在形式化定理证明与复杂数学知识归档中的自主管理潜力,有助于提高数学形式化库的组织效率与代码质量。由于原论文摘要提供的信息极为简略,具体的智能体协作机制与工程实现细节仍有待进一步公开。

阅读原文 ↗推荐理由:展示了利用 AI 智能体自主构建与维护形式化数学库的新探索路径。# 形式化数学# Lean# 智能体# 自动定理证明# 代码库维护
arXiv 自然语言处理✦ 精选AI 评分 75/10012:00

超越重叠:评估基准数据泄露对模型性能因果效应的LeakScale框架

训练数据包含评测基准只能证明存在接触,却无法量化这种接触对评测表现的具体影响程度。为此,研究人员提出了干预性评估框架 LeakScale。该框架通过构建包含私有特定信息、且无法从公开任务中推导的新可执行任务,严格控制对这些信息的访问,从而利用反事实方法量化基准数据泄露对模型评测得分造成的实际因果影响。

阅读原文 ↗推荐理由:提出了一种基于反事实干预的新框架,有效解决了大语言模型基准数据污染难以量化因果影响的痛点。# 评测# 数据污染# 因果推断# 大模型
arXiv 机器学习✦ 精选AI 评分 75/10012:00

COPE:利用用户嵌入与自评估实现大模型在稀疏反馈下的持续个性化

针对大语言模型在标准对齐后输出同质化、难以满足用户多样化偏好的问题,研究人员提出了COPE优化框架。现有免训练方法多依赖提示工程占用上下文窗口,而微调方法在训练后保持静态,无法持续适应动态偏好。COPE结合个性化用户嵌入与模型自评估机制,有效克服了现实场景中用户反馈稀疏的挑战,实现了大语言模型在部署后的持续个性化优化。

阅读原文 ↗推荐理由:提出了一种结合用户嵌入和自评估的新算法框架,有效解决了大模型在稀疏反馈场景下的持续个性化对齐难题。# 大模型# 个性化对齐# 持续学习# 用户嵌入# 自评估
arXiv 人工智能✦ 精选AI 评分 70/10012:00

AI神经科学家:面向神经影像分析的交互式智能体界面

神经影像数据分析通常需要专业的编程与统计技能,这给非计算背景的研究人员带来了门槛。为此,研究团队推出了“AI神经科学家”,这是一种用于交互式数据探索的语言智能体。该系统将大语言模型与神经影像专业工具集相结合,支持研究人员直接通过自然语言查询数据质量、执行建模与可视化并设定分析参数,为小规模数据探索提供了一种替代传统脚本处理流程的透明且交互式的解决方案。

阅读原文 ↗推荐理由:将大语言模型智能体引入神经影像学领域,有效降低了专业科研数据分析的编程门槛。# 智能体# 神经影像# AI for Science# 大模型# 交互分析
arXiv 机器学习✦ 精选AI 评分 72/10012:00

QUARTET:基于四分支交叉注意力与随机游走轨迹增强的关系图Transformer

关系深度学习将多表数据库建模为异构时序图,目前图Transformer在该领域表现优异。然而,现有代表性模型RelGT存在局部采样子图连接松散阻碍消息传递,以及全局注意力依赖单一特征记忆而忽视宏观动态的两大缺陷。为此,研究人员提出了QUARTET架构,通过结合四分支交叉注意力与随机游走轨迹,增强全自注意力机制在关系图表征中的表达能力。

阅读原文 ↗推荐理由:针对关系深度学习中图Transformer的采样稀疏与全局动态建模不足问题,提出了新颖的增强架构。# 图Transformer# 关系深度学习# 图神经网络# 注意力机制# RelBench
arXiv 自然语言处理✦ 精选AI 评分 70/10012:00

面向网络生成文本的字素转音素基准 UGTPhon:涵盖多语言与组合式方法

文本转语音(TTS)系统在处理网络生成文本(如缩写 ppl、imo)时,需根据规范表达而非表面拼写来推断发音。为此,研究人员推出了首个针对英语、越南语和韩语网络文本的字素转音素(G2P)基准 UGTPhon,并配套提出用于细粒度诊断的分类体系。测试显示,现有 G2P 模型及前沿大模型在此类文本上的音素错误率(PER)最高落后 66.8 点。研究团队进一步提出了一种结合规范形式证据的组合式 G2P 基线方法。

阅读原文 ↗推荐理由:针对语音合成在处理网络缩写及非规范文本时的发音难题,首创了多语言 G2P 基准与评估分类体系。# 文本转语音# G2P# 评测# 网络文本# 大模型
arXiv 人工智能✦ 精选AI 评分 68/10012:00

MedGate-Fusion:融合初诊文本与生理指标的脑卒中风险分层模型

针对基层医疗中早期卒中风险信号分散于常规指标与非结构化临床文本的难题,研究人员提出了多模态门控架构 MedGate-Fusion。该模型通过 Transformer 提取患者初次就诊叙述的语义嵌入,并与 10 项常规生理风险标志物进行多模态融合。研究基于加拿大基层医疗监测网络(CPCSSN)的电子病历数据,构建了包含超 10 万名患者的初诊队列,旨在实现前瞻性卒中风险分层。

阅读原文 ↗推荐理由:提出结合临床非结构化文本与生理指标的多模态架构,为基层医疗脑卒中早期风险预测提供了实用方案。# 医疗AI# 多模态# 风险预测# 深度学习
arXiv 机器学习✦ 精选AI 评分 73/10012:00

智能体训练中工具缓存可能导致策略更新方向反转

工具结果缓存可显著减少智能体训练中的重复计算,但也会耦合采样过程的随机性。最新研究通过一个双动作模型证明,即使独立执行与共享执行在边际上保持了每个采样的条件奖励分布一致,在组内共享随机结果仍可能导致预期的组归一化策略更新方向发生反转。理论推导表明,共享缓存更新反映的是胜负概率之差而非期望奖励之差,揭示了智能体强化学习中常见工程优化策略潜在的算法偏差风险。

阅读原文 ↗推荐理由:该研究从理论上揭示了智能体RL训练中工具缓存机制可能意外导致策略梯度方向反转的隐患。# 强化学习# 智能体训练# 策略更新# 工具缓存# 算法偏差
arXiv 自然语言处理✦ 精选AI 评分 75/10012:00

LOCKR:基于隐状态轨迹引导检测与修复扩散语言模型的推理锁定问题

扩散语言模型通过迭代去噪生成文本。研究团队发现该类模型中存在一种“稳定但错误锁定”的推理故障,即答案在去噪阶段早期便过早稳定于错误结果。置信度、熵等常规表层解码信号难以有效区分正误锁定。为此,论文将选择性推理修复建模为轻量级测试时规划任务,并提出了 LOCKR,一种基于隐状态轨迹引导的规划器,专门用于检测与修复该问题。

阅读原文 ↗推荐理由:针对扩散语言模型迭代去噪中过早锁定错误答案的核心缺陷,提出了轻量级测试时规划修复机制。# 扩散语言模型# 推理修复# 隐状态# 测试时计算# 深度学习
arXiv 人工智能✦ 精选AI 评分 75/10012:00

大模型智能体缺乏人情世故?新研究提出关系社交推理框架ReAdapt

该论文指出当前大模型智能体在社交决策(如是否互动或联系谁)中,往往仅关注内容显著性而忽略人际间的潜在关系(如关系强度、互惠性等)。现有的智能体循环无法根据新关系证据动态调整社交假设,导致在关系与内容线索产生分歧时做出表面化选择。为此,研究团队形式化了这种失效模式,并提出了包含500个样本的关系推理基准测试及ReAdapt方法,以提升智能体的社交推理能力。

阅读原文 ↗推荐理由:针对大语言模型智能体在复杂社交关系推理上的痛点,提出了新的基准与应对方法。# 大模型# 智能体# 社交推理# ReAdapt# 人际关系
arXiv 机器学习✦ 精选AI 评分 70/10012:00

PR-Smoother:面向物理数据同化的保留模拟器非高斯平滑方法

在物理数据同化(DA)工作流中,通常需要平滑算法能够表示物理状态变量的非高斯后验分布,并适配高维物理模拟器。针对这一需求,研究人员提出了 PR-Smoother,一种保留模拟器的摊销平滑方法。该方法的核心设计在于,在证据下界与变分分布族中均显式保留既定的物理模拟器,而非训练替代动力学模型或学习完整轨迹,从而在仅依赖观测窗口训练的同时,保持与模拟器校准的良好兼容性。

阅读原文 ↗推荐理由:该研究提出了一种在变分推断中显式保留物理模拟器的非高斯平滑算法,为高维物理数据同化提供了新范式。# 数据同化# 变分推断# 物理模拟# 机器学习# 状态估计
arXiv 人工智能✦ 精选AI 评分 75/10012:00

基于单次前向传播的注意力路由图实时电路提取方法

传统语言模型的可解释性电路查找通常需要进行大量复杂的干预实验。该研究提出了一种轻量化新方法,将单次前向传播中的注意力视为路由图,筛选出指向答案的关键路径。在归纳和间接宾语识别(IOI)任务中,消融该方法提取的边对模型性能的破坏显著高于随机消融。研究在GPT-2与Pythia模型上验证了该方法的有效性,为低成本理解模型内部机制提供了新路径。

阅读原文 ↗推荐理由:提出了一种仅需单次前向传播即可实时提取模型内部计算回路的高效可解释性研究方法。# 大模型可解释性# 注意力机制# 回路分析# 计算图# 前沿研究