DCAI
DC AI 热点

精选

当前热点完整榜单 →
1针对长上下文编程优化,Claude Opus 5.5 正式发布88 热度 ⌁2智能体编程加剧CI负载:Anthropic 如何扩展测试影响分析82 热度 ⌁3将“激活神谕”技术扩展至万亿参数模型:深入内部表征监测AI异常行为82 热度 ⌁4高通发力AI软件生态:收购Modular打造统一软件栈,推进Mojo语言多端支持80 热度 ⌁5Anthropic 推出 Claude Marketplace:一站式发现插件、智能体与合作服务80 热度 ⌁
9月24日2026-09-24
arXiv 机器学习✦ 精选AI 评分 70/10012:00

Drift Contract:结合谱更新实现深度鲁棒的局部学习算法

局部学习通过各层独立的辅助损失避免了全局反向传播,具备天然的结构并行优势,但长期受困于深度增加时的精度衰减和超参数脆弱性。该研究首次将类似 Muon 的谱更新几何(包含动量正交化与谱步长缩放)应用于逐层局部更新。在 CIFAR-10 MLP 基准测试中,该方法在深度 12 至 48 层、宽度 128 至 2048 的范围内,仅需单一固定步长即可取得最优表现,显著提升了局部学习对网络深度的鲁棒性。

阅读原文 ↗推荐理由:将 Muon 谱更新机制引入局部学习,有效解决了该领域在深层网络中超参数脆弱与精度退化的核心痛点。# 局部学习# 谱更新# Muon# 优化算法# 反向传播