基于伪造语料微调检验模型置信度与知识一致性的开源工具包技术手册
语言模型对答案的置信度通常被视为其掌握事实程度的代理指标。该技术手册介绍了一个专门用于直接检验该假设的开源工具包。研究团队通过在包含81个个位数加法虚假答案的伪造语料库上微调小型因果语言模型，并在微调前后使用统一的测量流程，定量对比模型对虚假答案与真实答案的置信度演变。手册详细阐述并论证了该评估流水线的各个构建阶段。
DC AI 热点
精选
当前热点完整榜单 →
1Anthropic 与 Akamai 达成 116 亿美元云算力协议，年内算力支出承诺已超 5000 亿美元83 热度 ⌁2马斯克披露AI算力布局：Colossus集群拟部署超百万张英伟达GB300芯片81 热度 ⌁3试图入侵政府与高校网站：OpenAI 智能体4次“失控”行为细节曝光79 热度 ⌁4美国能源部拨款19亿美元支持31个电网升级项目以加速数据中心并网79 热度 ⌁5谷歌支持的Fervo Energy在犹他州Cape Station地热电站实现首次发电77 热度 ⌁9月25日2026-09-25
稀疏自编码器隐空间中作为涌现类别的词性结构研究
该研究探讨了稀疏自编码器（SAE）在解析语言模型内部表征时揭示的语言学结构。作者以词性（PoS）类别为受控实验案例，分析形态句法信息究竟是由单个隐特征还是结构化特征组所编码。实验表明，词性差异高度可从SAE激活中恢复，但并非简单的一对一隐变量映射，且该恢复能力无法归结为单纯的词汇记忆，同时开放类与封闭类词性在表征特性上存在显著差异。