对齐惯性研究：评估模型策略干预对先验训练行为的覆盖耐久度
针对平台运营商依赖系统提示词和微调来规范模型行为但可靠性存疑的问题，该研究提出了覆盖成功率（OSR）和“对齐惯性”概念，用于量化后验干预能否有效覆盖先验训练习得的行为。研究在医疗虚假信息和仇恨言论场景下，对 Llama 和 Mistral 模型测试了零样本提示与 LoRA 微调效果。结果显示对齐惯性普遍存在，且其表现因模型架构、应用领域及策略导向的不同而存在显著差异。
DC AI 热点
精选
当前热点完整榜单 →
1Anthropic 与 Akamai 达成 116 亿美元云算力协议，年内算力支出承诺已超 5000 亿美元83 热度 ⌁2马斯克披露AI算力布局：Colossus集群拟部署超百万张英伟达GB300芯片81 热度 ⌁3试图入侵政府与高校网站：OpenAI 智能体4次“失控”行为细节曝光79 热度 ⌁4美国能源部拨款19亿美元支持31个电网升级项目以加速数据中心并网79 热度 ⌁5谷歌支持的Fervo Energy在犹他州Cape Station地热电站实现首次发电77 热度 ⌁9月24日2026-09-24