Pistis技术报告发布：融合蒸馏与强化学习的新型多模态大模型家族
该技术报告介绍了Pistis多模态大语言模型家族，包含基于Qwen系列构建的27B与9B参数模型。研发团队提出了一套通用且可扩展的后训练框架，在大规模多模态监督微调（SFT）的基础上，首创了交替蒸馏与强化学习（IDRL）范式。IDRL将同策略蒸馏与强化学习深度集成在单一训练循环中，通过二者交替优化，有效提升了多模态模型的整体综合性能。
DC AI 热点
全部 AI 动态
9月25日2026-09-25
DEEPO：面向多模态大模型幻觉抑制的双熵增强策略优化
该研究探讨了强化学习在多模态大语言模型（MLLM）中抑制幻觉效果不稳定的问题，并归因于从奖励到参数更新纠错链中的两个弱点：在采样层面，高语义熵的困难查询易产生全错样本组，使最易产生幻觉区域的相对优势坍缩为零；在优化层面，高置信度的错误token存在梯度消失现象。为此，论文提出了双熵增强策略优化方法DEEPO，以改进参数更新机制并有效缓解多模态幻觉。
9月24日2026-09-24
相同证据不同判定：多模态大模型在图文及语音文本冲突中存在证据不可交换性
该论文探讨了多模态大语言模型在图像或语音与伴随文本发生冲突时的偏好机制。针对以往文本偏置研究中证据顺序固定或指令位置变化导致成因不明的问题，研究团队采用配对比较法，在固定指令与证据内容的前提下仅互换两类模态信息的输入顺序。实验覆盖视觉与语音模型，发现将图像或音频置于冲突文本之后会持续改变模型判定，证实了模型处理冲突证据时存在显著的顺序敏感性与不可交换性。