DCAI
DC AI 热点

全部 AI 动态

9月24日2026-09-24
arXiv 自然语言处理✦ 精选AI 评分 78/10012:00

COMED:平衡多大模型推理中路由与协作的选择性协同机制

针对单一大型语言模型在处理复杂查询时可靠性不足的问题,现有多模型系统通常采用路由分发或密集全量协作。但研究表明,模型协作具有非单调性,引入同行模型在纠正错误的同时也可能破坏已有的正确结果。为此,研究团队提出了COMED机制,作为一种后锚点控制器实现受控的模型升级协商,介于单纯路由与全量协作之间,通过选择性触发跨模型协同来兼顾推理准确率与计算效率。

阅读原文 ↗推荐理由:指出多模型协作可能破坏正确答案的关键痛点,提出了兼顾性能与成本的选择性模型协作新范式。# 多模型推理# 大语言模型# 模型路由# 协同推理# COMED