标签感知型结构化文本翻译:系统化理解与方法探索
互联网文本中广泛存在承载结构、语义与功能的格式标签,而当前基于大语言模型的翻译系统在处理此类文本时,难以兼顾翻译流畅度与标签保真度。该研究提出应从数据合成、能力构建和多目标对齐三个层面系统化解决这一问题。在数据层面,论文形式化定义了合成数据生成过程中结构标签多样性与翻译自然度之间的权衡关系,为优化带标签文本翻译提供了新视角。
互联网文本中广泛存在承载结构、语义与功能的格式标签,而当前基于大语言模型的翻译系统在处理此类文本时,难以兼顾翻译流畅度与标签保真度。该研究提出应从数据合成、能力构建和多目标对齐三个层面系统化解决这一问题。在数据层面,论文形式化定义了合成数据生成过程中结构标签多样性与翻译自然度之间的权衡关系,为优化带标签文本翻译提供了新视角。
该论文针对大型语言模型多元对齐中价值观冲突的问题,研究了可控模型如何在竞争性目标间平衡权衡。多目标直接偏好优化(MODPO)通过目标权重覆盖连续权衡区间,本研究探讨了模型何时可同时提升两个目标,以及如何避免为每种权衡单独训练模型。基于HelpSteer和UltraFeedback的七组目标测试,研究提出了可预测目标冲突的预训练测量方法,以实现更高效的多元对齐。