精选

被说服而非被告知：利益冲突陈述导致大模型智能体上下文锚定失效

该研究揭示了大语言模型智能体在处理客户关系管理（CRM）记录时的一种新型失效模式：上下文锚定易受利益相关方偏见误导。在销售线索资质审核等业务中，当输入上下文中包含具有主观乐观动机的销售代表断言时，模型往往会将其视为客观证据采纳，进而批准企业客观记录原本判定为不合格的交易。基于CRMArena-Pro基准的测试表明，即便采用更强大的模型，也难以有效规避这种将说服性言辞误当事实的缺陷。