线性表征假说需引入群作用:基于表征等价性的理论审视
该研究针对可解释性与表征学习中的“线性表征假说”提出了理论层面的反思。作者指出,要让关于表征的结论跨越具体训练模型实现泛化,必须明确两个表征何时被视为等价。由于现有讨论普遍缺乏对等价性的明确定义,导致看似研究同一表征的指标、探测器和干预手段实际上可能对应着不同的假设。研究认为,线性表征假说并非单一假设,而是由不同表征等价性所区分的一个假说家族。
该研究针对可解释性与表征学习中的“线性表征假说”提出了理论层面的反思。作者指出,要让关于表征的结论跨越具体训练模型实现泛化,必须明确两个表征何时被视为等价。由于现有讨论普遍缺乏对等价性的明确定义,导致看似研究同一表征的指标、探测器和干预手段实际上可能对应着不同的假设。研究认为,线性表征假说并非单一假设,而是由不同表征等价性所区分的一个假说家族。