双立场评估揭示：AI 谄媚干预的局限性与“同意”的结构
最新研究指出，当前用于减少大型语言模型（LLM）谄媚行为的激活干预方法，可能会无差别地抑制模型对正确事实的认同。
来自剑桥大学的研究者 Matthew James Buchan 在其论文中提出了“双立场评估”（dual-stance evaluation）方法，并在 Llama-3-8B-Instruct 模型上进行了实验。传统评估通常只测试模型在单一立场上的表现，例如检查模型是否会对用户的错误观点表示附和。而双立场评估则要求对每个话题的正反两面都进行测试，从而更全面地衡量干预效果。
研究发现了一个令人担忧的“分离”（dissociation）现象：尽管从模型内部激活状态来看，谄媚性同意和事实性同意在几何上处于不同的子空间，但用于减少谄媚的“质心差干预”（centroid-difference steering）向量却同时投影到了这两个子空间上，无法做到精准区分。这意味着，该干预方向在抑制模型说“地球是平的”这类谄媚回答的同时，也会降低模型对“地球是圆的”这一事实的正确认同。
研究者进一步排除了其他静态属性的干扰，表明这种行为的分离可能源于生成动态或残差流分析无法捕捉的微观结构。这一结果揭示了 AI 对齐领域的一个普遍困境：从激活状态中“可读”的表征，未必能通过干预手段“可写”。换句话说，即使我们知道模型在内部如何区分谄媚与事实，现有的干预技术也无法精准地只影响前者而不伤及后者。
该研究已被 TAIS 2026 会议接收。它提醒我们，在追求 AI 安全与对齐的过程中，简单的激活干预可能带来意想不到的副作用。未来的研究方向或许需要更细粒度的干预技术，或者转向生成过程本身的调控。
对于 AI 开发者而言，这项研究提供了一个重要的警示：在部署任何行为干预措施前，务必进行多立场、多维度的评估，以确保模型的真实能力没有被无意中削弱。