精选今天0 投票
内部多元主义与成对比较的局限性：AI对齐研究新视角
在AI对齐与参与式设计领域，局部成对比较（local pairwise comparisons）是一种常用工具，用于学习人们希望决策规则如何运作。然而，一项来自arXiv的最新研究（论文ID: 2607.02672）揭示了该方法背后的两个关键假设可能因内部多元主义（internal pluralism）而失效。
核心问题：当一个人“内心分裂”时
传统成对比较假设：1）局部比较足以反映个人对全局决策规则的偏好；2）人们总能给出明确答案。但研究者指出，个体内心可能同时持有多种有权威的优先级（priorities），例如比例性、平等主义、公平对待等。这些优先级具有全局性：它们在某个案例中的含义取决于其他案例的上下文，因此局部比较可能无法捕捉全貌。
两种失败模式
论文通过形式化模型识别出两种典型失败：
- 全局性优先级被忽略：当优先级要求全局一致性时，局部比较会丢失关键信息。例如，一个偏好平等分配的人，在单独比较两个案例时可能表现出矛盾的选择。
- 内部冲突导致的扭曲：即使优先级可以局部表达，强烈冲突的优先级也会在强制比较时产生行为扭曲，例如被迫选择时出现不一致或压力下的非理性决策。
允许“不确定”的力量
研究者进一步探索了替代方案——允许人们报告“无法决定”。模型表明，允许不确定性能显著减少准确学习偏好所需的查询次数。这启示我们：与其强迫用户做出非此即彼的选择，不如设计能直接询问其核心优先级的方法。
对AI对齐的启示
该研究直指当前AI对齐实践中一个被忽视的痛点：人类偏好并非单一、一致的函数，而是多面且可能相互冲突的。传统的成对比较方法可能产生误导性的对齐信号。论文建议开发新的偏好学习方法，直接eliciting priorities（引出优先级），从而获得更忠实、可解释的价值模型。
这一工作为参与式设计、AI伦理与价值对齐提供了理论框架，提醒从业者：在追求“让AI符合人类偏好”之前，需要先理解“人类偏好”本身的复杂性。