精选今天0 投票
ReCBM：面向概念瓶颈模型的不确定性门控关系推理框架
论文速览
近日，一项名为 ReCBM 的研究为概念瓶颈模型（CBM）的鲁棒性难题提供了新思路。该框架通过引入不确定性门控的关系推理，显著提升了模型在概念不可靠场景下的表现。相关论文已提交至 arXiv（编号：2608.10004）。
背景：概念瓶颈模型的两难
概念瓶颈模型（CBM）因其可解释性而备受青睐——它先将输入映射为人类可理解的概念，再基于这些概念做出最终预测。这种设计允许用户在测试时进行干预，例如手动修正某个概念值，从而引导模型输出。然而，一旦概念状态本身不可靠（例如存在缺失或错误），误导性的语义证据就会沿着瓶颈传播，最终损害解释的准确性和下游任务的表现。
现有的 CBM 改进工作多聚焦于丰富概念表示、提升不确定性估计或建模概念依赖关系，但针对“概念不可靠时如何稳健推理”这一关键问题，探索依然不足。
ReCBM 的核心机制
ReCBM 的解决方案是在瓶颈中显式地引入语义概念关系，并利用不确定性来引导这些关系的动态调整。具体来说：
- 关系建模：定义概念间的共现、蕴含和互斥关系，明确证据如何在概念之间流动。
- 不确定性门控：在推理过程中，根据每个概念的不确定性来调节其对整体推理的贡献，从而抑制不可靠概念带来的噪声。
这种设计让模型在面对缺失或翻转的概念时，仍能保持稳定的表现，而不是被错误信息带偏。
实验表现与价值
作者在多个数据集上进行了验证，结果显示 ReCBM 在以下方面均有提升：
- 概念与任务恢复：在概念缺失或翻转的情况下，模型仍能较好地恢复概念和任务结果。
- 不确定性感知干预：支持基于不确定性的测试时干预，让用户更精准地修正关键概念。
- 概念子集提取：能够提取紧凑且与任务相关的概念子集，同时不损失下游性能，这有助于降低推理成本并增强可解释性。
总结与展望
ReCBM 的贡献在于将关系推理与不确定性估计有机结合，为概念瓶颈模型的鲁棒性研究提供了一个新范式。未来，这一框架有望在医疗影像、自动驾驶等高风险场景中发挥价值，因为这些领域对解释的可靠性和决策的稳健性要求极高。不过，论文目前尚未公开代码，实际应用效果还需进一步验证。