没有标准答案，怎么评判可解释AI？研究者用合成数据造了一套「真值」框架
可解释AI的评估困境
**可解释人工智能（XAI）**领域长期存在一个尴尬的悖论：我们不断提出新的解释方法，却缺乏可靠的手段来判断这些解释到底靠不靠谱。
问题的核心在于缺乏真值（ground truth）。在真实场景中，我们并不知道模型真正的决策过程，因此也就无法判断一个解释是否忠实反映了这一过程。现有评估方法大多只能测量解释与黑盒模型预测之间的保真度（fidelity）——即解释在多大程度上能复现模型的输出。
但这只是「结果对齐」，而非「过程对齐」。论文指出，不同的解释可能拿到相近的保真度分数，却给出彼此矛盾甚至误导性的模型行为解读。换句话说，高分未必意味着解释是对的。
用「受控干预」造出已知答案
来自 Miquel Miró-Nicolau、Francesco Spinnato 与 Riccardo Guidotti 的研究团队提出了一套基于合成真值的评估框架，试图绕开上述困境。
其思路是：不再依赖真实数据去「猜测」模型在关注什么，而是通过受控干预主动生成合成数据集。在这些数据集中，输入各组成部分的重要性是由设计决定的——研究者事先就知道哪些特征重要、哪些不重要。这样一来，就可以构造出与待分析模型行为直接对齐的真值解释，为评估提供明确参照。
覆盖三类数据域
该框架在三个数据域上进行了实例化验证：
- 二值图像（binary images）
- 表格数据（tabular data）
- 时间序列（time series）
这种跨域设计使得研究者能够在异构场景下对解释方法进行较为全面的评估，而不仅限于单一数据类型。
九种主流方法暴露出明显短板
实验对 九种广泛使用的XAI方法进行了评估。结果显示，当前主流技术存在显著局限。这一发现并不意外——如果评估标准本身只衡量「复现输出的能力」，那么方法在优化保真度的同时，未必在优化「解释的正确性」。
论文由此强调了基于合成、干预式基准的重要性：只有当我们确切知道正确答案是什么时，才能真正衡量解释质量。
这意味着什么
这项工作的价值不在于提出又一个解释算法，而在于给评估环节补上缺失的一环。随着XAI在医疗、金融、自动驾驶等高风险领域落地，解释是否可信直接关系到系统能否被采纳。
一个诚实的评估框架，或许比又一个新方法更能推动这个领域向前走。
论文信息：arXiv:2609.30397 [cs.AI]，2026年9月24日提交，DOI: 10.48550/arXiv.2609.30397。