新上线今天0 投票
当解释无法被阅读：SHAP 与 LIME 在从右到左语言中的渲染缺陷与修正方案
一个被忽视的可解释性盲区
SHAP 和 LIME 是文本分类器事后解释中最常用的两种方法。它们的归因数值在数学上并无问题，但可视化界面几乎全部按照从左到右（LTR）的书写习惯设计。当这套工具被用于 乌尔都语、阿拉伯语、波斯语、希伯来语 等从右到左（RTL）语言时，问题就出现了：词元顺序错乱、连写字母被拆散、图表布局不遵循自然阅读方向。
Rameesha Zia 与 Muhammad Shahid Iqbal Malik 在 arXiv 论文 arXiv:2609.28565 中，把这一现象重新定义为一个可视化问题，而不是解释方法本身的局限。
默认渲染错到什么程度？
研究团队用 OCR 往返测试来量化渲染正确性，每种语言测试 200 个特征词，覆盖乌尔都语、阿拉伯语、希伯来语和波斯语的仇恨与攻击性语言数据集，分类器采用 TF-IDF 加逻辑回归。
- 默认渲染的字符错误率高达 0.820 至 0.979，意味着标签几乎无法还原对应词元；
- 常见的“重排加整形”变通方案在乌尔都语上反而更糟，错误率达到 0.998，比不做修正还差；
- Matplotlib 3.11.0 的文本重写又反转了这一变通方案的效果。
换句话说，解释图上显示的词，和模型真正依据的词，可能已经不是同一个东西。
SHAP-RTL：不改归因，只修渲染
作者提出的 SHAP-RTL 是一个渲染层，核心思路是保持归因数值、特征顺序和模型输出不变，只修正阅读方向与文字整形，并按语言选择合适字体。它在 Matplotlib 新旧两个版本下都保持正确。
除了图形渲染，框架还会把同样的归因结果转写成读者母语的简短上下文解释，并限定在已识别的特征范围内。作者明确说明：本文评估的是渲染正确性，对生成解释本身质量的评估留待后续工作。
为什么这件事值得关注
可解释性工具正在被用于医疗、金融、内容审核等高风险场景。如果解释界面在 RTL 语言下无法阅读，那么所谓“透明”就只是对部分语言用户成立。这项研究提醒我们：语言感知的可视化，是让事后可解释性真正跨书写系统可用的必要一环。
