Fairboard：医疗AI公平性评估框架，揭示脑瘤分割偏见

随着AI医疗设备数量激增，模型在不同患者群体中的表现公平性成为关键挑战。近期，一项名为Fairboard的研究框架发布，通过对18个开源脑瘤分割模型进行大规模评估，揭示了医疗AI中存在的系统性偏见问题。

研究背景：医疗AI的公平性危机

目前，美国FDA已授权超过1000款AI医疗设备，但针对模型在不同患者亚组中性能一致性的正式公平性评估却极为罕见。这种缺失可能导致算法在临床应用中加剧健康不平等，例如对特定种族、年龄或疾病特征的患者群体表现不佳。

研究团队开发了Fairboard框架，从四个维度评估模型公平性：

研究基于两个独立数据集，涵盖648名胶质瘤患者，共进行了11,664次模型推断，确保了结果的统计可靠性。

研究发现，患者身份特征（如分子诊断、肿瘤分级、切除范围）对分割准确性的预测能力，远强于模型架构本身。这意味着，即使使用最先进的模型，如果未考虑患者群体的多样性，仍可能产生不公平的结果。

通过体素级空间元分析，研究发现了神经解剖学定位的偏差，这些偏差具有区域特异性，但在不同模型中往往一致存在。这表明某些脑区（如语言功能区、运动皮层）可能因解剖变异或疾病表现差异，成为算法性能的“盲点”。

在病变掩模和临床人口特征构成的高维潜在空间中，模型性能呈现显著聚类现象。这揭示出患者特征空间中存在算法脆弱性的轴线，即某些特征组合（如特定分子亚型+高龄+女性）可能导致多个模型同时表现不佳。

尽管研究发现较新的模型在公平性方面有所改善，但没有任何模型提供正式的公平性保证。这凸显了当前医疗AI开发中，公平性往往作为事后检查而非设计原则的现状。

为促进公平性评估的普及，研究团队开源了Fairboard——一个无需编程的仪表板工具。该工具旨在降低医疗影像领域公平性模型监测的技术门槛，使临床医生和研究人员能够直观评估模型在不同患者亚组中的表现。

这项研究为医疗AI的公平性评估树立了新标杆：

随着AI在医疗决策中的角色日益重要，确保算法公平性不仅是技术问题，更是伦理和法规要求。Fairboard框架的提出，标志着医疗AI从“性能竞赛”向“负责任AI”转型的关键一步。