精选今天0 投票
独立大语言模型与预定义智能体流程在ICU死亡率预测解释中的可行性研究
在重症监护病房（ICU）中，机器学习模型能够较为准确地预测患者死亡率，但传统的特征归因方法（如SHAP）往往只输出冷冰冰的数字，难以形成临床医生在床旁直接使用的叙事性解释。如何弥合这一鸿沟？最新一项可行性研究将目光投向了大型语言模型（LLM），并比较了两种方案：单个独立LLM与一个预定义的四步智能体流程（agentic pipeline）。该研究基于eICU演示数据集（包含2,353次ICU住院记录，死亡率8.1%），其中XGBoost模型的AUROC达到0.855（95% CI: 0.796–0.906），AUPRC为0.332（95% CI: 0.217–0.494），显示出良好的预测性能。
在38个分层抽取的病例解释子集上，独立LLM产生了1个带有显式结果泄露的解释，而四步智能体流程则未出现此类问题。进一步对14个与SHAP审查重叠的病例进行比较，结果显示：独立LLM在SHAP对齐度上更高（平均Jaccard指数0.171 vs 0.077），方向一致性也更好（92.9% vs 78.6%）；但智能体流程在指南依据性（0.762 vs 0.143）和值特异性（0.236 vs 0.143）上表现更优，同时其解释的合理性评分也略高（0.700 vs 0.671）。
从临床角度看，这些结果提示，智能体流程通过将数据解读、指南检查和最终解释分离，能够提升解释的安全相关依据和患者特异性细节，但在高风险风险评估场景中，仍需与基于归因的校验手段结合使用，以确保可靠性。
该研究强调了LLM在医疗AI可解释性方面的潜力，但也提醒我们，在将此类技术推向临床实践前，必须谨慎评估其安全性与一致性。未来，随着智能体流程的进一步优化，或将能为临床医生提供更可信、更具操作性的AI辅助决策支持。