LLM 不知道自己在临床表格数据上的认知盲点，跨模型归因分歧检测方法助力提升可靠性
一项来自明尼苏达大学的研究揭示了大型语言模型（LLM）在处理结构化临床数据时的“认知盲点”：LLM 往往高估自己的判断，且其口头表达的置信度与实际预测质量严重脱节。论文《LLM Doesn't Know What It Doesn't Know》已被 EIML@ICML 2026 接收，提出了一种基于跨模型归因分歧（Cross-Model Attribution Divergence）的检测与校准方法，无需修改模型内部参数即可显著提升 LLM 在表格数据上的可靠性与自知之明。
核心发现：LLM 的“自信”是一种错觉
研究团队以 Qwen 2.5 7B 作为 LLM 代表，以 XGBoost 作为传统机器学习基线，在临床表格预测任务上进行了系统对比。他们发现了四个关键问题：
- 置信度空洞：LLM 输出的口头置信度几乎恒定在 0.856-0.937 之间，无论实际准确率是 49% 还是 75.3%，它都给出同样高水平的自信。这种“自信”更多受提示格式影响，而非预测的真实质量。
- 逆难度效应：当 XGBoost 以 99% 正确率做出判断时，LLM 的准确率反而降至 64.8%；而当 XGBoost 自己也感到不确定时，LLM 的表现却与 XGBoost 持平（73.8% vs 73.1%）。这说明 LLM 无法区分“容易”和“困难”的样本。
- 正交增强效应：单独使用少样本示例或 SHAP 特征归因对 LLM 的提升有限，但两者结合产生了“超可加”效果：归因分歧分数（ADS） 从 1.54 降至 0.38，准确率从 49% 跃升至 75.3%，完全无需额外训练。
- 跨模型校准器：利用归因分歧信号作为 LLM 可靠性的代理指标，研究团队设计了一种无需访问模型内部或重复推理的校准器，将期望校准误差从 0.254 降低到 0.080，为每个患者提供个性化的可靠性估计。
意义：从“黑箱自信”到“自知之明”
这项研究的价值在于，它指出了 LLM 在结构化数据上的“冷启动”问题——LLM 缺乏对自身知识边界的认知，而这在医疗等高风险场景中是不可接受的。传统上，我们依赖 LLM 输出的置信度分数来筛选答案，但本研究证明这些分数几乎毫无信息量。
归因分歧方法提供了一条新路径：通过比较 LLM 与稳健传统模型（如 XGBoost）在特征归因上的差异，可以识别出 LLM 的“盲点”样本。当两者对哪些特征重要产生严重分歧时，往往意味着 LLM 正在“胡猜”。这一信号比 LLM 自身的置信度更有价值。
未来方向：让 LLM 学会“不知道”
研究者将这一发现定位为 LLM 在结构化数据上实现真正认知自知的第一步。未来工作可能包括：将归因分歧作为主动学习的采样策略，或纳入训练目标以显式鼓励 LLM 对不确定样本保持谦逊。在临床决策支持系统中，这种“自知之明”可以触发人工复核或回退到传统模型，从而构建更安全的人机协作流程。
对于 AI 行业的从业者而言，这项研究提醒我们：LLM 的流畅表达不等于可靠判断，尤其是在表格数据这类非自然语言任务上。跨模型归因分歧作为一种轻量级、可解释的校准工具，有望成为 LLM 落地高可靠性场景的必备组件。