新上线今天0 投票
安大略省审计发现：医生的AI笔记助手可能虚构信息
近年来，许多不堪重负的医生开始使用所谓的AI医疗抄写员，来自动总结患者对话、诊断和护理决策，形成结构化笔记用于健康记录。但安大略省审计长最近的一项审计发现，省政府推荐的AI抄写员经常生成错误、不完整甚至虚构的信息，这“可能导致不充分或有害的治疗方案，进而影响患者健康结果”。
审计长在《安大略省政府人工智能使用情况报告》中，审查了20家经省政府批准预合格的AI抄写员供应商在两个模拟医患对话中的转录测试结果。所有20家供应商在至少一项简单测试中均出现准确性问题，其中9家虚构了患者信息，12家错误记录信息，17家遗漏了讨论的心理健康问题的关键细节。
报告指出多个令人担忧的示例，例如AI抄写员虚构了不存在的血液检测或治疗转诊、错误转录处方药名称，以及遗漏心理健康问题的“关键细节”。在所有获批供应商中，AI抄写员在安大略省供应局评估标准中的“医疗笔记生成准确性”部分平均得分仅为12分（满分20分）。但这一关键指标仅占供应商总评分的约4%，即使AI抄写员在该指标得分为零，也容易达到批准的最低门槛（而衡量“安大略省本地存在”的指标占总评分的30%）。
审计长最终认为，这些AI抄写员“未得到充分评估”。报告谨慎而克制地指出，“必须对AI抄写员系统进行测试，以确保其可靠性”。
