
新上线今天0 投票
特朗普政府用AI拒批老年人医疗护理,被指灾难性实验
AI 正在替美国政府决定谁该得到医疗护理
据 Ars Technica 报道,特朗普政府正在推进一项颇具争议的尝试:利用人工智能系统审核并拒绝老年人的医疗护理申请。批评者直言,这是一场**“灾难性实验”**。
核心问题:供应商的逐利动机
报道指出,参与部署这些 AI 系统的供应商存在一个根本性的利益冲突——它们**“有动机尽可能多地拒绝索赔”**。当审核效率与拒赔率挂钩,算法便可能系统性地偏向拒批,而非基于患者的真实医疗需求做出判断。
这一机制的危险在于:AI 并非中立的技术工具,而是被嵌入了一个以节省开支为导向的流程中。老年人本就属于医疗需求最密集、最脆弱的群体,一旦申请被错误拒绝,后果可能是延误治疗甚至危及生命。
行业背景:自动化决策的信任危机
这并非 AI 在公共福利领域第一次引发争议。近年来,多国政府尝试用算法辅助社保、医保和福利审核,但频频遭遇误判率高、申诉困难、透明度不足的批评。
- 效率优先的自动化系统往往难以处理复杂、个体化的医疗案例;
- 黑箱算法让被拒者难以理解原因,更难以有效申诉;
- 成本压力下,拒赔率可能被当作“绩效指标”,进一步扭曲系统目标。
更大的隐忧
如果 AI 拒赔成为常态,受影响的将不仅是当下的老年人。它可能为其他公共医疗和福利项目树立一个危险的先例:用算法把行政裁量权外包给以利润为导向的供应商,同时削弱公众对制度公平性的信任。
目前,关于该实验的具体范围、涉及的供应商以及受影响人数,公开信息仍然有限。但“有动机尽可能拒绝索赔”这一描述,已经足以说明问题所在——当技术被用来最大化拒批而非最大化照护,再先进的 AI 也只会放大制度本身的缺陷。
这场实验的最终代价,可能由最无力承担的人来支付。
