AI幻觉正在让傲慢的顾客变得更糟
当生成式AI开始频繁“胡说八道”，餐厅和零售业的一线员工正面临一种新的困境：顾客拿着ChatGPT的答案来推翻专业人士的判断，甚至无视过敏警告。
从“顾客永远是对的”到“ChatGPT永远是对的”
“顾客永远是对的”这句老话，正在被生成式AI改写。据The Verge报道，纽约市一家米其林推荐意大利餐厅的服务员Madison（化名）最近经历了一系列令人不安的“险情”。她习惯在每桌客人落座时询问过敏情况，但如今，当有人告知海鲜过敏后，却会无视她的警告，点一道汤底含贝类的鱼料理。原因很简单：ChatGPT说这道菜不含过敏原。
“他们只想跟ChatGPT对话，”Madison说，“你对海鲜过敏，ChatGPT说这道菜里没有海鲜，而我们告诉你，有！”
这种冲突不仅限于过敏问题。Madison发现，顾客对生成式AI的依赖正在急剧增加。她多次建议“让我为您叫侍酒师”，却被拒绝：“不用，我问ChatGPT就行。”甚至有侍酒师被客人直接打发走，因为客人更信任AI的推荐。更荒诞的是，有顾客会点名要餐厅根本不卖、甚至根本不存在的酒款——这些显然是AI幻觉的产物。
当AI幻觉撞上专业壁垒
Madison的观察揭示了一个深层问题：AI幻觉并非简单地制造错误信息，而是与顾客原有的心理焦虑形成共振。
“有些人一直对侍酒师有抵触，觉得‘这些人就像二手车销售，想让我们花远超预算的钱买酒’，”她说，“也有人会胡思乱想，‘侍酒师肯定觉得我很蠢’。”
AI恰好为这些不安提供了一种看似中立、实则可能完全错误的“权威”背书。当ChatGPT给出一个不存在的酒名或错误的过敏原信息时，顾客往往将其视为客观真理，而把真正受过专业训练的服务人员当作推销员。
为了“缓和AI幻觉带来的冲击”，Madison和同事不得不采用话术迂回：“我们的酒单非常特殊，也许它给您显示的是某款法国酒……”这种委婉的纠正，折射出一线服务者在技术冲击下的无奈。
技术傲慢与人的代价
这一现象并非孤例。随着ChatGPT等工具在消费场景中普及，零售、餐饮、客服等行业的一线工作者正面临前所未有的挑战：他们不仅要完成本职工作，还要纠正顾客从AI那里获得的错误信息，同时避免冒犯“上帝”。
更令人担忧的是安全风险。在过敏问题上，AI幻觉可能直接危及生命。Madison提到的“险情”并非杞人忧天——如果顾客坚持相信ChatGPT而拒绝服务员的警告，后果可能不堪设想。
从更广的视角看，这反映了AI技术落地时的一个关键矛盾：当AI的权威被过度放大，人类专业判断的空间就会被挤压。而修复这种信任错位，需要的不仅是更准确的模型，还有对技术边界的清醒认知。
目前，OpenAI等公司尚未对此类场景作出专门回应。但可以确定的是，在AI幻觉彻底解决之前，“顾客永远是对的”或许会变成“ChatGPT永远是对的”——而这，对谁都不是好消息。
