AI幻觉正在削弱顾客对服务人员的信任
The Verge AI··作者 Gaby Del Valle
关键信息
这些案例是报道中的访谈和个案，并非定量研究，文章也没有确定此类事件在整个行业中的普遍程度。AI幻觉之所以危险，是因为生成式模型可能在没有可靠核实事实的情况下，用听起来很确定的方式生成错误信息，因此在涉及安全的场景中尤其需要人工确认。
资讯摘要
纽约市服务员麦迪逊说，她通常会主动询问每桌客人的过敏情况，但一些客人在说明自己对贝类过敏后，仍会点包含贝类高汤的菜。她提醒客人时，有人会反驳说ChatGPT表示菜里没有贝类，并把聊天机器人看得比餐厅员工更可信。麦迪逊还发现，越来越多顾客拒绝接受侍酒师的建议，转而要求直接询问ChatGPT。结果，顾客有时会要求餐厅提供并不在酒单上的葡萄酒，甚至是根本不存在的品牌，员工只能委婉地解释信息不匹配，而不直接说聊天机器人编造了产品。
文章称，类似问题正在客户服务岗位中普遍出现，电影院员工、咖啡师和Apple Store员工都遇到过顾客询问不存在的产品或功能。联邦土地上的河流护林员杰森说，游客会带着由AI生成的行程抵达公园，行程把营地安排在错误位置，甚至要求他们逆流划船，而这是不可能的；即使护林员指着地图解释，一些游客仍然表示怀疑。纽约课后项目教师凯西还说，家长、保姆和其他照护者开始向ChatGPT或Claude咨询儿童发展问题，其中一个家庭采用的睡眠安排似乎让孩子睡眠不足。
资讯正文
AI幻觉让自命不凡的顾客变得更加糟糕
Madison 是纽约市的一名服务员，她会在接待每一桌客人时询问每位用餐者是否有过敏症。最近，她遇到了几次险情。“有时客人会告诉我自己对贝类过敏，我回来之后，他们却完全不再询问任何问题，”Madison 说。她要求隐去姓氏，以保护自己的身份。“然后他们会点一道鱼料理，而那道菜配的汤汁是用贝类熬制的。”
当她告知客人某道菜含有过敏原时，客人还会反驳，说 ChatGPT 认为并不是这样。“他们就是想听 ChatGPT 的，”Madison 解释道。“你对贝类过敏，而 ChatGPT 说这里面没有贝类；可我们明明在告诉你，里面就是有！”
生成式 AI 工具的大规模普及，正在改写那句长期令餐饮和零售业员工头疼的老话：“顾客永远是对的。”但如果顾客希望你配合某些由 AI 凭空捏造出来的东西，又会怎样？
除了无视她关于过敏原的警告之外，Madison 还注意到，顾客对生成式 AI 的依赖越来越强。直到最近，她一直在一家获米其林推荐的意大利餐厅工作。“我不止一次建议说，‘我去请侍酒师来为您服务吧’，结果客人却说，‘不用，我直接问 ChatGPT 就好。’又或者，侍酒师会因为客人更愿意依赖 ChatGPT 而被请离餐桌。这种情况增加了很多，”她说。有些顾客会要求餐厅提供并不在售的酒瓶；有时，他们要的酒甚至根本不存在。
对 Madison 来说，这些 AI 幻觉加剧了部分人原本就存在的葡萄酒焦虑。“有些人一直对侍酒师抱有成见，觉得‘这些人就像二手车销售员，想方设法让我们在一瓶酒上花远超预算的钱’，”她说；“还有些人会自己胡思乱想，觉得‘侍酒师会认为我很蠢’。”为了“减轻 AI 幻觉带来的冲击”，Madison 和同事不会直接告诉顾客，他们的 AI 聊天机器人完全编造了一个葡萄酒品牌，而是会说：“我们的酒单非常具体，也许它给您推荐的是一款法国葡萄酒，但我们不供应法国葡萄酒。”
如今，AI 对客户服务工作的渗透似乎无处不在。Meta 推出新的 AI 代理 Muse 后，这个问题很可能会进一步恶化，也会让那些不得不应对顾客偶尔提出的荒谬要求的员工更加头疼。在报道这篇文章的过程中，我采访了电影院员工、咖啡师和 Apple Store 员工；他们都遇到过顾客询问并不存在的产品或功能。在 Reddit 和 X 上，客户服务人员也在抱怨，有些顾客把 ChatGPT 的话奉为圭臬。
Jason 是一名在美国西部山区联邦土地上工作的河流巡护员。他说，他注意到越来越多游客带着由 AI 生成的、毫无道理的行程安排来到公园。
AI 幻觉让自视甚高的顾客变得更加糟糕
“我和同事们已经解释过，AI 臆造出了并不存在的露营地，或者把行程安排得不符合地理顺序，结果有些日子整个团队得划船逆流而上（这是不可能的），而另一些日子则要顺流漂下去。”Jason 说。由于他是一名联邦雇员，并要求使用化名，他的身份未予公开。“最疯狂的是，即使护林员一边指着地图一边解释这一点，我们还是遇到过好几个团体对此持怀疑态度。某一类 AI 用户就是倾向于相信 ChatGPT，而不是护林员、地图和印刷版指南。”
Casey 是纽约一名课后项目教师，她也要求使用化名。她说，她注意到，如今许多学生的父母、保姆和其他照护者，开始转向 ChatGPT 或 Claude，询问儿童发展方面的问题。
“有一个家庭曾咨询 ChatGPT，请它为孩子制定就寝流程和睡眠时间表，但他们的孩子实际睡眠时间并不够。”Casey 说。根据孩子在项目中的表现，Casey 估计这个孩子每晚还需要多睡两到三个小时，并将这一点告诉了孩子的父母。“父母只是坚持说，他们的 ChatGPT 告诉他们，这样的安排没有问题。”
她说，如今有些父母把生成式 AI 工具视为专家，认为它们的知识超越了儿童照护专业人士。“和一个已经认定某件事的人交谈，可能真的非常困难，”Casey 说，“因为他们相信这个外部实体是不可或缺的。”她还注意到，这项技术也出现了更多平淡无奇的用途，比如孩子们带着 AI 生成的涂色纸来到项目中。
在餐饮服务行业工作了 15 年的 Lauren Wilford 也注意到，AI 最近开始渗入她与客人的互动。起初，AI 只是被用于菜单：有人会把菜单照片上传到 ChatGPT 或 Claude，让它推荐点什么，或者寻求葡萄酒搭配建议，而不是询问服务员。
但现在看来，一些顾客已经完全跳过了中间环节。过去一年里，Wilford 所在的餐厅不断接到电话和电子邮件，来电者或发件人是试图代表用户预订的代理。代理式 AI 的兴起，让这类互动变得更加令人困惑。
Wilford 曾感到意外：一位平时几乎不提要求的客户，在一场大型活动前夕突然变得十分苛刻，提出临时要求，要配备讲台和音视频设备——她负责管理的罗得岛州普罗维登斯餐厅当时都无法轻易提供这些设备——还在最后关头要求修改餐饮菜单。但第二天客户到场后，对这一切只字未提，这让 Wilford 更加错愕。尽管无法证明，Wilford 认为这些要求可能根本不是该公司任何人提出的；她怀疑那是 AI 代理所为。
“我理解人们使用 AI 代理的原因，”Wilford 说，尤其是在处理官僚事务和行政任务时。“但凡是两个人面对面交流、共同协商并解决问题本身具有价值的事情，我认为我们并没有充分意识到，如果试图跳过这一切，可能会失去什么。”
来源与参考
收录于 2026-10-03