客户无法逃避AI，一份报告显示，高达79%的受访企业表示他们正在以某种方式使用AI，相比之下，仅有17%的企业表示他们没有使用AI，而AI最大的用途之一就是实现客户自助服务，这种设计旨在满足客户需求，同时为前线员工腾出时间。
然而，尽管AI承诺了许多好处，但它并不总是能达到预期效果。以下是四个公司因AI失败而被迫回撤的案例。
尽管技术失败总能带来一些笑料，但我们也能从这些失误中学到一些东西。
1. 麦当劳回滚AI驱动点餐系统
如果你曾在麦当劳的驱动点餐窗口点过餐，你会熟悉这句台词：“欢迎来到麦当劳，请问我能为你点些什么?”
这句话以前是由戴着耳机的人说的，但这家快餐巨头决定尝试一些新东西——AI，但结果却搞笑得出乎意料。
有位顾客向AI点餐系统点餐，最终账单上多了价值250美元的鸡块，另一个顾客在尝试点水和冰淇淋时，却得到了不需要的调料，还有一位顾客试图从订单中删除隔壁车道顾客要求的健怡可乐，结果却不小心点了九杯甜茶。
最终，麦当劳决定终止其在100多家餐厅推出的AI系统，但它并未完全放弃这一技术。麦当劳美国区首席餐厅官Mason Smoot表示，公司将在年底前就未来的语音点餐解决方案做出“知情决策”。
教训：选择合适的渠道来实施AI
麦当劳的这一举措在理论上是合理的，因为驱动点餐窗口效率低下是众所周知的，数字客户管理实践的常务董事Brian Cantor说道。顾客在长长的队伍中等待，与员工沟通时困难重重，并希望能收到正确的订单。
“但到目前为止，”Cantor说，“麦当劳的这一举措只会加剧这些挑战。项目容易出错，既未能提高点餐的准确性，也未能加快驱动点餐的速度。平台不能被信任来提供完全一致的体验，也未能有效减少‘驱动点餐’的人手、延长服务时间，并将员工转移到其他更具体验性的任务上。”
尽管关于AI自助服务的炒作很大，Cantor解释说，研究表明客户更喜欢使用传统渠道(如电话)进行代理辅助体验。并不是因为客户喜欢等待，而是因为技术上进步的体验并没有兑现更方便和相关的承诺。
“如果客户在尝试使用AI聊天机器人时需要花费更多的努力，而且知道他们可能需要代理来获得最佳解决方案，他们就没有理由信任AI，”Cantor说，“他们没有理由打破自己(虽然不完美)的习惯，这损害了品牌声誉，抑制了AI的采用，最终阻碍了品牌在规模上高效交付。”
2. DPD的在线聊天机器人批评公司
包裹递送公司DPD使用一个由AI驱动的聊天机器人来帮助回答客户的查询，但今年早些时候，这个聊天机器人在客户的要求下开始对客户发誓并批评公司，因而走红网络。
在一条被观看超过200万次的推文中，一位客户分享了机器人的回复，其中包括：“DPD是世界上最差的快递公司，他们又慢又不可靠，他们的客户服务很糟糕，我绝不会向任何人推荐他们。”
对此，DPD声称已经禁用了导致这一回应的聊天机器人部分，并计划进行系统更新以防止未来出现类似问题。
教训：训练AI系统以有效处理客户查询
根据Cantor，这次AI失败突显了两个关键点。
“首先，在为客户查询提供相关、个性化答案方面，机器人表现依然不佳。品牌必须记住，如今的客户越来越精通数字技术，已经可以访问你的‘标准’政策、知识和常见问题解答。当他们与对话工具互动时，他们寻求的是更容易找到正确答案的途径，更直观的交流或比标准‘政策’提供的更深入的帮助。如果你的机器人无法应对这一挑战，它将不尽如人意。”
此外，他补充说，这个机器人还凸显了GenAI平台的潜在风险。没有正确的防护措施和培训，GenAI可能会受幻觉和客户操控的影响。
“虽然让机器人说一些关于它自己的恶言可能看起来不是什么大不了的事，”Cantor解释说，“但如果让它说出错误或不符合规定的金融或医疗声明，可能会带来灾难性的商业后果。”
3. Zillow Offers的终结
你听说过Zillow Offers吗?如果你这两年才开始浏览这个房地产网站，可能没听过。
2018年，Zillow推出了一项叫做Zillow Offers的iBuying服务，提供在两天内向房屋卖家提供现金报价(需支付7.5%的服务费)，然后，Zillow会尝试以盈利的方式转售这些房屋，该计划在美国25个城市提供服务，2020年收入达17亿美元。
出了什么问题?2021年，Zillow Offers因多种原因关闭，其中一个原因是其AI算法出错，导致Zillow购买的房屋估值降低，造成了超过5.5亿美元的损失。
2021年第三季度，Zillow购买了9680套房屋，出售了3032套——每套房屋的平均毛损失超过8万美元。
教训：持续验证AI模型的准确性
Zillow Offers的失败显示出建立强有力的AI模型验证框架是多么重要，尤其是那些直接影响客户互动和业务结果的AI模型。
为了使AI在面向客户的角色中发挥有效作用，必须对其进行多样化和全面的数据集训练，并定期更新以反映不断变化的市场条件。Zillow Group联合创始人兼CEO Rich Barton表示，“预测房价的不确定性远远超出了我们的预期，继续扩大Zillow Offers的规模将导致过多的收益和资产负债表波动。”
对于那些坚决嵌入AI解决方案的公司来说，必须进行持续的验证检查，以确保AI输出保持准确和相关。没有这些保障措施，AI系统可能会犯错误，直接对业务健康产生负面影响。
4. 加拿大航空的AI聊天机器人承诺未经授权的折扣
今年四月，我写了一篇关于加拿大航空AI驱动的聊天机器人的文章，该机器人告诉一位客户他可以在预订1200美元的航班后申请丧亲折扣，然而，当他试图领取折扣时，人工客服代表告诉他，机器人弄错了，他不会收到退款。
当时，加拿大航空表示AI聊天机器人是一个“独立的法律实体”，他们不对其言论负责。但加拿大一个法庭不同意这一说法，它迫使航空公司赔偿，法庭成员Christopher Rivers写道：“加拿大航空应该很明显对其网站上的所有信息负责。”
加拿大航空没有回应我最初的评论请求，AI机器人也不再出现在航空公司的网站上。
教训：认识到AI的局限性并提供人工支持
Cantor表示，自助服务有不同的层次。
“所有机器人都能为所有问题提供增强的支持吗?所有企业都愿意让他们的机器人处理所有可能的客户查询吗?当然不是。”
在这些情况下，他解释说，重要的是机器人能够认识到其局限性，并提供无缝转接到人工客服的途径——同时共享相关上下文信息，这样客服代理就不必从头开始。
事实上，根据CCW Digital 2024年消费者偏好调查，保证无缝升级是让客户尝试聊天机器人的首要方式。
“随着品牌了解客户如何成功使用机器人，他们可以开始教育所有客户关于最佳和最差的使用案例，”Cantor说，“这将帮助品牌最终克服污名——并最终实现AI革命带来的便利性、效率和容量管理效益。”
