我们对人工智能的期望是否过高?公司及其高管也应该在多大程度上依赖人工智能提供的产出?
这是12月初在纽约举行的人工智能峰会上举办的一个小组讨论的主题，该小组重点关注人工智能在金融服务领域新兴角色的风险，但讨论对所有行业都有广泛的影响。(我有机会共同主持会议，并主持小组讨论。
"我们认为人工智能正在告诉我们一些东西，但事实并非如此，"Aible首席技术官Rod Butters警告说。"这只是一堆代码。它不知道。这是我们所有人都陷入的幻想。不知何故，我们认为该模型已经体现了某些东西。现实情况是，人工智能只是一个统计引擎，在很多情况下，它是一个糟糕的统计引擎。
如今，有了人工智能，"人工智能是人造概念中最大的系统性风险，"Agentic Group的创始人兼董事总经理、世界伦理数据基金会(World Ethical Data Foundation)顾问委员会成员Rik Willard说。"这一切都是人类完成的。这一切都由人类表现出来。当我们研究风险与回报时，它只与金融机构以及这些机构周围的监管框架一样好。我们是支持我们在技术之前建立的相同的人类和经济算法，还是我们正在努力使这些算法更好，更具包容性?"
此外，人工智能仍然是一项相对不成熟的技术，AntWorks全球金融服务副总裁Drew Scarano说。"十年前，我们甚至没有谈论人工智能，但今天，这是一个价值数十亿美元的行业，"他说。斯卡拉诺说。"我们可能过于依赖这项技术，忘记了循环中的人类，以及他们如何在补充人工智能方面发挥不可或缺的作用，以获得预期的结果。
另一个挑战是人工智能系统倾向于在相对孤立的情况下构建。巴特斯警告说，人工智能只是代码，构建这些系统的人对其对业务的价值的看法可能有限。"当我们告诉数据科学家出去创建一个模型时，我们要求他们成为一个读心者和算命先生，"他说。"这是两个糟糕的工作集，它不起作用。数据科学家试图做正确的事情，创建一个负责任和可靠的模型，但基于什么?最终，当他们建立一个模型时，除非他们有这种组合来创造透明度，创造可扩展性，实际上在战略和战术上将其传达给业务群体，谁负责?仅仅创建一个伟大的模型并不一定能解决所有问题。
Scarano说，在构建数据模型的过程中，数据科学家需要了解企业的目标，同时考虑到对人类的影响。"你可以让工程师建造一座伟大的桥梁。因此，如果它没有超越它的意图，它只是一座伟大的桥梁，对吧?我担心商界人士，尤其是金融服务业人士。只会继续过分依赖技术。我们需要一种与人类共存的整体方法。
Scarano敦促，超越人工智能的技术和统计数据，专注于最终为客户提供服务的产品。"这是关于我们如何用人工智能来补充人类来推动业务，并在一天结束时推动客户现实，客户成功和客户满意度。
小组成员一致认为，人工智能为业务目标服务的道路依赖于建立指导其发展的一致框架。"我在一个快速失败的环境中长大，"威拉德说。"你构建代码，测试，并修复损坏的东西。你在旅途中修复它。你构建它，它有点工作，你让它松动，然后你根据反馈循环的输入随着时间的推移对其进行改进。然而，对于人工智能，问题在于我们把它放在一个判断的位置。就像在刑事司法系统中一样，在你做对之前，它会造成很多伤害。在银行系统中，它是贷款，没有贷款;分数，没有分数;或信用，没有信用。我们如何构建测试框架和沙盒，使其具有大规模启动所需的准确性，同时在此过程中造成更少的伤害?"
人工智能在整个金融服务行业被用于许多目的，但风险在于帮助建立该行业的人际品质的非人性化。"今天，我们可以将人工智能用于任何事情，从批准信用卡到批准抵押贷款，再到批准任何类型的贷款工具，"Scarano说。"但是，如果没有人为干预，就无法理解一个人比信用评分更重要，一个人比获得抵押贷款的批准或拒绝更多。
客户体验是金融服务的基础，这需要成为所有人工智能计划的前沿和中心。在人工智能驱动的系统中，需要有反馈循环，这些系统结合了人类的输入。"当我们实施基于AI的解决方案时，我们需要确保使用产品的最终用户，客户也对这种投资和解决方案感到满意，"Run：AI的解决方案架构师Robert Magno说。"让机器人在仓库中自动移动包裹是非常有意义的。但从客户服务的角度来看，如果一个与聊天机器人互动的人感到沮丧，就需要有一个反馈循环，以确保你正在实施的解决方案能与你的客户产生共鸣，他们享受这种体验，就像你喜欢创造体验一样。
