AI可能带来的潜在风险是真实存在的，它们可能会扰乱运营，造成破坏和高昂的成本，然而，最大的风险莫过于在企业中不积极应用AI而导致的颠覆性风险。
让我们先仔细看看这些风险。
新的网络安全风险
AI为黑客提供了新的复杂工具，特别是随着新的开源AI技术的发展。我们看到越来越多的网络犯罪分子，尤其是外国恶意行为者，利用AI生成高效的网络钓鱼活动和网络攻击。自OpenAI在2022年11月发布ChatGPT以来，钓鱼邮件数量增加了1265%。
最大的挑战之一是深度伪造。黑客可以使用AI冒充任何人，包括CEO和决策者。比如，有一名香港的金融工作人员被深度伪造所欺骗，支付了2500万美元，这名工作人员收到了一封据称是首席财务官发来的邮件，要求释放资金，尽管有些怀疑，但当他加入了一个显示首席财务官及其同事的Zoom会议时，这名工作人员就不再怀疑了。实际上，这次Zoom会议上除了这名工作人员，其他人都是AI生成的深度伪造。
我们正在进入一场AI军备竞赛，我们需要AI驱动的解决方案来保护我们免受使用AI的黑客的攻击。确保你的安全供应商使用最新的AI技术，并让你的管理团队了解AI带来的潜在威胁。
AI对公司声誉的风险
如果AI没有正确实施和监控，会对公司的声誉造成风险。
以加拿大航空公司为例，由于AI驱动的客户服务出现故障，他们的声誉受到了损害。一位乘客因参加家人葬礼未能申请丧葬优惠票，事后向加拿大航空公司要求退还差价，AI驱动的聊天机器人回复说“没问题”，但问题是，加拿大航空公司的政策明确规定，折扣必须在旅行前申请。加拿大航空公司选择在法庭上争论此事，而不是提供乘客要求的小额折扣，结果损害了公司的声誉。
在部署AI工具时要小心，并勤奋监控它们的表现。更重要的是，在处理与AI相关的问题时，要考虑对声誉的影响。
AI可能带来的法律风险
像任何技术一样，AI也并不完美，而这些缺陷可能导致法律问题。
例如，金融科技公司Hello Digit原本应该帮助客户储蓄并保证不透支。由于AI算法出错，导致公司从客户的利息和透支费用中扣取了一部分，这也导致了消费者金融保护局(CFPB)对Hello Digit采取了行动，Hello Digit可能需要在法庭上为其AI解决方案进行辩护。
AI能够实现一些非常出色的功能，但仅仅因为AI可以做到并不意味着它是合法的。例如，Facebook(现为Meta)的AI面部识别技术可以识别照片中的人，这听起来完全无害——这是一张你和朋友拍的照片——但实际上违反了伊利诺伊州的生物识别隐私法，这个和解案使Facebook付出了6.5亿美元的代价。
AI可能带来的运营风险
使用AI的自动化运营流程需要管理监督和对人类行为的考虑。
2021年，Zillow的股价暴跌，主要原因是他们依赖于一个错误的AI算法来预测房价，Zillow根据这些预测购买房屋。AI可以成为预测分析的强大工具，但即使是AI也只能基于历史信息做出预测。诸如新冠疫情大流行这样的事件必然会扭曲预测分析，这对Zillow产生了不利影响。
任何运营变化也必须考虑到人类因素，人们必须接受新的AI流程。例如，UPS开发了ORION，一个AI驱动的平台，用于规划包裹和卡车的路线，但为了让Orion发挥作用，UPS必须说服员工适应新的系统。一开始，员工不喜欢适应，花了些时间让员工使用新的AI驱动程序，最终，Orion降低了燃料和维护成本，并使司机能够进行更多的投递，然而，ORION几乎失败，因为员工并不真正想要它。
颠覆风险
最大的风险是当你的竞争对手积极采用AI时，你却没有。
根据IBM的数据，42%的企业规模组织已经部署了AI，40%正在探索AI采用模式，其中59%加速了AI投资。
AI已经显著影响了销售和营销、产品开发、服务运营和供应链管理，未能利用AI创造竞争优势的公司面临落后的风险。
AI机会提供竞争优势
要利用AI获得最佳竞争优势，企业必须确定AI在哪些方面可以带来最大的回报。
麦肯锡的研究显示，GenAI的用例通常分为四个领域：客户关系、销售和营销、软件工程以及研究和开发。
以下是AI为企业带来的最有前景的机会领域：
销售和营销——AI通过增强客户互动来改进营销和增加销售。例如，凯捷使用一个AI平台来跟踪销售漏斗中的买家意图，将合格潜在客户的数量增加了五倍。星巴克使用AI分析客户数据，以定制优惠并应用动态定价，来提高客户忠诚度和平均订单价值。
产品开发——AI在预测客户需求和行为方面非常有价值，使其成为产品开发的理想工具。Stitch Fix 使用 AI 为客户策划个性化服装，分析偏好、时尚趋势、反馈和其他因素，以定制服装并影响库存决策。
服务运营——AI可以促进客户服务。例如，联合利华的AI系统将客户服务响应时间减少了90%。公司还使用AI进行预测分析，用于计划维护等应用。例如，GE航空公司将计划外停机时间减少了50%，并节省了10亿美元的维护成本。
供应链管理——正如UPS的例子所示，AI可以优化运输和物流。马士基使用AI进行实时货物跟踪，在出现延误时方便通知客户。巴西的Delly’s Food Service使用AI进行动态定价优化，通过管理不断变化的市场价格，将其毛利率提高了1.1%(在低利润业务中这是一个巨大的数额)。
任何希望在当今市场竞争的企业都将采用AI，但高层管理人员必须保持警惕。虽然AI存在需要管理的风险，但AI可以带来巨大的好处，使任何公司在与更大的竞争对手竞争中获得竞争优势。
