影响GenAI有效性的关键问题

人工智能
似乎对于大多数业务功能来说,GenAI都有一个富有成效的角色,几乎都集中在正确的子功能上。鉴于在实验方面进行了巨大的投资,也许大多数企业能够发现GenAI在哪里对他们有效的最有效的方法是查看GenAI成功地从试点过渡到生产的用例。

在试图将GenAI应用到业务中时,企业遇到了很多阻力和令人惊讶的变革管理问题,他们可以让高层领导致力于此,但中层管理人员和行业人士抵制这种做法。可以理解的是,一些人抵制,因为他们可能会失业,或者不得不从根本上重新考虑如何做好自己的工作,但是,出现了相当大的阻力,因为企业在使用AI工具时,难以解决随机答案与确定性答案的问题。

AI的答案是概率性的

GenAI提供了一个概率答案,也就是说,它提供了最可能的答案或下一步,因此,当它撰写信件或书面工作时,它提供了最有可能的下一个单词、短语或想法,然而,最可能的答案与正确的答案是不同的。诚然,这通常是一个正确的答案,而且——由于可以获得大量的培训数据——它很有可能是一个好的答案,但这与正确的答案大相径庭。

使这一问题进一步复杂化的是对如何得出答案的审计跟踪的挑战,GenAI实现中面临的许多挑战来自于需要确定性答案的应用程序,并且需要充分解释答案是如何得出的。在需要或被认为需要答案是确定性的地方,企业和其中的人抵制这些应用,因为它们造成了对结果的有用性或可靠性的怀疑。

事实证明,即使提供AI作为助手,并要求人类成为答案的最终仲裁者,情况也是如此,缺乏解释和围绕援助的不确定性造成了不信任和阻力。

GenAI提供概率性答案的事实并不意味着它没有价值,有很多用例表明它是有价值的,然而,如果一家企业将这个答案应用到一个需要确定性答案的问题上,那么它似乎是在撒谎。

企业在寻求将GenAI应用于业务时会遇到挫折,因为当他们需要确定性答案时,他们最终会使用概率答案,因此,他们需要在概率开始的情况下进行机器学习(例如,它是一棵树,因为它有绿叶),然后需要进行测试,以确定是否存在影响答案有效性的问题(例如秋季)。

哪些领域适合AI的概率性模型?

企业应该如何将GenAI引入编程?科技行业做出了一些大胆的预测,即GenAI或AI可以学习编程,并显著提高程序员的熟练程度或效率生产力,这很有趣。

在编码领域,这一点立即生效,例如,测试测试脚本的开发本身就可以通过概率模型来处理,这里重要的是,一家企业可以针对许多条件进行测试,并尽可能广泛和深入地生成脚本。为代码和安全漏洞创建有效的测试本质上是一种概率性练习,因此,GenAI大放异彩,很容易被从业者采用。

另一方面,它不利于实际开发代码,一家企业希望代码100%都是正确的,这需要一个更具确定性的答案,然而,它在支持代码开发的知识管理方面表现突出,还可以创建出色的入门集,显著提高生产率。

GenAI的另一个很好的方面是合成或总结知识,因此,围绕知识管理的领域对于GenAI来说已经成熟。

例如,在客户关系管理功能中,Salesforce在其Einstein产品和其他旨在从客户需求信息中合成或汇总信息的产品方面取得了很大进展,让销售人员更有效地进行知识管理是GenAI的一个非常有效的用例。

市场营销是另一个概率答案很棒的领域,例如:下一步对该客户采取的最好措施可能是什么?在对客户数据进行分类以确定客户问题的最佳解决方案时,GenAI可以产生巨大的立竿见影的影响,在那里,它可能是一个强大的工具。

相反,在索赔处理等过程中,确定性的答案是必要的,例如:我们如何为这项医疗索赔获得合适的金额?这需要一个确定性的答案,在大多数情况下做对是不够的,这需要一直做对。

问以下问题是使用GenAI、减少挫折感和抵抗力的有效开端:

  • 我们可以在哪里立即有效地使用它?
  • 它需要在哪里与其他技术结合起来?
  • 我们不应该在哪里使用它?

人的因素呢?

虽然它是帮助解决问题的有用工具,但概率性答案是一个起点,然而,它通常不会把人类排除在链条之外,相反,它为人类配备了更复杂的工具,特别是当一家企业确定它需要得到确定性答案的时候。

如果一家企业使用AI工具来帮助企业数据和汇总数据,它可以减少阻力,这很有帮助,但在使用它来做决定时,人们可能会对决定感到不舒服,因为它们并不总是正确的,由于他们不确定AI工具是如何得到答案的,他们也不知道如何检查它。

摆脱这些困境的办法是什么?

解决方案是不仅更彻底地了解自动化或得到帮助的工作,而且还要更彻底地了解它如何影响其余的人工任务,并就下游工作或其他意想不到的其他后果提供指导和帮助。

这需要在何处应用该工具方面变得更加成熟,用户必须深思熟虑并充分考虑其影响,在评估产品的成熟度时,有必要考虑个人和企业以及意想不到的后果,这样他们就不会抵制和扼杀它。

需要这种思考过程的一些问题包括:

  • 不仅要考虑自动化的任务,还要考虑正在自动化的人的角色的影响。
  • 仔细考虑这样一个现实,即任何需要的生产率提高都将导致更少的人从事这项任务。你怎么会考虑到这一点呢?
  • 想一想如何测试这个工具,让人们可以信任它。颠覆性的新技术带来的不确定性越大,人们就越不愿信任它。
  • 在转向全面变革之前,思考如何试行AI工具,以展示其好处。

最后的一些想法

在对GenAI进行了一年的疯狂试验后,该行业成功地进行了数千次试点,然而,这些试点中的大多数都未能投入生产,因为他们受到资金、变革管理和适应方面的无数挑战的阻碍。

然而,在GenAI很适合的地方,它正在迅速进入生产领域,并产生了令人印象深刻的回报,这些生产用例的成功似乎更多地是由用例与GenAI的性质的契合性驱动的,而不是工具选择或其他因素。

此外,似乎对于大多数业务功能来说,GenAI都有一个富有成效的角色,几乎都集中在正确的子功能上。鉴于在实验方面进行了巨大的投资,也许大多数企业能够发现GenAI在哪里对他们有效的最有效的方法是查看GenAI成功地从试点过渡到生产的用例。在这种进展已经大量发生的地方,企业可以相信有一个很好的契合点,并大幅降低浪费努力和资金的风险。

责任编辑:姜华 来源: 企业网D1Net
相关推荐

2020-09-14 09:39:22

信号

2021-03-08 10:48:04

AI

2010-07-19 15:07:23

SQL Server评

2023-09-05 07:17:23

2022-09-28 08:18:01

I/ONIO2API

2009-02-12 09:35:00

2015-03-24 11:04:58

2023-07-03 09:49:49

2016-07-26 11:21:53

2024-07-09 07:54:26

2019-05-22 09:21:45

M2M物联网IOT

2020-09-01 10:38:49

混合云云计算

2009-03-19 09:51:00

2009-08-05 15:38:59

谷歌云计算问题

2020-05-13 13:09:21

微隔离网络攻击网络安全

2010-04-30 16:24:51

2021-10-11 09:30:21

零信任网络安全网络攻击

2020-04-14 10:22:50

零信任安全架构网络安全

2010-07-28 16:40:38

2021-09-07 06:40:26

状态机识别地址
点赞
收藏

51CTO技术栈公众号