AI是企业的朋友还是敌人?集成GenAI的挑战与机遇

人工智能
尽管90%的IT专业人士希望在其组织中实施生成性人工智能(genAI),但超过一半的人对集成、安全和隐私问题表示担忧。

SolarWinds公司最新发布的2024年IT趋势报告《AI:朋友还是敌人?》显示,尽管90%的IT专业人士希望在其组织中实施生成性人工智能(genAI),但超过一半的人对集成、安全和隐私问题表示担忧。

在对大约7000名IT专业人士进行的在线调查中,SolarWinds公司发现,尽管几乎所有受访者都渴望采用genAI和其他基于AI的工具,但不到一半的受访者认为他们的基础设施能够适应这项新技术。只有43%的受访者表示他们相信公司的数据库能够满足AI增加的需求,而更少的人(38%)信任用于开发这项技术的数据或训练的质量。

报告指出,隐私和安全问题被认为是genAI集成的主要障碍,IT专业人士特别呼吁增加政府监管来解决安全(72%)和隐私(64%)问题。当被问及AI的挑战时,41%的受访者表示他们有过负面经历;其中,隐私问题(48%)和安全风险(43%)是最常被提及的。

超过一半的受访者还认为,政府监管应该在打击虚假信息方面发挥作用。报告中提到:“为了确保AI的成功和安全采用,IT专业人士认识到,组织必须制定关于道德、数据隐私和合规性的全面政策,这指向了道德考虑和对工作被取代的担忧,作为AI采用的其他重要障碍。”

SolarWinds报告还发现,超过三分之一的组织仍然缺乏指导适当genAI实施的道德、隐私和合规政策。SolarWinds的技术和工程高级副总裁Krishna Sai表示:“尽管AI的讨论在行业中占据了主导地位,但IT领导者和团队认识到,这项仍在发展中的技术存在巨大的风险,这些风险因急于快速而非智能地构建AI而加剧。”

事实上,领先的安全专家预测,黑客将越来越多地针对genAI系统,并尝试通过破坏数据或模型本身来“投毒”。今年早些时候,美国国家标准技术研究院(NIST)发表了一篇论文,警告说“投毒攻击非常强大,可以导致可用性违规或完整性违规。”

责任编辑:庞桂玉 来源: 极客网
相关推荐

2015-06-12 10:39:07

数据中心

2016-12-29 11:29:45

云计算

2021-09-16 15:59:07

无代码无代码技术

2023-07-18 15:04:51

2021-09-08 15:02:28

人工智能AIRFID

2024-05-30 12:07:07

2013-05-10 10:55:40

IDC

2024-10-21 17:04:16

2014-04-15 10:46:38

CIOCSO企业安全

2024-07-11 11:19:05

2015-07-15 10:11:31

SparkHadoop

2023-04-18 12:09:39

2012-03-29 09:22:21

云计算IT工作者

2009-08-10 10:14:50

思科钱伯斯

2024-07-10 16:46:17

2022-10-13 15:34:21

网络安全智能建筑智能社区

2014-12-25 14:28:47

大数据IDC

2023-05-24 15:15:55

2013-10-29 11:31:28

BAT互联网

2013-04-01 14:05:25

SDN汪军网络架构
点赞
收藏

51CTO技术栈公众号