过度依赖GenAI开发软件会危及安全

安全
Legit Security指出,GenAI正迅速改变软件开发流程,通过自动化复杂任务提升效率和生产力。然而,随着GenAI在软件开发中的广泛应用,安全问题和风险也随之而来。

根据Legit Security的说法,GenAI正在迅速改变软件开发流程,它自动化了那些曾经需要开发人员花费数小时乃至数天才能完成的任务,从而提高了效率和生产力。

Legit的首席技术官Liav Caspi表示:“随着GenAI改变软件开发,并日益嵌入开发生命周期中,开发者和安全团队之间存在一些真正的安全问题担忧。我们的研究发现,团队在平衡GenAI的创新和它所带来的风险方面面临挑战,因为这些风险会使他们的应用程序和软件供应链暴露于新的漏洞之中。虽然GenAI无疑是软件开发的未来,但企业必须留意其带来的新风险,并确保他们对其使用有足够的可见性和控制力。”

GenAI在软件开发中的使用增加

88%的开发人员报告称在其开发企业中使用GenAI,这反映了开发团队如何利用AI增强自身能力以应对紧张工期和复杂项目需求方面的广泛转变。尽管采用率很高,但安全仍然是一个关键问题。例如,Legit之前的研究显示,大型语言模型(LLM)和AI模型包含错误和漏洞,可能导致AI供应链攻击。

96%的安全和软件开发专业人员表示,他们的公司使用基于GenAI的解决方案来构建或交付应用程序。在这些受访者中,79%表示其全部或大多数开发团队经常使用GenAI。

84%的安全专业人员对使用代码助手表示担忧,并指出未知和/或恶意代码是他们的主要担忧。

98%的人认为安全团队需要更好地掌握GenAI解决方案在开发中的使用情况。94%的人表示,他们需要更有效的方法来管理公司在研究和开发工作中对GenAI的使用。85%的开发人员和75%的安全人员对过度依赖GenAI解决方案来开发软件表示担忧。

开发人员担心AI对批判性思维的影响

相比安全专业人员(3%),更多开发人员(8%)报告称担心在开发中使用AI会导致批判性思维丧失。95%的受访者预测,在未来五年内,软件开发人员将更加依赖GenAI,没有人预见依赖程度会降低。

关于GenAI如何与开发人员协同工作,56%的受访者认为未来GenAI将在人类监督下处理大多数任务,29%的人相信人类与AI将协作工作,15%的人预测GenAI最终将取代开发人员。只有1%的人认为GenAI作为一种工具将会消失。

安全专业人员和开发人员之间的观点存在显著差异。61%的安全专业人员认为GenAI将在人类监督下完成大部分工作,而持此观点的开发人员比例为51%。

另一方面,36%的开发人员认为GenAI与开发人员将密切协作,而持此观点的安全专业人员比例为23%。

责任编辑:庞桂玉 来源: 企业网D1Net
相关推荐

2011-09-01 09:07:30

程序员

2012-07-04 15:05:14

ibmdw

2011-07-25 18:40:43

iPad iPad开发 界面

2022-11-06 15:42:16

软件开发KPI团队

2021-03-31 08:00:00

开发工具游戏

2009-08-14 15:10:47

C# Windows服

2016-12-30 13:52:29

2010-03-04 17:59:38

2017-01-17 16:39:50

2010-09-10 09:05:03

XNAWindows Pho

2011-06-22 14:11:47

Flash

2011-06-09 13:45:26

惠普甲骨文安腾

2012-05-22 22:53:54

ipad

2011-03-08 13:05:40

编程语言Java

2013-05-22 10:14:17

开发者软件开发自闭症患者

2018-06-08 09:00:00

开发软件程序员

2012-12-11 16:27:00

软件项目

2022-02-12 00:05:53

开发软件硬件

2024-02-23 11:13:35

2020-01-13 12:44:47

程序员软件数据库
点赞
收藏

51CTO技术栈公众号