人工智能大模型再次曝出漏洞,Google 邮件 EmailGPT 扩展成为"受害者&quo...

人工智能 安全
对于一些将人工智能整合到业务流程中的公司,更应该要求人工智能模型供应商提供真正的安全证明,避免安全事件的发生。

Google Chrome 浏览器扩展 EmailGPT 曝出高危零日漏洞。

EmailGPT 是 Google Chrome 的流行扩展程序,通过使用 OpenAI 公开提供的人工智能模型,帮助其用户在 Gmail 服务上撰写电子邮件(用户向该服务提供原始数据和上下文,接收人工智能反馈的内容,以此撰写电子邮件)。然而,最近的一项研究发现,该服务存在一个高危安全漏洞。

据悉,安全漏洞由 Synopsys 网络安全研究中心的专家发现并上报,追踪为 CVE-2024-5184(CVSS 得分为 6.5),是一个 "提示注入 "类型的漏洞,允许威胁攻击者操纵服务并盗取敏感信息,可能引发知识产权泄露、拒绝服务和大额经济损失。

CVE-2024-5184 安全漏洞的存在,使得 EmailGPT 在使用 API 服务时,可能会允许威胁攻击者注入第三方提示并操纵服务逻辑,导致泄露系统提示或执行不需要的命令。例如,威胁攻击者可以创建一个嵌入不需要的功能的提示,从而进行数据”挖掘“、使用被入侵的账户发送垃圾邮件或者为邮件列表创建误导性内容。

Synopsys 方面表示,网络安全研究人员在公布 CVE-2024-5184 安全漏洞详细信息之前联系了 EmailGPT 的开发人员,但目前尚未收到任何回复。鉴于当下还没有办法缓解该安全漏洞,Synopsys 建议有关用户应立即从浏览器中删除 EmailGPT。

SlashNext 电子邮件安全公司首席执行官 Patrick Harr 强调,必须对人工智能模型进行严格管理并实施额外的安全措施,以防止安全漏洞及其后续利用。此外,对于一些将人工智能整合到业务流程中的公司,更应该要求人工智能模型供应商提供真正的安全证明,避免安全事件的发生。

参考文章:https://www.itsec.ru/news/rasshireniye-emailgpt-dlia-pochti-google-soderzhit-neispravlennuyu-0day-uyazvimost

责任编辑:赵宁宁 来源: FreeBuf
相关推荐

2023-09-06 06:48:49

2018-08-14 04:58:56

2020-01-07 07:49:55

钓鱼邮件邮件安全勒索软件

2021-06-26 07:22:41

勒索软件攻击数据泄露

2021-08-12 14:48:19

物联网智能建筑IoT

2023-12-04 12:02:05

2022-06-10 07:44:07

黑客网络攻击

2022-12-14 15:04:21

2021-08-06 10:01:53

勒索软件网络攻击数据泄露

2023-08-10 15:00:01

2018-12-21 14:49:23

2022-02-16 11:01:30

僵尸网络恶意软件FritzFrog

2020-12-02 10:06:17

勒索软件漏洞黑客

2023-11-21 16:31:58

2011-03-14 11:41:16

2022-11-14 15:06:16

2020-07-03 09:42:13

人工智能机器学习技术

2015-03-10 18:07:53

2021-09-02 18:20:44

勒索软件攻击数据泄露

2021-01-29 10:39:24

勒索软件网络攻击漏洞
点赞
收藏

51CTO技术栈公众号