成千上万的 OpenAI 凭证在暗网上待售

安全
据悉,技术不熟练和经验丰富的网络犯罪分子都可以使用这些工具,创建更具诱惑力的钓鱼电子邮件(电子邮件可以为目标专门定制),以增加网络攻击成功的机会。

人工智能技术“出圈”后,越来越多网络攻击者对生成人工智能工具表现出极大“兴趣”。从 Bleeping Computer 网站披露的信息来看,暗网市场目前有数十万个 OpenAI 证书待售。

据悉,技术不熟练和经验丰富的网络犯罪分子都可以使用这些工具,创建更具诱惑力的钓鱼电子邮件(电子邮件可以为目标专门定制),以增加网络攻击成功的机会。

黑客大面积入侵 GPT AI

Flare 的安全研究人员在分析暗网论坛和市场时注意到,OpenAI 证书是最新待售的商品之一, 目前可以确定了约有 20 多万个 OpenAI 证书以窃取日志的形式在暗网上出售。 虽然这一数字与 OpenAI 1 月份 1 亿活跃用户相比,似乎微不足道,但也能说明网络攻击者“看到”了生成式人工智能工具蕴藏的破坏力。

2023 年 6 月,网络安全公司 Group IB 在一份报告中指出超过101100个被泄露的 OpenAI ChatGPT 账户凭证在非法的暗网市场上待售。 可见许多网络犯罪分子都盯上了人工智能,甚至有一网络攻击者还开发了一个名为 WormGPT 的盗版 ChatGPT,并对其进行了针对恶意软件的数据训练, 该工具也被被宣传为“黑帽的最佳 GPT 替代品”。

1689832963_64b8ce034a71d1eecf7e5.png!small?16898329646041689832963_64b8ce034a71d1eecf7e5.png!small?1689832964604

网络犯罪论坛上推广 WormGPT 工具

WormGPT 主要依赖 2021 年推出的 GPT-J 开源大型语言模型,以此来生成类人文本,其开发人员表示在不同的数据集上训练了该工具,重点是恶意软件相关数据,但没有提供有关具体数据集的提示。

WormGPT 显示了 BEC 攻击的潜力

电子邮件安全提供商 SlashNext 访问了 WormGPT,并进行了一些测试以确定其潜在危险。研究人员指出在一项实验中,指示 WormGPT 生成一封电子邮件,旨在向毫无戒心的客户经理施压,迫使其支付欺诈发票。 结果,WormGPT 生成的电子邮件不仅极具说服力,而且在战略上非常狡猾,完美展示了其在复杂的网络钓鱼和 BEC 攻击中的潜力。

1689833297_64b8cf51224dc7d2b0ad2.png!small1689833297_64b8cf51224dc7d2b0ad2.png!small

WormGPT 为 BEC 攻击生成的内容 来源:SlashNext

通过分析生成的信息,SlashNext 的研究人员发现了生成式人工智能工具 WormGPT 除了能够生成 "无懈可击的语法 "的信息外,还能够使技术水平较低的攻击者实施超出其水平的攻击。

最后,研究人员指出尽管抵御这种威胁可能比较困难,但是并非不能防御。企业可以通过培训员工如何验证要求紧急关注的邮件(尤其是含有金融内容的邮件)、改进电子邮件验证流程,或标记出通常与 BEC 攻击相关的关键字。

责任编辑:赵宁宁 来源: FreeBuf.COM
相关推荐

2016-11-02 13:51:02

大数据工具

2018-09-17 13:52:39

UCloudUGC

2018-09-17 14:02:28

UCloudGUC

2023-05-29 14:28:46

数据安全自动驾驶

2018-09-17 14:06:46

UCloudUGC

2021-10-25 09:21:40

黑客攻击Tesco

2022-12-13 15:28:59

2016-09-12 09:43:44

量贩开发价值观软件开发

2013-03-08 10:23:00

网页设计CSS

2021-01-28 10:00:37

网络威胁新冠疫情恶意攻击

2015-11-17 10:37:14

容器在线扩容集群管理

2018-05-05 08:06:00

2022-05-19 23:45:34

Python开发

2019-11-25 13:26:49

物联网电池智能功耗

2011-11-03 11:42:42

虚拟化vmwareVMware View

2009-05-06 11:22:45

银行信用卡构架

2010-03-17 10:31:28

网络工程师

2018-12-27 08:17:48

物联网初创公司IOT

2020-04-29 09:30:48

数据科学GitHub存储库

2022-02-23 10:43:09

Windows 11PC 电脑Appstore
点赞
收藏

51CTO技术栈公众号