ChatGPT和生成式人工智能(AI)的兴起无疑增加了安全团队的负担。只需写一个简短的提示，想成为黑客的人就能在几秒钟内生成一个钓鱼电子邮件模板，然后将其发送给无数毫无戒心的用户，坐等用户错误地点击恶意链接或附件。
电子邮件安全提供商SlashNext打算以人工智能对抗人工智能。BEC(商业电子邮件泄露)生成式AI是其正在申请专利的新解决方案，旨在帮助识别和阻止由ChatGPT和其他AI模型生成的诈骗消息。
BEC生成式AI使用AI数据增强和克隆技术自动生成数千个潜在的商业电子邮件泄露(BEC)威胁。SlashNext现有的人工智能解决方案通过自然语言处理分析这些数据，学习如何更好地检测恶意电子邮件。
虽然SlashNext声称该解决方案是业界第一个使用生成式AI来阻止BEC攻击的解决方案，但更广泛地说，该发布演示了生成式AI如何在数据安全领域发挥积极作用——在该场景中，这主要是通过增强对钓鱼电子邮件和社交工程骗局的检测来实现的。
人工智能如何彻底改变网络钓鱼
在去年11月ChatGPT发布后，网络钓鱼骗局开始呈上升趋势，Vade在2022年第四季度发现了2.783亿封独特的网络钓鱼邮件，而2022年第三季度该数字仅为7440万封。
这些攻击非常受攻击者的欢迎，因为它们很容易获得高回报。例如，恶意行为者可以创建一个虚假的Office 365登录表单，向毫无戒心的用户发送钓鱼电子邮件模板，并在他们试图登录时获取其帐户的详细信息。
对于最终用户和安全团队来说，审查每封电子邮件并确定内容是否合法通常十分耗时。事实上，研究发现70%的企业要花16-60分钟来处理一封钓鱼邮件。
如果用户不堪疲劳轰炸，无意中触发骗局可能会导致数百万美元的数据泄露。随着生成式人工智能的使用不断增加，员工面临的威胁数量只会进一步增加。
SlashNext公司的首席执行官帕特里克·哈尔(Patrick Harr)指出，“威胁行为者已经在使用生成式人工智能来自动化数千条量身定制的网络钓鱼信息，同时，它可以创造数以千计的信息变体，以进一步提高攻击的成功率。像GPT-3这样的大型语言模型通常也是免费的，恶意行为者可以很快地利用任何新工具来增加攻击量，同时减少所涉及的时间、精力和成本。这对威胁行为者来说是有利的，安全界必须准备好以人工智能对抗人工智能。”
虽然生成式人工智能诱发的骗局增加带来了新的挑战，但企业可以使用人工智能来自动化和升级自身的安全操作，确保自身已经准备好快速检测人工智能生成的恶意内容。
电子邮件安全市场
SlashNext的解决方案属于基于云的电子邮件安全市场，魔多情报公司(Mordor Intelligence)在2020年对该市场的估值为7.682亿美元，预计到2026年将达到12.4699亿美元。
SlashNext的主要竞争对手之一是Abnormal Security，这是一家人工智能驱动的电子邮件安全提供商，提供了一个使用人工智能评估传入问题的平台，并将其与用户的基线活动进行比较，然后，该平台可以识别表明BEC企图和网络钓鱼诈骗的异常通信，自动修复恶意电子邮件，而无需人类用户的参与。
去年，Abnormal Security的估值达到了40亿美元。
另一个竞争对手是云电子邮件安全提供商Avanan，该公司提供了一种基于API的解决方案，具有自然语言处理和图像识别功能，据称可以识别出99.2%的钓鱼电子邮件。Check Point于2021年以约3亿美元收购了Avanan。
Harr认为SlashNext与其竞争对手之间的关键区别在于其零时(zero-hour )威胁检测的准确性。他介绍称，“SlashNext是唯一一家将自然语言处理、计算机视觉、机器学习、深度上下文化和关系图、文件附件检查和发送者模拟分析结合到一个解决方案中的公司，可以实现行业中最好、最准确的零时威胁检测。”
