随着AI技术的发展，网络犯罪分子创造出更加个性化和具有说服力的诈骗手段。这包括模仿声音、深度伪造视频以及难以察觉的高度逼真网络钓鱼邮件。
网络钓鱼、深度伪造和语音克隆是网络犯罪分子最常用的AI驱动技术之一。
网络钓鱼：Ivanti的研究显示，攻击者利用GenAI大规模且低成本地制作可信内容，使网络钓鱼攻击更加有效。他们认为，随着网络犯罪分子根据公开领域的数据进一步个性化他们的网络钓鱼信息，这一威胁向量将变得更加强大。
深度伪造：研究人员预测，网络犯罪分子将在未来的网络攻击中越来越多地使用视频和音频深度伪造。深度伪造已不再局限于公众人物和名人，企业领导团队现在也成为主要目标。
语音克隆：随着AI工具的日益普及，操纵朋友、家人和其他受信任人士的声音变得更加简单。根据McAfee的调查，诈骗者正在使用AI技术克隆声音，发送欺诈语音邮件或冒充受害者联系人拨打电话，同时假装处于困境。
如何识别AI生成的诈骗信息
识别AI生成的诈骗信息已成为一项非常困难的任务，但有一些关键指标可以帮助你发现它们。
语言：AI生成的信息往往缺乏真正的个人语气。注意以下方面：
• 过于正式或机械化的语言。
• 缺少你认识的人通常会包含的个人细节。
• 与某人通常与你交流的方式存在不一致。
视觉和音频指标：AI生成的图像和视频可能看起来很逼真，但往往存在细微瑕疵：
• 不自然的眼球运动、过于光滑的皮肤或面部特征错位。
• 照明不一致或背景看起来不对劲。
• AI在处理手势时很吃力，因此请密切关注视频中手部的移动方式或照片中手部的呈现方式。
语音克隆和可疑电话：AI驱动的语音克隆技术可以准确地模仿声音。如果你收到听起来不对劲的语音信息或电话，以下是一些需要注意的潜在迹象：
• 语速异常：声音可能太快或太慢，缺乏自然停顿。
• 缺乏情感：AI声音可能听起来平淡无奇或缺乏真实情感。
• 声音特征不一致：AI可能会忽略一些小细节，如口音或某人通常的说话方式。
防范AI生成诈骗信息的提示
无论是电子邮件、电话还是社交媒体消息，对于任何未经请求的联系方式都要保持谨慎。如果它很紧急或提供了一些好得令人难以置信的东西，请自行核实。
了解AI诈骗的最新趋势，如深度伪造视频和语音克隆。了解风险可以让你更容易发现可疑活动。
在所有重要帐户上使用多因素身份验证(MFA)，以增加一层保护。即使诈骗者利用AI生成的内容欺骗了你，MFA也能确保他们在没有第二步验证的情况下不会轻易获得访问权限。
使用AI检测工具来识别AI生成的内容，无论是文本、图像还是视频。这些工具可以帮助你在网上发现可疑材料。
对于任何紧急请求(金钱、敏感信息等)，请通过经过验证的电话号码或电子邮件直接联系相关人员。不要回复或点击来自未经请求消息中的链接。
GenAI使网络犯罪分子更容易创建令人信服的深度伪造、网络钓鱼活动和投资诈骗，从而提高了他们的效率，但好消息是，对手对GenAI的使用尚未达到宣传的程度。通过迅速采取行动，组织和机构可以实施防御措施来减轻大多数AI驱动的攻击。
