这些内容并不全是“深度伪造”(deepfake)，后者特指设计得极具误导性的内容。
近年来，我们看到深度伪造被用于操纵选举、实施欺诈和盗窃，以及未经他人同意制作色情图片。
随着AI工具变得更加强大和易获取，这些问题只可能会愈演愈烈。例如，埃隆·马斯克的AI公司xAI开发的Grok 3，现在对所有X(Twitter)用户免费开放，可用来制作逼真的真人深度伪造内容。
有很多工具可以用来防范深度伪造带来的欺骗或滥用。基于AI的检测工具能以不同程度的成功率检测内容是否经过数字生成或篡改。多因素身份验证和其他数字身份验证工具也可以防范社会工程学攻击。
但深度伪造技术发展迅速，日新月异，这些措施还远远不够，因此，如果你想采取措施保护自己，那么教育、批判性思维和意识的培养同样重要，甚至更加重要。
批判性思维和意识
技术可以帮助我们防范深度伪造，但它不是万能的，也不是百分之百可靠的。
这就是为什么我认为，防范AI生成的虚假信息带来的危害，最好的防御手段是人的能力——情境意识和批判性思维。
企业今天就需要开始培训员工，让他们能够批判性地评估内容和信息。而作为个人，我们应该了解那些居心叵测之人会如何以及为何试图影响我们的想法和选择——包括我们的民主选择。
深度伪造带来了一些独特的挑战，需要一些特定的技能来应对：
事实核查和验证是两种显而易见的能力——如今，核实我们的信息来源，确定信息的真正来源比以往任何时候都更为重要。Facebook开发了一些功能，当用户看到的信息可能具有欺骗性时会发出警告，比如信息来自似乎试图隐藏其身份的来源。
不过，Facebook也因取消事实核查功能而受到批评，此举可谓一种倒退。
情境意识通常就像问“这合理吗?”一样简单。
了解背景和情境可能帮助许多人在2022年意识到这段关于弗拉基米尔·泽连斯基(Volodymyr Zelensky)向俄罗斯投降的视频并非真实。
那家工程公司Arup的员工，被骗子用伪造的老板声音骗走了2500万美元，如果他多留心这个要求的异常之处，可能会更有防备。
批判性思维技能帮助我们了解信息来自何处，以及他们为何要把信息给我们。虚假信息内容通常会以极端的方式利用情绪，制造恐惧、愤怒或兴奋。幸运的是，我们可以被训练成能够察觉自己何时被以这种方式操纵。
因此，我们在消费任何内容时，应该学会考虑三件事：
它是在试图影响我吗?
它真的可能发生吗?
我能相信告诉我信息的人吗?
强调用这种批判性思维的方法思考内容的重要性，对保护我们免受深度伪造影响至关重要。
适应后真相世界
深度伪造技术只会变得更加复杂。我们很可能会到达一个连最好的检测工具都无法总是识别出伪造视频、图像或音频的地步。
我在这里提到的防御机制——批判性思维、意识和推理——可能在更长的时间内依然有效。
监管会保护我们吗?一些国家的政府已经出台了关于深度伪造的法规，然而，不幸的是，犯罪分子并不总是守法。
因此，各企业现在就需要做出反应，确保每个人都了解在采取行动之前核实和批判性评估信息的程序和政策。
对于个人而言，意识到AI虚假信息的危害，无论是试图影响我们投票给谁，还是我们给谁捐款，都应该成为我们的第二天性。
这应该会帮助我们在一个未来保持正确的方向，在那个时候，我们可能无法确定自己亲眼所见是否值得信赖。
