深度伪造(Deepfake)不仅是社工钓鱼攻击、BEC商务邮件攻击的下一个“热点”，同时也对业务欺诈检测、生物特征身份认证等安全技术构成严重威胁，更是未来“毫秒级”数字化现代战争的重大隐患。
而对抗“深度伪造”最好的方法就是“深度检测”，用AI来检测恶意AI。
近日，陆军研究人员宣布开发出一种深度伪造检测方法，可以开发出先进的军用技术来帮助士兵快速检测和识别深度伪造相关威胁。
这项研究工作的目标是开发出轻量化的、低训练成本、高性能的面部生物特征识别技术，可以满足士兵在战斗中对随身设备的尺寸、重量和功率要求。
美国陆军作战能力发展指挥部(DEVCOM)、陆军研究实验室(ARL)与南加州大学教授c-c Jay Kuo的研究小组着手解决深度伪造对社会和国家安全构成的重大威胁。研究成果就是一个称为DefakeHop的创新技术解决方案。
深度检测：用DefakeHop检测Deepfake
ARL研究人员Suya You博士和Shuowen(Sean)Hu博士指出，深度伪造是人工智能合成的、超现实的视频内容，伪造某人的言行。大多数最新的深度伪造视频检测和媒体取证方法都是基于深度学习的，而深度学习在健壮性、可伸缩性和可移植性方面具有许多固有的弱点。
You博士表示：“由于生成神经网络的发展，AI驱动的深度伪造迅速地发展，以至于缺乏可靠的技术来检测和防御。”“我们迫切需要另辟蹊径，找到新的方法来理解深度伪造惊人性能背后的机制，并在坚实的理论支持下开发出有效的防御解决方案。”
通过将团队成员的经验与机器学习，信号分析和计算机视觉相结合，研究人员开发了一种创新的理论和数学框架——连续子空间学习(SSL)，这是一种创新的神经网络体系结构。研究人员指出，SSL是DefakeHop的关键创新。
Kuo指出：“SSL是从信号转换理论发展而来的用于神经网络架构的全新数学框架。”“它与传统方法完全不同，它提供了一种新的信号表示和过程，其中涉及级联的多个变换矩阵。它非常适合具有短、中和远程协方差结构的高维数据。SSL在其设计中就融合了这种特性。它是一个完整的数据驱动的无监督框架，为图像处理和理解诸如面部生物特征识别等任务提供了全新的工具。”
You指出，目前大多数用于深度伪造视频检测和媒体取证的最新技术都是基于深度学习机制的。
DefakeHop大幅领先业界先进水平
研究人员认为，DefakeHop的性能大幅领先目前业界最先进的技术，主要表现为以下四点：
- DefakeHop基于全新的SSL信号表示和转换理论。它在数学上是透明的，其内部模块和处理都是可以解释的。
- DefakeHop是一种弱监督的方法，它提供了一种通过(无需反向传播)的学习机制，从而节省了(数据)标注成本，并且大大降低了培训的复杂性。
- 生成的模型尺寸和参数要小得多。复杂度远低于最新技术，并且可以在战术边缘设备和平台上有效实现。
- 具有对抗攻击性的强大功能。基于深度学习的方法很容易受到对抗性攻击。这项研究提供了鲁棒的空间光谱表示来纯化对抗性输入，因此可以有效地防御对抗性扰动。
You教授指出：
| 这项研究通过引入和研究一种创新的机器学习理论及其应用于智能感知、表示和处理的计算算法，为美国陆军和实验室的AI和ML研究工作提供了支持。
我们希望未来的士兵在战场上能够携带体积轻巧的智能视觉设备。今天的机器学习解决方案对特定的数据环境过于敏感。当以不同的设置获取数据时，需要对网络进行重新训练，这在嵌入式系统中很难进行。 目前开发的解决方案具备许多理想的特性，包括较小的模型尺寸，需要的训练数据不多，训练复杂度低，并且能够处理低分辨率输入的图像。这是一个足以导致改变(现代战争)游戏规则的解决方案，有望在未来陆军中得到广泛应用。 |
解决了数个面部生物识别的难题
研究人员成功地将SSL原理应用到解决多种面部生物识别以及通用的场景理解问题上。结合DefakeHop的工作，他们开发了一种新颖的方法，即基于SSL原理的FaceFop，以解决在低图像质量和低分辨率的具有挑战性的环境下进行问题识别和面部分类的难题。
据悉，该团队将继续为面部生物特征识别和通用场景理解(例如目标检测、识别和语义场景理解)开发创新的解决方案。
Hu教授表示：“我们都看到了人工智能对社会的重大影响，有好的一面也有阴暗的一面，但不可否认的是人工智能正在改变很多事情。”“深度伪造就是一个负面的例子。过去数十年中，娱乐业已经为我们展示了计算机可以生成以假乱真的，高度复杂的视觉效果，如今人工智能和机器学习的最新技术极大地降低了内容伪造的技术门槛，相关工具也极容易获取。”
最后，研究团队认为，深度伪造技术对军事和日常生活都有影响(威胁)，而在对抗深度伪造的研究领域，DefakeHop方案相比现有技术有着显著优势，为人工智能、计算机视觉、智能场景理解和面部生物特征识别等人工智能领域的研究提供了全新的范型和知识。
【本文是51CTO专栏作者“安全牛”的原创文章，转载请通过安全牛（微信公众号id:gooann-sectv）获取授权】
