Page 8 - 《国际安全研究》2022年第3期

深度伪造与国家安全：基于总体国家安全观的视角

这是人工智能技术的一个子领域，特别是生成对抗网络（Generative Adversarial
Networks，GANs）的产物。其过程是：两个被称为神经网络的机器学习系统会相互
竞争地进行训练。第一个网络或生成器的任务是创建伪造的数据，如照片、声音，

或复制原始数据集属性的视频片段；第二个网络或鉴别器的任务是识别伪造的数
据。这两个称为“生成器”和“鉴别器”的网络在相同的图像、视频或声音数据
集上进行训练，然后第一个网络尝试创建足以欺骗第二个网络的新样本，第二个

网络用于确定它看到的新媒体是否真实。这样，它们互相推动改进。基于每次迭
代的结果，生成器网络不断进行调整，以创建越来越接近真实的数据。上述两个
网络间的竞争——通常是数千次甚至数百万次迭代——直到生成器提高其性能，
使鉴别器无法再区分真实数据和伪造数据。计算机视觉技术——如焦点识别——可

以与生成对抗网络相结合，以跟踪图像或视频中的特定物体。使用面部特殊标志跟踪，
或识别人面部的主要特征，允许程序准确地交换目标面部。类似的技术也存在于增强
现实领域，即虚拟物品在现实世界中实时显示的领域。在 Instagram 和 SnapChat 等
①
②
网站或应用程序上，以面部交换和过滤的形式，换脸是一件非常快速和轻松的事情，
关键是这样做几乎没有任何成本。2016 年，迪士尼电影工作室将凯莉·费雪（Carrie
Fisher）年轻时的形象植入电影《星球大战外传：侠盗一号》中，耗资数百万美元；如
果使用深度伪造技术，几小时内就可以免费创建一个完美的复制程序。

学术界一般认为第一个深度伪造的作品是 2017 年底一个署名为“Deepfakes”
（深度伪造）的用户发布在美国著名社交新闻媒体红迪网（reddit）上的视频，该视
频是使用名人的形象合成的色情视频。这样的视频使用真实的镜头并合成了真实的

声音，因此许多观众认为他们正在观看的视频是真实的。 这段视频一出现便迅速
③
传播，引发各界关注，深度伪造问题也因此逐渐进入了研究者的视野。自那个时期
开始，越来越多的深度伪造作品出现在电子媒体特别是社交平台上。
1. 深度伪造技术分类

从技术角度看，深度伪造可以分为以下三类。第一类是深度伪造视频技术。三
种数字技术对于深度伪造视频技术的发展发挥了至关重要的作用：首先，计算机视

① 照片墙，Facebook 公司旗下的社交应用。
② SnapChat，色拉布，一款“阅后即焚”的照片分享应用，被视为 Instagram 最强劲的竞
争对手之一。
③ Meredith Somers, “ Deepfakes, Explained,” July 21, 2020, https://mitsloan.mit.edu/ideas-made-
to-matter/deepfakes-explained.

· 6 ·