Page 23 - 《国际安全研究》2022年第3期

2022 年第 3 期

题或未来利率变化，或者新闻主播或股市专家宣布市场崩盘， 这些视频将会在整
①
个行业掀起多么大的波澜。
富思博睿格润研究报告提到的上述五种“潜在威胁”，有一些实际已经发生了。

2019 年，一位英国能源公司的董事长被深度伪造的语音电话所欺骗。诈骗者使用
商业语音生成软件与他进行交流，而与他交流的人发出的声音是他非常熟悉的总公
司首席执行官的声音。他被说服将 220 000 欧元（约 243 000 美元）转入匈牙利供

应商的银行账户，直到第三次通话时，他才发现了一点破绽，但钱已经被诈骗者转
移。 目前为止，已知的深度伪造造成的最大损失发生在中国香港。2020 年年初，
②
一名香港银行的经理被他认为是“一家阿联酋公司董事的人”骗取了 3 500 万美元。
诈骗者同样是使用人工智能语音合成软件，合成了这位以前与香港经理交流过的阿

联酋公司董事的声音。 据美国智库卡内基和平基金会（Carnegie Endowment For
③
International Peace）学者研究，利用深度伪造技术对企业进行的付款欺诈，仅 2019
年就给美国企业造成了高达 17 亿美元的损失。
④
3. 个人层面：深度伪造主要被用于欺诈或勒索行为
针对个人的深度伪造主要有以下几种情形：一是身份盗窃。深度伪造至少有两
种可以导致身份盗用的方式：一种形式是有针对性的深度伪造来窃取个人身份，然
后用受害者的合成语音对其亲朋好友发起欺诈性汇兑；另一种形式是以虚假身份创

建银行账户的深度伪造音频或视频，促进洗钱活动或偷税漏税。
二是冒名顶替诈骗。主要指的是犯罪分子冒充“政府执法部门、知名企业或技
术支持专家”向受害者施压，迫使其付款。深度伪造可以增强冒名顶替者诈骗的真

实性。诈骗者可能会复制特定个人的声音，通过人工智能系统拨打许多受害者的电
话号码，而且还能够根据受害者所在地区自动模拟当地的方言或口音。诈骗犯通过

① Simon Steiner and Fabian Prietzel, “Why Deepfakes Pose A Serious Threat to Businesses and
What to Do About It,” February 4, 2021, https://fgh.com/insights/1142/why-deepfakes-pose-a-serious-
threat-to-businesses.
② Danielle S. Van Lier etc., “As Deepfakes Get Deeper, Security Risks Heighten,” December 6,
2021, https://www.accdocket.com/deepfakes-get-deeper-security-risks-heighten.
③ Thomas Brewster, “Fraudsters Cloned Company Director’s Voice in $35Million Bank Heist,
Police Find,” https://www.forbes.com/sites/thomasbrewster/2021/10/14/huge-bank-fraud-uses-deep-
fake-voice-tech-to-steal-millions/?sh=5cd887117559.
④ Jon Bateman, “Deepfakes and Synthetic Media in the Financial System: Assessing Threat
Scenarios,” July 8, 2020, https://carnegieendowment.org/2020/07/08/deepfakes-and-synthetic-media-in-
financial-system-assessing-threat-scenarios-pub-82237.

· 21 ·