深度伪造技术的风险及治理

近两年来，随着以机器学习为代表的人工智能技术的发展，人工智能自动生成内容的水平取得了显著的提高，深度伪造(Deepfake)技术即为一类典型技术，用于模仿、伪造人类行为特征，生成图片、视频、音频等。其中，AI换脸为深度伪造技术的典型代表。

借助AI换脸技术，可对照片和视频中的人脸进行替换，而保持原有视频中人物的动作、神态与表情。深度伪造技术的广泛传播，则得益于互联网的便利。尽管视频换脸技术早已为在影视制作中得以运用，但深度伪造技术概念的兴起源于美国Reddit论坛中2017年出现的一个名为“deepfakes”的账号。2019年，ZAO软件风靡国内社交媒体，用户将个人照片录入系统后，即可将自己的面部与影视剧中的明星替换，“出演”影视片段。开源换脸框架和软件的广泛传播，使得深度伪造的运用门槛不断降低，非专业用户也可轻松凭借一张照片生成伪造视频。在娱乐应用以外，深度伪造技术所潜藏的风险不容小觑。

一、深度伪造技术的原理

当前深度伪造技术的应用方式主要有四种类型:第一种是借助软件更换面部，也是目前为止用得最多的，例如已被我国禁用的换脸软件“ZAO”;第二种是操纵人脸动作，重塑表情、口型和速度，让其发表非其真实意图的言论，如美国网民就利用深度伪造技术制作Facebook公司CEO扎克伯格的视频，已在网络上广泛传播;第三种是借助深度学习技术，创建在现实生活中并不存在的面部图像，如在职场社交平台领英(LinkedIn)中被称为“数字间谍”的凯蒂·琼斯(Katie Jones)，就是使用人工智能技术合成的虚拟形象，被用于收集政府官员信息;第四种是将面部表情与声音结合，借助深度学习，创建声音模型，如2019年8月，犯罪分子创建德国某能源公司总裁的声音模型，成功骗取该公司英国分部22万欧元。

早期，计算机需要借助同一面孔的多张不同角度照片才能完成人脸的替换，且替换准确度有限、替换痕迹较为明显。随着技术的不断进步，深度伪造技术仅凭一张面孔照片即可进行替换操作，并能自动调节换脸后的对比度、亮度、颜色和替换边缘的差异，而不让人眼轻松发现。至此，深度伪造检测技术进入发展新阶段。

二、深度伪造技术存在的风险

深度伪造技术一旦被滥用，其将对个人、社会和国家构成极大风险。相关风险按层次梳理如下:

1

个体肖像权、名誉与隐私权损害

若有不法者利用深度伪造技术制作虚假色情视频和虚假言论视频，则有可能被用作诬陷、诽谤和“色情报复”的手段，将对个人肖像权、名誉权和隐私权造成严重危害。

2

企业信誉及经济的损失

深度伪造技术的不当利用，同样会对企业的经营活动造成不可估量的负面影响。若不法者利用深度伪造技术制作企业负责人的公开谈话视频，篡改表情及谈话内容，散播虚假信息，将使社会公众发生错误认识，直接影响公司的信誉及经济利益。2019年6月，有网民使用深度伪造技术制作Facebook公司CEO扎克伯格发表演讲的视频。该视频在网络上广泛传播，即证明这种担忧并非空穴来风。

3

新闻媒体行业的社会信任衰退

深度伪造技术同样可能被用于篡改新闻报道中的图像和视频。若社会公众对记者和媒体持有不尽信任的态度，伪造视频更会加剧公众的不信任。深度伪造技术的存在证明眼见耳闻并不可靠，很可能会对新闻媒体的公信力造成冲击。

4

国家安全、公共安全受到威胁

不同于文字和图片，深度伪造技术制作的视频可以让虚假的信息以“高度可信”的方式呈现给社会公众，从而操纵观众的情绪反应，引发社会广泛的不信任。因而该技术很可能被敌对势力利用，作为诋毁国家机构、煽动恐怖和暴力活动、挑拨国家内部矛盾的工具。例如，美国政府官员就指出深度伪造技术对美国2020大选的潜在威胁--若放任伪造视频扩散，则会对美国总统选举产生不良影响，挫伤选民的积极性。

从短期看，深度伪造还可能会对公共安全产生一定影响。不法者可能利用虚假视频煽动暴力冲突，造成恶性后果。此外，深度伪造技术还可能成为造谣者摆脱质疑的工具。在深度伪造普遍运用的环境下，人们将不再轻易相信自己亲眼所见，说谎者正好可以利用民众的这一心理散布谣言。对于不利于自己的信息，尽管其没有经过任何加工，任何人都可以宣称是伪造的，从而达到混淆公众视听的目的，为社会治安的治理增添难度。

文章来源：《治理研究》 网址: http://www.zlyjzz.cn/zonghexinwen/2020/1004/676.html