深度伪造技术的风险及治理(2)

三、深度伪造技术治理

面对深度伪造技术存在的风险，各国分别推出深度伪造检测手段并出台相关政策进行防范、核查和治理。

(一)深度伪造检测技术

对伪造视频的检测方法可以分为两类:一是基于帧间时间特性的方法(Temporal features across frames)，利用视频内人眨眼频率、嘴型等时间相关的特性进行判断，通常使用递归分类方法;二是基于帧内视觉效果的方法(Visual artifacts within frame)，利用图像边缘的瑕疵以及五官位置、面部阴影等不自然的细节进行判断，通常提取特定特征后用深层或浅层的分类器完成检测。

此外，亦有研究人员提出使用可追溯、不可篡改的区块链技术对深度伪造视频进行追溯。2019年3月，阿拉伯联合酋长国哈利法大学电气与计算机工程系研究人员发表名为《使用区块链和智能合约打击深度伪造视频》(Combating Deepfake Videos Using Blockchain and Smart Contracts)的论文，提出使用区块链的解决方案和通用框架，以追踪数字内容的来源和历史，即使数字内容被多次复制也可对其进行溯源。该论文提供的解决方案框架具有普适性，亦可应用于任何其他形式的数字内容。

具体成果方面:2017年8月，新加坡信息通信研究所网络安全小组发表名为《自动人脸交换及其检测》(Automated face swapping and its detection)的论文，第一次提出AI换脸检测框架，检测准确率达到92%。从此，业界对于人工智能换脸技术及检测技术的研究进入白热化阶段，企业、高校及个人开发者纷纷投入对人工智能换脸检测工具的开发。

(二)深度伪造相关法规政策与措施

各国已经意识到深度伪造技术可能带来的潜在风险，因此也开始在政策和立法层面进行积极应对。中国、美国、德国等国均出台相关法律法规，对深度伪造技术进行管控。相关的法律法规条款均对深度伪造内容的性质、责任主体、处罚标准等方面进行规范，意在对个人权利和国家安全的保护。其中，美国由于大选临近，相关立法更多注重于对2020年总统大选的保护。(各国涉深度伪造的立法情况可参照《技经观察 | 各国涉Deepfake等人工智能造假技术立法概况》一文。)

为规避深度伪造视频可能带来的不良影响，社交媒体平台也纷纷出台管控措施。推特公司表示，将为所有深度伪造视频贴上明显的标签，以提醒浏览者;Facebook公司则表示将在2020年美国大选前删除模仿、讽刺内容以外的深度伪造视频，以限制错误信息的传播。

四、总结

一方面，深度伪造技术为文化和娱乐创造了更多可能，该技术有望能让历史人物变得活灵活现，也能帮助创造更好的视频效果，使得演员的出演安排更加灵活，以上是深度伪造技术对于娱乐、教育等领域的有益影响。而另一方面，若深度伪造技术被不当利用，用于制作有害的虚假视频，则会对国家政治安全造成严重影响、对个人和企业的合法权益形成威胁。

当下，深度伪造技术与检测技术正处于复杂且不分伯仲的博弈中，“猫和老鼠”的斗争仍将持续。视频发布平台可能存在的审核疏漏以及舆论的阻力会给深度伪造视频的监管带来不利影响，且由于互联网使用成本低、网络作案具备一定的隐蔽性，深度伪造技术治理将会是一个长期的斗争过程。如何规范深度伪造技术的使用，除了法律规范的严格限定，也需要科研人员持续开发“打假”工具，并结合有针对性的人工审查，形成完善可靠的治理体系。

作者:唐乾琛，国务院发展研究中心国际技术经济研究所

本文转载自微信公众号全球技术地图

文章来源：《治理研究》 网址: http://www.zlyjzz.cn/zonghexinwen/2020/1004/676.html