AI 大毒瘤：96%的Deepfakes视频涉及色情

Deepfakes 已经让“眼见为实”成为过去;至少在视频方面是如此。近日，Deeptrace 公司发布了一份关于 Deepfakes 现状的报告，分享了迄今为止人们对 Deepfakes 最全面的了解以及其对现实世界的影响。

Deeptrace 是一家位于阿姆斯特丹的网络安全公司，自 2018 年成立以来就致力于研究 Deepfakes 不断发展的功能和造成的威胁。该公司创始人兼首席科学官 Giorgio Patrini 在这份报告的介绍中说道：

无论是视频音频，还是文本，我们社会依赖和信任的多个数字通信渠道都已遭到了颠覆。

以下是雷锋网对这份报告的整理：

自 2017 年晚些时候出现以来，Deepfakes 就开始凭借着惊人发展速度、逼真的换脸效果，以及对社会的消极影响而广为人知。

然而，Deepfakes 在今年的发展尤其迅猛。报告数据显示，今年网络上 Deepfakes 视频的数量迅速增长，截至目前为 14678 个，是去年 12 月份(7964 个)的一倍。

在所有的 Deepfakes 视频中，绝大多数视频都涉及色情内容，只有极少一部分视频属于非色情内容，两者的比例分别为 96% 和 4%;而且，在最受欢迎的四大色情网站上(2018 年至今)，关于 Deepfakes 的视频观众已经超过 1.3 亿人。

不过，值得注意的是，非色情的 Deepfakes 视频也越来越受欢迎。

具体到受害人(被换脸的目标)的性别、国籍和职业等方面，这家公司也对 5 家色情网站和 14 个相关 YouTube 频道的 Deepfakes 视频进行了统计：

报告显示，在色情网站的 Deepfakes 视频中，女性是唯一的受害者;而在 YouTube 上的 Deepfakes 视频中，女性受害者的比例为 39%，男性受害者的比例为 61%。

国籍层面，YouTube 上以美国、英国、加拿大等西方国家人物为目标的 Deepfakes 视频高达 90%;在色情 Deepfakes 视频方面，美英加三国的女性受害者加起来占总数的一半;但韩国的受害女性(大多是 K-pop 歌手)高达四分之一。

在色情网站上的 Deepfakes 中，受害人的职业也受到关注。只有 1% 的受害人从事新闻与媒体行业，剩下 99% 均来自娱乐业。在 YouTube 上，受害者的职业则更加多元，但娱乐业的人物仍占据大多数，少部分受害人为媒体人、政客和企业家。

Deepfakes 的商业化

2017 年 11 月 2 日，一名 Reddit 用户创造了 Deepfakes，随后这项技术传遍全球。现在，随着相关论坛、工具和服务的出现，Deepfakes 也变得越来越商业化——关于 Deepfakes 视频创作社区和论坛的发展是这一变化的关键驱动力，它们为换脸视频创作者提供了探讨交流的平台，也为创作者之间的合作提供了便利。

Deeptrace 的报告发现，目前，包括 Reddit、4chan、8chan、Voat 在内，关于 Deepfakes 视频创作的社区和论坛有 20 个;其中，有 13 个论坛披露了自己的用户数量，总人数大概在 10 万左右;在这 10 万个用户当中，有 4000 多个用户拥有特权。

Deepfakes 的商业化不仅体现在社区和论坛上，还有新的电脑 App 和服务。不过，就电脑 App 而言，需要使用者具有编程知识以及强大的图形处理器;但由于“手把手教学”式的使用指南的问世，这一现象很快也会发生改变。还有就是定制 Deepfakes 视频的服务，费用则取决于视频的使用目的以及制作的难度。

Deepfakes 的危害和影响

波士顿大学法学教授 Danielle Citron 曾表示，“Deepfakes 已经成为了攻击女性的武器。"

这是 Deepfakes 最大的危害之一——Deefakes 色情视频里的受害者大多是英美两国的女演员，以及韩国的女歌星，出现频率最高的十位人物(雷锋网按：为了保护这些女性，该报告并没有透露她们的姓名)的总观看人数超过 3000 万;其中出现频率最高的为英国的一位女演员，她一共出现在 257 个 Deepfakes 色情视频中。

Deepfakes 技术在政治方面的影响也不容忽视。CNAS 技术与国家安全项目主任 Paul Scharre 曾警告：

Deepfakes 具有极大的破坏性，利用它来操控选举只是时间问题。

2018 年，加蓬(非洲中西部国家)总统 Ali Bongo 在公众视野中消失了数月，他的健康状况备受关注;为了打消外界图谋不轨的猜测，政府公布了一段 Ali Bongo 录制的新年致辞的视频。然而，Ali Bongo 不同寻常的“出场方式”让外界更加怀疑，军方甚至发动了兵变。实际上，这段视频为 Deepfakes 合成;Ali Bongo 早在几个月前就患了严重的中风。

2019 年，一段关于马来西亚经济部长 Azmin Ali 与男性发生性关系的视频在网络上疯传，甚至搅动了马来西亚的政局(同性性关系在马来西亚属违法行为)。虽然 Azmin Ali 声称这段视频是通过 Deepfakes 技术伪造的，是政治阴谋;但是，国际专家声称找不到伪造迹象。

上述两个例子都是 Deepfakes 破坏政治进程最有力的迹象;除此之外，还有许多因 Deepfakes 而受影响的政治问题。如果没有防御性对策，世界各地民主政体的完整性就会受到威胁。

然而，Deepfakes 对政治领域的影响不仅仅局限于恶意和欺骗，它甚至还催生了一种有关政治讽刺的艺术形式。包括 Mark Zuckerberg, Kim Kardashian 和 Donald Trump 在内的公众人物可能被“操控”，说出自己“违心”的话;这也引发了人们对政治以及社会问题的谈论和深思。

除了政治，Deepfakes 在社交媒体上的恶意应用也开始出现，并且正在影响网络安全格局，比如制作虚假数字身份，以进行欺诈或者是间谍活动。

雷锋网小结

总的来说，Deepfakes 的危害和影响已经蔓延全球。而且，从目前的趋势来看，Deepfakes 背后庞大的受众群体以及灰色的利益链，也让消灭其带来的负面影响变得更加困难。

不过，技术本身无罪，怕就怕在“科技不能向善”。

关键词： AI Deepfakes