徐弢

从2017年12月份起，互联网上开始流行一种用新的人工智能技术合成的色情片，将公众人物、明星的脸“贴”在色情片主演脸上，效果逼真。一批女明星的脸都被用作了素材，包括《神奇女侠》主演盖尔·加朵（Gal Gadot）、斯嘉丽·约翰逊、艾玛·沃森、麦茜·威廉姆斯等。

最初这种合成色情片就起源于在线论坛Reddit，一位ID是deepfakes的用户将盖尔·加朵的脸用作素材，合成了视频放在了帖子上。很多用户开始关注到该视频，用户deepfakes还专门建了个Reddit主题，吸引了9万用户关注。

更多类似视频的出现，推动力来自于Reddit用户deepfakeapp开发的一款名为FakeApp的电脑软件，可以更快速、便捷地制作这类合成视频。

本质上，这类合成视频在技术层面上没有特别的地方。对人脸特征进行定位，再将另外一张人脸贴合上去，如果找来的素材质量较高，合成效果很可能不错。类似的合成技术，和PS、阅后即焚Snapchat、FaceU、美图秀秀等差别其实不是太大，但合成的时间、效果可能都不会很理想。

但科技公司、科研机构近几年开发的人工智能技术，将这类合成视频的制作成本降到更低了，效果也更好了。

这次事件中，最主要的可能是Google在2015年开源的机器学习工具TensorFlow。用户deepfakes和deepfakeapp开发的FakeApp都用到了TensorFlow。素材方面，用户通过网络搜索、社交网站的照片都可以找到，确实有不少人在名人的Instagram上找素材。

用户deepfakeapp称，他开发FakeApp的目的是降低门槛，让任何没有技术背景、编程经验的人都可以使用这类合成视频的技术。有些用户用5小时左右就能做一个类似的视频出来。

例如，也有人用FakeApp这款工具恶搞了尼古拉斯·凯奇，让他成了《夺宝奇兵》主角印第安纳·琼斯、007等。像华盛顿大学也有类似的研究，通过抓取视频，就可以编造出美国前总统奥巴马在说一段他从未说过的话，效果都挺逼真。

但最近1周，包括社交网站Twitter、在线论坛Reddit、gif搜索引擎Gfycat以及聊天工具Discord等开始封禁这些合成的色情片。Reddit调整了网站上的内容条款，禁止青少年非自愿型色情、有性暗示的内容出现，deepfakes主题在这周三也被封禁。

即便是色情网站也加入了封禁这类合成视频的行列。最大的色情网站Pornhub称，这种类型的色情片不是自愿，他们会禁止这部分的内容放在网站上。Pornhub有相当多的这类视频是用户上传上去的。Pornhub被看作是色情网站里引入新技术最快速的网站之一。

但彻底封禁这部分合成的色情视频可能没多少可行性。用户将这类视频制作成gif图片，托放在Gfycat、imgur等平台上，Twitter、Reddit等平台删除没法根绝这类内容的传播。事实上，即便这些互联网公司说要封禁，但还有不少内容留存。在技术上识别这类内容本身也相当难。