人工合成色情片流行后,几家互联网网站开始封禁

很难分辨。

从 2017 年 12 月份起,互联网上开始流行一种用新的人工智能技术合成的色情片,将公众人物、明星的脸“贴”在色情片主演脸上,效果逼真。一批女明星的脸都被用作了素材,包括《神奇女侠》主演盖尔·加朵(Gal Gadot)、斯嘉丽·约翰逊、艾玛·沃森、麦茜·威廉姆斯等。

最初这种合成色情片就起源于在线论坛 Reddit,一位 ID 是 deepfakes 的用户将盖尔·加朵的脸用作素材,合成了视频放在了帖子上。很多用户开始关注到该视频,用户 deepfakes 还专门建了个 Reddit 主题,吸引了 9 万用户关注。

更多类似视频的出现,推动力来自于 Reddit 用户 deepfakeapp 开发的一款名为 FakeApp 的电脑软件,可以更快速、便捷地制作这类合成视频。

本质上,这类合成视频在技术层面上没有特别的地方。对人脸特征进行定位,再将另外一张人脸贴合上去,如果找来的素材质量较高,合成效果很可能不错。类似的合成技术,和 PS、阅后即焚 Snapchat、FaceU、美图秀秀等差别其实不是太大,但合成的时间、效果可能都不会很理想。

但科技公司、科研机构近几年开发的人工智能技术,将这类合成视频的制作成本降到更低了,效果也更好了。

这次事件中,最主要的可能是 Google 在 2015 年开源的机器学习工具 TensorFlow。用户 deepfakes 和 deepfakeapp 开发的 FakeApp 都用到了 TensorFlow。素材方面,用户通过网络搜索、社交网站的照片都可以找到,确实有不少人在名人的 Instagram 上找素材。

用户 deepfakeapp 称,他开发 FakeApp 的目的是降低门槛,让任何没有技术背景、编程经验的人都可以使用这类合成视频的技术。有些用户用 5 小时左右就能做一个类似的视频出来。

例如,也有人用 FakeApp 这款工具恶搞了尼古拉斯·凯奇,让他成了《夺宝奇兵》主角印第安纳·琼斯、007 等。像华盛顿大学也有类似的研究,通过抓取视频,就可以编造出美国前总统奥巴马在说一段他从未说过的话,效果都挺逼真。

尼古拉斯·凯奇的脸被用作了素材

左边是奥巴马的视频素材,右边是合成的

但最近 1 周,包括社交网站 Twitter、在线论坛 Reddit、gif 搜索引擎 Gfycat 以及聊天工具 Discord 等开始封禁这些合成的色情片。Reddit 调整了网站上的内容条款,禁止青少年非自愿型色情、有性暗示的内容出现,deepfakes 主题在这周三也被封禁。

即便是色情网站也加入了封禁这类合成视频的行列。最大的色情网站 Pornhub 称,这种类型的色情片不是自愿,他们会禁止这部分的内容放在网站上。Pornhub 有相当多的这类视频是用户上传上去的。Pornhub 被看作是色情网站里引入新技术最快速的网站之一。

但彻底封禁这部分合成的色情视频可能没多少可行性。用户将这类视频制作成 gif 图片,托放在 Gfycat、imgur 等平台上,Twitter、Reddit 等平台删除没法根绝这类内容的传播。事实上,即便这些互联网公司说要封禁,但还有不少内容留存。在技术上识别这类内容本身也相当难。

本文来自好奇心日报,作者:徐弢。

产品中国-产品经理门户原创,作者:产品中国的伙伴们,转载请注明出处:http://www.pmtoo.com/article/42179.html

扫一扫,分享到微信

猜你喜欢

文章评论

请先 后评论

上一篇

柳传志谈今日联想:面临严峻挑战 面对错误要认真复盘

下一篇

高通否决博通收购要约 担心失去两大客户

微信公众号

微信公众号