ag代理申请

从换脸技术 Deepfake 初次在论坛出现,到“神奇女侠”盖尔·加朵的脸被嫁接到成人片女星身上,再到换脸应用 ZAO 一夜间风靡朋友圈,仅仅只过了两年。

基于深度学习的 AI 换脸技术正在创造出越来越多真假难辨的视频。但与此同时,AI 造假技术也在滋生恐慌,这背后是关于隐私、真实、版权等等悬而未决的问题。

监管已经跟了上来。11 月 29 日,国信办引发了《网络音视频信息服务管理规定》(以下简称“规定”),提到了对深度学习视频内容的管控。

规定第 11 条指出,网络音视频信息服务提供者和使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识;不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息;转载音视频新闻信息的,应当依法转载国家规定范围内的单位发布的音视频新闻信息。

也就是说,普通人和服务商发布非真实 AI 音视频时,要以显著方式标清它运用 AI 技术进行了二度创作,且不得使用它制作假新闻。

在视频分享网站 Bilibili 上,能看到大量素人 UP 主制作的 AI 换脸视频。徐锦江、凌潇肃、倪大红、范伟、赵本山等人的形象是最受欢迎的换脸模版。这些视频大多以娱乐为目的,制作水平不一,使用的视频背景大多是影视剧“名场面”。虽然创作者一般都会标清内容运用了 AI 换脸技术,但常常会被评论调侃(夸赞)为“拿原片出来骗人”。

最前线 | AI 换脸视频不能随便玩了,新规明年起施行

“黑寡妇”的脸被换在了佟湘玉的头上 图片来源:bilibili

最前线 | AI 换脸视频不能随便玩了,新规明年起施行

徐锦江的脸被换在了雷神的头上 图片来源:bilibili

除此之外,规定还对服务商提出了额外要求,包括“展开安全评估”、“部署非真实音视频鉴别技术”、“及时停止传播未显著标识的非真实 AI 音视频内容”、“建立健全辟谣机制”等。新规将于明年 1 月 1 日起施行。

作为一项“天生带有攻击性”的技术,Deepfake 从诞生之日起就伴随着惊叹声和质疑声。相比国内,海外互联网平台对于此类“非自愿内容”的展示似乎得更严苛一些。

2018 年 1 月 31 日,Gfycat 从其站点中删除了所有 Deepfake 内容。同年 2 月,Reddit 与 Pornhub 也宣布因违反“非自愿色情”政策而禁止此类内容。同月,Twitter 表示将暂停涉嫌发布未经许可的 Deepfake 内容的帐户。2018 年 9 月,Google 也将“非自愿合成色情图片”添加到了其禁令列表中。

2016 年 6 月,一段以 Facebook CEO 马克·扎克伯格(Mark Zuckerberg)的脸为素材的 Deepfake视频在 Facebook 和 Instagram 上传播,Facebook 随后表示,他们不会从其平台中删除 Deepfake 内容,但这些视频会被第三方标记为伪造,然后被降低优先级。

题图来源:bilibili

上一篇:快三注册送58可提现
下一篇:没有了

网友回应

欢迎扫描关注我们的微信公众平台!

欢迎扫描关注我们的微信公众平台!