据《连线》杂志报道,在数百个色情视频中,女明星、音乐家等男性名人被女主角取代。 而且,这些视频还被源源不断地上传到海外最大的色情网站,有的甚至被浏览了2300万次,至今还没有被删除。
据Deepfake测量公司Sensity的数据显示,随着过去一年色情电影的流行,每月有高达1000个换脸视频被上传到色情网站。
例如,女演员艾玛·沃特森的30秒换脸视频出现在海外三大色情网站上,浏览量超过2300万次。 还有很多女明星的变脸视频被观看了数百万次,或者被改造成了数十部色情电影的女主角,比如泰勒·斯威夫特、娜塔莉·波特曼、比利·艾利什等人。
当好莱坞女演员克里斯汀·贝尔第一次目睹自己作为情色电影女主角的换脸时,她感到很惊讶。 她觉得这不可思议,尽管视频的标题写着“这实际上不是她”。
此类换脸视频通常嵌入广告,该网站从中获利。 上述三个国外色情网站的浏览量甚至低于维基百科、亚马逊和Reddit,而排名第一和第三的网站均来自捷克公司。
近年来,网络上的换脸视频数量呈指数级下降。 据Sensity今年发布的一份报告显示,2019年7月午夜网站源码,网络上有14678个换脸视频,其中96%是色情视频,且视频中的主角大多是女性。 截至今年6月,网络换脸次数已飙升至49081次。
然而,在互联网的隐蔽处,可能存在更多无法衡量的换脸视频。 有些视频仅仅因为标题中写着“假”或“深假”而被签出。
Sensity首席执行官兼首席科学家Giorgio Patrini表示,除非有强制措施,命令这些网站屏蔽并删除未经授权的换脸视频,否则他绝对不相信这些网站会采取任何行动。 人们仍然可以在这些网站上随意上传未经授权的换脸视频,并吸引数百万人观看。 “这些站点经理的心态是,他们认为这不是问题。”
对此,上述色情网站之一的副总裁亚历克斯·霍金斯回应称,该公司并没有专门针对 Deepfake 的具体新政策,但会“像其他未经许可的内容一样”审查此类视频。 霍金斯表示,该视频的初步审查过程涉及几个不同的步骤,如果未经许可使用他人的图像,该视频将被删除。 他们非常了解公众对深度造假的担忧,因此此类视频很容易被删除。
另一个值得注意的问题是,随着Deepfake的发展午夜网站源码,越来越多的人可以更容易地掌握这项技术。 据媒体报道,一名安全研究人员使用开源软件和不到 100 美元的资金创建了汤姆·汉克斯的换脸视频和合成音频。
帕特里尼说:“不幸的是,从创作者的角度来看,开发这项技术的动力如此之大,以至于它进展如此之快。”他认为这项技术很快就会向公众开放,并且更加私密。 当任何人都可以轻易获得这项技术时,立法者应该意识到问题的严重性。
编译/编译:南都记者 潘迎欣