您的位置  科技资讯  行业

deepfake技术利用AI算法以假乱真 Facebook、微软、亚马逊众筹求解

  deepfake技术利用AI算法,可以“扣出”影片、图片和音频中的特定人物,将他人取而代之。而根据阿姆斯特丹网络安全初创公司Deeptrace的最新统计,基于该技术的影像制品数目,正在网络上迅速增加。该公司在6月和7月的统计中发现了14698个deepfake视频,而这一数字在去年12月时只有7964。仅仅7个月过去,deepfake视频就爆炸般增长了84%。这一增长趋势引起了大众的不安,不仅仅是因为deepfake视频可以用来操纵、摇摆民意,甚至影响选举,又或是将莫须有的罪行栽赃给某个人。他们更担心的是由此产生的大量色情视频和敲诈案件。

  为了应对deepfake的迅猛增长,Facebook牵手亚马逊云服务(AWS)、微软以及AI合作伙伴关系(the Partnership on AI),举办了deepfake检测挑战赛。来自康奈尔理工学院、麻省理工学院、牛津大学、加州伯克利分校等院校的众多专家学者们加入比赛,在deepfake检测技术的研究道路上带头冲锋。该赛事将在温哥华NeurIPS 2019会议上向全球发布,力图促进开源检测工具的开发。

  截止至今,Facebook已经贡献了超过一千万美元,用以鼓励人们参与奖金的角逐;亚马逊云服务则贡献了价值一百多万美元的积分,并为参赛者提供了备选模型;谷歌旗下Kaggle数据科学和机器学习平台将负责该挑战赛的主办。

  Facebook首席技术官Mike Schroepfer指出,deepfake技术产生的“真人”影音材料严重影响了人们对于网络信息的信任,而行业中却没有工具来检测它们。我们希望开发出一些技术,让这些被伪造的视频无处遁形。”

  

 

  ▲检测挑战赛所提供的数据集展示了原始视频(左)和被篡改视频(右)。

  deepfake检测挑战包括了巨额奖金和一个训练数据集。针对视频造假,多种检测工具几经面试,其中,由加州大学伯克利分校和南加州大学研究人员开发的工具最为优秀,它的识别准确率能超过90%。但与此同时,deepfake又是一项在不断变化和发展中的技术。可以说这项检测挑战任重而道远。在最近的采访中,Pinscreen公司首席执行官Hao Li指出,人工智能合成技术演化不断,在某种程度上,合成赝品几乎不可能从现实中辨别出来。

  deepfake检测挑战中,群众演员们受雇拍摄了许多的视频训练材料。这些视频中的背景、动作、场景设计各不相同,可以说是五花八门。在这之后,基于这些真实的视频,伪造的视频被加工出来,它们或人脸被调换,或声音被修改。

  “deepfake探测技术的前沿研究需要结合大规模、贴近现实、有用且免费的数据集。既然这种资源不存在,我们便不得不从头开始创造它。”Facebook人工智能研究经理Christian Ferrer表示,为了避免法律和政策掣肘,这份数据集,只涉及那些签订使用协议的参与者,不涉及其他用户的任何信息。此外,Ferrer还说,对数据集的访问是封闭的,因此只有签订了许可协议的团队才能访问和使用它。

  即日起,参赛者可以下载语料来训练自己的deepfake识别模型。在完成了设计后,他们需要将代码提交到一个黑盒环境中接受验证,获得评分。参赛者不需要分享他们的模型,但必须同意将模型开源以获得赢取巨额奖金的资格。

  deepfake检测挑战由一个专业的委员会推动和监督,该委员会包括Facebook、微软以及媒体、学术团体等。该竞赛计划运行到2020年3月底。

  “跨行业领域的各界团体一起努力,在几个月的时间里共同创造了该挑战,这样的团结一致无疑的是鼓舞人心的。”Facebook人工智能总监、负责管理这项挑战的业务主管Irina Kofman说道,“每个人都带来了各自领域的见解,这让我们得以接触到了广泛的观点。”

  谷歌副总裁AI Jerome Pesenti认为,“我们知道解决这些难题不会容易。但是,我相信,开源开放的研究方法终将孵化有效的工具,帮助人们识别deepfake诈骗。”

免责声明:本站所有信息均搜集自互联网,并不代表本站观点,本站不对其真实合法性负责。如有信息侵犯了您的权益,请告知,本站将立刻处理。联系QQ:1640731186
友荐云推荐
热网推荐更多>>