我要投稿   新闻热线:021-60850333
谨防“AI换脸”技术被肆意滥用

2019-3-1 09:29:42

来源:东方网 作者:江德斌 选稿:桑怡

  25日,一段通过AI技术把朱茵扮演角色的脸替换成杨幂的视频在网络热传,有网友表示毫无违和感,也有网友提出可能侵犯肖像权,该技术还可能被用来制作明星黄色视频。27日凌晨,引发这场热议的制作者回应已将相关视频下架,并表示:“对所有人来说是一个警示,大家应尊重版权与肖像权,专注于技术本身。”喧嚣中亦须保持冷静,新技术驱动文化创意更新迭代之时,切忌滥用,更不能突破底线挑战公序良俗。(2月28日环球网)

  传统变脸绝活是通过面具完成,“AI换脸”则是利用计算机技术实现的,将一个人的面貌特征,替换成另一个人做出的视频,毫无违和感,简直就是移花接木一般完美,令人大开眼界。犹如图片能够PS一样,“AI换脸”就是视频PS,从科技的发展趋势看,“AI换脸”是一定会出现的。然而,“AI换脸”技术乃是“大杀器”,潜藏着很大的风险,一旦遭到滥用的话,将带来难以估量的伤害和损失。

  从网络传播的杨幂替换朱茵的“AI换脸”视频内容看,技术效果非常好,近乎完美,如果不是专业人士的话,很难通过肉眼识别其是伪造的。也就是说,假如有人利用“AI换脸”技术伪造一段视频内容,很容易骗过普通网友,就会埋下安全隐患,诱发一些犯罪行为,诸如盗刷、欺诈等,给公众和社会造成巨大的损失。

  “AI换脸”技术是从去年开始火的,有外国网友利用软件将《神奇女侠》的扮演者盖尔·加朵的脸,替代到色情片主角上,伪造成一个以假乱真的小视频,引发无数网友围观。随后又有很多好莱坞当红女星惨遭毒手,诸如斯嘉丽·约翰逊、娜塔莉·波特曼、艾玛·沃特森等,都被网友用“AI换脸”技术替换掉了。还有外国网友用高中女同学的脸,做了小视频传到网上,虽然后来被学校抓住,视频却无法彻底清除。

  而且,“AI换脸”技术进步很快,在直播、视频聊天里,都能使用了。可以想见,假如有犯罪分子利用“AI换脸”技术,通过直播、视频聊天等方式,对用户进行欺诈,很容易蒙骗过去,这就会令网络诈骗升级到新的高度,网友识别能力却跟不上,无疑会造成很大的损失。

  如今,人脸识别技术已经得到普遍应用,诸如上班打卡、刷脸购物、支付、手机解锁、抓交通违章等场景,拥有大量的用户群体。假如有人利用“AI换脸”技术,在这些领域弄虚作假,人脸识别又无法辨识真伪的话,那么个人隐私信息、财产等都会被盗,后果难以想象。可见,“AI换脸”技术存在非常大的安全隐患,需要对其高度重视,不能坐视“AI换脸”技术的滥用,监管部门应未雨绸缪,及早对其进行研究,找出应对的措施。

  当然了,“AI换脸”技术并非一无是处,如果用在正途上,还是会发挥出很大的效力。比如影视制作,用“AI换脸”技术做后期特效,就能节省很大的人力物力,提高制作效率。《速度与激情7》里为了让保罗沃克回归,片方用了替身+动态捕捉+CGI动画的方式,以保罗的两位弟弟为替身,最终让观众在大屏幕上重新看到保罗沃克,避免了其突然逝去造成的影片夭折遗憾。

* 以上只是作者个人言论,不代表本网观点
推荐阅读

上一篇稿件

下一篇稿件