拥有200万粉丝的网红“娜娜”被封号！不能任由换脸技术脱缰狂奔！_北京时间
近来, 名为娜娜的这个称呼火了起来, 并且登上了热搜, 其阅读量已然达到了将近7000万。此娜娜表明自己来自俄罗斯。于短视频平台之上, 她有着数百万的粉丝, 不过她所发布的视频却较为辣眼睛。
拥有200万粉丝的网红“娜娜”被封号
最近娜娜这个名字火了，还上了热搜，阅读量达到将近7000万。这个娜娜自称来自俄罗斯。在短视频平台上，她拥有数百万粉丝，但是她的视频却有些辣眼睛。
那双碧绿色眼睛的“俄罗斯娜娜”, 五官轮廓展现出西方人的模样, 然而声音听起来却十分别扭, 她在视频里, 常常宣称“很喜欢中国文化”, 老是操着半生不熟的中文, 谈论着一些热点论题, 还时不时展示“才艺”, 动不动就对口型唱歌, 就像她还喜爱唱中文歌曲《一壶老酒》, 并且表明要送给天下的父母, 经典老歌加上孝顺理念, 一瞬间拉近了这个“俄罗斯娜娜”与众多网友的亲近感。一时间, 她于抖音平台所拥有的粉丝数量达到了一百九十五万, 在快手平台那儿的粉丝数量将近一百七十五万, 并且这二者同时开启了带货功能。
她并非白白忙活一场, 视频里她常常招呼着“家人们”去点赞, 招呼着“家人们”去送礼, 招呼着“家人们”去购物。在她账号的橱窗当中, 陈列着牛筋肠这种商品, 陈列着巧克力这种商品, 陈列着威化饼这种商品, 这些商品的销量极为可观。
尽管追捧她的人数量不少, 然而网友质疑的声音同样接连不断。首先, 有网友对“俄罗斯娜娜”的真实身份表示怀疑, 认为她说话的那种方式, 好似国人在模仿外国人讲中文。其次, 有网友宣称, 见到过她去掉特效后的中年女性模样。另外, 也有人怀疑她运用了“AI换脸”技术, 觉得从骨骼结构来看, 她的性别说不定都是那个“抠脚大汉”, 怀疑是男性扮演的。
4月1日那天, 抖音官方发布了《关于打击仿冒帐号等黑产行为的处理公告》, 公告指出, 有4个账号存在滥用平台道具以及仿冒虚假人设的情况, 这其中包括@俄罗斯娜娜 这个账号, 抖音官方将对这些账号进行无限期封禁的处罚。非常明显, 网友们原本的怀疑被证实了。
围绕公告里提及的“滥用平台道具”, 有人觉得那是“AI换脸”, 还有人指出, 或许是平台自身具备的某种特效, 能把人的五官特点、轮廓变换成外国人, 该特效运用起来极为简便, 一键轻点便瞬间变为外国人。
存在网友讲, “我外婆每日都在留意这个人, 我跟她说这人是中国人, 她却并不相信”。另外有网友觉得, 这位网红以冒充外国人的方式发布各类言论, 同样是掌握了流量密码。
事实上, 于短视频平台里, 存在着好些外国友人开设账号, 其中有的去展现其本国之风土人情, 有的则分享自身在中国的生活体验, 借此发挥推动跨文化交流之功能, 进而吸引了数量众多的网友予以关注。然而, 同样有一些心存不良企图之人, 如同那个被称作“俄罗斯娜娜”这般, 于其中察觉到赚钱商机, 凭借AI技术来个“改头换面”, 针对网友渴望友好交流的心态, 知晓网友喜好听闻什么、观看什么, 便表演什么, 随后使得网友们去点赞给予支持并且掏钱予以购买, 达成一次“精准收割”。针对那些打造假象似幌子用以欺骗广大粉丝观众网民群众的账号, 平台绝不能仅仅只是单一地一封了之草草处置, 而是要极其特别严密提防它们再度换装改扮并且换个不同类似马甲之后卷土重来重新露头。
从影视创作到民间应用 “AI换脸”逐渐“跑偏”
事实上, 听闻“AI换脸技术”起初大多运用在影视创作里。比如说, 在2015年公映的电影《速度与激情7》那儿, 鉴于演员保罗·沃克因车祸意外离世, 于是剧组最后决定, 由他的弟弟替代出演尚未摄制的片段, 并且运用“换脸”技术, 使保罗·沃克再度出现在大荧幕, 给众多观众留下了深刻的印象。
不过, 时间慢慢过去, 这项技术渐渐在民间得到普及, 并且开始被玩弄得变了样。按照中国之声的报道, 在2017年, 有一名国外网友, 把自己制作的换脸视频发布到了网上, 借助这一技术, 他把国外女艺人的照片跟色情影片进行合成, 几乎达到难辨真假的程度, 一时间引发了极大的争议。最终, 相关视频被删除了。
根据人民日报以及多家别的媒体所进行的报道, 在2019这一年刚开始的时候, 存在一位网络博主, 其运用了AI技术, 把1994年版本电视剧《射雕英雄传》当中由朱茵饰演的黄蓉这个形象, 替换成了演员杨幂的脸庞。这段完整的视频看上去衔接得毫无缝隙断痕, 在网络上面快速地走红起来, 其点击的数量突破了20万。
但这个视频走红之际, 也引发了诸多人士的担忧, 有人害怕, 倘若这项技术遭到滥用的话, 那就表明了, 有图像有视频存在的状况下, 都不见得会有真相可言, 情形搞糟糕的话会把诸多事情导向失控态势。于是, 在引发舆论争议而后, 这位博主账号里的相关视频被予以删除。
这几年, 好些不法分子都对“AI换脸技术”动了歪心思, 比如说, 2019年8月, 深圳有位市民打算在某机构网站办理业务, 却发觉自己早就成了该网站的注册用户, 且身份被冒用办理了业务, 而依据这个网站的注册要求，除填姓名、身份证号等, 还得进行人脸识别认证, 当地警方经调查后, 抓获了13名涉案犯罪嫌疑人。原来呀, 他们运用了AI换脸技术, 借此骗过了人脸识别从而完成认证, 而且呢还凭借这项技术给违法犯罪团伙, 提供了虚假注册、刷脸支付等黑产服务。
最近正在热播的刑侦剧《猎罪图鉴》里, 存在换脸的情节。男主角的老师, 由于接到儿子借钱的求助视频, 便把全部养老钱都转了过去, 在发觉被骗之后选择投海自尽。随后, 男主角和老师儿子交流时发觉, 视频里人物的说话方式、脸部肌肉走向, 均与本人不一样, 就连光线都是伪造的。原来, 这是一个用于诈骗的“AI换脸”视频, 背后是一个长期借助类似技术手段骗取老人钱财的犯罪团伙。
揭秘背后黑色产业链：“AI换脸”只需要100元
那这些违法犯罪分子是怎样掌握这项技术的呢, 据南方都市报报道, 记者于社交软件中搜索“换脸”等关键词, 发现有“AI换脸私人定制”的群存在, 有人专门售卖“AI换脸”服务, 有商家宣称, 假使想得到一个约五分钟的换脸视频, 向他们支付100元就行；要是支付2000元, 还能够给客户提供换脸软件, 且开展一对一教学, “包教包会”, 显然, “AI换脸”已然形成了一条灰色产业链。
AI换脸技术要严防滥用
AI换脸技术被滥用, 这一情况着实让人深入思考后感到极其恐惧, 这般还算是存在一定门槛的, 然而当下短视频平台里的换脸道具就宛如是处于零门槛状态了, 依照相关规定, 倘若制作、发布以及传播并非真实的音视频信息, 那么理应采用显著的方式予以标明, 根据央视网所报道的内容, 几家短视频平台针对“俄罗斯娜娜”的视频却全都未曾展开相应的标明, 要使得每一位网友都摇身一变成为福尔摩斯, 每个人都能够依靠查看面容、倾听声音来辨别真伪, 这压根就是不现实的，相关平台理应做好审核把关工作。十分明显, 在AI技术已然进入平常百姓家庭的状况下, 怎样更优良地进行管理以及运用, 这是一个需要多方面去思索的话题。
