开局一张脸,唱歌全靠骗。
百万粉丝网红“俄罗斯娜娜”利用AI换脸技术在抖音上招摇撞骗,其背后真实身份竟是“抠脚大汉”?
网红“俄罗斯娜娜”账号被封
近日,一名为“俄罗斯娜娜”的账号忽然在抖音走红。
该网红自称来自俄罗斯,长着金发、碧眼、高鼻梁、深眼窝,一副标准西方人的五官外形。
从往期发布的视频来看,“俄罗斯娜娜”虽然操着一口蹩脚的“俄式中文”,但唱起歌来却是发音标准,声调优美。
在平台上,她最常说的一句话就是“中国的兄弟姐妹们你们好”,并且每个视频都在夸赞中国,表示非常热爱中国文化。
久而久之,在与广大网民拉近了亲近感后,“俄罗斯娜娜”收获了巨大的流量。抖音的粉丝数达到了195万,快手平台的粉丝数近175万,且均开了带货功能。
从她的带货橱窗里可以看到,在百万粉丝流量的加持下,牛筋肠、巧克力、威化饼等商品销量非常可观。
另外在直播之余,“俄罗斯娜娜”还不忘让“家人们”给她关注、点赞、送礼,一套直播法则被她玩得是炉火纯青。
4月1日晚,抖音官方发布《关于打击仿冒帐号等黑产行为的处理公告》,指出包括@俄罗斯娜娜 在内的4个账号存在滥用平台道具、仿冒虚假人设的情况,不当获取流量及粉丝的违规现象。
平台表示,仿冒账号是黑产团伙常用的作弊手段,行为违反了抖音平台相关公约,进行诈骗更是涉嫌触犯国家相关法律法规,将对其进行无限期封禁的处罚。
事实上,早在被封前,“俄罗斯娜娜”的真实身份就已经开始遭到质疑。
其面部虽然是一副标准西方人的五官,但轮廓处有明显的接合痕迹。
其次,该网红唱歌时发音标准,正常说话时却带着浓厚的外国口音,两者形成强烈反差。
另有细致的网民发现,“俄罗斯娜娜”在说话时连“n、l”都不分,很明显是假扮的外国人。
官方的封禁也进一步证实了“俄罗斯娜娜”的假外国人身份。
从该账号的运营手法来看,土味的台词加上颇具年代感的歌曲,其目标客户就是中老年粉丝。尤其是当“俄罗斯娜娜”说出那些类似“送给天下的父母”等台词的时候,孝顺又具有亲近感的画面让一批又一批中老年网民深陷其中,成为待割的韭菜。
3月17日,国家互联网信息办公室副主任盛荣华介绍2022年相关工作时表示,开展“清朗·打击网络直播、短视频领域乱象”专项行动,全面清理“色、丑、怪、假、俗、赌”等各类违法违规直播和短视频;坚决整治直播间营造虚假人气、虚假带货量,短视频账号营造虚假流量等行为;严厉打击通过炮制低俗情感剧情,收割老年人流量,实施营销诈骗。
事实上AI换脸并非新概念,早在2017年国外就实现了这一技术。
彼时,一个名为 Deepfakes 的匿名用户在某论坛上公布了一段代码,让不懂视频后期的用户也能轻松通过输入足够样本的图像供机器学习,以此换掉视频中人物的脸。
然而随着这项技术影响力的不断扩散,许多人利用这项技术制作一些涉黄、涉政的视频或图片,这些黑产的存在扰乱了市场的秩序。
例如在色情行业中,以盖尔·加朵、斯嘉丽·约翰逊为首的好莱坞女明星深受其害,制作后的不雅视频被疯狂传播。
迫于压力,此项技术最终被禁止,但对网络黑产而言, Deepfakes 无疑是一门好生意。
在最近的热播剧《猎罪图鉴》中,男主沈翊的老师许意多遭受犯罪团伙诈骗,犯罪人利用AI换脸技术冒充许意多儿子骗取汇款,致使许意多最终自杀身亡。
近年来,AI的发展速度远超人们的想象,可以看到的是,虽然AI换脸技术正在逐渐走进大众的生活,为人们提供了更多的娱乐选择,但以技术之名作恶的案例却也时有发生,当技术遇上黑色产业,两者的产物便如病毒一般无限蔓延。
从仿冒账号到换脸诈骗,在这个技术在狂奔的时代,如果没有法律和道德的限制,技术或将沦为作恶的工具。