AI"深度伪造"内容泛滥 Ins上惊现扎克伯格假视频-冯金伟博客园
图:Facebook 首席执行官马克·扎克伯格

  网易科技讯 6 月 12 日消息,据 CNET 报道,刚刚出现在图片分享网站 Instagram 上的视频显示,Facebook 首席执行官马克·扎克伯格(Mark Zuckerberg)似乎正就大数据的力发表简短的演讲。

  视频中的扎克伯格称:“试想一下:一个人完全控制着数十亿人被盗的数据,掌握着他们所有的秘密、生活和未来。这都要归咎于 Spectre 漏洞。它让我明白,谁控制了数据,谁就控制了未来。”

  事实上,扎克伯格从未说过这些话。这段视频是通过“深度伪造”(Deepfake)技术制作的,它利用人工智能(AI)创建视频,并伪造目标没有说过的话,这突显出社交网络在监管受操纵内容方面面临的挑战。

  扎克伯格的这段虚假视频也可能是对 Facebook 的一次考验,此前该公司拒绝删除美国众议院议长南希·佩洛西(Nancy Pelosi)的虚假视频。Facebook 宣称,该公司不会删除假新闻,但会减少其在网站上的影响力,并显示来自事实核查人员的信息。

  Instagram 发言人称:“我们将像对待 Instagram 上所有错误信息一样对待这些内容。如果第三方事实核查人员将其标记为虚假视频,我们将从 Instagram 的推荐页面(如 Explore 和 hashtag 页面)过滤它。”

  事实核查机构 Lead Stories 称这段视频为“艺术”,并在一篇帖子中表示,将这段视频打上讽刺的标签,这不会损害视频的传播。用户将看到警告标签,说明它不是真实的。

  艺术家比尔·博斯特斯(Bill Poster)、丹尼尔·豪维(Daniel Howe)与 Canny 广告公司合作制作了这段视频。他们在 Instagram 上的帖子中称,这段视频是使用 CannyAI 的视频对话替代(VDR)技术创建的。

  创作者们称,这段视频使用了扎克伯格 2017 年关于俄罗斯干预美国大选的视频片段。视频的右侧有哥伦比亚广播公司(CBS)标志,标签上写着“扎克伯格:我们正在提高广告透明度。”CBS 发言人已经表示,该公司要求 Facebook“撤下这一未经授权的假冒 CBSN 商标”。

  Canny 公司还曾与博斯特斯合作,制作了唐纳德·特朗普(Donald Trump)总统和金·卡戴珊(Kim Kardashian)等人的假视频。扎克伯格的虚假视频是四天前发布的,博斯特斯没有立即回复置评请求。

  这已经不是有关扎克伯格的第一个虚假视频了。早在 2018 年,电影制作人安德鲁·欧雷克(Andrew Oleck)就曾在 Facebook 上发布了一段视频,视频中似乎是扎克伯格在说他要删除社交网络,这让许多用户误以为是真的。

  与此同时,美国议员们对在 2020 年美国总统大选中使用深度造假技术感到担忧。美国众议院情报委员会计划于周四就被操纵媒体和“深度造假”问题举行听证会。(小小)