深度伪造：如果我们不相信自己的眼睛，真相还能存在吗？

[shuklarani621]

Deepfakes 是证据的消亡和行动的号召
特约撰稿人Holly Brockwell。

过去几周，一组名人视频不断涌入广告界的收件箱，引发了同样多的讨论和震惊。但这并不是某个大牌客户发起的病毒式营销活动：它只是三星新技术的一次展示，该技术可以通过一张照片逼真地制作出某人的面部动画。

与此同时，一段拙劣的假视频在 Facebook 上流传，视频显示美国政客南希·佩洛西喝醉了，说话含糊不清。尽管这段视频完全不真实，但被转发了无数次，而且有惊人数量的用户似乎相信这是真的。

这两件事结合在一起会产生灾难性的后果：在我们开发出制作极其逼真的 塞浦路斯数字数据 假视频的技术的同时，我们发现欺骗公众实际上只需要很少的努力。

在演示视频中，三星幸好使用了玛丽莲·梦露、萨尔瓦多达利和蒙娜丽莎，但这些人物都不是活人，因此很容易被误认为是真人。这些模拟看起来非常恐怖，部分原因是有一种让死人复活的奇怪感觉，部分原因是考虑到它完全基于一张 2D 照片，这确实令人印象深刻。

深度伪造（以及佩洛西视频中所谓的“廉价伪造” ）是几个世纪以来一个问题的最新发展之一：我们如何知道我们可以相信什么，我们不能相信什么？人类天生就依赖于我们眼睛和耳朵的证据，但我们早已超越了能够欺骗它们的程度。有多少经过 Photoshop 处理的照片出现在我们的新闻推送中？有多少经过篡改的录音和巧妙编辑的视频？

在我 17 岁的时候，一个男性“朋友”给我发了一张女色情明星的照片，照片上我的头像被笨拙地 Photoshop 过。她那假晒黑的肤色与我的肤色不相配，我的头发也被弄得很脏，才达到和我一样的长度，所以不难看出这是假的。现在，一个试图用同样的方式威胁别人的青少年可以使用更好的工具，一个真正熟练的人不仅可以拍一张照片，还可以拍一整段视频——只需点击几下鼠标，就可以把它发到学校里。

这就是深度伪造开始变得严重的地方。是的，我们可以从无到有创造一些东西，并操纵我们的世界来讲述新的和令人兴奋的故事，这真是太酷了。但每一项新技术都可能也将被用于邪恶，在这种情况下，有时很难想象好的应用比坏的多。可怜的玛丽莲会被挖出来未经她同意就出售女式紧身衣吗？我们会看到马丁路德金复活来说服人们以特定的方式投票吗？死者还能再被允许安息吗？

我们即将进入一个新时代，无论我们看到或听到什么，我们都无法相信——无论它们多么令人信服。在这样的环境下生存的唯一办法就是资助调查性新闻、教授批判性思维技能、规范社交网络——而目前我们在这方面做得非常糟糕。

如果人类历史可以借鉴的话，只有当深度伪造造成重大破坏时，我们才会被迫采取行动。我个人希望这更像是蒙娜丽莎代言多乐士，而不是其他许多更糟糕的可能性。



Holly Brockwell 是一名科技记者、作家和企业家。本月，她将加入 ​​WE 戛纳活动，主持我们的游戏节目《新闻制造者或新闻造假者》，探讨品牌如何在充满欺骗性内容的世界中有目的地运营。

欢迎参加 2019 年戛纳国际创意节，参加“新闻制造者”或“新闻造假者”活动。

如需了解更多有关平衡颠覆性技术和道德企业领导所面临的挑战，请阅读 Joanne Matsusaka 关于人工智能和个人数据的博客，或全球首席执行官兼创始人 Melissa Waggener Zorkin 关于在不断变化的世界中对道德领导的需求的博客文章。