本周人们犯了什么错误：深度假货的危险

甚至在 2014 年“deepfake”一词被创造之前，人们就普遍担心数字伪造的音频、照片和视频会被不法分子用来操纵公众舆论。 既然人工智能几乎可以毫不费力地立即制造出任何形式的假货，人们普遍认为，恶棍利用篡改的证据来操纵历史、塑造公众舆论、摧毁真相本身的概念是不可避免的。 但这不会发生（可能）。

你永远不能说永远，但在过去的十年里，还没有任何深度伪造图像或视频成功大规模操纵舆论的重大例子。 尽管假货很容易生产和传播，而且人们显然致力于塑造我们的想法，但深度赝品并没有改变很多人的想法。

我们有充分的理由认为最坏的情况永远不会发生——不是因为我们本性中善良的天使会接管或一些善意的立法会被通过，而是因为证据，无论是经过篡改的还是真实的，都不会推动人们的观点和信仰。

“后真相”世界并不是什么新鲜事

操纵图像和声音并将其传播到世界各地并不是什么新鲜事。 自相机发明以来，摄影师一直在修改照片。 电影已被上演，或被编辑为云彩或改变它们所描绘的内容。 音频编辑同样简单且功能强大。 自1440年印刷机发明以来，人们就一直通过书面文字广泛传播谎言。

这些较旧的技术都没有产生一种没有人相信自己的眼睛和耳朵的后真相文化。 有一些较小的异常案例——对奥森·威尔斯的恐慌世界大战例如，无线电广播，但在大多数情况下，伪造的图像、音频或电影并没有被广泛接受为真实的，因为大多数人都相当擅长将事物置于上下文中，并利用常识来辨别他们所看到和所看到的内容的真实性。听到。 即使有些东西确实愚弄了人们，比如那个伪造的图像穿着羽绒服的教皇，一经揭穿，大家就下车了。

我们在深度伪造中使用了与之前在照片中使用的相同的真相查找工具：常识和背景。 制作泰勒·斯威夫特的色情视频是可能的，但无论它看起来有多好，没有人会被愚弄。 斯威夫特出演这类视频是没有意义的，即使她出演了，也会被广泛报道。 事实上，没有人认为我们的前总统会在外过夜并玩《黑色行动》，即使它在 YouTube 上。

危险的深度假货几乎不存在

正如沃尔特·谢勒在他的书中指出的那样对于学术研究人员来说，找到令人信服的深度赝品非常困难，他们必须创建自己的深度赝品才能研究它们。 当然，互联网上有很多假照片和视频，但它们并不是旨在愚弄任何人的深度伪造品。 它们几乎都是模因、笑话或色情内容，旨在让人们发笑或自慰，而不是让他们思考或改变主意。 主要是因为它不起作用。

深度故事比深度造假更强大

假证据不会改变任何人的想法。 但实际证据也没有。 人们根据情绪形成自己的意见，不是事实或照片处理。大约 15% 的美国人相信美国是由一群崇拜撒旦的恋童癖者控制的，他们经营着一个全球儿童性交易团伙。 并不是因为有人创造了乔·拜登主持黑人弥撒的人工智能图像，而是因为这是一个令人兴奋的故事，强化了已有的偏见。 这是一个 ”有深度的故事”与深度造假相反，深度故事几乎是不可能对抗的。

最好的虚假叙述总是简单而广泛，以至于没有任何证据可以证明或反驳它们。 诸如“选举被盗”或“911 是内部人员所为”之类的言论一直困扰着人们。 真正好的能持续一段时间长的时间也一样。 正如丹尼尔·伊默瓦尔 (Daniel Immerwahr) 在《纽约客,人们仍然认为叶卡捷琳娜大帝与马发生了性关系。

看似现实的证据实际上可以构成阴谋论较少的可信的。 极右翼圈子普遍认为，存在一段希拉里·克林顿谋杀儿童的视频，作为撒旦仪式的一部分。 证据包括留言板上对视频片段的“相信我，兄弟”描述以及对视频何时发布的令人窒息的猜测。 但没有假版本。 无论人工智能镜头看起来多么“真实”，看到这一场景的视觉表现很可能会通过强调其核心的荒谬性来摧毁这种幻觉。 你将能够把它拆开，并被迫考虑这样的事情在地球上如何发生的细节，而不是你头脑中最黑暗的角落。