2024-04-09 21:07 来源：得道网
围绕选举周期，人们对媒体被篡改或操纵的担忧总是很高，但2024年将有所不同，原因有两个:人工智能(AI)制造的深度造假和民意调查的数量。
“深度造假”一词指的是一种利用人工智能制造虚假图像的骗局，最常见的是人的虚假视频，这种效果通常会被语音成分所混合。再加上今年全球约一半人口将举行重要选举——包括印度、美国、欧盟，很可能还有英国——这一事实，该技术有可能具有高度颠覆性。
以下是近年来一些最有效的深度造假指南，包括首次尝试制作恶作剧图像。
香蕉是一切开始的地方。2015年，谷歌发表了一篇关于“inception tionism”的博文，但很快就被称为“DeepDream”。在这篇文章中，谷歌照片团队的工程师们问了一个非常简单的问题:如果你用谷歌开发的用于标记图像的人工智能系统(即神经网络)，让它们来创建图像，会发生什么?
研究小组写道:“被训练来区分不同类型图像的神经网络也有相当多的生成图像所需的信息。”由此产生的幻觉梦境很难达到高保真度，但它们显示了这种方法的前景。
完全从头开始生成图像是很困难的。但使用人工智能对已有的照片和视频进行修改会稍微容易一些。在2017年，这项技术处于绝对的前沿，需要一台功能强大的计算机、大量的图像来学习，还需要时间和资金来掌握不方便用户使用的工具。
但有一个用例完全符合这些限制:把女明星的脸换成色情片。到2017年底，这种露骨的视频开始以惊人的速度被制作和交易，最初是在reddit上，然后随着消息的传播和愤怒情绪的上升，出现在更阴暗、更隐蔽的论坛上。
如今，根据智库Labour Together的一份简报:“每三个深度伪造工具中就有一个允许用户在25分钟内制作深度伪造的色情内容，而且是免费的。”
在色情行业的引领下，其他媒体也紧随其后。2018年中期，换脸工具已经得到了改进，可以作为一种独立的创意工具来使用。在BuzzFeed制作的一段视频中，演员兼导演乔丹·皮尔模仿了巴拉克·奥巴马，将其转换成总统本人的真实镜头，并以一句“保持清醒，婊子们”的劝告结尾。
2021年，OpenAI发布了Dall-E，换脸成了旧闻。作为第一个主要的图像生成器，Dall-E提供了科幻小说的承诺:输入一个短语，然后得到一张图片。当然，这些照片并不是特别好，但它们是以前从未存在过的图像——不是简单地对以前的照片进行重新混合，而是全新的东西。
第一个版本的Dall-E并不擅长逼真的照片，OpenAI的演示选择显示了一个模糊逼真的图像集，一些照片上是一只可怕的没有瞳孔的猫。但对于更多的具象艺术，比如这把扶手椅，它已经显示出了希望。
俄罗斯入侵乌克兰不到一个月，就出现了一段业余深度视频，显示乌克兰总统弗拉基米尔·泽伦斯基(Volodymyr Zelensky)呼吁士兵放下武器，回到家人身边。视频质量很差，但这促使真正的乌克兰总统在他的Instagram账户上进行了回击，告诉俄罗斯士兵回家。
但一年后，deepfake Zelensky回来了，并强调了技术的进步。这段视频敦促乌克兰士兵再次投降，更有说服力。
追踪错误信息的机构NewsGuard表示，比较这两个视频可以看出，这项技术在短时间内取得了多大的进步。
NewsGuard的人工智能和外国影响力编辑麦肯齐·萨德吉(McKenzie Sadeghi)表示，2023年11月的片段“标志着自2022年2月俄乌战争爆发以来深度造假技术的重大飞跃，表明随着技术的进步，被操纵的内容变得更有说服力。”
萨德吉说，2023年deepfake的动作“流畅而自然”，他的嘴部动作与说的话更接近。
教皇方济各(Pope Francis)身穿巴黎世家(Balenciaga)棉质夹克的照片，是生成式人工智能和深度造假领域的一个里程碑式时刻。它是由Midjourney图像制作工具制作的，很快就因为其惊人的真实感而走红。
加州大学伯克利分校(University of California, Berkeley)教授、深度伪造检测专家哈尼·法里德(Hany Farid)表示:“教皇的照片向我们展示了生成式人工智能的能力，也向我们展示了这些内容在网上传播的速度有多快。”
虽然教皇的形象被分享是因为它结合了现实主义和荒谬，但它强调了现在广泛使用的人工智能系统的创造力。
今年出现了一张唐纳德·特朗普与一群黑人男子在门口台阶上合影的假照片。还有一张特朗普与一群黑人女性合影的照片。这位将在2024年总统大选中与乔·拜登(Joe Biden)对决的前总统是深度造假的热门话题，他的对手也是如此。
法里德说:“特朗普和黑人支持者的照片向我们展示了视觉记录是如何被虚假图像污染的。”
在一个汇编政治深度造假的博客中，法里德说，这张照片似乎是“试图讨好黑人选民”。法里德表达了一种普遍的担忧，即深度造假将在今年“被政治武器化”。
美国总统的形象和声音被操纵的例子不胜枚举。今年1月，拜登的假声音被用来鼓励民主党人不要在新罕布什尔州的初选中投票，甚至使用了拜登式的短语“真是一堆胡言乱语”。政治特工史蒂夫·克莱默(Steve Kramer)承认，他是这些虚假电话的幕后主使。克雷默曾为拜登的挑战者迪恩·菲利普斯(Dean Phillips)工作，后者的支持者通过创建一个短命的菲利普斯语音机器人，对人工智能技术进行了试验。菲利普斯的竞选团队表示，挑战者与这通电话无关。克莱默表示，他这样做是为了提醒人们人工智能在选举中的危险。
