2024-04-10 18:48 来源：得道网
让我们来谈谈科幻小说。
尼尔·斯蒂芬森1992年的小说《雪崩》推动了上千家初创公司的诞生。这是第一本使用印度语“avatar”来描述一个人的虚拟形象的书，它创造了“textareaverse”这个词，是马克·扎克伯格(Mark Zuckerberg)为Facebook新高管必读的书之一，10年后，他改变了整个公司的重点，试图在现实中建立斯蒂芬森的虚构世界。
情节围绕着一个图像展开，当在虚拟世界中观看时，这个图像劫持了观众的大脑，使他们致残或死亡。在虚构的世界里，图像冲击了大脑，呈现给大脑的是无法正确处理的输入。
这是科幻小说中反复出现的一个想法。也许第一个清晰的例子出现在四年前，英国科幻作家大卫·兰福德的短篇小说《BLIT》中，它想象了一场利用“蛇怪”发动的恐怖袭击，图像中包含“人类设备无法安全运行的隐性程序”。在1999年发表在《自然》杂志上的这个故事的续集中，兰福德引用了更早的相似之处，甚至引用了巨蟒剧团(Monty Python)的“飞行马戏团”(Flying Circus)，“其著名的小剧讲述了世界上最有趣的笑话，让所有听众都笑死”。
集体小说项目SCP为这种想法创造了一个名字:认知危害。一种思想，这种思想本身就可能是有害的。
有一个问题值得我们越来越认真地对待:认知危害真的存在吗?
你知道的东西会伤害你
本周，我开始思考这个问题，这是我们在全球选举中自动识别深度造假的报道的一部分。自2017年以来，当我第一次在换脸色情的背景下听到这个词时，已经有可能通过检查来识别人工智能生成的图像。但这项任务变得越来越困难，现在我们正处于这个领域的专家都无法理解的尖端。因此，在这些材料超出阈值之前，建立能够自动识别和标记这些材料的系统是一场与时间的竞赛。
但如果标签还不够呢?从我的故事中:
我们能把这样的视频称为认知危害吗?一些非常现实的东西，即使你被告知不是这样，你也会不自觉地把它当作现实，这似乎符合要求。
当然，这也适用于很多小说。如果这个定义被延伸到那么远，一个让你难以入睡的恐怖故事，或者一个让你感到身体不适的令人内心不愉快的暴力场景，都可能是一种认知危害。
多米诺骨牌倒下
也许与小说中的例子更接近的是劫持我们注意力而不是情感的技巧。毕竟，即使在最好的时候，情绪也很少在我们的控制之下;感受你不想感受的东西几乎就是负面情绪的定义。
注意力应该是不同的。这是我们有意识控制的东西。我们有时会说“分心”，但更严重的注意力发作需要越来越多的医学术语:“痴迷”、“强迫”、“成瘾”。
科技攻击我们的注意力的想法并不新鲜，有一个“注意力经济”的概念支撑着这种攻击。在一个广告支持媒体的世界里，商业竞争越来越激烈，不是直接为了我们的钱，而是为了我们的时间，因为我们每天只有24小时，所以吸引和保持注意力是有巨大的商业动机的。为了实现这一目标而开发的一些交易工具确实让人感觉它们触及了一些原始的东西。关于新通知的醒目红点，点击刷新的触感以及游戏化的持续推动，我们都进行了详细的讨论。
我认为，有些已经越过了界限，成为真正的认知危害。虽然它们可能只对那些容易被注意力劫持的人来说是危险的，但这种强迫感觉是真实的。
一种是游戏类型:“点击”或“空闲”游戏，如广受好评的《Universal Paperclips》，将游戏的奖励机制浓缩为最简单的结构。之所以这么说，是因为他们几乎是在玩自己，空闲游戏呈现了一系列令人眼花缭乱的计时器，倒计时和升级，并不断提供一些突破，改进或效率，就在几秒钟之后。我和其他许多人一样，因为这些问题失去了一整天的生产力。
另一种是一种类型的内容，我开始将其视为“多米诺骨牌视频”，这是一种与空闲游戏相同的非互动内容。一个视频，一些过程进展有序，但不是完全可预测的，方式，吸引你，并导致一个不可阻挡的强迫看，直到结束。有时这简直就是多米诺骨牌效应;其他时候，它可能是有人有条不紊地清洁地毯或脱毛。有时这个过程可能永远不会完成;pong wars是一款自动生成的Breakout“游戏”，游戏中有两个球，每个球都有入侵对方空间的威胁。它永远不会结束，但你会看得太长而不值得。
有可能情况已经糟到极点了。也许真正的注意力收割机本身就有一些令人反感的东西，这意味着在游戏过程中盯着他们看的冲动总是会被浪费时间的羞耻或厌恶所抵消。
但如果不是呢?如果生成式人工智能在社交媒体上被释放出来，真正在工业规模上吸引注意力，会是什么样子?如果父母给孩子的建议不仅仅是要小心他们在网上和谁说话，还要小心他们甚至看的东西?
在成为现实之前，一切都是科幻小说。
如果你想阅读完整版的时事通讯，请在每周二的收件箱中订阅TechScape。
加入亚历克斯·赫恩的《卫报》直播节目联机事件a关于人工智能、深度造假和选举，将于4月24日星期三晚8点英国夏令时举行。在这里订票。
