2024-06-10 20:40 来源：本站编辑
谷歌(Google)在Chrome、火狐(Firefox)和谷歌应用浏览器上推出了最新的实验性搜索功能，面向数亿用户。“人工智能概览”通过使用生成式人工智能(与竞争对手的产品chatgpt使用的技术相同)来提供搜索结果摘要，从而节省了点击链接的时间。当被问及“如何让香蕉保持更久的新鲜”时，它会使用人工智能生成一个有用的提示摘要，比如将香蕉存放在阴凉、黑暗的地方，远离苹果等其他水果。
但如果问它一个左倾的问题，结果可能是灾难性的，甚至是危险的。谷歌目前正在一个接一个地解决这些问题，但这对这家搜索巨头来说是一场公关灾难，也是一场具有挑战性的打地鼠游戏。
AI overview告诉你“打地鼠是一款经典的街机游戏，玩家使用木槌击打随机弹出的鼹鼠以获得分数。该游戏于1975年在日本由娱乐制造商TOGO发明，最初被称为“摩村太地”或“摩村达木”。
但AI Overviews还告诉你，“宇航员在月球上遇到过猫，和它们一起玩耍，并提供照顾。”更令人担忧的是，它还建议“你应该每天至少吃一块小石头”，因为“石头是矿物质和维生素的重要来源”，并建议在披萨配料中加入胶水。
一个根本问题是，生成式人工智能工具不知道什么是真实的，只知道什么是流行的。例如，网上没有很多关于吃石头的文章，因为这是一个不言而喻的坏主意。
然而，《洋葱报》(The onion)上有一篇广为阅读的关于吃石头的讽刺文章。因此，谷歌的人工智能基于流行的内容进行总结，而不是真实的内容。
另一个问题是，生成式人工智能工具没有我们的价值观。他们在网络上接受了大量的训练。
虽然使用了复杂的技术(被称为“从人类反馈中强化学习”或RLHF)来消除最糟糕的情况，但它们反映了一些偏见、阴谋论和网络上发现的更糟糕的情况也就不足为奇了。事实上，考虑到人工智能聊天机器人所接受的训练，它们的礼貌和行为举止总是让我感到惊讶。
如果这真的是搜索的未来，那么我们将会经历一段颠簸的旅程。当然，谷歌正在追赶OpenAI和微软。
引领人工智能竞赛的经济激励是巨大的。因此，谷歌在将这项技术推向用户手中时，没有过去那么谨慎了。
2023年，谷歌首席执行官桑达尔·皮查伊说:“我们一直很谨慎。在某些领域，我们选择不率先推出产品。我们已经围绕负责任的人工智能建立了良好的结构。你会继续看到我们慢慢来。”
这似乎不再那么正确了，因为谷歌回应了人们对它已成为一个庞大而沉闷的竞争对手的批评。
对谷歌来说，这是一个冒险的策略。它冒着失去公众对谷歌的信任的风险，公众对谷歌是找到问题(正确)答案的地方。
但谷歌也有可能破坏其价值数十亿美元的商业模式。如果我们不再点击链接，只阅读他们的摘要，谷歌如何继续赚钱?
风险并不仅限于谷歌。我担心这种人工智能的使用可能会对社会产生更广泛的危害。真理已经是一个有争议和可替代的概念。人工智能的谎言可能会让情况变得更糟。
十年后，我们可能会把2024年视为网络的黄金时代，那时大部分都是高质量的人工生成内容，然后机器人接管了网络，让网络充斥着人工智能生成的合成内容，但质量越来越低。
第二代大型语言模型很可能无意中在第一代的一些输出上进行训练。许多人工智能初创公司都在宣传人工智能生成的合成数据培训的好处。
但是，在当前人工智能模型的废气上进行训练，可能会放大即使是很小的偏见和错误。就像吸入废气对人类有害一样，它对人工智能也有害。
这些担忧符合一个更大的图景。在全球范围内，每天有超过4亿美元(6亿澳元)投资于人工智能。政府现在才刚刚意识到，考虑到这种投资洪流，我们可能需要护栏和监管，以确保负责任地使用人工智能。
制药公司不允许发布有害的药物。汽车公司也是如此。但到目前为止，科技公司基本上被允许做自己喜欢做的事情。
公司提供 nversation
本文转载自The Co在知识共享许可下的对话。阅读原文。
