2024-05-09 07:56 来源：本站编辑
在网络评论的战场上，是人工智能与人工智能的较量。
生成式人工智能可以吐出听起来像人类的评论，而经过训练的人工智能可以检测虚假评论。这种冲突对消费者和在线内容的未来都有影响。
利用人工智能检测虚假评论的初创公司Fakespot的创始人兼首席执行官萨乌德·哈利法(Saoud Khalifah)表示，他的公司发现人工智能生成的虚假评论大量涌入。Fakespot正在研究一种检测ChatGPT等人工智能平台编写的内容的方法。
他说:“如今与以往大不相同的是，模特们知识渊博，可以写出任何东西。”
虚假在线评论与真实在线评论存在的时间差不多一样长，但由于人们对如今在互联网上广泛使用的先进人工智能技术产生了更广泛的担忧，这个问题变得更加紧迫。
美国联邦贸易委员会(Federal Trade Commission)多年来一直通过逐案执法来监管这一问题，上个月，该委员会提出了一项新规定，以打击欺诈性审查。如果获得批准，该规定将禁止撰写虚假评论、为评论付费、隐瞒诚实评论和其他欺骗行为，并对违反规定的人处以巨额罚款。
但现在，什么是虚假评论，什么不是虚假评论已经不那么清楚了，检测虚假评论的技术仍在发展中。
联邦贸易委员会广告实践部门的律师迈克尔·阿特尔森说:“我们不知道——真的没有办法知道——坏人在多大程度上使用了这些工具，以及有多少是机器人制造的，有多少是人为制造的。”“这真的是一个更严重的问题，这只是人们担心这些聊天机器人将被用来在网上制造各种虚假内容的一个缩影。”
有迹象表明，人工智能生成的评论已经很普遍了。今年4月，美国全国广播公司财经频道(CNBC)报道称，亚马逊上的一些评论有明显的人工智能参与的迹象，许多评论都以“作为一种人工智能语言模型……”
亚马逊是多年来与虚假评论作斗争的众多在线卖家之一。一位发言人表示，该公司每周都会收到数百万条评论，并在2022年主动屏蔽了2亿条可疑的虚假评论。该公司将人类调查人员和人工智能相结合，利用机器学习模型分析用户的评论历史、登录活动以及与其他账户的关系等因素，来发现虚假评论。
让问题更加复杂的是，人工智能生成的评论并不完全违反亚马逊的规则。亚马逊的一位发言人表示，该公司允许客户发布人工智能生成的评论，只要这些评论是真实的，并且不违反政策指导方针。
这家电子商务巨头也表示，它可能需要一些帮助。今年6月，亚马逊负责全球销售合作伙伴服务的副总裁达米什·梅塔(Dharmesh Mehta)在公司的一篇博客文章中呼吁“私营部门、消费者团体和政府”加强合作，以解决日益严重的虚假评论问题。
关键问题是，人工智能检测是否能够智胜制造虚假评论的人工智能。哈利法说，几个月前，Fakespot发现的第一批人工智能生成的虚假评论来自印度，由他所谓的“虚假评论农场”——大量出售虚假评论的企业——生产。生成式人工智能有可能使他们的工作变得更容易。
杜克大学(Duke University)计算机科学助理教授布万·丁格拉(Bhuwan dingra)说，“这些检测工具肯定很难通过测试。”“因为如果模型与人类写东西的方式完全匹配，那么你真的无法区分两者。我不指望在短时间内看到任何探测器以优异的成绩通过测试。”
几项研究发现，人类并不擅长识别人工智能撰写的评论。许多技术专家和公司都在研究检测人工智能生成内容的系统，比如ChatGPT背后的OpenAI公司，甚至在研究检测他们自己的人工智能。
芝加哥大学(University of Chicago)计算机科学教授赵本(Ben Zhao)表示，人工智能“几乎不可能”接受消灭人工智能生成的评论的挑战，因为机器人创建的评论通常与人类的评论无法区分。
他说:“这是一场持续的猫捉老鼠的追逐，但归根结底，人工智能创造的内容并没有什么根本的区别。”“你会发现一些系统声称它们可以区分人类编写的文本和ChatGPT文本。但与它们试图追赶的东西相比，它们背后的技术都相当简单。”
90%的消费者表示他们会在网上购物时阅读评论，这一前景让一些消费者权益倡导者感到担忧。
“这对消费者来说是可怕的，”美国公共利益研究组织消费者监督办公室主任特蕾莎·默里说。“人工智能已经在帮助不诚实的企业在几秒钟内以对话的语气发表数千条听起来真实的评论。”
资讯来源：http://www.yjczg.com/news/show/127444/
