2024-04-25 20:20 来源：本站编辑
数百名科学家、科技行业高管和公众人物——包括谷歌(Google)、微软(Microsoft)和ChatGPT的领导人——对人工智能发出了警告，他们在一份新的公开声明中写道，快速发展的人工智能技术可能会造成与核战争和类似新冠病毒的大流行一样高的人类灭绝风险。
总部位于旧金山的非营利组织人工智能安全中心(CAIS)发布的这份只有一句话的声明称:“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球的优先事项。”
CAIS表示，发布该声明是为了鼓励人工智能专家、记者、政策制定者和公众更多地谈论与人工智能相关的紧迫风险。
在公开声明的350名签名者中，有来自四大人工智能公司OpenAI、谷歌DeepMind、微软和Anthropic的高管。其中一位是著名研究员、“人工智能教父”杰弗里·辛顿(Geoffrey Hinton)，他上个月辞去了谷歌副总裁的工作，以便可以自由地谈论他帮助开发的这项技术的危险。
签署声明的还有OpenAI的首席执行官萨姆·奥特曼(Sam Altman)，该公司开发了广受欢迎的聊天机器人ChatGPT，让数百万用户可以使用人工智能，并允许他们向它提出问题。谷歌人工智能部门负责人杰米斯·哈萨比斯也签署了这份声明。
奥特曼、辛顿和其他行业领袖越来越直言不讳地表达了他们对人工智能的担忧，以及对人工智能进行某种技术保护的必要性，包括政府监管。
“我认为，如果这项技术出了问题，它可能会出很大的问题，”奥特曼在最近参议院司法小组委员会关于人工智能可能受到监管的听证会上说。“我们想要直言不讳。我们希望与政府合作，防止这种情况发生。
CAIS的声明允许读者根据签名者是人工智能科学家还是“其他知名人士”来查看签名者。一些杰出的非科学家包括哈佛大学的著名法律学者劳伦斯·特赖布，长期的气候变化活动家比尔·麦基本，以及音乐家和艺术家格莱姆斯，他与特斯拉和推特领导人埃隆·马斯克有两个孩子。马斯克本人并不是签署人之一。
现年75岁的辛顿在离开谷歌时表示，他对人工智能技术的快速发展越来越感到不安，包括它能够显示出能够发展简单认知推理的早期迹象。
当会议主持人问到“你认为可能出现的最坏情况是什么”时，辛顿毫不犹豫地回答。“我认为这是完全可以想象的，”他说，“人类只是智能进化过程中的一个短暂阶段。”
两周前，奥特曼在参议院作证时告诉参议员，一个潜在的担忧是，人工智能是否“能够发展出“自我复制和自我解脱到野外”的能力。
这是奥特曼为听证会提交的书面证词。他在信中透露，被邀请审查其最新聊天机器人版本的外部人工智能安全专家“帮助确定了GPT-4在产生不准确信息(称为‘幻觉’)、仇恨内容、虚假信息以及与常规和非常规武器扩散有关的信息等领域的潜在问题。”
不。一些著名的网络安全专家认为，辛顿在离开谷歌后发表的言论过于极端、毫无根据，其中包括风险管理公司Critical Insight的联合创始人迈克尔•汉密尔顿(Michael Hamilton)，他曾担任美国国土安全部州、地方、部落和领土政府协调委员会副主席。
汉密尔顿在接受《今日美国》采访时淡化了辛顿的担忧，称人工智能基本上是一个极其复杂的编程平台，只能在人类允许的范围内发展。例如，它不可能成为电影《终结者》中那种有知觉、有自我意识和无所不知的技术。
Altman、Hinton和其他人工智能领导者都赞扬了人工智能在广泛领域帮助人类的巨大潜力，从工业和教育到提高残疾人的视觉、听觉和沟通能力。
这封信是由人工智能安全中心(Center for AI Safety，简称CAIS)发布的，该中心表示，它相信人工智能“有可能深刻地造福世界，只要我们能够安全地开发和使用它”。
CAIS在其网站上说:“目前的系统已经可以通过律师考试，编写代码，折叠蛋白质，甚至解释幽默。”“像任何其他强大的技术一样，人工智能也有固有的风险，包括一些潜在的灾难性风险。”
CAIS在发布新声明时表示，人工智能安全的许多基本问题尚未得到解决，其使命是通过开展安全研究、建立人工智能安全研究人员领域和倡导安全标准来减少与人工智能相关的社会规模风险。
国会就这个问题举行了多次听证会，召集了大型人工智能公司的高管。
在最近的参议院司法小组委员会听证会上，主席、康涅狄格州民主党参议员理查德·布卢门撒尔(Richard Blumenthal)说:-他说他让一个人工智能聊天机器人帮他看一遍他的发言，并为他做开场发言。布鲁门撒尔指出，在声音和内容上，聊天机器人完全模仿了他的声音和他的担忧。
5月4日，拜登政府在白宫与科技领袖举行会议后宣布了一系列措施，包括投入1.4亿美元用于新的研究工作，以促进人工智能领域的负责任创新，并保护人们的权利和安全。
白宫在一份概述新举措的声明中表示:“人工智能是我们这个时代最强大的技术之一，但为了抓住它带来的机遇，我们必须首先降低它的风险。”
根据新的拜登倡议，美国国家科学基金会将成立七个新的国家人工智能研究所，将联邦机构、私营部门开发商和学术界聚集在一起，追求符合道德和负责任的人工智能发展，为公众利益服务。新研究所将推进气候变化、农业、能源、公共卫生、教育和网络安全等关键领域的人工智能研发。
