2024-04-26 14:00 来源:本站编辑
华盛顿——周五,美国空军否认使用人工智能控制的无人机进行模拟,在模拟中,人工智能转向其操作员并攻击其目标。
上个月,一名空军上校在伦敦的一次研讨会上发表了明显被误解的言论,这则新闻在社交媒体上迅速传播开来。实验战斗机试飞员塔克·汉密尔顿上校(Tucker Hamilton)描述了一次演习,在演习中,一架人工智能控制的无人机被编程为摧毁敌人的防空系统。当被命令忽略目标时,无人机会攻击其操作人员干扰其主要目标。
机器攻击人类并成为自主杀手的世界末日主题恰逢人们越来越担心人工智能的危险。周四,美国总统乔·拜登(Joe Biden)警告称,人工智能“可能会超越人类的思维”。
然而,根据空军的说法,汉密尔顿只是在谈论一个假设的场景,以说明人工智能的潜在危害。它没有用无人机进行这样的模拟。
美国空军发言人安·斯特凡内克(Ann Stefanek)在一份声明中表示:“美国空军没有进行任何此类人工智能无人机模拟,并仍致力于以道德和负责任的方式使用人工智能技术。”
斯蒂芬尼克说,汉密尔顿的评论似乎被断章取义了。
这名战斗机试飞员随后在一份声明中澄清说,他在伦敦峰会上的演讲“说错了”,“流氓人工智能无人机模拟”是一种假设的“思想实验”。
人工智能的迅速崛起和日益普及,甚至引起了一些帮助开发它的技术专家的担忧,比如英国著名研究人员、所谓的人工智能教父之一杰弗里•辛顿(Geoffrey Hinton)。
在最近的一次会议上,辛顿被一个小组的主持人问到,对于人工智能来说,“你认为最糟糕的情况是什么”。辛顿毫不犹豫地回答。
“我认为这是完全可以想象的,”他说,“人类只是智能进化过程中的一个短暂阶段。”
另一位经常被称为“人工智能教父”的计算机科学家、加拿大人约书亚·本吉奥(joshua Bengio)本周告诉BBC,他认为根本不应该允许军方使用人工智能。他说,这是“我们可以放置超级智能人工智能的最糟糕的地方”之一,人工智能的安全性应该优先于实用性。
贡献:Josh Meyer