欢迎来到进口食品商务网!

拜登行政命令指出,构建“最强大”模型的人工智能公司必须通知联邦政府

2024-05-10 19:42 来源:本站编辑

周一,白宫公布了人们期待已久的拜登总统关于人工智能技术的行政命令,该命令旨在最大限度地减少人工智能系统对公众的一些风险,同时支持开发该技术的公司。

自从OpenAI的ChatGPT软件去年起飞以来,人工智能迅速应用于从搜索引擎到华尔街的各个领域。专家们提出了这场人工智能军备竞赛引发的严重担忧,从失业到金融崩溃,再到随着深度造假的扩散,可靠信息来源的严重恶化。即便如此,科技行业仍大力支持人工智能的自由发展。国会议员最近与人工智能创造者进行了闭门会谈,其中包括OpenAI首席执行官萨姆·奥特曼和科技投资者马克·安德森,后者最近称减缓人工智能发展的法规是“一种谋杀”。

根据白宫的一份情况说明书,新的行政命令“为人工智能安全和保障建立了新的标准,保护了美国人的隐私,促进了公平和公民权利,为消费者和工人提供了支持,促进了创新和竞争,提升了美国在世界各地的领导地位,等等”。

关于人工智能安全的话题,行政命令要求人工智能公司建立“最强大”的人工智能系统,或者一个“基础模型”,意思是一个可以应用于许多任务的模型,必须与联邦政府共享信息,包括旨在防止意外或恶意使用的内部测试。该命令指出,如果一个模型“对国家安全、国家经济安全或国家公共健康和安全构成严重风险”,“(公司)在培训模型时必须通知联邦政府,并且必须分享所有红队安全测试的结果。”

该命令还指示国家标准与技术研究所制定测试人工智能系统安全性的标准,国土安全部将将其应用于“关键基础设施部门”,并组建人工智能安全与保障委员会。该命令指出,能源部和国土安全部也将使用这些标准来应对人工智能的威胁。

值得注意的是,该行政命令几乎没有为因人工智能系统而面临失业或收入减少的工人提供具体保护。利用人工智能来减少或贬低好莱坞作家的贡献,是最近导致娱乐业停滞数月的作家罢工的一个主要症结。演员们目前仍在罢工,人工智能是一个激励因素。行政命令指出,政府将制定“原则和最佳做法”,作为雇主的“指导”。它还表示,政府将准备一份关于人工智能对劳动力市场影响的报告,以“确定支持工人的选择”。

相比之下,该命令宣布直接支持初创企业。该命令指出,政府将“为小型开发商和企业家提供技术援助和资源”,并将直接“帮助小型企业将人工智能的突破商业化”。它还将扩大对人工智能研究的资助,为研究人员提供资源和数据,并扩大在关键领域拥有专业知识的移民在美国工作的能力。白宫的情况说明书指出:“美国已经在人工智能创新方面处于领先地位——去年在美国筹集到首次资金的人工智能初创公司比紧随其后的七个国家加起来还要多。”白宫还将鼓励联邦贸易委员会(Federal Trade Commission)利用其在该行业反竞争行为方面的权力。

该命令非常广泛,涵盖了与人工智能相关的许多领域。例如,资助科学的机构将对寻求利用人工智能发现新的生物化合物的研究应用新的安全标准,以防止“危险”生物材料的开发。去年,研究人员发表的一项研究表明,一个用于制药研究的现成人工智能程序可以在6小时内重新配置,产生4万种潜在的生物武器。

随着人工智能系统在生成令人信服的视频和图像方面做得越来越好,专家们越来越担心人工智能被滥用的可能性。网络诈骗者已经开始使用人工智能生成名人视频来引诱受害者,而深度造假的威胁一直笼罩着评估哈马斯对以色列发动致命袭击以及以色列对加沙进行毁灭性报复性围困的图像的努力。行政命令指出,政府将制定“内容认证和水印指南,以清楚地标记人工智能生成的内容”,并将使用这些内容“使美国人更容易知道他们从政府收到的通信是真实的”。

该命令指出,将为房东和联邦福利计划提供“指导”,以防止人工智能被用来歧视人们,并将为“调查和起诉与人工智能有关的侵犯民权行为”建立“最佳做法”。它还将介绍在刑事司法系统中使用人工智能的最佳实践,从量刑到警务。例如,人工智能系统长期以来一直被指责在为再次犯罪分配风险评分时存在偏见,并且有许多无辜的黑人在被面部识别系统标记后被捕的案例。

该命令涵盖了更多领域,从隐私保护到支持海外人工智能的开发和部署。然而,很明显,尽管联邦政府希望采取具体措施来减少对公众的一些风险,但由于公司使用人工智能而导致的广泛失业或某些职业的退化目前还不是其中之一。相反,它将人工智能视为巩固美国技术和经济主导地位的另一个载体。

中国进口商网声明:未经许可,不得转载。