欢迎来到进口食品商务网!

“夜怒”:文件详细说明了国土安全部给社交媒体用户“风险评分”的项目

2024-04-26 22:20 来源:本站编辑

根据Motherboard审阅的国土安全部内部文件,美国国土安全部于2018年与阿拉巴马大学伯明翰分校(UAB)签订合同,设计方法,为社交媒体上潜在的亲恐怖分子账户分配“风险评分”,并识别有关非法阿片类药物供应链和虚假信息的相关信息。根据国土安全部监察长的一份报告,该项目被称为“夜怒”。

“承包商应开发这些属性,以创建一种方法,用于开发与已识别账户相关的排名或‘风险评分’。其中一份文件写道:“承包商应开发自动化识别过程的工具,记录与自动化识别过程相关的性能测量和度量。”

这一消息表明,国土安全部将继续专注于出于各种目的分析社交媒体。这些新文件是在Motherboard报道海关和边境保护局(CBP)使用一种名为Babel X的人工智能工具来分析美国边境旅行者的社交媒体之后发布的。

布伦南司法中心根据公共记录要求获得了这些新文件,并与Motherboard分享了这些文件。它们包括项目和合同的隐私阈值分析。一份文件写道,这项研究计划涉及CBP、ICE、TSA和USCIS,它们将提供“跨任务操作背景”。

“使用自动化流程来分析社交媒体,以确定某人‘亲恐怖分子’的可能性,并在网上为个人和团体分配‘风险评分’,这让人想起了特朗普政府一项名誉扫地的提议,即‘极端审查倡议’(Extreme Vetting Initiative),布伦南司法中心自由与国家安全项目董事总经理雷切尔·莱文森-沃尔德曼在一封电子邮件中告诉Motherboard,该项目将监控社交媒体和其他开放的互联网,根据他们是否会成为‘对社会有积极贡献的成员’或‘对国家利益有贡献’,以及他们是否‘打算犯下’犯罪或恐怖主义行为,自动标记人们被驱逐出境或拒绝签证。”

她补充说:“正如许多机器学习和自动化决策方面的专家在签署夜之怒合同不到一年前告诉国土安全部的那样,试图对这些问题做出自动判断既不可能,也可能受到偏见的影响,因为这些特征没有具体的定义,就像没有‘亲恐怖分子’的定义一样。”

其中一项隐私阈值分析表示,UAB的工作最初将集中在“反恐、非法阿片类药物供应链、跨国犯罪,以及理解/描述/识别外国实体传播的虚假信息,包括研究机器人检测”,但这些方法应该“扩展到国土安全部的其他领域”。

另一份文件称,研究人员将“建立下一代能力”。该文件补充说,这包括开发训练数据集、算法和方法。

文件称,更具体地说,该项目计划开发不需要GPS元数据就能识别位置的方法,比如寻找某些关键字。研究人员还计划追踪主流社交网络(如Facebook和Twitter)以外的其他社区的威胁。文件还说,国土安全部计划测试这些方法,以应对实时发生的事件,比如飓风场景。

一份文件显示,另一项任务是创建一个“Facebook Group Expander”,它将自动识别潜在的亲恐怖主义社交媒体账户和亲恐怖主义团体互动的Facebook群组。然后,UAB将不断向国土安全部提供这些账户和相关帖子的清单。文件显示,UAB的任务是在Twitter上做类似的事情。

莱文森-沃尔德曼补充说:“考虑到‘支持圣战’的账户,以及国土安全部和其他联邦机构长期针对穆斯林社区的做法,这个项目如果实施,似乎很可能会不成比例地横扫穆斯林社交媒体用户,给他们甚至他们的家人带来高风险的移民或犯罪后果。”“夜怒所设想的社交媒体收集和分析,也可能对学者、活动人士和倡导者、记者以及其他在网上就美国对恐怖组织的外交政策、‘物质支持’法律的有效性等问题交换意见的人产生巨大影响。”

关于虚假信息,国土安全部计划让UAB开发自动化工具,能够确定一个社交媒体账户是否对应于一个人,或者该账户是否“通过程序生成以施加影响”——一个机器人。

国土安全部希望UAB研究的“次要”社交媒体网络还包括Telegram、Google+、VK和Ask。fm和Zello,一份文件写道。

根据文件显示,数据分析技术中心(DATC)是科学技术理事会(S&T)的一部分,是该项目的牵头组织。该文件补充说,UAB向国土安全部提交了一份提案,该提案被接受了。该文件称,UAB在为私人和政府利益相关者识别在线内容(包括与MS-13团伙有关的内容)方面拥有“丰富的过去经验”。根据公共采购记录,国土安全部于2018年9月授予了该合同,潜在合同金额为340万美元。

国土安全部和UAB均未回应置评请求。

请订阅我们的网络安全播客CYBER。订阅我们的Twitch频道。

中国进口商网声明:未经许可,不得转载。