2024-04-20 17:06 来源：得道网
近年来，世界各国政府越来越多地转向面部识别系统，以瞄准犯罪嫌疑人并打击异见人士。最近人工智能的蓬勃发展加速了这项技术的能力和扩散，这让人权组织和隐私倡导者感到非常担忧，他们认为这是一种具有巨大危害潜力的工具。
很少有国家像以色列那样对这项技术进行如此广泛的试验。《纽约时报》(New York Times)最近报道称，自加沙战争开始以来，以色列开发了新的面部识别系统，并扩大了对巴勒斯坦人的监视。以色列当局在加沙的检查站部署了该系统，扫描通过检查站的巴勒斯坦人的面孔，并拘留任何被怀疑与哈马斯有联系的人。一名以色列官员告诉《纽约时报》，该技术还会错误地将平民标记为武装分子。该国使用面部识别技术是在冲突中部署人工智能的新方式之一，人权组织警告称，这标志着以色列通过技术将已经普遍存在的巴勒斯坦人作为目标的行动进一步升级。
在去年一份关于以色列使用面部识别的报告中，人权组织大赦国际(Amnesty International)记录了安全部队在未经巴勒斯坦人同意的情况下大量收集巴勒斯坦人的生物特征数据。据报道，以色列当局利用面部识别技术建立了一个庞大的巴勒斯坦人数据库，然后用来限制行动自由并进行大规模监视。以色列国防部没有回应就国际特赦组织的报告或《纽约时报》关于其面部识别项目的文章发表评论的请求。
《卫报》采访了国际特赦组织人工智能和人权顾问、该报告首席研究员马特·马哈茂迪(Matt Mahmoudi)，了解以色列如何部署面部识别系统，以及在加沙战争期间面部识别系统的使用是如何扩大的。
在过去十年的大部分时间里，以色列在巴勒斯坦被占领土上试验了大量的面部识别工具。我们正在研究红狼，蓝狼和狼群的工具。这些系统已经在西岸，特别是在希布伦经受了考验。所有这些系统都是有效的面部识别工具。
在希布伦，很长一段时间以来，人们依赖一种称为狼群系统的东西- -一个只与巴勒斯坦人有关的资料数据库。他们会把一个被拘留的人放在闭路电视摄像机前，然后操作室会从狼群系统中提取信息。这是一个旧的系统，需要在操作室和地面上的士兵之间建立联系，现在已经升级了。
我们看到的首批升级之一是“蓝狼”系统，早在2021年，伊丽莎白·德沃斯金就在《华盛顿邮报》上首次报道了这一系统。这个系统实际上是在尝试收集尽可能多的巴勒斯坦人的面孔，就像一个游戏一样。他们的想法是，这个系统最终会学会巴勒斯坦人的脸，士兵们只需要拿出蓝狼的应用程序，把它放在某人的面前，它就会提取出他们身上所有的信息。
“蓝狼”应用上有一个排行榜，它可以有效地追踪使用该工具的军事单位，并捕捉巴勒斯坦人的脸。它会根据拍摄的照片数量给你一个每周评分。每周捕获巴勒斯坦人面孔最多的军事单位将获得奖励，如带薪休假。
因此，你不断地陷入不再把巴勒斯坦人当作有人类尊严的个体来对待的境地。你是在一个游戏化的逻辑下运作，在这个逻辑下，你将尽你所能绘制出尽可能多的巴勒斯坦人的面孔。
我们在希布伦看到的最新情况是额外引入了红狼系统，该系统部署在检查站并与其他系统接口。它的工作方式是，通过检查站的个人被关在旋转门内，摄像头扫描他们的脸，并在屏幕上显示照片。操作它的士兵将得到一个指示灯——绿、黄、红。如果它是红色的，巴勒斯坦人就不能通过。
该系统仅基于巴勒斯坦人的图像，我必须强调，这些检查站只针对巴勒斯坦居民。他们必须首先使用这些检查点，以便能够获得非常基本的权利，而现在却受到算法的这些任意限制，这是一个严重的问题。
这个系统特别令人不寒而栗的是，人们听到了一些故事，说有些人甚至因为没有被算法识别而无法回到自己的社区。我还听到士兵们说，现在他们正在怀疑是否应该让一个他们非常熟悉的人通过检查站，因为电脑告诉他们不要这样做。他们发现，他们越来越倾向于将巴勒斯坦人视为电脑屏幕上与他们相关的绿灯、黄灯或红灯的数字。
迄今为止，我们对人机交互的所有研究都表明，在特别紧迫的情况下，人们更有可能把行动推迟给算法指标。我们在审查的证词中看到，士兵们一次又一次地服从制度，而不是他们自己的判断。这简单地归结为对某些人的错误判断的恐惧。如果他们的判断是不正确的，而不考虑他们可能认识他们面前的人这一事实呢?如果计算机知道的比人类多怎么办?
即使你知道这些系统非常不准确，但你的生活可能依赖于遵循严格的算法处方，这意味着你更有可能遵循它。它带来了巨大的问题，意味着在问责制方面存在空白。
以色列国防部所作的唯一公开承认- -就“红狼”、“蓝狼”和“狼群”系统而言- -只是说他们当然必须采取措施保证安全。他们表示，其中一些措施包括创新的技术解决方案，但他们无权讨论具体细节。每当他们收到一份专门针对他们的系统侵犯人权的报告时，这种信息就会一次又一次地出现。
同样有趣的是，科技公司以及国防部的各个部门都在吹嘘自己在人工智能系统方面的技术实力。我不认为以色列当局依靠大量的公关宣传他们在人工智能方面的军事能力是相当复杂的，同时也没有详细说明这些系统是如何运作的，这已经不是什么秘密了。
如果有什么不同的话，我们一次又一次地看到，半自主武器系统如何最终使人失去人性，并导致后来被称为“令人遗憾”的死亡。它们没有意义的控制，它们有效地把人变成了由算法处理的数字，而不是由个人做出的道德、伦理和法律判断。它有这样的后果，“好吧，看，确定什么是军事目标并不取决于我们。这取决于算法。”
我们知道面部识别系统被用于进出加沙的游客，但根据《纽约时报》的报道，这是我们第一次听说它被以这种方式使用，特别是针对从北部逃往南部的加沙巴勒斯坦人。我所能观察到的大部分都是基于开源情报，但我们看到的是一段视频，显示了安装在临时检查站外的三脚架上的摄像头。人们慢慢地从北向南通过这些检查站，然后人们被从人群中拉出来，并根据我们怀疑的面部识别工具被拘留。
问题是，人们已经在被带到更安全的地方的支持下，从A地混乱地转移到B地，只是被放慢速度，并要求在允许他们这样做之前进行有效的生物识别检查。我们也听说有人在经过生物识别后被拘留、殴打和盘问，但后来证实这是一个错误。
你的权利不会因为国家安全受到威胁而变得不那么有效。然而，当你要弄清楚在什么特别独特的情况下，一个国家会为了维护其他权利而侵犯某些权利时，你可以使用一个由三部分组成的测试。这个由三部分组成的测试试图评估特定干预的必要性、相称性和合法性。
在国际特赦组织，根据国际人权法，我们不认为有必要、相称性或合法性。这种面部识别技术与隐私权、不受歧视权、和平集会权或行动自由权不兼容。所有这些权利在一种制度下受到严重损害，这种制度实际上是一种大规模监视制度，因此是非法的。
我认为人工智能清洗是政府姿态的重要组成部分，表明他们正在为解决问题做些什么，他们想让自己看起来很积极主动。自2010年代以来，很明显，全球各国政府都依赖于技术解决方案。现在，特别是由于生成式人工智能的爆炸式增长，人们认为人工智能将解决一些最复杂的社会、经济和政治问题。
我认为它所做的只是免除了国家对其公民的责任——根据国际法，他们有义务维护那些受其权力支配的人的权利，基本上是说“制度会照顾它”或“制度有错”。它为国家创造了这些整洁的基础，使它们看起来像是在做某事，而不必对它们实际在做的事情负责。有一个技术系统调解了问责制和责任。
这篇采访经过编辑和修改为了清晰起见，浓缩
