与监控评测家 Albert Fox Cahn 的问答

Albert Fox Cahn 是监控技术监督项目 (Surveillance Technology Oversight Project (停止),一个旨在确保技术进步不会以牺牲公民权利为代价的非营利组织。 STOP 诉讼和倡导隐私,致力于废除纽约及其他地区的政府大规模监控系统。

我们与 Fox Cahn 讨论了监控是否能保证我们的安全、执法部门使用面部识别的危险以及他用来减少跟踪的电话设置。

[Don’t miss our interviews with privacy experts. Subscribe to the ExpressVPN Blog Newsletter.]

STOP是怎样开始的?

STOP 始于 2019 年。在从事公司法之前,我作为民权律师已经工作了几年,我看到即使我们在国家层面遇到了这种原木堵塞的情况。监视,我们看到州和地方监视技术呈指数级增长,这些技术从根本上重塑了 警察 以及政府与被统治者的关系。

我开始 STOP 的愿望是尝试并系统地拆除纽约市的本地监视设备,以此来证明在整个美国乃至全球范围内拆除本地监视的更广泛模型的概念证明。 州和地方的反监视工作侧重于交叉人权模型,我们承认种族主义和偏见是如此多监视的核心。

有些人会争辩说,监视使我们安全。 你会怎样回应?

多年来,这个神话一直存在,不知怎的,如果我们有足够的摄像头,如果我们有更多的跟踪,如果我们有越来越多的侵入性监视,它会以某种方式保证我们的安全——但证据从未成为现实。 在伦敦,我们看到了“钢环” 建造用于监控该城市的几乎每个部分,但它从未真正降低犯罪率。 它实际上导致的是一种更大的不安全感,因为突然之间,这些罪行更容易被记录在案并在晚间新闻中显示。

花费我们金钱,侵蚀我们的隐私,破坏公民权利,同时未能真正保护我们安全的工具正在使人们处于危险之中,并面临被错误逮捕的风险。

在美国,我们已经看到一个又一个的蠢事,数百万美元被浪费在所谓的把我们的安全放在首位的工具上,但通常只是把钱放在供应商的口袋里。 我们看到像这样的工具 预测性警务 它们使用非常粗糙的算法来试图提出这种客观性的外表以及警察的部署方式。 但同样,当你深入了解算法工具的运作方式时,它是一个非常基本且有缺陷的模型,它利用历史数据将其推断为一个混合偏见和错误的未来。

在监视技术监督项目中,我们假设如果您要求人们在安全和价值观之间做出选择——无论他们多么珍视公民权利和平等等价值观——他们都会选择安全。 然而,我们关注的是那些双赢的工具。 花费我们金钱,侵蚀我们的隐私,破坏公民权利,同时未能真正保护我们安全的工具正在使人们处于危险之中,并面临被错误逮捕的风险。 这些是真正需要拆除的工具。

您最希望在全国范围内看到的单一政策变化是什么?

我希望看到在美国禁止所有政府使用面部识别。 我们已经在纽约市推动这项工作已经有一段时间了,并将继续在城市和州一级推动它。 我们认为这是姗姗来迟的事情,因为它是最具争议性和有据可查的监控技术。 许多研究记录了这些系统的持续偏差和失败。

在纽约市,我们看到了伪科学方法,其中照片在输入面部识别数据库之前先进行 Photoshop 处理。 如果嫌疑人的眼睛是闭着的,他们会被 Photoshop 放大。 如果他们的嘴是张开的,他们将被 Photoshop 关闭。 有时,会从 Google 图像搜索中添加下颚线或其他面部面部特征,以获取面部、拼贴画或面部识别算法可以识别为人类的东西。

那时,您并没有对所谓的匹配进行科学评估; 你正在从事 鲁莽的危害 人们的生活。 当这项技术出现问题时,它不仅意味着有人进监狱的风险,也不仅仅意味着有人被从家人身边夺走的风险。 这是警察暴力的风险,是有人膝盖抵在脖子上的风险,或者是特警队在他们家门口的风险。 这些是面部识别出错时的利害关系,也是我们需要取缔面部识别的原因——没有手令要求,没有一些监督程序,没有限制,我们需要明确的绝对禁令。

STOP 特别关注歧视性监视。 您怎样定义歧视性监视? 谁受其影响最大?

歧视性监视是任何类型的海量数据收集或海量数据分析,使历史上被边缘化的社区面临伤害风险。 最明显的例子是 面部识别,一个系统,您可以在其中记录有色人种、女性、LGBT 个体的模式,所有这些人都面临较高的误报风险。 这意味着在执法部门使用面部识别的情况下,虚假逮捕的风险增加。 当我们研究收集和使用数据的方式时,我们会在技术层面以及更广泛的政策框架中查看所有不同的故障点,该框架决定了谁的数据被捕获、怎样被分析,以及然后怎样使用这些数据。

Covid-19 对您的工作有何影响?

在大流行的早期,我们将重点转向研究受 Covid-19 影响的新型隐私形式。 这有很多方式改变了我们社区的方式 跟踪. 它影响了我们进行接触者追踪的方式,我们围绕暴露通知系统做了很多工作。 我们研究了这些平台怎样引发真正的隐私问题以及更广泛的股权影响,尤其是在美国,至少有五分之一的人无法使用智能手机。 许多拥有智能手机的人都拥有一部太旧且功能有限的智能手机,以至于无法运行这些暴露通知系统。

在过去的一年中,在这场大流行期间,我们一次又一次地做的一件事是,在我们应对 Covid-19 时,我们不应该让硅谷设定公共卫生议程。

我们推翻了技术解决方案主义者的思维模式,这种思维模式假设仅仅因为你可以构建一个应用程序,这个应用程序就可以工作,这会让事情变得更好。 我们在问,当应用程序失败时会发生什么? 我们一直在研究这些暴露通知系统最终在美国失败的方式,以及它们被证明是一种非常危险的方式,这些方式会分散人们对基于证据的公共卫生措施的注意力,比如传统的接触者追踪、社交距离、和戴口罩——公共卫生当局一直呼吁的所有事情。 在过去的一年中,在这场大流行期间,我们一次又一次地做的一件事是,在我们应对 Covid-19 时,我们不应该让硅谷设定公共卫生议程。 我们应该让公共卫生官员这样做。

您对 AI 和监控有哪些直接和长期的担忧?

在监控方面,人工智能会产生很多乘数效应。 当你有一台闭路电视摄像机时,一个人需要盯着它看几个小时才能完成一天的镜头。 当您谈论人工智能时,突然间您可以实时扫描数百个摄像头。 这意味着自动车牌读取器可以创建一个实时地图,显示人们在城市中的位置和驾驶时间,这意味着分析地理位置数据的能力,也意味着在顶部的预测分析层仅仅是位置数据的聚合。

所有的分析都可以从我们的动作、模式和决定中推断出来,以提出一个问题:这个人是威胁吗? 这是一个如此强大的决定,当工具出错时,他们几乎不可避免地会这样做,我们看到同样的过度监管的社区一次又一次地遭受痛苦。

普通人可以做些什么来保持自己的知情/安全?

我们能做的有很多 保护自己 从跟踪。 我们的手机是我们生活中最强大的追踪我们的工具,我们做出的选择反映了我们对安全和隐私的偏好和权衡。

我个人做出了许多客户无法做出的选择,因为我享有特权,因为我是一名律师,因为我是白人,因为我是美国公民。 它给了我很多人没有的自由,可以在社交媒体上发帖,发表公开评测,让很多商业服务跟踪我的位置。 因为任何时候我们的位置都会被商业实体跟踪。 这只是一项法律要求,远离政府追踪。

我们可以通过在不使用手机时关闭手机来限制我们在手机上被跟踪的数量,将它们放入 飞行模式,甚至把它们放在一个 法拉第笼. 您可以通过多种方式限制手机被跟踪的方式。 同样,您可以通过戴口罩、戴上另一种遮盖物来限制通过面部识别来跟踪您的面部的方式——显然我们都应该在大流行期间这样做以保护我们的健康,但这也可能是一种方式来保护我们的隐私。

也就是说,这些系统都不是万无一失的,作为个人,我们不应该保护自己免受这种侵入性间谍活动的侵害,因为这总是会导致我们这些人有时间和资源投资的特权在这些保护中。 相反,那些只想赚钱、只想勉强度日、拼命谋生的人,没有时间花数小时评估他们的网络安全和隐私风险。 他们是那些将要受苦并需要最多保护的人。 这就是为什么,除了我们采取任何措施保护我们自己的隐私之外,我们还必须通过新的法律要求、采取措施拆除这些警察监控系统以及向公司施压以停止启用这些监控系统的模式来保护我们的社区。各种猖獗的政府拉网。

阅读更多: 采访:加密专家 Riana Pfefferkorn 谈网络言论自由的侵蚀