欧盟更接近禁止人工智能大规模监控

比大规模监视更糟糕的是什么? 那是使用面部识别技术的监视。 欧盟已经迈出了第一步,以确保它不会成为警务的新标准。

在一个新的 提议 周三公布的欧盟委员会提出了一项规定,如果获得通过,将限制和规范将人工智能用于“不分青红皂白的监视”,并禁止在数字和物理环境中监视和跟踪人员。

[Get the latest privacy news. Sign up for the ExpressVPN blog newsletter.]

如果它成为法律,这也将为美国和中国等尚未对人工智能引入类似监管的国家开创先例——同时也可以说 远远领先于欧洲 在人工智能领域。

立法中有什么

这份 108 页的草案概述了在欧洲开发和实施人工智能系统时监管人工智能系统的几项关键立法。

在目前的状态下,该提案将禁止执法部门在公共场所使用实时远程生物特征识别系统,这意味着在几乎所有情况下,任何形式的实施面部识别或其他生物特征数据的警察大规模监视都将被禁止.

阅读更多: 隐身:怎样避免现实生活中的监视

然而,草案确实明确指出,某些禁令在欧盟政府或公共当局实施以“维护公共安全”时将不适用。

它还将禁止公共当局使用类似于中国实施的“社会评分”系统,以及利用弱势群体或“在个人意识之外部署潜意识技术以严重扭曲个人行为”的系统。

除了彻底禁止外,该立法还为旨在用作产品或产品本身的安全组件的“高风险”人工智能系统设定了标准。 这将包括基本的基础设施,如道路、供水、天然气和电力。 这些系统必须满足一系列要求,包括遵守数据隐私规则、为用户提供透明的文档以及人工监督。 违反任何这些规定都可能导致高达 2000 万欧元或公司全球年营业额 4% 的罚款,以较高者为准。

最后,将创建一个新的欧洲人工智能委员会来决定人工智能系统是否合规及其风险水平。

“人工智能的 GDPR”

这项新立法与 2016 年推出的《通用数据保护条例》之间存在相似之处,以控制大型科技公司的数据收集做法。

它的引入为加利福尼亚州和其他非欧盟国家的类似立法创建了一个模板,虽然存在缺陷,但对收集个人数据的国家实施了问责制。

很可能,欧盟在监管和限制人工智能方面的首次尝试也将被用来激励非欧盟国家采用类似的规定:在欧盟发布提案的同一天,美国联邦贸易委员会发布了一项 陈述 概述了它将怎样利用现有法律“禁止不公平或欺骗性做法(包括)出售具有种族偏见的算法”。

对异常提出的问题

尽管如此,这项雄心勃勃的法律对潜在漏洞提出了很多问题和担忧,特别是围绕规则豁免的模糊语言。

为了 example,虽然执法部门通常会被禁止使用“远程生物识别系统”,但在寻找被绑架儿童和某些可能从谋杀到欺诈的犯罪等严重案件中仍然可以豁免。 还有一个问题是什么才算是“维护公共安全”的人工智能,这个措辞可以用来证明军队或任何公共安全机构使用人工智能系统的合理性。

还有欧洲人工智能委员会的问题:无论谁担任董事会成员,都将对哪些人工智能技术将被限制和允许产生重大影响。

该立法刚刚出台,在通过成为法律之前将经过多轮辩论和修正。 这项立法的大部分内容可能不会改变,但欧盟是否会解决一些模糊的措辞和例外所引发的担忧,这些措辞和例外似乎破坏了控制人工智能用于监视的努力。 .

您怎样看待立法? 让我们在评测中知道。

阅读更多: 拥有顶级数据隐私法的 10 个国家