IBM将不再开发或研究面部识别技术

IBM首席执行官Arvind Krishna表示,该公司将不再开发或提供通用的面部识别或分析软件。在 6月8日的一封信 克里希纳(Krishna)向国会致辞,并为支持2020年《警察法》而撰写,主张进行新的改革,以支持负责任地使用技术,并打击系统性的种族不公和警察的不当行为。

“ IBM坚决反对并且绝不容忍将任何技术(包括其他供应商提供的面部识别技术)用于大规模监视,种族貌相,侵犯基本人权和自由或任何与我们的价值观和原则相抵触的目的。信任和透明”,克里希纳在信中写道。

克里希纳(Krishna)于4月接任首席执行官一职,他补充说,现在是国会开始进行一次关于面部识别技术的意义以及“国内执法机构应如何使用”面部识别技术的全国对话的时候了。

首席执行官还表达了他对当今人工智能系统中经常出现的种族偏见的担忧。克里希纳进一步呼吁,需要对审计工具进行更多的监督,尤其是在执法和国家政策中使用人工智能工具时,这些手段“为警务工作带来了更大的透明度和责任感,例如摄像机和现代数据分析技术。”

知情人士告诉 CNBC 那名黑人乔治·弗洛伊德(George Floyd)在明尼阿波利斯(Minneapolis)警察的监护下去世,以及随之而来的对警察改革和种族不平等的关注,促使IBM关闭了其面部识别产品。

在过去的几年中,由于机器学习等领域的发展,面部识别系统已取得了巨大的进步。但是,由于没有任何官方监督,因此他们在很大程度上不受监管地运行,并侵犯了用户隐私。最值得注意的是,一家名为Clearview AI的初创公司将面部识别技术带到了全国对话的最前沿,该初创公司能够建立一个包含30亿张图像的数据库,主要用于刮擦社交媒体网站。此后,Clearview受到Twitter等公司的强烈反对,目前正在处理无数的隐私诉讼。

据报道,Clearview AI还被执法机构雇用,正在美国各地进行中的“ Black Lives Matter”抗议活动中。专家认为,这些系统可能会误认人,因为他们大多使用白人男性面孔训练。

克里希纳没有透露公司是否会在国会何时以及何时引入新法律以对面部识别等技术进行更多审查时重新考虑其决定。我们已与IBM联系,并在回音时会更新此故事。

相关阅读:

Posted in: 人工智能