您的设备正在为您评分。相应地表现。

米的例证。一端竖起大拇指,另一端竖起大拇指。

你可能已经看到了“Nosedive”,这部臭名昭着的黑色镜报描绘了一个普通人在社交互动的基础上相互评价的世界。在流行的节目 – 瞄准我们生活中的技术的普遍性和绘画 反乌托邦的未来图景– 这些评级反馈为综合算法,计算确定社会经济状况的个人社会信用评分。

在这个虚构的世界中,低分可以阻止你开始日常生活。您不能租车,预订酒店或支付航班费用。

但对于那些受中国影响的人来说,这个故事令人震惊地接近家乡 不断发展的社会信用体系。为了复制西方的金融信用评分模型,中国体系以类似的方式运作,除了它奖励良好的行为(和惩罚不好),而不仅仅是及时偿还债务。

劝告一个国家对其公民的行为施加过大的影响是很容易的。但那将是一个关键点。使这种独特的社会信用模型成为可能的更广泛的力量是面部扫描仪,数字设备,机器学习算法和大数据模型的激增。随着时间的推移,它们会随时待命并变得更加聪明。

监视是一种黑暗而神秘的力量

技术有能力从根本上改变我们的社会契约,或许可能导致以现有形式消灭民族国家。

如果你正在读这篇文章,你可能不是监视的粉丝。你重视自己的隐私,而你宁愿政府不知道你在做什么24/7。但那是因为我们有选择(至少我们中的一些人)生活在一个我们的权利在某种程度上受到尊重的世界。

如果我们生活在一个人的生活中,我们的行为会怎 圆形监狱?英国哲学家杰里米·边沁(Jeremy Bentham)的着作出生于一身,是指一座建筑物,在监狱牢房中心设有观察塔。

一台全景摄像机应该让人感觉可以随时监控您的行为。从监狱牢房望出去的每个囚犯都能看到中央观察塔。没有办法可靠地知道警卫是否在同一时刻看着他们,但也无法避免它。

边沁相信权力应该是可见的但是黑暗而神秘。他认为,个人与社会的关系取决于它:通过监督,我们被迫在道德,道德和对工作的态度上遵守社会规范。

社交信用已经在这里

边沁在19世纪初去世,但他的工作和想法依然存在。虽然作为行为执行模型的圆形监控器并没有真正起步,但我们当然可以争辩说,它只是不同的工具。

让我们来 优步评级, 例如。该公司今年早些时候证实,它将开始禁止低评级的车手。低等级的驾驶员面临类似的影响:在某些州,他们无法驾驶Uber Black,他们可以获得更少的乘车请求。

这里的信息简单而直接:礼貌,友好或被切断。如果这不是行为控制,我不知道是什么。

这远不是改变我们生活方式选择的技术的唯一表现。保险公司 想要你的Fitbit数据 所以他们可以检查你的健康状况,并且可能 调整您的保费。智能牙刷是 发回数据 给你的牙科医生,所以如果你不经常刷牙,准备好咳出更多的钱。

我们也开始依赖这些模型。您是否曾从低评级的易趣卖家购买产品?在尝试新服务之前,您经常在线阅读评论?

当然,这些例子中的每一个都只反映了一小部分监测,而不是政府运营的社会信用体系所采取的广泛冲击。但这种看似克制在很大程度上是因为科技公司一直在其有限的范围内运作。如果将所有这些数据点焊接在一起,它可以为类似的宽扫描监控系统提供燃料。

这是道德上的困惑。我们对技术的依赖和我们愿意放弃的数据点使算法更加智能,技术公司更加丰富。虽然很容易抱怨缺乏隐私,但事实是技术只有在我们了解更多关于我们的情况下才能更好地为我们服务。这是一个良性或恶性循环,取决于你如何看待它。

它也有一个术语: 监督资本主义,由哈佛商学院的Shoshana Zuboff创造。

隐私是技术不可避免的牺牲品吗?

随着社会信用体系在整个社会的激增,国家的用处是什么?维护自由和保障基本权利的集权力量对社会至关重要 – 或者是他们?如果我们知道我们口袋里的设备能够记录日常操作,那么这不会自动导致行为改变吗?

无政府主义是下一个主要的社会运动吗?这肯定是可能的, 根据Andreas Wittel教授的说法他认为“数字技术可能为大规模形式的无政府主义组织开辟新的可能性”。

我们中的许多人都意识到与技术相关的隐私风险。然而,我们要求Alexa购买我们的东西和Siri来检查驾驶路线。我们在Spotify上播放我们的音乐,通过Uber Eats订购我们的食物,并通过Venmo分割我们的支票。

技术即将存在,隐私问题不会将其从地图上抹去。我们应该努力解决的问题是它是继续为我们服务,还是最终会反过来?

。(tagsToTranslate)Facebook(t)政府(t)物联网(t)监视