您的設備正在為您評分。相應地表現。

米的例證。一端豎起大拇指,另一端豎起大拇指。

你可能已經看到了“Nosedive”,這部臭名昭着的黑色鏡報描繪了一個普通人在社交互動的基礎上相互評價的世界。在流行的節目 – 瞄準我們生活中的技術的普遍性和繪畫 反烏托邦的未來圖景– 這些評級反饋為綜合算法,計算確定社會經濟狀況的個人社會信用評分。

在這個虛構的世界中,低分可以阻止你開始日常生活。您不能租車,預訂酒店或支付航班費用。

但對於那些受中國影響的人來說,這個故事令人震驚地接近家鄉 不斷發展的社會信用體系。為了複製西方的金融信用評分模型,中國體系以類似的方式運作,除了它獎勵良好的行為(和懲罰不好),而不僅僅是及時償還債務。

勸告一個國家對其公民的行為施加過大的影響是很容易的。但那將是一個關鍵點。使這種獨特的社會信用模型成為可能的更廣泛的力量是面部掃描儀,數字設備,機器學習算法和大數據模型的激增。隨着時間的推移,它們會隨時待命並變得更加聰明。

監視是一種黑暗而神秘的力量

技術有能力從根本上改變我們的社會契約,或許可能導致以現有形式消滅民族國家。

如果你正在讀這篇文章,你可能不是監視的粉絲。你重視自己的隱私,而你寧願政府不知道你在做什麼24/7。但那是因為我們有選擇(至少我們中的一些人)生活在一個我們的權利在某種程度上受到尊重的世界。

如果我們生活在一個人的生活中,我們的行為會怎 圓形監獄?英國哲學家傑里米·邊沁(Jeremy Bentham)的着作出生於一身,是指一座建築物,在監獄牢房中心設有觀察塔。

一台全景攝像機應該讓人感覺可以隨時監控您的行為。從監獄牢房望出去的每個囚犯都能看到中央觀察塔。沒有辦法可靠地知道警衛是否在同一時刻看着他們,但也無法避免它。

邊沁相信權力應該是可見的但是黑暗而神秘。他認為,個人與社會的關係取決於它:通過監督,我們被迫在道德,道德和對工作的態度上遵守社會規範。

社交信用已經在這裡

邊沁在19世紀初去世,但他的工作和想法依然存在。雖然作為行為執行模型的圓形監控器並沒有真正起步,但我們當然可以爭辯說,它只是不同的工具。

讓我們來 優步評級, 例如。該公司今年早些時候證實,它將開始禁止低評級的車手。低等級的駕駛員面臨類似的影響:在某些州,他們無法駕駛Uber Black,他們可以獲得更少的乘車請求。

這裡的信息簡單而直接:禮貌,友好或被切斷。如果這不是行為控制,我不知道是什麼。

這遠不是改變我們生活方式選擇的技術的唯一表現。保險公司 想要你的Fitbit數據 所以他們可以檢查你的健康狀況,並且可能 調整您的保費。智能牙刷是 發回數據 給你的牙科醫生,所以如果你不經常刷牙,準備好咳出更多的錢。

我們也開始依賴這些模型。您是否曾從低評級的易趣賣家購買產品?在嘗試新服務之前,您經常在線閱讀評論?

當然,這些例子中的每一個都只反映了一小部分監測,而不是政府運營的社會信用體系所採取的廣泛衝擊。但這種看似克制在很大程度上是因為科技公司一直在其有限的範圍內運作。如果將所有這些數據點焊接在一起,它可以為類似的寬掃描監控系統提供燃料。

這是道德上的困惑。我們對技術的依賴和我們願意放棄的數據點使算法更加智能,技術公司更加豐富。雖然很容易抱怨缺乏隱私,但事實是技術只有在我們了解更多關於我們的情況下才能更好地為我們服務。這是一個良性或惡性循環,取決於你如何看待它。

它也有一個術語: 監督資本主義,由哈佛商學院的Shoshana Zuboff創造。

隱私是技術不可避免的犧牲品嗎?

隨着社會信用體系在整個社會的激增,國家的用處是什麼?維護自由和保障基本權利的集權力量對社會至關重要 – 或者是他們?如果我們知道我們口袋裡的設備能夠記錄日常操作,那麼這不會自動導致行為改變嗎?

無政府主義是下一個主要的社會運動嗎?這肯定是可能的, 根據Andreas Wittel教授的說法他認為“數字技術可能為大規模形式的無政府主義組織開闢新的可能性”。

我們中的許多人都意識到與技術相關的隱私風險。然而,我們要求Alexa購買我們的東西和Siri來檢查駕駛路線。我們在Spotify上播放我們的音樂,通過Uber Eats訂購我們的食物,並通過Venmo分割我們的支票。

技術即將存在,隱私問題不會將其從地圖上抹去。我們應該努力解決的問題是它是繼續為我們服務,還是最終會反過來?

。(tagsToTranslate)Facebook(t)政府(t)物聯網(t)監視