我們浸淫在互聯(lián)網(wǎng)編織的虛擬時間中，每天都耗費著大量時間接收算法推薦的內(nèi)容。消磨時間的快感掩蓋了其后的暴力——“生命的計量化”，每個人不再被當(dāng)成活生生的人，而是大數(shù)據(jù)中的一個數(shù)據(jù)，可被監(jiān)控，可被操縱。此類隱性的暴力曾見于服務(wù)經(jīng)濟規(guī)劃的人口統(tǒng)計 、醫(yī)學(xué)實驗中的風(fēng)險概率等等。結(jié)果是，“互聯(lián)網(wǎng)的民主化承諾”還未兌現(xiàn)，算法已成了便于政府調(diào)控的重要工具。當(dāng)數(shù)字智能被運用在福利系統(tǒng)時，窮人的日子反而越過越糟?！缎l(wèi)報》針對這一問題做了一組系列報道，今天單讀翻譯了其中作為總論的文章。就算我們當(dāng)下無法采取切實的行動，至少可以警惕這個日漸擴散的惡托邦。如果 AI 和算法無罪，那么誰在殺死窮人？撰文：沈律君社會學(xué)家齊格蒙·鮑曼在《現(xiàn)代性與大屠殺》中，呈現(xiàn)了科學(xué)的理性計算精神、技術(shù)的道德中立地位與社會管理的工程化如何共同合謀，讓納粹針對猶太人的大屠殺得以非常順利地進(jìn)行。今天，鮑曼筆下的“現(xiàn)代性”正在完成從工業(yè)化向電子化的轉(zhuǎn)向：電子計算機編程、算法、AI 技術(shù)，在數(shù)碼的世界里，程序員和工程師當(dāng)然繼續(xù)弘揚著理性和專業(yè)性，更有“絕對客觀”的人工智能接替了工業(yè)化時代整個龐大組織結(jié)構(gòu)里，那些中下層人員的工作。

▲齊格蒙特·鮑曼（Zygmunt Bauman，1925 年—2017 年 1 月 9 日），波蘭社會學(xué)家，生前任英國利茲大學(xué)和波蘭華沙大學(xué)社會學(xué)教授

在單讀編譯的這篇文章中，我們可以看到，盡管我們對法西斯和猶太大屠殺的反思已經(jīng)足夠豐富， 但是對于催生這一慘劇的現(xiàn)代性而言，我們并沒有吃一塹長一智。數(shù)碼革命的新技術(shù)造成的問題，依然是現(xiàn)代性的問題。只是從前，在每一個環(huán)節(jié)執(zhí)行具體工作的是一個個人類個體，他們每個人可以檢視自己的道德。但現(xiàn)在一切正變得更隱形，畢竟我們看不見存在于虛空的 AI ，而道德也止步于算法。2016 年的金棕櫚電影《我是布萊克》同樣揭露了這個問題。人近暮年的鰥夫布萊克，居住在英國的小城里。他無依無靠，靠體力工作維生，卻在某一天，突然查出了心臟病。他已經(jīng)喪失了工作能力，甚至有生命危險，卻被政府認(rèn)證還有工作能力，這導(dǎo)致他的殘疾救濟金被取消。憤怒之下，他申請上訴，卻發(fā)現(xiàn)自己陷入了英國福利制度的怪圈中——沒有工作也沒有存款的他只能先申請失業(yè)救濟，但是這個申請必須證明他有工作能力。等他千辛萬苦證明了有人愿意雇用他的時候，他又面臨上訴的失敗——申請殘疾救濟必須證明自己不能工作而且必須會操作電腦……最后，沒有得到任何救濟的他憤而死去。

▲電影《我是布萊克》劇照

時至今日，這個故事不再是寓言或夸大，《數(shù)字惡托邦》這篇文章揭示了，智能算法如何讓一個更晦暗的未來加速到來。今天如果我們還在依照 90 年代好萊塢電影來想象一個電子數(shù)碼的惡托邦未免太過過時。AI 不會統(tǒng)治人類，至少在最有可能的那個未來不會?？植赖钠鋵嵤侨祟愂褂?AI，就像曾經(jīng)使用雇員、動員冗雜的官僚機構(gòu)一樣。人們以冠冕堂皇的名義——提高管理水平、更高效、更公平（因為機器剔除了感情），讓人工智能替代人類工作，他們以為這樣可以做到絕對理性，就像納粹帝國運轉(zhuǎn)順暢高效的國家機器那樣。大屠殺中的每一環(huán)節(jié)的每一個人都不用為暴行負(fù)責(zé)，畢竟我只是按動一個按鈕，簽署一個文件，完成一個評估，制造一個商品。而現(xiàn)在，我們甚至連“人”的環(huán)節(jié)都沒有了。做決策的官員們和寫代碼的工程師，他們是兇手嗎？他們不是嗎？那么誰是？這才是一個數(shù)字智能的未來真正恐怖之處。數(shù)字惡托邦：計算機算法怎么讓窮人遭殃？撰文：Ed Pilkington翻譯：沈律君在這一全球獨家報道中，《衛(wèi)報》揭露了一場技術(shù)革命，它正在改變?nèi)蚋＠w系，同時也將最弱勢的群體置于了不利之地?！５隆て柦痤D（Ed Pilkington）于 紐約從美國的伊利諾伊州到英格蘭的羅奇代爾，從澳大利亞的帕斯到印度北部的敦卡，在政府如何對待窮人這件事情上，整個世界都在發(fā)生著一場技術(shù)革命。你看不到它的發(fā)生，你可能壓根也沒聽說過。因為它正由關(guān)起門來的工程師和程序員制定施行著，躲在安全的政府場所里，遠(yuǎn)離公共視野。人工智能（AI）、預(yù)測算法、風(fēng)險建模和生物識別技術(shù)，是它們驅(qū)動了這場巨變。雖然說，這其中的全部內(nèi)容，只有數(shù)學(xué)家和計算機科學(xué)家才能徹底理解，但如果你是數(shù)以百萬計弱勢群體中的一員，是這場社會福利制度徹底變革中的接受者、最后一環(huán)，你就會知道這場巨變是多么真實不虛。它的后果可以很嚴(yán)重，甚至可能嚴(yán)重得“要命”。

《衛(wèi)報》在過去三個月一直在調(diào)查，數(shù)十億美元是如何投入到了 AI 的研發(fā)革新中。這一創(chuàng)新爆炸性地重塑了低收入人群和國家之間的互動。我們在美國、英國、印度和澳大利亞的記者共同探討了“數(shù)字福利國家”的誕生。這一系列報道披露出了諸如失業(yè)救濟金、子女撫養(yǎng)費、住房和食品補貼以及更多其他信息是如何在網(wǎng)上被攪亂的。在“智能扶貧”項目上，發(fā)達(dá)國家和發(fā)展中國家無不花費巨額資金。在這一進(jìn)程中，它們把弱勢公民的真實需求轉(zhuǎn)換成了數(shù)字，把曾經(jīng)屬于社會工作者的判斷工作交給了冷酷無情的機器。這一系列報道披露出了諸如失業(yè)救濟金、子女撫養(yǎng)費、住房和食品補貼以及更多其他信息是如何在網(wǎng)上被攪亂的。在“智能扶貧”項目上，發(fā)達(dá)國家和發(fā)展中國家無不花費巨額資金。在這一進(jìn)程中，它們把弱勢公民的真實需求轉(zhuǎn)換成了數(shù)字，把曾經(jīng)屬于社會工作者的判斷工作交給了冷酷無情的機器。最可怕的是，《衛(wèi)報》的記者們勾畫的了一副 21 世紀(jì)狄更斯式的反烏托邦圖景，而今這一圖景正在以驚人的速度成形。美國政治學(xué)家弗吉尼亞·尤班克斯（Virginia Eubanks）對此有言：“數(shù)據(jù)聽政府的話，而你會聽到政府夸下?？?#xff0c;告訴你他們是如何用新技術(shù)把扶貧變成了一項高尚善良的事業(yè)。他們將加快福利金支付，提高效率和透明度，減少浪費，為納稅人省錢，消除人為的失誤和偏見，并確保有限的資源能夠滿足最需要的人。但是，這些承諾常常落空?！?p style="text-align: center">▲美國政治學(xué)家弗吉尼亞·尤班克斯（Virginia Eubanks）

現(xiàn)如今，財政緊縮政策主導(dǎo)著政治格局，數(shù)百萬人的補助救濟金已經(jīng)被計算機程序大幅度削減甚至終結(jié)。這一過程在以一種幾乎沒有人能理解，更沒法去控制的方式進(jìn)行著。各種失誤、錯誤成為通病，沒有明確的路徑能讓其中的受害者們尋求補償。本周，“智能扶貧”將被帶上世界的舞臺。作為聯(lián)合國針對極端貧困的監(jiān)察員，人權(quán)律師菲利普·阿爾斯頓（Philip Alston）將向紐約聯(lián)合國大會提交一份開創(chuàng)性的報告。這份報告敲響了警鐘，呼吁人們在數(shù)字化社會狂潮中保護(hù)人權(quán)。奧爾斯頓的分析一部分基于他就英美兩國的貧困狀況在聯(lián)合國所做的官方調(diào)研，一部分來自各國政府、各人權(quán)組織以及 34 國專家們的觀點和報告。而他的分析很有可能將提供一個簡潔明確的指向，告訴我們這個世界身處何處，又將走向何方。對住在快速擴張的“數(shù)碼救濟院”里的人而言，奧爾斯頓的報告或可有助于解決那些發(fā)生在他們身上的騷擾、針對和懲罰。

▲聯(lián)合國人權(quán)理事會極端貧困與人權(quán)問題特別報告員菲利普·阿爾斯頓（Philip Alston）

在伊利諾伊州，《衛(wèi)報》發(fā)現(xiàn)州政府和聯(lián)邦政府已聯(lián)起手來，要求社會福利受濟者償還以前政府發(fā)放的 “超額支付”。在某些情況下，這個“超額”時間長達(dá) 30 年。這種“僵尸債務(wù)”系統(tǒng)通過數(shù)碼技術(shù)加持，變成了真正的“殺人武器”。在社會最弱勢群體那兒，它喚起了恐懼，加深了困境。就像一個受濟者說的：“你欠的是已經(jīng)吃了的虧。”在英國，我們對紐卡斯?fàn)柦纪獾恼踩珯C構(gòu)進(jìn)行了調(diào)查，發(fā)現(xiàn)那里正在花費數(shù)百萬美元研發(fā)新一代的福利機器人來替代人類。私人企業(yè)，包括一個由全球首位機器人億萬富翁領(lǐng)導(dǎo)的紐約公司，它們正在加速這一過程。這催生了新的行業(yè)術(shù)語：“虛擬勞動力”，“強決策力”，“機器人流程自動化”。盡管“默認(rèn)數(shù)字化”議程已經(jīng)把痛苦強加在了數(shù)百萬低收入英國人的身上，但政府仍在繼續(xù)執(zhí)行其數(shù)字化的使命。社保申領(lǐng)人談到了他們正在忍受的饑餓，污穢，恐懼和驚慌。在澳大利亞，《衛(wèi)報》廣泛報道了所謂的“機器人催債”，這一計劃被指責(zé)使用了一種有瑕疵的算法來向福利受濟者錯誤追索歷史債務(wù)。我們現(xiàn)在可以披露，澳大利亞政府已經(jīng)開啟了一條新的“數(shù)字戰(zhàn)線”，他們將使用數(shù)字自動化的方式來暫停數(shù)百萬的福利金支付。在沒有任何通知的情況下，受濟者正在發(fā)覺——他們的福利金被停了。

▲澳大利亞聯(lián)邦政府負(fù)責(zé)提供和協(xié)調(diào)社會保障的centrelink部門，推出“機器人催債”計劃向福利受濟者發(fā)送賬單

最令人不安的消息來自印度的敦卡。在全球最大的生物特征識別實驗中，印度政府向所有居民發(fā)放了共有 12 位數(shù)的唯一識別碼。這就是 Aadhaar。在這里我們了解到，Aadhaar 給當(dāng)?shù)丶彝ピ斐闪硕嗝纯膳碌娜藶橛绊?。由于作?Aadhaar 登入驗證的指紋信息因電腦故障而未能被識別，莫卡·曼吉（Motka Manjhi）最終付出了慘痛的代價。他賴以為生的每日口糧被斷了，因為不進(jìn)食，他變得十分瘦弱。5 月 22 日，他暈倒在屋外而死，他的家人確信他死于饑餓。無論是發(fā)展中國家還是發(fā)達(dá)國家，無論是東方還是西方，《衛(wèi)報》的調(diào)查揭示了這些基于算法構(gòu)筑的新體系——它們的共同特征。最顯見的相似之處在于，所有這一切都以閃電般的速度發(fā)生，在幾乎沒有公共討論與問責(zé)的情況下，高新技術(shù)已然近乎席卷了包括社會服務(wù)、勞動、殘障和衛(wèi)生在內(nèi)的各個領(lǐng)域。在這場巨變中，福利國家的人文要素正在被稀釋。曾經(jīng)，社會工作者與你交談，親自評估你的自身需求。如今，你得轉(zhuǎn)入線上模式，預(yù)測分析法會給你做未來風(fēng)險評分，而算法將決定你的命運。在這個新世界中，不平等和歧視可能會根深蒂固。英國有五百萬成年人，他們沒有定期訪問互聯(lián)網(wǎng)，只有很少或幾乎沒有計算機知識，如果你是他們中的一員，你該怎么辦？如果所謂算法，實則是在對種族和階級的現(xiàn)有扭曲中孕育而生，如果它只會讓貧窮與富有、白人與黑人、高知與勞工之間的鴻溝更大更深，我們又該怎么辦？一種令人不寒而栗的卡夫卡《城堡》式氛圍彌漫全球。就像莫卡·曼吉死去的悲劇所顯示的那樣，大錯已經(jīng)鑄成，機器已經(jīng)失靈，如果在“城堡”中的他們，沒一個真正把你當(dāng)成“人”來對待，而全都只是把你看做一串有待處理的 12 位的數(shù)字，那最終的結(jié)果可能是致命的。本文來自《衛(wèi)報》原文標(biāo)題：Digital dystopia: how algorithms punish the poor原文鏈接：https://www.theguardian.com/technology/2019/oct/14/automating-poverty-algorithms-punish-poor

————

編輯?∑Gemini

?來源：搜狐·單讀

?一盤紅燒肉告訴你：本科、碩士、博士，區(qū)別在哪兒？?現(xiàn)代數(shù)學(xué)確實在改變世界?數(shù)學(xué)家們的故事?經(jīng)典 | 奇異值分解(SVD) 的 幾何意義?算法你都懂_如何一年賺它幾百萬?他的科學(xué)生涯堪稱加速器，30歲當(dāng)博導(dǎo)，38歲當(dāng)選中科院院士，40歲當(dāng)選德國科學(xué)院院士。。。

算法數(shù)學(xué)之美微信公眾號歡迎賜稿

稿件涉及數(shù)學(xué)、物理、算法、計算機、編程等相關(guān)領(lǐng)域，經(jīng)采用我們將奉上稿酬。

投稿郵箱：math_alg@163.com

總結(jié)

以上是生活随笔為你收集整理的如果 AI 和算法无罪，那么谁在杀死穷人？的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。