被大數(shù)據(jù)和算法控制的未來，人們想做壞事或許很困難

“大數(shù)據(jù)殺熟”這個“熱詞”大約是從4年前開始傳播的，逐漸成為社會生活中的流行語。狹義來說，它是指同樣的商品或服務(wù)，老客戶看到的價格反而比新客戶要貴出許多的現(xiàn)象；有時它也泛指算法對人們偏好的影響與控制。

3年前，當杰米·薩斯坎德（Jamie Susskind）的《算法的力量：人類如何共同生存？》英文版出版時，國內(nèi)互聯(lián)網(wǎng)公司出現(xiàn)的一系列負面事件，正引起公眾對互聯(lián)網(wǎng)技術(shù)的密集反思，比如滴滴曾把順風車定位為“非常sexy”場景的社交工具，導(dǎo)致多位年輕女乘客被害。當時，《斷裂的階梯: 不平等如何影響你的人生》一書的譯者李大白正供職于一家互聯(lián)網(wǎng)頭部大廠，“996”的同時會經(jīng)常思考國家、科技公司與大眾之間的互動關(guān)系。“那時國內(nèi)人文社科領(lǐng)域?qū)夹g(shù)的關(guān)注，基本集中在傳統(tǒng)的技術(shù)倫理、人工智能的挑戰(zhàn)等問題上，技術(shù)與政治的互動關(guān)系、平臺型企業(yè)的特殊地位等問題還未得到充分討論。”

因此，接到《算法的力量》翻譯邀約后，李大白毫不猶豫地同意了。“書里對算法的影響探索得更為深遠，關(guān)注到算法力量越發(fā)強大的背景下，技術(shù)將如何與政治互動，對社會治理、公平、社會分配等重大問題會產(chǎn)生怎樣的影響。”如今，《算法的力量》中譯本上市，李大白也從大廠跳槽出來，從事起數(shù)字人文方向的研究工作。

大數(shù)據(jù)與“道德自動化”

杰米·薩斯坎德是英國著名的學者、作家和執(zhí)業(yè)大律師。他說，想通過《算法的力量》探討一個核心問題：我們的生活應(yīng)在多大程度上受功能強大的數(shù)字系統(tǒng)的指引和控制，或者說在哪方面被指引和控制？

薩斯坎德所謂的生活被“指引和控制”，并不是指互聯(lián)網(wǎng)技術(shù)在未來某種場景的具體應(yīng)用，比如服務(wù)型機器人不斷增多、腦機接口有新突破等，而是指在數(shù)字世界，某些技術(shù)和平臺以及控制它們的人，擁有強大的權(quán)力后對社會公共生活所可能產(chǎn)生的影響。正如書中所說：“最重要的革命沒有在哲學系發(fā)生，甚至沒有發(fā)生在議會和城市廣場上，而是在實驗室、研究機構(gòu)、科技公司和數(shù)據(jù)中心里默默上演，其中大部分都涉及數(shù)字技術(shù)領(lǐng)域的發(fā)展。”

以大數(shù)據(jù)為例，數(shù)字世界里大數(shù)據(jù)無處不在，大家都很熟悉大數(shù)據(jù)對個人信息的收集、個人隱私的侵蝕。但薩斯坎德還特別關(guān)注大數(shù)據(jù)與政治學術(shù)語中的“自由”的關(guān)系。他認為，有些技術(shù)會收集我們所有的數(shù)據(jù)，我們?yōu)榇藭苊庾龀瞿切┛赡鼙灰暈榭蓯u、有罪或錯誤的行為。同時，一些科技公司也利用大數(shù)據(jù)技術(shù)來預(yù)測和預(yù)防犯罪，比如以色列有家公司就發(fā)開了一種系統(tǒng)，通過讀取人的面部特征，對人進行“高智商”“白領(lǐng)罪犯”“戀童癖”“恐怖分子”等分類。

用類似技術(shù)來預(yù)測和預(yù)防犯罪的趨勢在增加，數(shù)字系統(tǒng)也越來越多地用于執(zhí)法。薩斯坎德甚至大膽假設(shè)，未來人類在技術(shù)的“監(jiān)控”下，或?qū)崿F(xiàn)“道德自動化”。“也就是說，未來社會管理很可能不用在對社會成員的道德訓誡上費太多心思，通過技術(shù)手段，在一定程度上可以直接阻止可能的犯罪。未來社會的人，想做壞事或也是極其困難的。”李大白解釋。

不過，薩斯坎德認為，就算人的“計劃和野心”更容易通過大數(shù)據(jù)被計算機捕獲，但“道德自動化”也只是相對而言，“反道德”或許同樣會迎來“自動化”。他想象了一個極端場景：一個想實行種族滅絕的政府意圖在某一特定地區(qū)圍捕某一宗教或種族的全部成員，只需根據(jù)他們留下的數(shù)據(jù)——購買記錄、社交媒體上的發(fā)帖、智能手機上的通訊錄等——就可以判斷出對方的身份。

數(shù)據(jù)導(dǎo)致的不公正

全世界60萬人發(fā)去自拍照，由計算機的學習算法進行評判，結(jié)果選出來的“最具吸引力”的44張照片中，只有6張不是白人；一家網(wǎng)站給當年的集中營照片貼上“運動”“攀爬架”等標簽……薩斯坎德用這些例子說明，不管計算機的算法多么聰明，只要灌輸了錯誤或片面的觀點，都不會公正對待問題，“這就是基于數(shù)據(jù)的不公正”。

《算法的力量》中花了很多篇幅探討算法與社會公平之間的關(guān)系。薩斯坎德認為，在數(shù)字世界，算法將在重要社會物品的分配上發(fā)揮關(guān)鍵作用，譬如就業(yè)、貸款、住房、保險等，算法也將更多地用于分類、排名、打分，把人類按照地位和聲望劃分到各個社會階層。哪些人重要，哪些人不如不存在？哪些人更受歡迎，哪些人被徹底遺忘？這些都涉及“承認”這個問題，而分配和承認是社會正義的重要面向。傳統(tǒng)社會里，這些問題是由國家、市場和社會來解決的。但在數(shù)字生活世界里，社會正義很大程度上取決于操持相關(guān)算法的人。

如何才能避免數(shù)字世界的不公正？從《算法的力量》中看，薩斯坎德給出的建議和之前出版的《機器人倫理學》《道德機器：如何讓計算人明辨是非》等差不多，都是強調(diào)通過程序讓計算機學會道德判斷——“為什么不能有意識地在設(shè)計系統(tǒng)時把正義放在心上呢？無論是平等的待遇、機會平等，還是其他適用于這個特定應(yīng)用的原則。”

因此，薩斯坎德特別強調(diào)程序員在“設(shè)計正義”時起到的作用。他批評說，互聯(lián)網(wǎng)科技公司內(nèi)部幾乎沒有工程師身負努力思考其工作的系統(tǒng)性后果的任務(wù)，他們中的大部分只需要解決某些分散的技術(shù)問題就可以交差了。他呼吁科技公司應(yīng)該有更多名副其實的“哲學工程師”“哲人工程師”，搭建一種智識上的框架，以便清晰且批判性地思考數(shù)字創(chuàng)新的政治后果。

不過，李大白認為薩斯坎德的設(shè)想過于理想化了。“作者認為代碼工程師應(yīng)該兼通政治哲學和社會政策，同時富于人文精神，在此基礎(chǔ)上來設(shè)計算法。這和柏拉圖說的培養(yǎng)‘哲學王’來管理城邦有點類似，但按照柏拉圖設(shè)想教育出來的‘哲學王’起碼得50歲，何況現(xiàn)在代碼工程師普遍面臨35歲的年齡危機。”

與薩斯坎德將正義和公平寄托在個體的“哲人工程師”上不同，李大白認為塑造“哲人工程師”的主體應(yīng)是科技公司，其中掌舵人的作用尤其重要，只有公司決策團隊將“科技向善”設(shè)置為企業(yè)的共同目標，“向善”才能向下層層拆解貫徹，普通代碼工程師才會在具體工作中有“哲人”心態(tài)，把“科技向善”的目標嵌入代碼設(shè)計中，從而使科技公司在促進社會發(fā)展、進步與公正等方面發(fā)揮正面作用。

（圖片來自視覺中國）

標簽： 薩斯坎德 數(shù)字世界 社會正義 數(shù)字生活