關(guān)于我們
書單推薦
新書推薦
|
黑箱社會:掌控金錢和信息的數(shù)據(jù)法則
你是否想到,當(dāng)你在上網(wǎng)娛樂、學(xué)習(xí)、瀏覽新聞或從事商業(yè)活動時(shí),你就會無形中陷入一張數(shù)據(jù)采集的羅網(wǎng),這張網(wǎng)的覆蓋面之廣你**難以想象。我們的經(jīng)濟(jì)和社會由高深莫測的數(shù)學(xué)程序來決定?
美國參議院的一份調(diào)查報(bào)告指出,僅僅是點(diǎn)擊某一熱門新聞網(wǎng)站的動作就會觸發(fā)并激活350多個網(wǎng)絡(luò)服務(wù)器。多數(shù)的關(guān)聯(lián)行為(例如投放廣告)不大可能構(gòu)成危害,但它們通常會在用戶的電腦中植入一個“cookie”軟件,用以識別和跟蹤訪客,從而收集目標(biāo)數(shù)據(jù)并獲知用戶的上網(wǎng)習(xí)慣。 在這個互聯(lián)網(wǎng)時(shí)代,每一天,各類公司都會通過仔細(xì)檢索、審視我們的工作習(xí)慣和互聯(lián)網(wǎng)的使用把我們各種行為的細(xì)節(jié)連接整合在一起。這種整合起來的數(shù)據(jù)極其詳細(xì),甚至堪稱對我們個人的入侵。但這些公司是如何將這些數(shù)據(jù)點(diǎn)聯(lián)系在一起的,他們又是如何使用這些信息的?《黑箱社會》將告訴我們這一切是如何發(fā)生的。 隱秘的算法可以塑造(或破壞)信譽(yù),也可以決定企業(yè)家的命運(yùn),甚至是摧毀整個經(jīng)濟(jì)體。這本書深入探討了Google、亞馬遜、Facebook、蘋果等硅谷和華爾街的公司是如何運(yùn)用這些運(yùn)算法則的,以及作為我們個人應(yīng)該如何在這個信息經(jīng)濟(jì)社會保護(hù)我們的隱私,以及確保我們的個人信息安全。 在大數(shù)據(jù)、互聯(lián)網(wǎng)時(shí)代,你可能需要的是個人成功秘訣、商業(yè)制勝之道,但你更需要的是一個清醒的頭腦。
全球**雜志《自然》(Nature)和《科學(xué)》(Science)同步推薦全球首部用數(shù)據(jù)深入闡釋、揭示互聯(lián)網(wǎng)時(shí)代信息和金錢法則的書Google、亞馬遜、Facebook、蘋果等硅谷和華爾街公司的秘密算法大白于天下從這本書開始,互聯(lián)網(wǎng)公司再也沒有商業(yè)秘密《大數(shù)據(jù)時(shí)代》作者維克托?邁爾-舍恩伯格全力推薦
弗蘭克?帕斯奎爾,馬里蘭大學(xué)教授,耶魯大學(xué)法學(xué)院信息社會項(xiàng)目成員以及大數(shù)據(jù)、道德和社會理事會的成員。他是普林斯頓大學(xué)信息技術(shù)中心的訪問研究員,并在耶魯大學(xué)法學(xué)院和卡多佐法學(xué)院擔(dān)任客座教授。他還曾在牛津大學(xué)獲得馬歇爾學(xué)者的稱號。帕斯夸萊曾在眾議院的司法委員會上作證,并與Google、微軟和雅虎的法律總顧問對峙。
推薦序 // XI
中文出版序 // XV **章 我們需要知情 // 001 保密優(yōu)勢 // 006 無處不在的大數(shù)據(jù) // 008 保密性和復(fù)雜性 // 010 警惕軟件 // 013 單向鏡 // 014 企業(yè)保密和保密企業(yè) // 016 回首 // 017 本書結(jié)構(gòu) // 021 可以自我破解的預(yù)言 // 024 第二章 數(shù)據(jù)失控時(shí)代的網(wǎng)絡(luò)信譽(yù) // 027 數(shù)據(jù)(和數(shù)據(jù)之外) // 032 失控的檔案 // 044 工作中的大數(shù)據(jù) // 049 種族偏見的幽靈 // 055 監(jiān)控國家的誕生 // 061 “國家”與“市場”的界限正在消失 // 069 到處是威脅,到處是危險(xiǎn),到處是信息? // 071 持久的不透明 // 073 沒有出口 // 074 未來大曝光 // 079 第三章 隱藏在搜索中的邏輯學(xué) // 083 搜索和透明度 // 088 搜索、信任和競爭 // 115 搜索和薪酬 // 120 搜索和控制 // 127 內(nèi)容、傳播渠道和搜索:新興競合 // 131 邁向數(shù)字新政 // 138 第四章 金融算法:皇帝的新代碼 // 143 預(yù)警信號 // 148 機(jī)器夢 // 151 次貸的修飾部門 // 153 評級機(jī)構(gòu)的失職 // 154 公司封殺異議 // 158 風(fēng)險(xiǎn)與監(jiān)管 // 161 戰(zhàn)略上的草率性 // 166 謊言與倫敦銀行同業(yè)拆借利率 // 170 自我和他人營造出來的賬目系統(tǒng) // 175 風(fēng)險(xiǎn)與信仰 // 178 高頻交易的低社會價(jià)值 // 180 電腦化的市場 // 184 危險(xiǎn)的鞅定價(jià)方法 // 186 黑天鵝還是黑箱? // 188 金錢、信息和權(quán)力 // 190 第五章 監(jiān)督者由誰來監(jiān)督? // 195 披露的標(biāo)準(zhǔn) // 199 虛無的隱私權(quán) // 201 更全面的披露:致力于公平的數(shù)據(jù)操作 // 203 合法使用數(shù)據(jù) // 206 監(jiān)視檔案 // 214 透明的公民Vs不透明的政府或企業(yè) // 217 高質(zhì)量的透明度 // 221 **修正案的**牌 // 227 金融界的中央情報(bào)局 // 231 失信的金融監(jiān)管 // 236 “大到不能倒”和“窮到不能管” // 242 從醫(yī)療詐騙執(zhí)法中獲得的啟示 // 244 國家安全局的企業(yè)監(jiān)控 // 249 神秘的數(shù)字時(shí)代 // 251 第六章 可被了解的社會 // 255 黑箱社會 // 259 為什么袖手旁觀? // 265 逐漸縮小的政企分歧 // 278 公共選擇的承諾 // 281 重建信任 // 286 黑箱的局限 // 287 黑箱殘局 // 289 可被理解的社會 // 292 致 謝 // 295
**章 我們需要知情
我們都聽過這樣一個小故事:有個人趴在路燈下面,一副神情專注的樣子。警察路過他身旁時(shí)問他在做什么,他說自己正在找鑰匙!澳惆谚匙丟在這兒了嗎?”警察問他。“沒有,”他回答,“但這里有亮光!边@個故事諷刺了一種徒勞無功的做法,雖然顯得有些老套,但*近卻有了新的詮釋,它暗示著我們的科技越來越像謎一樣隱秘難測。 社會學(xué)家們一向熱衷于研究權(quán)力的運(yùn)作方式,他們試圖闡明誰獲得了什么,何時(shí)獲得,以及獲得原因。在《追求成就的社會》(The Achieving Society)、《贏家通吃的社會》(The Winner-Take-All Society)、《美好社會》(The Good Society)和《正派社會》(The Decent Society)等書中,我們的公共生活領(lǐng)域都成為研究對象,而且這些書盡其所能地讓我們認(rèn)識到了探究上述問題的必要性。 但是這些書籍的研究成果和一堆已知信息沒有什么兩樣。對于一個毫無概念的東西,我們根本無法理解,更不要說對其進(jìn)行調(diào)查了。知識研究愛好者們對這一問題有著很多叫法,比如“未知的未知”、“黑天鵝”和“深藏的秘密”,都是用來指代社會空白領(lǐng)域的流行說法。后來甚至出現(xiàn)了一門叫作“比較無知學(xué)”的新興學(xué)科,專門研究“由于疏忽、遺忘、短視、消滅、保密或壓抑造成的結(jié)構(gòu)性無知的產(chǎn)生、無知的不同來源以及無知的構(gòu)造”。 無論是在假設(shè)還是真實(shí)情況下,知情空白以及由此產(chǎn)生的影響都不可小覷。曾經(jīng)**權(quán)威的中央銀行家艾倫?格林斯潘(Alan Greenspan)說過,市場正被亞當(dāng)?斯密理論中那只“看不見的手”所控制,如今這只手越發(fā)難以捉摸,以至于沒有人(包括監(jiān)管者)能夠窺視到“哪怕*簡單的現(xiàn)代金融體系的內(nèi)在機(jī)制”。如果事實(shí)的確如此,那么似乎只有自由主義政策才是合理的應(yīng)對方式。弗里德里希?哈耶克是一位奉行放任主義的杰出理論家,他將“知情問題”稱為仁義政府在施行經(jīng)濟(jì)干預(yù)中不可逾越的障礙。 但試想,如果“知情問題”并非市場的固有因素,而只是某些行業(yè)有意煽動的一個概念呢?如果金融家們只是為了躲避監(jiān)管、混淆規(guī)則而故意使其行為云遮霧繞呢?那樣的話,撤銷管制規(guī)定帶來的結(jié)果只會與初衷背道而馳。 棘手的“知情問題”僅僅是一個例子,其背后隱藏著一個基本的真相:我們對這個社會(與“自然”相對的概念)的認(rèn)知與未知在本質(zhì)上并不是固有的,其本身只是社會建構(gòu)的一個功能。我們對公司、政府,甚至是彼此間的信息獲知都要受到法律的約束。相關(guān)的隱私法和交易保密法以及所謂的《信息自由法案》都在信息獲取方面設(shè)置了限制,這就使得某些調(diào)查行動根本無法展開。于是我們不禁發(fā)出疑問:誰是當(dāng)中的受益者? 其中有些法律對于社會的完善起到了關(guān)鍵作用。沒有人希望自己去趟洗手間都會被老板錄像,那樣的世界不可想象。然而,信息法所保護(hù)的范疇已經(jīng)遠(yuǎn)遠(yuǎn)不只是個人隱私。有些制藥公司借助法律上的行業(yè)保密條款來隱瞞新型藥物的種種風(fēng)險(xiǎn),還有一些銀行借助空殼公司來逃避稅收責(zé)任。 甚至于政治和法律體系也逐漸傾向于保密思維,而這些體系本應(yīng)是*為開放、透明的公共生活領(lǐng)域。行政部門以開展“反恐戰(zhàn)爭”為契機(jī)大力游說,不斷地要求制定并施行“保密法”;在選民投票的某些選區(qū)充斥著“骯臟的金錢交易”,而背后的操縱者及其影響往往只有在競選過后才被揭露,甚至根本無從揭露。 然而,就在權(quán)威企業(yè)、金融機(jī)構(gòu)和政府部門在保密協(xié)議、“專有方法”和言論限制法規(guī)的掩護(hù)下瞞天過海的同時(shí),我們的生活隱私卻越來越公開化了。我們在互聯(lián)網(wǎng)上的一舉一動都可以被記錄下來,而問題是:誰會獲得這些信息,這些信息又將被保留多久?雖然匿名軟件能為我們提供一時(shí)的保護(hù),可誰又知道這種意圖隱藏的做法會不會很快受到監(jiān)管部門的禁止?監(jiān)控?cái)z像頭、數(shù)據(jù)代理公司、傳感器網(wǎng)絡(luò)和“超級數(shù)據(jù)存儲系統(tǒng)”可以記錄下我們的行車速度、服藥情況、閱讀過的書籍以及瀏覽過的網(wǎng)站。雖然法律在商業(yè)領(lǐng)域中極盡保密措施,但在涉及公民的隱私時(shí)卻選擇沉默不語。 本書將著重研究這種矛盾現(xiàn)象。為什么從華爾街到硅谷的行業(yè)秘密都備受保護(hù)?那些掩蓋人事和業(yè)務(wù)處理方式的隱形操作都暗示了什么樣的社會問題?如何制定法律才能在隱私性和公開性之間取得**平衡?這些問題的答案將引導(dǎo)我們建立起一個更加智能、有序的社會。 然而,我們首先要對這個問題進(jìn)行充分理解!昂谙洹保˙lack Box)這個雙關(guān)語恰好可以用來形容這一理解過程。它既可以指一臺記錄儀(例如飛機(jī)、火車和汽車上的數(shù)據(jù)監(jiān)測系統(tǒng)),也可以指一個神秘的運(yùn)作機(jī)制。雖然我們可以獲得黑箱的輸入和輸出信息,卻無法弄清輸入數(shù)據(jù)如何變?yōu)檩敵鰯?shù)據(jù)。我們每天都要面對這樣的問題:公司和政府部門越來越滲透性地記錄著我們的生活,我們卻不知道這些信息會傳播到哪兒,也不知道它們將被用作何種目的,更不知道這些信息的泄露會產(chǎn)生怎樣的后果。 保密優(yōu)勢 知情就是優(yōu)勢。在保護(hù)自己信息的同時(shí)獲知他人的信息,這是一種*重要的占據(jù)優(yōu)勢的形式。各個公司都在盡可能地挖掘潛在客戶和企業(yè)員工的詳細(xì)信息,但在面對監(jiān)管部門時(shí),它們卻極盡手段隱藏公司的統(tǒng)計(jì)數(shù)據(jù)和操作規(guī)程;ヂ(lián)網(wǎng)公司收集的用戶數(shù)據(jù)越來越多,但同時(shí)也在對抗相關(guān)規(guī)定,阻止用戶對由此生成的數(shù)字檔案進(jìn)行任何操控。 隨著科技的進(jìn)步,市場壓力提升了數(shù)據(jù)博弈的籌碼。監(jiān)控?cái)z像頭的價(jià)格逐年下降;感應(yīng)器在更多的地方得以配置。手機(jī)能夠追蹤我們的行跡;電腦程序可以記錄下我們的鍵盤操控過程。不管我們是否愿意,層出不窮的硬件、軟件將所有人都變成了“量化的個體”。隨之生成的信息以史無前例的海量數(shù)據(jù)形式涌入數(shù)據(jù)庫中,匯集成空前龐大且分類詳細(xì)的文件系統(tǒng)。 但這些數(shù)據(jù)將流向何方,又為誰所用呢?如果企業(yè)和政府也能夠趨于透明化,那么損失一些個人隱私倒也無妨,可通常情況并非如此。信用評估者、搜索引擎、各大銀行和運(yùn)輸安全管理局將我們的數(shù)據(jù)進(jìn)行轉(zhuǎn)化后用于計(jì)分、評級和風(fēng)險(xiǎn)計(jì)算,并生成具有重要影響的監(jiān)察名單。然而,除非有告發(fā)者提起訴訟或揭露實(shí)情等特殊情況發(fā)生,否則這些專有的運(yùn)算程序都無須接受審查。 在某些情況下,保密做法是合情合理的。沒有人希望恐怖分子可以準(zhǔn)確地知道國土安全部門的追蹤目標(biāo),從而躲過偵查。然而,當(dāng)我們的一舉一動都在監(jiān)察機(jī)構(gòu)的掌握之中,而我們卻對這些機(jī)構(gòu)的程序和人員安排一無所知時(shí),民主和自由市場的口號便成了空談。當(dāng)這種保密做法正在挑戰(zhàn)社會的底線,而我們卻對重大的決策過程毫不知情時(shí),公開性就顯得尤為必要了。 無處不在的大數(shù)據(jù) 在信息經(jīng)濟(jì)的核心地帶,互聯(lián)網(wǎng)和金融公司聚斂了含有用戶隱私和生活細(xì)節(jié)的海量數(shù)據(jù),并基于這些數(shù)據(jù)做出與我們生活有關(guān)的重大決策,進(jìn)而影響著我們自己的決策。然而,我們究竟對這些公司了解多少呢?一個糟糕的信用評分可能會使借款人損失數(shù)十萬美元,可他卻永遠(yuǎn)無法知道這個分?jǐn)?shù)究竟是如何計(jì)算出來的。某家預(yù)測分析公司可能會將一個人歸為“高成本”或“不可靠”的員工,但卻不把這個評定結(jié)果告知此人。 或許,這些公司還可以“友善”地影響我們的選擇過程。亞馬遜和YouTube視頻網(wǎng)站上的推薦引擎通過自動呈現(xiàn)的信息溫和地為我們提供建議。然而,請不要低估“或許”一詞的含義。這些建議背后通常隱藏著不為人知的經(jīng)濟(jì)、政治和文化因素。作為中間商,這些公司善于變換陣營,時(shí)而靠攏用戶,時(shí)而又站到供應(yīng)商一邊,目的只是為了在其構(gòu)建的網(wǎng)絡(luò)世界中實(shí)現(xiàn)利益的**化。 金融機(jī)構(gòu)可以通過制定信用和借貸條款對我們產(chǎn)生較為直接的影響。然而它們同樣對重大交易遮遮掩掩,秘而不宣。2008年金融界發(fā)生的秘密事件引發(fā)了一場信任危機(jī),并將銀行體系推向了崩潰的邊緣。為了穩(wěn)定局勢,美聯(lián)儲出面加以干預(yù),而干預(yù)條款卻予以保密。直到2011年,記者們才得以揭開干預(yù)范圍的廣度,而在此之前還發(fā)生了一起標(biāo)志性事件—金融改革立法得以討論并獲得通過,但該項(xiàng)立法并沒有聽取選民的意見,并且很快就被美聯(lián)儲救助下的企業(yè)巨頭們予以淡化。 在信譽(yù)評定公司、搜索公司和金融行業(yè)中,無處不在的大數(shù)據(jù)變得與我們的生活息息相關(guān)。但這種相關(guān)性的建立過程卻非常隱秘,從而降低了社會的公開性和市場的公平性。新型排名和評估技術(shù)引發(fā)了若干問題,讓我們思考如下: ? 一對夫妻在接受了婚姻咨詢之后,***公司是否有權(quán)對他們的***提升利率?如果是,公司是否應(yīng)該通知持卡人? ? Google(谷歌)、Apple(蘋果)、Twitter(推特)或Facebook(臉譜網(wǎng))是否有權(quán)屏蔽掉內(nèi)容完全合法的網(wǎng)站或圖書?它們在采取這種做法時(shí)是否應(yīng)該通知我們? ? 美聯(lián)儲能否為了拯救丑聞纏身的銀行而大量地印刷美鈔?如果是,美國公民應(yīng)當(dāng)通過何種途徑在什么時(shí)候了解事件的進(jìn)程? ? 當(dāng)成百上千萬的美國公民被列入秘密“監(jiān)察名單”時(shí),他們是否應(yīng)該獲得通知,是否應(yīng)該有機(jī)會證明自己的清白? 并不是只有華爾街和硅谷的各大公司在采取隱蔽的操作方式,我之所以將它們列為研究重點(diǎn)是因?yàn)檫@些公司在社會中扮演著特殊的角色。在2010年的第四季度中,金融部門貢獻(xiàn)了“略低于10%的增值”,占據(jù)總利潤的29%,也就是577億美元。硅谷的公司也同樣強(qiáng)勁,并且利潤驚人。金融企業(yè)如何利用資金?各大網(wǎng)絡(luò)公司又如何引導(dǎo)公眾焦點(diǎn)?它們一方面將資源導(dǎo)向了某些創(chuàng)意、產(chǎn)品和服務(wù),一方面也舍棄了另外一些項(xiàng)目。它們?yōu)槲覀儤?gòu)建了一個世界,而人們都太急于接受這種數(shù)據(jù)驅(qū)動帶來的便利。但是,我們必須承認(rèn)這其中付出的代價(jià)。 保密性和復(fù)雜性 大數(shù)據(jù)這個黑箱并不容易拆解。即使拆解方法被公之于眾,我們作為現(xiàn)代互聯(lián)網(wǎng)和銀行業(yè)的門外漢也很難進(jìn)行實(shí)際操作。那些公司得出關(guān)于員工產(chǎn)出、網(wǎng)站相關(guān)性或投資吸引力的結(jié)論均由復(fù)雜程式算出,這些程式由工程師團(tuán)隊(duì)進(jìn)行設(shè)計(jì)并由律師團(tuán)隊(duì)給予維護(hù)。 在這本書中,我們將探討三個造成黑箱難以開啟的原因:“真正”保密、法定保密和模糊處理。真正保密讓人們在未經(jīng)授權(quán)的情況下無法獲取秘密信息。在日常生活中,當(dāng)我們鎖門或者給電子郵件設(shè)置密碼時(shí),就是在實(shí)行這種保密措施。法定保密意味著某些信息屬于隱私,不得公開。銀行職員必須遵循法律法規(guī)和雇傭條款,不得向朋友透露客戶的賬戶余額。模糊處理是一種故意隱藏秘密的行為。例如,當(dāng)某公司需要提供相關(guān)信息應(yīng)對調(diào)查時(shí),該公司可能會給出3 000萬頁的文件資料,讓調(diào)查人員在調(diào)查時(shí)如同大海撈針。上述兩種形式的保密做法和模糊處理方式*終導(dǎo)致了一種“不透明性”,我用這個加引號的詞來概括一種可矯正的不可理解性。 舉例來說,一份較為詳細(xì)的投資說明書可以長達(dá)數(shù)十頁或數(shù)百頁,文件中還可以引用其他文件,甚至文件再次引用文件。原文件涉及的文件之間可能會發(fā)生沖突。如果想對某個投資項(xiàng)目進(jìn)行深入了解,我們可能需要翻閱數(shù)千頁的法律冗文,而且其中很多用詞都模棱兩可,非常容易造成誤解。會計(jì)報(bào)表也同樣如此,法學(xué)教授弗蘭克?帕特洛伊(Frank Partnoy)和普利策獎獲得者杰西?艾辛格(Jesse Eisinger)曾于2013年年初共同研究過“美國銀行的內(nèi)幕”,并對其中一直存在的不透明性感到震驚。他們在報(bào)告中把銀行描述為“掩蓋了巨大風(fēng)險(xiǎn)的‘黑箱’,這些風(fēng)險(xiǎn)可能會再次擊垮經(jīng)濟(jì)”。雖然經(jīng)濟(jì)危機(jī)已經(jīng)過去5年,但美國的銀行系統(tǒng)依然沒有得到規(guī)范管制。倆人曾在報(bào)告中用如下引語來描述銀行系統(tǒng)中存在的弊端: ? “現(xiàn)在沒有哪家大型金融機(jī)構(gòu)的財(cái)務(wù)報(bào)表能夠提供有價(jià)值的風(fēng)險(xiǎn)信息!币晃粚_基金經(jīng)理人如是說。 ? “在委員會(財(cái)務(wù)會計(jì)準(zhǔn)則委員會)工作后,”唐?楊說,“我再也不相信銀行賬目了! ? 另一位賬務(wù)會計(jì)準(zhǔn)則委員會的前任員工在被問到是否相信銀行賬目時(shí)回答說:“一點(diǎn)兒也不。” 他們在說這些話的時(shí)候,經(jīng)濟(jì)危機(jī)已經(jīng)過去5年,并且《多德–弗蘭克法案》(Dodd-Frank Act)已經(jīng)頒布了3年之久,這一法案集立法之大成并對銀行法做過全面改動。當(dāng)大量的投資者持不信任態(tài)度,并且這種懷疑主義蔓延至整個系統(tǒng)中時(shí),經(jīng)濟(jì)危機(jī)就會爆發(fā)。而當(dāng)政府部門通過“救市”和“流動性融資”涉足其中時(shí),本已錯綜復(fù)雜的局面就會更加紛亂。 對于科技公司而言,復(fù)雜性操作沒有保密性操作這么重要。無論網(wǎng)絡(luò)如何延伸,Google的搜索工程師們都只是在自己公司網(wǎng)絡(luò)內(nèi)的“封閉系統(tǒng)”中進(jìn)行工作。同樣,負(fù)責(zé)Twitter和Facebook“輸入”信息的工程師們也都在劃定的范圍內(nèi)進(jìn)行操作。由于真正保密、法定保密和范圍因素施加的限制,一般人很難了解他們的運(yùn)作方法。此外,技術(shù)和法律阻礙也讓公司以外的人員無法弄清真相。 進(jìn)步人士經(jīng)常呼吁通過透明化操作來解決本書中提到的黑箱問題。很多情況下,陽光確實(shí)是“**的殺毒劑”。然而,透明性有可能只會引發(fā)復(fù)雜性,而復(fù)雜性則像真正保密和法定保密一樣有礙理解。政府經(jīng)常采取干涉措施,要求公司或企業(yè)向用戶開誠布公并“使用通俗易懂的語言”,但金融家們卻通過使交易復(fù)雜化來應(yīng)對這些透明化規(guī)定。在無法達(dá)成實(shí)際效果時(shí),管理人員應(yīng)當(dāng)介入其中并對復(fù)雜性加以限制。透明性不是*終目的,它只是通向可理解性的一個階梯。 警惕軟件 為什么這個問題如此重要?因?yàn)樵絹碓蕉嗟能浖惴ㄔ跈?quán)威領(lǐng)域中得到應(yīng)用。我們以前都是通過人工判斷做出決策,而現(xiàn)在卻是以自動化的方式得出結(jié)論。軟件可以在幾分之一秒內(nèi)對數(shù)千條規(guī)則和指令進(jìn)行編碼。這類自動化程序已經(jīng)被用來指引飛機(jī)航向,建設(shè)網(wǎng)絡(luò)物理中樞,并讀取我們的全球定位系統(tǒng)(GPS)定位信息?傊,在經(jīng)意或不經(jīng)意間,這些軟件程序在提升著我們的生活品質(zhì)。 可是我們應(yīng)該讓其在哪兒止步呢?當(dāng)我們想去一家新餐廳時(shí),該類程序不但會在無形之中影響著我們的路線選擇,而且決定著Google、Yelp、OpenTable或Siri會向我們推薦哪家餐廳。另外,這些程序還可以讓我們看到自己的愛車受到怎樣的評論。然而,選擇一輛車或者一家餐廳并不是通過優(yōu)化引擎或規(guī)劃駕車路線就能簡單解決的事情。推薦引擎是否會考慮到這家餐廳或者汽車公司為員工發(fā)放保健福利或規(guī)定產(chǎn)假的情況?我們是否可以推動這一進(jìn)程?在以**現(xiàn)實(shí)利益為目標(biāo)的行業(yè)競爭中,硅谷和華爾街的數(shù)據(jù)專家們傾向于把推薦項(xiàng)目視為一個純技術(shù)問題。編碼規(guī)則中的價(jià)值觀和特權(quán)問題都被藏進(jìn)了黑箱。 *顯著的一個問題是:這些運(yùn)算程序是否公平?舉例來說,為什么YouTube在Google的視頻搜索結(jié)果中總是能夠擊敗其他的視頻網(wǎng)站?為什么某家餐廳或汽車股票可以排在列表的**?當(dāng)網(wǎng)絡(luò)零售商可以針對同一產(chǎn)品向不同買家顯示不同的價(jià)格時(shí),這又說明了什么?為什么有些借款人可以逾期付款,而其他人卻不被允許這樣做? 對于當(dāng)前現(xiàn)狀,支持者們認(rèn)為這些結(jié)果反映了一家公司針對網(wǎng)站質(zhì)量、投資品質(zhì)或客戶等級做出的善意評價(jià)。反對者們則認(rèn)為這是在用科技做幌子來掩蓋利己行為和利益沖突。只要運(yùn)算法則沒有公開,人們就只能靠猜測得出結(jié)論,所以難以判斷誰是誰非。我們不知道Google到底如何對網(wǎng)站進(jìn)行排名,于是也就無法評估它什么時(shí)候在誠信行事、以客戶為重,什么時(shí)候又是在操縱結(jié)果、牟取商業(yè)利益。Facebook上的動態(tài)更新、Twitter上的熱點(diǎn)話題,甚至電話和有線電視公司的網(wǎng)管操作也是同樣的情況。保密法規(guī)和模糊處理技術(shù)都為上述行為提供了保護(hù)傘。 單向鏡 看了這么多堂而皇之的保密行為,有人會輕易得出結(jié)論,認(rèn)為個人和民間組織也能和公司、政府一樣嚴(yán)守自己的信息。想象著銀行會像保護(hù)自己的秘密一樣對我們的銀行記錄進(jìn)行保密,確實(shí)是一件令人欣慰的事情?晌覅s要推翻這種臆想,我們所在的國度沒有那么美好,它不會為私人園地設(shè)立圍墻,現(xiàn)在的社會更像是一面單向鏡。公司主要決策者可以掌握我們?nèi)粘I畹募?xì)枝末節(jié),可我們卻根本不知道他們怎樣利用這些信息來進(jìn)行重大決策或者影響我們的決策過程。 另外,當(dāng)掌控金融和新媒體領(lǐng)域的權(quán)力迅速匯集到一些私營企業(yè)手中時(shí),我們依舊無法弄清這些公司主要在以何種方式與公共權(quán)力發(fā)生互動和沖突。雖然這本書講的主要是私營行業(yè),但我卻將其命名為《黑箱社會》(而不是《黑箱經(jīng)濟(jì)》),這是因?yàn)閲液褪袌鲋g的界限正在逐漸淡化。前政界人士杰夫?康諾頓(Jeff Connaughton)曾經(jīng)用“黑團(tuán)”來形容由金融和媒體決策人組成的黑暗網(wǎng)絡(luò)。無論是以企業(yè)的名義還是以政府的名義行事,這些決策者都可以通過調(diào)用資金和媒體優(yōu)勢來獲取私利。如今,我們越來越被這個“黑團(tuán)”所籠罩。在一個又一個的決策(或行業(yè))領(lǐng)域,這些業(yè)內(nèi)人物決定著社會利益(如低息貸款或保障就業(yè))和責(zé)任(如審計(jì)、監(jiān)聽和評估)的分配格局。 誠然,正如喬恩?埃爾斯特(Jon Elster)在《地方正義》(Local Justice)一書中所述,我們現(xiàn)在還沒有絕佳的方式來實(shí)現(xiàn)機(jī)會的公平分配?扇缃袷袌龌膰覅s越來越追求速度優(yōu)勢,而不注重讓人們享有公平的選擇權(quán)利。技術(shù)統(tǒng)治論者和管理者給爭議性的價(jià)值判斷結(jié)果披上了“科學(xué)”的外衣,即不斷地利用可測數(shù)據(jù)通過數(shù)學(xué)模型對微妙的主觀結(jié)論(例如一名員工、一項(xiàng)服務(wù)、一篇文章或一件產(chǎn)品的價(jià)值)進(jìn)行再構(gòu)。雖然通過大數(shù)據(jù)做決策的方式可以帶來前所未有的利益,但當(dāng)這種運(yùn)算形式不僅被應(yīng)用于“物”的領(lǐng)域,而且被應(yīng)用于“人”的領(lǐng)域時(shí),我們就需要建立一個更加強(qiáng)大的道德框架,而不是現(xiàn)在“黑團(tuán)”所青睞的這個架構(gòu)。 企業(yè)保密和保密企業(yè) 現(xiàn)在的金融企業(yè)和互聯(lián)網(wǎng)公司都在狂熱地追逐利益。它們對技術(shù)嚴(yán)格保密,并聲稱這是為了保護(hù)知識產(chǎn)權(quán)—可這背后顯然有著不可告人的目的。例如,訴訟案例表明,有些醫(yī)藥公司只公布對其有利的研究結(jié)論,而對嚴(yán)重的健康和安全問題進(jìn)行隱瞞。直到今天,記者們?nèi)詻]有撬開經(jīng)濟(jì)危機(jī)發(fā)生前存在于華爾街的那只黑箱。陽光基金(The Sunlight Foundation)、高效政府中心(Center for Effective Government)、AllTrials.net網(wǎng)站以及透明國際組織(Transparency International)都對公開性提出了迫切要求。 政治家們正在對此做出回應(yīng),并且試圖讓各個領(lǐng)域更加公開。不過他們必須小心行事,否則各大公司就會將其視作眼中釘,然后組織成超級政治行動委員會,并提供資金來擊垮這個潛在的改革者,而這一切行動在競選結(jié)束之前都是不為人知的。 在被問及Google公司如何進(jìn)行私下操作時(shí),前首席執(zhí)行官埃里克?施密特(Eric Schmidt)曾經(jīng)回答:“Google的政策就是和警戒線打擦邊球!备哟_切的說法或許應(yīng)該是,他和其他硅谷管理者都不希望在觸碰警戒線時(shí)被逮個正著,只要保密政策還可以用作妨礙市場競爭和法律實(shí)施的工具,他們就會更加肆無忌憚地進(jìn)行挑釁、介入和牟利。 回首 在一片呼聲之下,美國的先鋒改革者們已經(jīng)開始著手建立一個更加透明、易懂、公開的社會。一百年前,路易斯?布蘭戴斯(Louis Brandeis)曾經(jīng)發(fā)表言論“陽光是**的殺毒劑”,一百年后,這句話仍然被頻繁地引用著;厥啄莻鍍金時(shí)代,當(dāng)時(shí)的商界丑聞和如今的賭場資本主義有著驚人的相似之處。進(jìn)步時(shí)代(19世紀(jì)90年代至20世紀(jì)20年代)中揭發(fā)丑聞的記者們和要求解散托拉斯壟斷組織的民眾通過揭發(fā)強(qiáng)盜式貴族們的劣跡讓這些人無地自容。他們也曾對政客發(fā)飆,《1910年公開法案》(the Publicity Act of 1910)就規(guī)定競選活動中的捐贈情況必須公開。 當(dāng)時(shí)還有很多州施行了類似的改革措施。選民們希望政界和商界都能受到民眾的檢視。20世紀(jì)20年代,見不得光的商業(yè)條例再次浮出水面,隨后羅斯福新政頒布并對其做了回?fù)簦瑥亩惯M(jìn)步主義得到加強(qiáng)。1929年股市大崩盤之后,出于前車之鑒,國會發(fā)布了《1933年證券法》和《1934年證券交易法》。在新的立法過程中創(chuàng)建起來的美國聯(lián)邦通信委員會可以全權(quán)調(diào)查電報(bào)和無線電行業(yè)中的不法行為。新政部門還曾對關(guān)鍵行業(yè)的內(nèi)部機(jī)制進(jìn)行過揭露。 通過在重要領(lǐng)域?qū)嵭凶晕夜_政策,政府對新的權(quán)力格局進(jìn)行了調(diào)整。例如,《1947年行政程序法案》強(qiáng)制各個機(jī)構(gòu)在推行重大規(guī)定前必須發(fā)布公告并且聽取公眾意見。改革者們在《1947年行政程序法案》的基礎(chǔ)上創(chuàng)建了《1966年信息自由法案》,從而使許多政府信息得到公開。 20世紀(jì)60年代,一個廣泛聯(lián)合建立起來的利益聯(lián)盟以公民授權(quán)和保護(hù)用戶權(quán)益之名與政府和公司的保密措施進(jìn)行了抗?fàn)。該?lián)盟的**成果是建立了一套公開程序。例如,《國家環(huán)境政策法案》要求所有的聯(lián)邦項(xiàng)目都要出具環(huán)境影響報(bào)告書,說明其可能會對空氣、水源、植物和動物造成的影響。如今,美國食品藥品監(jiān)督管理局和消費(fèi)品安全委員會等機(jī)構(gòu)都會揭露消費(fèi)品的風(fēng)險(xiǎn)性,從而使我們的日常生活更加安全。 可是阻力也無處不在。20世紀(jì)60年代末,商業(yè)公司成功地挑戰(zhàn)了被其稱為“(管理過度的)保姆式國家”的審查制度。例如,當(dāng)環(huán)境保護(hù)署要求孟山都公司(美國著名農(nóng)業(yè)生化公司)公開某些殺蟲劑的成分?jǐn)?shù)據(jù)時(shí),該公司予以反抗并在**法院獲得勝訴。于是,這些配方被歸為不能公開的“商業(yè)秘密”(知識產(chǎn)權(quán)的一種形式,我們稍后將做詳述)。這樣的判決結(jié)果阻礙了信息披露的進(jìn)程,于是針對菲利普?莫里斯公司的香煙和弗拉克公司的化學(xué)品展開的調(diào)查也因此作罷。 美國政府在20世紀(jì)70年代的滯脹期間信心大減,于是商業(yè)說客們借機(jī)發(fā)表言論稱:在揭發(fā)和懲罰公司劣行方面,記者們可以比官方做得更好,有這些熱衷于挖掘惡行的人在行動,再要求公司提交報(bào)告不是多此一舉嗎?當(dāng)人們抱怨銀行越來越臃腫、復(fù)雜和貪婪時(shí),有大人物對此嗤之以鼻,他們認(rèn)為“老練的投資者”可以掌控這些風(fēng)險(xiǎn),并且銀行本身也會顧及名譽(yù),避免欺詐行為的發(fā)生。 各大公司都試圖給其創(chuàng)新成果貼上“專有”或“機(jī)密”標(biāo)簽,以此在競爭中保持優(yōu)勢。當(dāng)計(jì)算機(jī)交易可以使巨額財(cái)富的得失發(fā)生于轉(zhuǎn)瞬之間時(shí),信息優(yōu)勢便在經(jīng)濟(jì)領(lǐng)域中凸顯了它的重要性。有些經(jīng)濟(jì)學(xué)家提出質(zhì)疑,他們認(rèn)為瞬息萬變的企業(yè)動態(tài)難以得到管理或監(jiān)督。還有一些人發(fā)表文章支持某家公司的保密行為,但卻只字不提這家公司正在向他支付一筆“咨詢”費(fèi)。商科學(xué)校會向工商管理碩士講授博弈論的基本原理,該原理就強(qiáng)調(diào)了先于對手獲得信息優(yōu)勢的重要性。 在過去的10年間,通過隱藏技術(shù)獲取的巨額財(cái)富讓保密行為越來越具有誘惑性。在躍升為科技老大的過程中,Google公司一直在不遺余力地護(hù)衛(wèi)著它的“秘密武器”—用于對網(wǎng)站進(jìn)行排名的復(fù)雜算法。投資銀行和對沖基金可以通過誘騙伎倆從賣家和買家那里獲得數(shù)十億美元的收益,因?yàn)檫@些賣家根本不清楚他們所持股份的價(jià)值,買家也不知道他們所購股份中存在的問題。 就在新自由主義者妨礙國家對善變的商業(yè)慣例進(jìn)行監(jiān)管時(shí),新保守派開始構(gòu)筑一道更高的保密圍墻。早在尼克松時(shí)代,迪克?切尼和唐納德?拉姆斯菲爾德就不滿于國會要求行政機(jī)構(gòu)闡釋外交戰(zhàn)略的強(qiáng)制性規(guī)定。在喬治?布什政府重新?lián)涡姓毢,他們便將行政機(jī)構(gòu)的自由權(quán)(和躲避監(jiān)督的權(quán)力)進(jìn)行了擴(kuò)展!9?11”事件發(fā)生之后,他們強(qiáng)烈要求政府加強(qiáng)保密措施,聲稱贏得“反恐戰(zhàn)爭”的**方式就是讓美國變得和它的影子敵人一樣神秘莫測。 奧巴馬政府采納了行政保密的擴(kuò)展計(jì)劃,從而造成了進(jìn)一步(偶爾脫離現(xiàn)實(shí))的影響。到2010年,就連重要情報(bào)機(jī)構(gòu)的專家們都無法估算出美國用在反恐方面的資金總額,并且無法劃定監(jiān)控設(shè)備的覆蓋范圍。他們面對各種問題時(shí)只能支吾作答,相比之下,拿到“黑色預(yù)算”的國防部官員們則默不作聲,而這筆預(yù)算的數(shù)額只有國會要員和負(fù)責(zé)人才能知道。如今,高壓政府和保密公司成了同一戰(zhàn)隊(duì)的盟友。 進(jìn)步時(shí)代的改革者們在爭取開放性時(shí)也曾敗給了這種浮士德式的交易魔咒:只要能帶給我們安全,我們就不過問細(xì)節(jié)!氨D肥絿摇痹谶@里呈現(xiàn)出了另一種含義。 事情的發(fā)展本不該如此。就在10年前,互聯(lián)網(wǎng)承諾一個信息公開、無比自由的透明時(shí)代即將到來。法學(xué)教授格倫?雷諾茲(Glenn Reynolds)曾經(jīng)預(yù)言:“普羅大眾”可以推翻自命不凡的精英?臻g物理學(xué)家戴維?布林(David Brin)相信,新的技術(shù)將*終回答那個古老的羅馬問題:“誰來保護(hù)守衛(wèi)者?”然而,布林在《透明社會》(The Transparent Society)一書中預(yù)言的相互監(jiān)督的社會愿景并未實(shí)現(xiàn),商業(yè)、金融和搜索領(lǐng)域中的權(quán)力人物采取了模糊戰(zhàn)略和保密措施來鞏固權(quán)力與財(cái)富,他們的非透明技術(shù)正在蔓延并且不受監(jiān)管。 本書結(jié)構(gòu) 在這本書中,我將對主要網(wǎng)絡(luò)和金融公司的商業(yè)慣例進(jìn)行研究,并重點(diǎn)探討這些公司如何在復(fù)雜的信息環(huán)境中使用專有的信譽(yù)評定、搜索和金融技術(shù)。有時(shí)這些技術(shù)能夠?qū)崿F(xiàn)高效運(yùn)作,有時(shí)則會損害經(jīng)濟(jì)發(fā)展和個人權(quán)益。 個人、企業(yè)及其產(chǎn)品的成功在很大程度上取決于他們?nèi)绾螌?shù)據(jù)和認(rèn)知熔鑄成良好的信譽(yù)。在越來越多的情況下,信譽(yù)等級是通過隱秘程序?qū)﹄[秘?cái)?shù)據(jù)進(jìn)行運(yùn)算得出來的。幾乎沒有人在意這一過程是否受到監(jiān)管,更沒有人了解那些影響著我們生活的重要數(shù)據(jù)或建立這些數(shù)據(jù)的“事實(shí)”依據(jù)。第二章將闡述這種新型的信譽(yù)評定技術(shù)在社會中的廣泛滲透。 我們越是依賴于搜索引擎和社交網(wǎng)絡(luò)來尋求所需,實(shí)現(xiàn)所想,這些公司的影響力就會越大。搜索引擎有權(quán)對信息條目進(jìn)行收納、過濾和排名,從而決定哪些話題可以成為永恒的公眾焦點(diǎn),哪些話題則只能作為流星轉(zhuǎn)瞬即逝。亞馬遜網(wǎng)站在對搜索結(jié)果中的圖書進(jìn)行排序時(shí)有什么依據(jù)?怎樣過濾掉虛假的評論?為什么Facebook和Twitter會把某些政治事件放到顯著位置,而將其他事件排到后面?互聯(lián)網(wǎng)巨頭公司都聲稱其算法十分科學(xué),并且保持中立,但人們卻很難驗(yàn)證這些言論的真?zhèn)。這些公司已經(jīng)發(fā)展成為重要的經(jīng)濟(jì)支柱,同時(shí)它們還可以借助交易保密法對其使用的方法和商業(yè)慣例進(jìn)行掩蓋,從而規(guī)避審查。第三章將討論這種不透明的搜索技術(shù)會對個人造成怎樣的影響,以及由此引發(fā)的一些較為重大的商業(yè)和法律問題。 同信譽(yù)評定和搜索領(lǐng)域一樣,金融行業(yè)也在更多地通過計(jì)算和編程的方式進(jìn)行決策。在大數(shù)據(jù)時(shí)代,我們可以通過復(fù)雜的模式識別技術(shù)對大量的數(shù)據(jù)集進(jìn)行分析。這些算法可以將判斷過程簡化為幾個步驟,并使金融決策更加合理化,排除了自私和偏狹因素的干擾,構(gòu)成了較為完善的決策框架。這種做法確實(shí)可以提升效率,但同時(shí)也將一些舊有模式下頗具爭議的信用評級和不負(fù)責(zé)任的企業(yè)行為固化下來。在金融業(yè)的黑箱中,舊有問題演變成了技術(shù)復(fù)雜性、真正保密性和交易保密法這三個曾經(jīng)導(dǎo)致2008年經(jīng)濟(jì)危機(jī)的沖擊元素!督鹑跁r(shí)報(bào)》記者約翰?加普(John Gapper)曾經(jīng)論述過其中的因果關(guān)系:“不透明性和復(fù)雜性……造成了欺詐和抬價(jià)現(xiàn)象,并*終使欺騙行為得到蔓延!被蛟S更加糟糕的情況是,在對社會特征進(jìn)行歸納的同時(shí)卻不對金融保密性加以調(diào)節(jié)和管理,于是經(jīng)濟(jì)厄運(yùn)便不可避免。第四章將研究不透明的模型和慣例如何在金融市場中發(fā)揮作用,以及它們對公民、社會和法律產(chǎn)生的影響。 喬治?戴森(George Dyson)曾在《圖靈大教堂》(Turing’s Cathedral)一書中這樣諷刺道:“Facebook決定了我們是誰,亞馬遜決定了我們想要什么,Google決定了我們怎么想。”我們可以把這句話進(jìn)行延展,即金融行業(yè)決定了我們有什么(至少是物質(zhì)性的),而信譽(yù)評定技術(shù)則更多地決定著我們的機(jī)會。各行各業(yè)的管理者都不希望他們的決策受到監(jiān)管、遭到訴訟或需要做出解釋。如果真的如其所愿,我們*基本的自由和權(quán)利就會轉(zhuǎn)交到一個缺乏價(jià)值標(biāo)準(zhǔn)的系統(tǒng)里面,而高層管理者和股東將不會再對這個系統(tǒng)進(jìn)行任何改進(jìn)。 本書闡述了兩種對抗途徑。第五章將推薦幾項(xiàng)法律措施,用以揭示黑箱公司*惡劣的行徑。第六章將在智能社會的基礎(chǔ)上論述與信用評定、搜索和金融相關(guān)的政治經(jīng)濟(jì)學(xué)。如今這種僵化的政治環(huán)境不可能在一朝一夕間有所改觀,持有這種愿望的人無異于在癡人說夢。但有關(guān)機(jī)構(gòu)應(yīng)當(dāng)在既有的法律框架內(nèi)“盡其所能”地將黑箱行為關(guān)進(jìn)牢籠。另外,那些對硅谷和華爾街特權(quán)表示憂慮的人們也需要行動起來,而不僅僅是單純地抱怨信息獲取途徑的匱乏。我們完全可以想象在未來社會中,運(yùn)算特權(quán)將僅用于促進(jìn)公平、自由和合理性。 我們不必生活在這樣一個社會中:人的命運(yùn)被隱秘的評分機(jī)制所決定,或者股票市場被人為操縱,像有一只“看不見的手”一樣令人難以捉摸。我們不應(yīng)該擔(dān)心個體、企業(yè)或是金融體系的命運(yùn)會受控于那些秘而不宣的數(shù)據(jù)、令人質(zhì)疑的評分機(jī)制和不可告人的賭注式交易。這些侵犯了個人隱私的技術(shù)和法律規(guī)定完全可以用來保護(hù)我們的隱私,提升我們的自由度,加深我們對這個世界的理解,而不是僅僅作為阻力出現(xiàn)。一旦設(shè)定了正確的方向,數(shù)據(jù)采集技術(shù)和廣域監(jiān)控技術(shù)甚至能夠防止經(jīng)濟(jì)危機(jī)和資源的不當(dāng)分配,使美國經(jīng)濟(jì)不再像上個10年那樣遭受重創(chuàng)。 我們要敦促互聯(lián)網(wǎng)和金融公司提升公共價(jià)值,并從其他監(jiān)管有序的部門那里借鑒經(jīng)驗(yàn)。例如在保健行業(yè)中,管理者會指派專業(yè)的技術(shù)人員負(fù)責(zé)調(diào)查并防止欺詐和藥物濫用行為的發(fā)生。同樣的技術(shù)還可以并且應(yīng)當(dāng)用來保障銀行、搜索引擎和社會網(wǎng)絡(luò)的誠信運(yùn)行。 更多的透明化操作可以讓非專業(yè)人士辨識出市場中的“非理性繁榮”,揭露如今極易被掩蓋的企業(yè)劣行,并且曝光那些不公平競爭和歧視性行為。然而,正如我在提倡加強(qiáng)監(jiān)管措施時(shí)曾經(jīng)反復(fù)強(qiáng)調(diào)的那樣,單純的透明化操作并不足以解決問題,尤其是在金融行業(yè)當(dāng)中。如果公司通過使簡單問題復(fù)雜化來極力躲避監(jiān)管或妨礙他人理解,那么信息披露政策便會成為一紙空談。我們要終結(jié)那種一直在困擾監(jiān)管者的“要求信息披露”和“想辦法阻止信息披露”之間的車輪式博弈。如果某些交易復(fù)雜到局外人難以理解,那么這樣的交易就應(yīng)該被取消。 可以自我破解的預(yù)言 我們需要面對一個事實(shí),那就是當(dāng)前的情況可能會愈演愈烈。 有一種沿用已久的小說形式叫作“可以自我破解的預(yù)言”。作者以非?尚诺姆绞絹硗蒲莓(dāng)前社會的*壞前景,從而構(gòu)想出一個糟透了的社會。如果有足夠多的讀者可以從盲目自滿中警醒過來,并且試圖做出改變,那么這個預(yù)言就會被人們破解。這樣作者的兇事預(yù)言就不會像希臘神話中女先知卡珊德拉的預(yù)言那樣被人忽視了。喬治?奧威爾的《1984》和阿道斯?赫胥黎的《美妙的新世界》都屬于這類圖書。作者描繪了一個充斥著極權(quán)主義的未來,并成功調(diào)動起了人們的抗?fàn)幥榫w。 很多電影也展現(xiàn)了這種可以自我破解的預(yù)言。在特里?吉列姆(Terry Gilliam)的《巴西》(Brazil)一書中,一只蒼蠅在偶然的情況下被卡進(jìn)了反恐機(jī)構(gòu)的打印機(jī)里,從此主人公山姆?勞里便開始了他的悲慘命運(yùn)。當(dāng)勞里試圖糾正這一錯誤時(shí),僵化的官僚體制卻將他牢牢禁錮,并且誤把他當(dāng)成了暴力**分子。吉列姆描繪了一個不透明、不負(fù)責(zé)任且充斥著冤假錯案的國家,這個國家的運(yùn)作機(jī)制十分不可理喻,而在這種機(jī)制的煎熬下選擇屈服的公民們也變得同樣瘋狂。 我們愿意相信我們已經(jīng)逃離了吉列姆鏡頭下1985年的那個非理性社會,就像《1984》里的恐怖情形已經(jīng)被粉碎了一樣。我們的生活主要受到私營企業(yè)的影響,而非國家機(jī)構(gòu)。與前民主德國國家安全局里蒙著灰塵的文檔或吉列姆想象出的復(fù)雜局勢相比,代表尖端技術(shù)的計(jì)算機(jī)領(lǐng)域完全是另一幅情景。華爾街和硅谷中干練的領(lǐng)導(dǎo)者們比《巴西》中裝模作樣的殘酷小吏要光鮮得多,豐饒論者呼吁人們不要加以干預(yù),并讓他們盡管放心,宣稱科技可以解決包括交通堵塞和反常天氣在內(nèi)的一切問題。 然而,我們不能盲目自滿。這些公司做出的許多決定可以影響到幾百萬人的日常生活。一個小小的錯誤就可以使一個人的一生發(fā)生錯位。未來的公司策略執(zhí)行人和政府當(dāng)局會調(diào)用大量的資源來對他們的單向鏡加以維護(hù),并且不會輕易放棄大數(shù)據(jù)技術(shù)為其帶來的強(qiáng)大優(yōu)勢。然而,黑箱現(xiàn)象正在發(fā)出一個訊號,那就是信息失衡的程度已經(jīng)不容忽視。我們一直在依靠信譽(yù)評定、搜索和金融領(lǐng)域的巨頭們來理解這個社會,是時(shí)候讓政策制定者幫我們了解一下這些幕后巨頭了。 無論是在工作場所還是在自己家中,美國人越來越被那些暗中行事的管理者們所影響,有時(shí)甚至可以說是威脅。豐饒論者所依據(jù)的判斷結(jié)果都是以自動化方式生成的,因此很可能是錯誤的、偏頗的或者具有破壞性。信譽(yù)評定、搜索和金融領(lǐng)域的黑箱已經(jīng)對所有人造成了威脅,如果它們得不到公開,錯誤的數(shù)據(jù)、無效的假設(shè)和存在缺陷的模型就無法得到糾正。本書將對這些問題進(jìn)行揭露并提供一些解決建議。
你還可能感興趣
我要評論
|