本書圍繞數(shù)據(jù)正義理論展開。數(shù)據(jù)化并非僅是技術(shù),實為一種政治經(jīng)濟體制,應(yīng)優(yōu)先考慮數(shù)據(jù)化帶來的社會正義問題。數(shù)據(jù)正義要求找到應(yīng)對資本主義危害的方式;數(shù)據(jù)化嵌入政府治理導(dǎo)致社會成員權(quán)力弱化,數(shù)據(jù)正義要求政府機構(gòu)優(yōu)先考慮以人為本、團結(jié)建設(shè);數(shù)據(jù)正義概念必須是連接全球社會學(xué),絕非僅是西方的;數(shù)據(jù)正義要解決數(shù)據(jù)化帶來剝削、歧視、隱私侵害、監(jiān)視、操縱、不公正等危害;數(shù)據(jù)化限制了公民的主體性,數(shù)據(jù)正義要求確保公民在政治參與方面的積極與自主;鑒于以知情同意為中心的監(jiān)管框架存在缺陷,應(yīng)從保障個人權(quán)利到承認集體秩序,邁向數(shù)據(jù)正義政策。總之,數(shù)據(jù)正義關(guān)注不公正以及如何改變這些不公正。
主編序
一
2023年,火遍全網(wǎng)的ChatGPT再次刷新了人類對人工智能的認知。ChatGPT是一種全新的聊天機器人模型,它采用人工神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)等技術(shù),能夠?qū)W習(xí)大量的語言數(shù)據(jù),從中提取語言規(guī)律和模式,生成具有邏輯和語法正確性的文本。ChatGPT的背后,是基于大語言模型建構(gòu)的生成式人工智能的不斷興起。由此引發(fā)的學(xué)術(shù)討論,除了在特定領(lǐng)域內(nèi)的針對性分析之外,進一步延伸到范式革命、治理迭代和規(guī)制創(chuàng)新等宏觀問題。ChatGPT及其引發(fā)的社會關(guān)注和學(xué)術(shù)討論,延續(xù)了人工智能法學(xué)研究的基本邏輯:技術(shù)的迭代發(fā)展與法律制度保守滯后之間的張力。不同于人工智能應(yīng)用初期帶來的范式焦慮以及假想式研究,隨著技術(shù)路徑的逐漸穩(wěn)定和學(xué)術(shù)共識的不斷沉淀,法學(xué)領(lǐng)域的相關(guān)研究已經(jīng)走向了具體化和精細化。在本體論層面,算法、數(shù)據(jù)與算力作為人工智能的三大支柱,基本沒有爭議,法學(xué)界通常直接借用專業(yè)領(lǐng)域的研究結(jié)論,以之作為論證的起點;從認識論的角度出發(fā),法學(xué)研究主要聚焦于算法應(yīng)用的風(fēng)險規(guī)制和數(shù)據(jù)權(quán)益的法律歸屬;從方法論的視角觀察,仍以法解釋學(xué)為中心,限縮或擴張概念內(nèi)涵以增強解釋力,在論證過程中比較法的素材依然是重要依據(jù),并最終落腳于既有規(guī)則的修改完善;如果上升到價值論層面,技術(shù)中立的預(yù)設(shè)已是不切實際的幻想,以跨境數(shù)據(jù)流動的國際博弈為切口,清晰地呈現(xiàn)出國家權(quán)力在人工智能法律問題上的建構(gòu)性影響。
事實上,在人工智能法學(xué)這一命題之外,還有不少類似表達,試圖更加完整、準(zhǔn)確地提煉和歸納新興技術(shù)引發(fā)的法律問題和研究旨趣。在信息法學(xué)、計算法學(xué)、認知法學(xué)、數(shù)據(jù)法學(xué)等概念之外,數(shù)字法學(xué)以其對數(shù)字技術(shù)、數(shù)字經(jīng)濟、數(shù)字市場乃至數(shù)字社會的整體性涵攝和概括性凝練,逐漸受到認可。雖然有關(guān)數(shù)字法學(xué)是否能夠超越法學(xué)二級學(xué)科的束縛,甚至代表未來法學(xué)的發(fā)展趨勢,從而實現(xiàn)法學(xué)理論的轉(zhuǎn)型重建和曲線升級,在學(xué)術(shù)界還存在巨大爭議,但是,這種統(tǒng)合與歸并顯然有助于拓寬思考問題的視閾和背景。在互聯(lián)網(wǎng)發(fā)展的早期,線上世界與線下世界雖不至于涇渭分明,但畢竟區(qū)分明顯。互聯(lián)網(wǎng) 的實踐探索,則是社會生活數(shù)字化的先聲與前哨。當(dāng)智能手機與移動互聯(lián)網(wǎng)普及應(yīng)用之后,作為社會基本單元的人已經(jīng)并將持續(xù)被數(shù)字化裹挾,隨之而來的深遠影響并非簡單疊加數(shù)字之后,就能在舊瓶裝新酒的路徑依賴下獲得正確答案。
鑒此,獨角獸·人工智能第六輯在第五輯將人工智能與隱私人工智能與數(shù)據(jù)作為國外法學(xué)精品專著篩選主題的基礎(chǔ)上,進一步拓寬視野,鎖定在數(shù)字社會這一背景下,分析與研究數(shù)據(jù)集中和數(shù)字權(quán)力可能引發(fā)的控制力矛盾,即人類飛速發(fā)展的控制能力和落后的自我控制力之間的內(nèi)在沖突。數(shù)據(jù)壟斷現(xiàn)象、數(shù)字市場秩序問題以及數(shù)字社會正義體系,本質(zhì)上均是這種矛盾的表現(xiàn)形式或最終的價值歸宿。之所以對篩選的譯著進行上述限定,是希冀面對數(shù)字化轉(zhuǎn)型的誘惑時,始終明確,無論是規(guī)范、規(guī)制還是治理,其核心的激勵取向仍然要以促進和實現(xiàn)人的價值為中心。
二
本輯譯叢是獨角獸·人工智能第六輯。正所謂半畝方塘一鑒開,天光云影共徘徊,編輯和譯者們以數(shù)據(jù)壟斷、數(shù)字市場、數(shù)據(jù)正義為取向,精心選擇了三部著作,以期能夠讓讀者們透過現(xiàn)象看本質(zhì),從不同維度思考人工智能及其背后的數(shù)字技術(shù)對人類社會的革命性影響。這三部著作分別是莎拉·拉姆丹(Sarah Lamdan)的《付費墻:被壟斷的數(shù)據(jù)》,安東尼奧·曼加內(nèi)利(Antonio Manganelli)與安東尼奧·尼基塔(Antonio Nicita)合著的《監(jiān)管數(shù)字市場:歐盟路徑》,莉娜·丹席克(Lina Dencik)、阿恩·欣茨(Arne Hintz)、喬安娜·雷登(Joanna Redden)、埃米利亞諾·特雷(Emiliano Treré)合著的《數(shù)據(jù)正義》。
《付費墻:被壟斷的數(shù)據(jù)》一書,分析了數(shù)據(jù)壟斷給反壟斷監(jiān)管帶來的挑戰(zhàn)。在數(shù)字空間中,數(shù)據(jù)就是權(quán)力,壟斷了大量數(shù)據(jù)的公司擁有很高的地位,并通過各種手段保持其控制力。數(shù)據(jù)壟斷企業(yè)已經(jīng)成為難以監(jiān)管的數(shù)據(jù)卡特爾,本書形象地展示了挖掘和銷售數(shù)據(jù)與信息資源的公司正在加劇社會不平等。目前,少數(shù)幾家大公司支配了大部分關(guān)鍵數(shù)據(jù)資源,通過各種合法業(yè)務(wù),掌控了數(shù)字經(jīng)濟命脈。通過對數(shù)據(jù)的控制,這些公司可以阻礙信息的自由流動,巧妙利用法律漏洞,以加劇數(shù)字種族主義等方式管理數(shù)據(jù)。私有化和網(wǎng)絡(luò)中立阻礙了有效法律的制定,由此導(dǎo)致超大型數(shù)據(jù)寡頭進一步的壟斷合并。為了改變這種現(xiàn)狀,除了制定相關(guān)法律和基于市場的解決方案外,將數(shù)據(jù)視為公共產(chǎn)品,通過構(gòu)建理想的數(shù)字基礎(chǔ)設(shè)施來支持其公共產(chǎn)品屬性,是解決數(shù)據(jù)壟斷問題的基本思路。
《監(jiān)管數(shù)字市場:歐盟路徑》一書介紹了歐盟的數(shù)字市場規(guī)制模式,分析了數(shù)字革命給歐盟監(jiān)管機構(gòu)和政策制定者帶來的挑戰(zhàn),從監(jiān)管機構(gòu)和政策制定者的角度提出了應(yīng)對方法。數(shù)字革命重塑了生產(chǎn)、消費和分配方式,為經(jīng)濟社會帶來了新的機遇,同時也引發(fā)了巨大擔(dān)憂。數(shù)字市場中的法律問題是全球性現(xiàn)象,但不同國家的應(yīng)對策略不盡相同。本書由兩部分組成,第一部分闡述數(shù)字市場和數(shù)字權(quán)利的演變,電子商務(wù)和共享經(jīng)濟逐步塑造了數(shù)字市場,數(shù)字市場需要多樣化的數(shù)字公共政策,歐盟因此創(chuàng)建數(shù)字單一市場,推出諸如《地理封鎖條例》《內(nèi)容可攜帶條例》等跨境數(shù)字政策,并考慮建立數(shù)字權(quán)利體系的可能性。第二部分闡述了監(jiān)管科技巨頭對市場和社會的影響,當(dāng)今主要的數(shù)字玩家僅限于少數(shù)幾個大型全球平臺,而競爭執(zhí)法已成為公權(quán)力介入數(shù)字市場的先驅(qū)。同時,數(shù)字服務(wù)要求使用戶基本權(quán)利得到保護,亦要求為企業(yè)提供公平的競爭環(huán)境。由此,歐盟委員會發(fā)布《數(shù)據(jù)治理法案》《數(shù)字服務(wù)法案》《數(shù)字市場法案》等重要政策法規(guī),以期應(yīng)對數(shù)字革命帶來的監(jiān)管挑戰(zhàn)。
《數(shù)據(jù)正義》一書圍繞數(shù)據(jù)正義理論展開。數(shù)據(jù)化并非僅是技術(shù),實為一種政治經(jīng)濟體制,應(yīng)優(yōu)先考慮數(shù)據(jù)化帶來的社會正義問題。第一,數(shù)據(jù)正義要求找到應(yīng)對資本主義危害的方式;第二,數(shù)據(jù)化嵌入政府治理,導(dǎo)致社會成員權(quán)力弱化,數(shù)據(jù)正義要求政府機構(gòu)優(yōu)先考慮以人為本、團結(jié)建設(shè);第三,數(shù)據(jù)正義概念必須鏈接全球社會學(xué),絕非僅是西方的;第四,數(shù)據(jù)正義要解決數(shù)據(jù)化帶來剝削、歧視、隱私侵害、監(jiān)視、操縱、不公正等危害;第五,數(shù)據(jù)化限制了公民的主體性,數(shù)據(jù)正義要求確保公民在政治參與方面的積極與自主;第六,鑒于以知情同意為中心的監(jiān)管框架存在缺陷,應(yīng)從保障個人權(quán)利到承認集體秩序,邁向數(shù)據(jù)正義政策?傊瑪(shù)據(jù)正義關(guān)注不公正以及如何改變這些不公正。
這三本學(xué)術(shù)著作的選擇主要是以數(shù)據(jù)壟斷、數(shù)字市場與數(shù)據(jù)正義為主題,以期幫助讀者對數(shù)據(jù)在人工智能產(chǎn)業(yè)應(yīng)用和法律問題中的重要影響形成體系化認知。《付費墻:被壟斷的數(shù)據(jù)》思考的是數(shù)據(jù)集中到少數(shù)企業(yè)后,數(shù)據(jù)權(quán)力對人產(chǎn)生的超強控制力問題;《監(jiān)管數(shù)字市場:歐盟路徑》反思的是地緣政治的背景下,如何規(guī)制大型全球平臺的市場支配能力,以保護用戶基本權(quán)利、維護數(shù)字市場公平競爭秩序;《數(shù)據(jù)正義》則以人類社會的正義斗爭史為鏡鑒,對數(shù)據(jù)化形成的政治經(jīng)濟體制及其普遍性進行分析,嘗試將社會正義問題嵌入數(shù)據(jù)化審查,最終實現(xiàn)人的公平發(fā)展。數(shù)據(jù)化生存和數(shù)字化發(fā)展,無疑改變了既有的權(quán)力格局,對壟斷、市場以及正義問題的關(guān)注,終究是在思索人的命運與價值。
三
三部學(xué)術(shù)著作既有顯著區(qū)別又具有內(nèi)在聯(lián)系:數(shù)據(jù)壟斷是一種客觀現(xiàn)實,既體現(xiàn)了互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展中的馬太效應(yīng),也是自由競爭在互聯(lián)網(wǎng)領(lǐng)域長期占據(jù)主流價值的必然結(jié)果,更是社會生活數(shù)據(jù)化帶來的消極影響之一;數(shù)據(jù)壟斷與數(shù)字企業(yè)的市場支配力量存在緊密聯(lián)系,歐盟在數(shù)字市場領(lǐng)域一直秉持積極干預(yù)的規(guī)制路徑,但在全球數(shù)字市場中歐盟企業(yè)卻難以與中美企業(yè)形成有力競爭,如何在競爭執(zhí)法與激勵創(chuàng)新之間尋求平衡,在全球范圍內(nèi)并無統(tǒng)一范式;數(shù)據(jù)壟斷的現(xiàn)實以及由此產(chǎn)生的數(shù)字市場規(guī)制問題,最終影響個人權(quán)利、集體秩序及國際合作,數(shù)據(jù)相關(guān)的不公正亟須正義理論的關(guān)注與回應(yīng)。由此,無論是數(shù)據(jù)壟斷,還是數(shù)字市場,甚至數(shù)據(jù)正義,雖視角有區(qū)別、觀點有爭議、路徑有差異,但其核心訴求卻殊途同歸:在數(shù)據(jù)化與數(shù)字化的生活方式和應(yīng)用場景下,尋求個人與集體、企業(yè)與市場、社會與國家之間的最大公約數(shù)。
《付費墻:被壟斷的數(shù)據(jù)》是對數(shù)據(jù)壟斷及其帶來的控制能力的一次全面審視,并再次警醒人們對數(shù)據(jù)集中化持有可能帶來的負面風(fēng)險保持關(guān)注:數(shù)據(jù)技術(shù)既是分享知識的神奇工具,也是控制信息流的危險工具。如果說知識產(chǎn)權(quán)曾經(jīng)制造了文化傳播的壁壘和技術(shù)轉(zhuǎn)移的門檻,數(shù)據(jù)集中和壟斷則全面建構(gòu)了個人的生活,并控制了信息獲取的邊界。大型科技公司的數(shù)據(jù)歸集能力和數(shù)據(jù)持有數(shù)量以及數(shù)據(jù)行為模式,都對個人和中小企業(yè)形成了一種難以抗衡的控制力。較之于知識產(chǎn)權(quán)領(lǐng)域相對清晰的客體形態(tài)、具有明確期限的財產(chǎn)權(quán)形式、完整的權(quán)利限制制度,數(shù)據(jù)的法律性質(zhì)與權(quán)益歸屬雖然在立法上仍未明確,但事實上的持有與壟斷格局已然形成,其控制力并不弱于法定的財產(chǎn)權(quán),如何在既有的反壟斷法框架下回應(yīng)這一問題已刻不容緩。
《監(jiān)管數(shù)字市場:歐盟路徑》立足于歐盟的數(shù)字市場規(guī)制模式,全面審視了歐盟在數(shù)字技術(shù)發(fā)展應(yīng)用的背景下,應(yīng)對數(shù)字生產(chǎn)、數(shù)字消費和數(shù)字分配的制度實踐。長期以來,歐盟在數(shù)據(jù)領(lǐng)域強調(diào)個人權(quán)利的優(yōu)位性,以《通用數(shù)據(jù)保護條例》為代表的立法文本更是被普遍解讀為確立了對個人數(shù)據(jù)權(quán)利的強保護模式。在歐盟有關(guān)數(shù)字權(quán)利保護的執(zhí)法實踐中,雖然包括谷歌在內(nèi)的互聯(lián)網(wǎng)巨頭遭遇巨額處罰,但一方面?zhèn)人數(shù)據(jù)權(quán)利的保護仍然存在難題,另一方面歐盟在全球數(shù)字市場的競爭力并未獲得顯著提升。因此,歐盟如何在促進數(shù)字產(chǎn)業(yè)發(fā)展、保護個人數(shù)據(jù)權(quán)利、維持公平競爭的數(shù)字市場秩序等多重利益間取得平衡,怎樣通過數(shù)字公共政策實現(xiàn)政治經(jīng)濟目標(biāo),仍然有待進一步觀察。
《數(shù)據(jù)正義》是數(shù)據(jù)應(yīng)用及數(shù)字經(jīng)濟背景下對社會正義問題的省思。數(shù)據(jù)的資產(chǎn)屬性愈發(fā)凸顯,政府機構(gòu)也由此取得了在數(shù)據(jù)權(quán)力方面的信息優(yōu)勢。在數(shù)據(jù)全球化中,數(shù)據(jù)鴻溝進一步加劇,數(shù)據(jù)危害帶來的不公正問題將更為普遍,公民的主體性在數(shù)據(jù)化背景下將進一步被削弱,流于形式的知情同意規(guī)則以及其他以私權(quán)為根基的制度結(jié)構(gòu),在實現(xiàn)社會公正的過程中難以發(fā)揮實效。由此,立足于歷史演進歸納的正義經(jīng)驗,吸納在國際實踐中逐步整合的正義規(guī)則,重新建構(gòu)數(shù)據(jù)化審查中的正義理論,改變不公正的社會現(xiàn)實,將是人類在數(shù)字社會中面臨的共同議題。
四
數(shù)據(jù)作為新興生產(chǎn)要素,是數(shù)字化、網(wǎng)絡(luò)化、智能化的基礎(chǔ),在我國數(shù)字經(jīng)濟取得飛速發(fā)展、數(shù)字產(chǎn)業(yè)規(guī)模不斷擴大的背景下,數(shù)據(jù)基礎(chǔ)制度的重要性不言而喻。數(shù)據(jù)產(chǎn)權(quán)、數(shù)據(jù)流通交易、數(shù)據(jù)收益分配、數(shù)據(jù)安全治理等問題已經(jīng)引起國家層面的高度重視,相關(guān)制度的頂層設(shè)計已是箭在弦上。在未來的國際競爭中,如何充分發(fā)揮我國海量的數(shù)據(jù)規(guī)模和豐富的應(yīng)用場景優(yōu)勢,兌現(xiàn)數(shù)字經(jīng)濟的潛能,實現(xiàn)社會的全面數(shù)字化轉(zhuǎn)型,既需要技術(shù)能力的持續(xù)進步,亦有賴商業(yè)模式的不斷突破,更需要法律規(guī)則的調(diào)整完善。編輯和譯者們之所以慎之又慎地選擇這三本國外專著,也是期望這些立足于不同國家和地區(qū)社會現(xiàn)實的觀點與素材,能夠?qū)ξ覈臄?shù)據(jù)壟斷問題、數(shù)字市場規(guī)制以及數(shù)據(jù)正義實踐提供借鑒經(jīng)驗和理論樣本。
應(yīng)當(dāng)承認,人工智能及其相關(guān)的法律問題具有本土化特點,不同國家和地區(qū)在技術(shù)水平、市場結(jié)構(gòu)和法律傳統(tǒng)上存在顯著差異。但數(shù)據(jù)持有的集中化和數(shù)據(jù)壟斷的普遍性,以及由此帶來的市場支配力量和控制力,都將對數(shù)字市場的競爭秩序和社會公平正義的實現(xiàn)產(chǎn)生顯著影響。因此,站在中國看世界與通過世界看中國,對人工智能領(lǐng)域上述法律問題深入而持續(xù)的學(xué)術(shù)研究仍不可偏廢。
彭誠信上海交通大學(xué)特聘教授上海交通大學(xué)人工智能治理與法律研究中心副主任凱原法學(xué)院數(shù)據(jù)法律研究中心主任2023年7月2日
莉娜·丹席克(Lina Dencik),卡迪夫大學(xué)新聞、媒體與文化學(xué)院數(shù)字傳播與社會學(xué)教授,英國數(shù)據(jù)正義實驗室的聯(lián)合創(chuàng)始人兼主任。阿恩·欣茨(Arne Hintz),卡迪夫大學(xué)新聞、媒體與文化學(xué)院高級講師、研究生研究室主任、英國數(shù)據(jù)正義實驗室的聯(lián)合主任。喬安娜·雷登(Joanna Redden),加拿大韋士敦大學(xué)信息與媒體研究學(xué)院助理教授、英國數(shù)據(jù)正義實驗室的聯(lián)合主任。埃米利亞諾·特雷(Emiliano Treré),卡迪夫大學(xué)新聞、媒體與文化學(xué)院高級講師。向秦,法學(xué)博士,華東政法大學(xué)助理研究員,互聯(lián)網(wǎng)法治研究院(杭州)研究員,美國加州大學(xué)伯克利分校、新加坡管理大學(xué)訪問學(xué)者,主要從事網(wǎng)絡(luò)信息法、數(shù)據(jù)與人工智能法研究。
主編序/1
致謝/1
導(dǎo)言/1
第一章數(shù)據(jù)與資本主義/11
第一節(jié)大型科技公司的崛起/12
第二節(jié)數(shù)據(jù)的價值/16
第三節(jié)數(shù)據(jù)化下的社會關(guān)系/21
第四節(jié)結(jié)論:數(shù)據(jù)正義是反資本主義嗎?/24
第二章數(shù)據(jù)與治理/27
第一節(jié)對數(shù)據(jù)中信任的挑戰(zhàn)/28
第二節(jié)數(shù)據(jù)治理和關(guān)注歷史的重要性/30
第三節(jié)通過人工智能和自動化決策系統(tǒng)實現(xiàn)
數(shù)據(jù)化治理/34
第四節(jié)數(shù)據(jù)治理產(chǎn)生鴻溝/36
第五節(jié)結(jié)論:考慮潛在的數(shù)據(jù)化未來/42
第三章數(shù)據(jù)與去西方化/45
第一節(jié)數(shù)據(jù)普遍主義的問題/46
第二節(jié)去西方化:假設(shè)、條件和意義/50
第三節(jié)數(shù)據(jù)研究中去西化的四個維度:文化、
問題、案例和理論/52
第四節(jié)結(jié)論:如何連接全球社會學(xué)與數(shù)據(jù)
正義?/60
第四章數(shù)據(jù)危害/63
第一節(jié)數(shù)據(jù)危害記錄/64
第二節(jié)數(shù)據(jù)危害分類/65
第三節(jié)結(jié)論:解決數(shù)據(jù)危害/76
第五章數(shù)據(jù)與公民身份/79
第一節(jié)公民身份:法律地位與實踐/80
第二節(jié)作為用戶畫像的公民/82
第三節(jié)數(shù)據(jù)化公民身份與民主/88
第四節(jié)積極的公民身份、素養(yǎng)與參與/92
第五節(jié)結(jié)論:在參與與控制之間的數(shù)據(jù)化
公民/94
第六章數(shù)據(jù)與政策/96
第一節(jié)數(shù)據(jù)規(guī)范生態(tài)/98
第二節(jié)監(jiān)管趨勢:兩種政策/100
第三節(jié)知情用戶和數(shù)據(jù)個人主義的問題/102
第四節(jié)制度性回應(yīng):數(shù)據(jù)管理/105
第五節(jié)話語、規(guī)范與利益/108
第六節(jié)結(jié)論:邁向數(shù)據(jù)正義政策/112
第七章數(shù)據(jù)與社會運動/114
第一節(jié)社會運動、數(shù)據(jù)機構(gòu)和政治/115
第二節(jié)數(shù)據(jù)與社會運動之間的相互塑造:
生態(tài)、基礎(chǔ)設(shè)施與想象/118
第三節(jié)反數(shù)據(jù)行動/122
第四節(jié)算法政治與行為主義/126
第五節(jié)結(jié)論:理解數(shù)字行為主義數(shù)據(jù)正義
的關(guān)鍵組成部分/132
第八章數(shù)據(jù)與社會正義/135
第一節(jié)信息、溝通與媒體正義/137
第二節(jié)數(shù)據(jù)化與反規(guī)范的正義 /140
第三節(jié)數(shù)據(jù)化時代的社會正義動員/146
第四節(jié)結(jié)論:什么是數(shù)據(jù)正義?/149
參考文獻/151
索引/199