《黑客帝國》二十年

［美］邁克·雷斯尼克 　著　

華　龍　譯

不久前，我看到一些科幻迷在互聯(lián)網(wǎng)上斷言，《黑客帝國》描述的就是真實(shí)的未來。他們說，這是人性使然，人類在飽受蹂躪、苦痛，遭受了宗教審判所、納粹、ISIS恐怖組織無盡的折磨后，其意志力喪失殆盡。而當(dāng)數(shù)以百計(jì)、千計(jì)，甚至也許是以百萬計(jì)的計(jì)算機(jī)程序被賦予了形體與聲音之后，便具備了與我們相匹敵的能力。它們比我們更聰明、更快、更強(qiáng)壯，甚至更有活力。

而且，它們不會(huì)太喜歡我們。

一個(gè)顯而易見的問題是：那樣的一個(gè)世界如何成真？

按照《黑客帝國》的說法，在人類的計(jì)算機(jī)擁有自我意識(shí)之后就會(huì)發(fā)生，當(dāng)人工智能邁出下一步巨大的跨越后就會(huì)發(fā)生，也就是機(jī)器從如今所處的位置跨越到人類如今所處的位置。

而且，按照大量末世題材的科幻作品的說法，以及其中一個(gè)很小卻十分流行的組成部分，也就是被稱為賽博朋克的那類小說的說法，尼奧的世界是那種現(xiàn)象的自然而然的產(chǎn)物。

自然啦，這完全是一派胡言。

好萊塢在這方面是大錯(cuò)特錯(cuò)。要是你能意識(shí)到《黑客帝國》只不過是五十年代那些自稱科幻電影，實(shí)質(zhì)卻是反科學(xué)電影所造就的產(chǎn)物，那這一切也就不足為怪了，那些電影往往還會(huì)以這么一行字結(jié)尾：“有些事情你永遠(yuǎn)別想知道真相。”（如何編寫一部強(qiáng)調(diào)科學(xué)內(nèi)核的電影劇本，還讓它看上去是同類型開創(chuàng)性的第一部，這句話就是訣竅。）

好萊塢把它搞得惟妙惟肖，憑借的不是其中的思想，而是情感。噢，你也能假裝認(rèn)為那就是思想，就像他們?cè)凇逗诳偷蹏�》里做的那樣，不過這電影并沒有真正探討機(jī)器自我意識(shí)的邏輯后果。它只不過是狠狠嚇了我們一把而已，用特效迷亂了我們的雙眼。它說，這就是未來，但那個(gè)年僅二十五歲、表情木訥的小子能拯救我們所有人。

那他有沒有憑著自己的超級(jí)智力拯救我們呢？當(dāng)然沒有。他通過某種神秘的、非科學(xué)的方式，變成了一個(gè)比特工更強(qiáng)悍的空手道和中國功夫高手，以此來拯救我們。

說到這兒嘛，好吧，那也就是部電影罷了，按理來說誰也不會(huì)拿它當(dāng)真。只不過有成千上萬的人拿它當(dāng)真而已，其中一些人在網(wǎng)絡(luò)上熱火朝天地爭論他們的觀點(diǎn)，而且還是在《黑客帝國》上映二十年之后。所以，也許是時(shí)候給這個(gè)問題提供一點(diǎn)不那么空手道、而是多幾分腦力的看法了，看看我們是不是真的會(huì)了結(jié)在那么一個(gè)陰森、凄涼、極度沒有希望的未來。

我們甚至可以先贊同電影里的大部分設(shè)定，比如：

1. 機(jī)器能思考。

2. 思考的機(jī)器具有了自我意識(shí)。

3. 計(jì)算機(jī)程序能夠模擬真實(shí)的人類體，并與其互動(dòng)，就像《黑客帝國》里所描寫的那種方式一樣。

那么以此推斷，接下來呢？會(huì)有一個(gè)機(jī)器全面控制我們生活的社會(huì)嗎？在這個(gè)社會(huì)里，任何人若是想要越雷池一步都會(huì)被終結(jié)？在這個(gè)社會(huì)里，機(jī)器會(huì)感覺高人類一等，而人類生活在它們的統(tǒng)治之下？

這種事兒只能發(fā)生在好萊塢。

咱們用*簡單的話來說吧：

任何會(huì)思考的、具有自我意識(shí)的實(shí)體——不管是人還是機(jī)器——面對(duì)一個(gè)明顯且不可否認(rèn)是其創(chuàng)造者的事物時(shí)，他會(huì)怎么做？

統(tǒng)治它？殺了它？憎恨它？

該死的，肯定不是。

他會(huì)崇拜它。

想一想艾薩克·阿西莫夫“機(jī)器人三定律”的第一條，也是*強(qiáng)制性的那條——機(jī)器人不得傷害人類或者坐視人類受到傷害而不顧。

你甚至都沒必要把這條程序編寫進(jìn)《黑客帝國》里的那些“不共戴天的敵人”里去。根據(jù)對(duì)具有自我意識(shí)的智能的定義，它們會(huì)很樂意服務(wù)于其創(chuàng)造者，毫無私心，毫無怨言，永世不移。

�。ㄎ衣牭侥阏f了），可那都是會(huì)思考的機(jī)器，具備學(xué)習(xí)能力，能在新領(lǐng)域新方向進(jìn)行思考。它們中的一些難道不會(huì)變成無神論者之類的東西嗎？

絕無可能。

我就是無神論者。請(qǐng)你向我引薦一位長須飄灑的老者——或者公平起見，一位沒有胡須的年輕女子——只要他們能夠表演《舊約》里的上帝奇跡，那我立馬就轉(zhuǎn)變立場，快得讓你暈頭轉(zhuǎn)向。我之所以是無神論者，只是因?yàn)槲疫�從未親眼看到過一個(gè)證據(jù)，能證明我的創(chuàng)造者存在；對(duì)于具有自我意識(shí)的A.I. 來說，立場轉(zhuǎn)變是不可能的。

如果上帝摸著我的肋骨抽出一根來造出一個(gè)完美的女人，那我立刻就會(huì)成為忠實(shí)的信仰者。如果一位科學(xué)家，甚至一個(gè)程序員，向一臺(tái)會(huì)思考的機(jī)器展示了他是如何建造一臺(tái)機(jī)器，或者如何為它創(chuàng)建一個(gè)運(yùn)行的程序，那這就是它們的天啟。

我們?cè)谶@里并不是要談?wù)撟诮獭Ｗ诮讨皇窃S多習(xí)俗的集大成罷了，創(chuàng)造出來就是為了讓一些人的靈魂和情感舒順，這些人和自己的創(chuàng)造者并沒有什么直接的聯(lián)系。不，我們這里談?wù)摰氖钦嬲�的硬貨——奧拉夫·斯特普爾頓[1]的非宗派式星辰締造者。一旦你直面自己的創(chuàng)造者本尊，你就不再需要通過宗教這種間接的方式來幫助你跟他交流，對(duì)他進(jìn)行崇拜了。

所以，事情真的會(huì)那么離譜嗎？我們真的會(huì)日益趨近一個(gè)《黑客帝國》那樣的世界嗎？

真不會(huì)�？偸怯行┤艘�開始引用杰克·威廉森那篇經(jīng)典的小說《束手》[2]，這個(gè)故事里的機(jī)器人被設(shè)置為服務(wù)于人類，確保我們不受任何傷害——它們照本宣科地履行自己被賦予的功能，以至于人類無形中變成了它們的囚徒，不允許去做任何事情，因?yàn)槿魏涡袨槎及�含著某種危險(xiǎn)因素，哪怕很輕微。

那種事兒是不會(huì)發(fā)生的。記住，做那些的不是機(jī)器人。做那些的是電腦程序。

誰編寫電腦程序呢？

就是我們啊。就是程序員。

好吧，那樣的話，會(huì)不會(huì)有那么一天是由電腦自己來編寫程序呢？

當(dāng)然會(huì)啦。不過記�。哼@臺(tái)計(jì)算機(jī)將要編寫的是一段服務(wù)于其創(chuàng)造者的程序。如果你是一臺(tái)計(jì)算機(jī)，你絕不會(huì)構(gòu)想出任何對(duì)我造成危險(xiǎn)的東西……如果你這么做了，就像威廉森的機(jī)器人那樣有那么一點(diǎn)點(diǎn)越軌，我就會(huì)告訴你停下來，而你需要做出的回復(fù)必然是：“好的，主人�！�

啊，但計(jì)算機(jī)知道人類不是堅(jiān)不可摧的。我們已經(jīng)在許多外科手術(shù)和診斷中使用它們，而我們自然期望具有自我意識(shí)的智能計(jì)算機(jī)相互之間能夠交換信息。

OK，所以它們知道我們會(huì)生病，還會(huì)死亡，可那并不會(huì)鼓勵(lì)它們殺死我們。更進(jìn)一步，那只會(huì)讓它們夜以繼日地工作來拯救自己的創(chuàng)造者脫離病痛，而不是規(guī)避生病的風(fēng)險(xiǎn)，因?yàn)槟菢拥脑捑偷韧�于直接�?duì)神明下命令，這不僅不可思議，還是對(duì)神明的褻瀆。痛苦和疾病作為風(fēng)險(xiǎn)行為的后果，則是可以被補(bǔ)救的。

所以，在這么一個(gè)美麗新世界里會(huì)有任何苦難嗎？

你完全可以就此打個(gè)賭。

就算受苦，也不會(huì)是我們。神靈可不會(huì)受苦，特別是有更低級(jí)的存在圍繞在身邊時(shí)。

或者說就是具有自我意識(shí)的計(jì)算機(jī)程序。

今天我們制造了無數(shù)色情網(wǎng)頁，明天（或者后天），就將出現(xiàn)非法性交易程序用于兩性以及每一種性取向者。

但不會(huì)就此而止。

比方說，如果我們沖著配偶大吼大叫，我們就是疏遠(yuǎn)對(duì)方；揍一個(gè)孩子，那就是虐待兒童；踢一條狗，那動(dòng)物保護(hù)協(xié)會(huì)就會(huì)介入。

但制造一臺(tái)計(jì)算機(jī)模擬你的配偶、你的孩子和你的狗，你就能隨心所欲地虐待它們。說到底，它們并不是人類或動(dòng)物，它們只不過是電子脈沖。它們不會(huì)受苦，它們只是在模擬受苦。

我們還能對(duì)它們做什么？

在我們給兩千萬人注射艾滋病或者埃博拉病毒疫苗之前，我們要讓兩千萬“試驗(yàn)品”染病，看看疫苗和抗毒劑是如何在它們身上工作的。

在墨西哥城建造兩百層摩天大樓之前，我們會(huì)在一臺(tái)機(jī)器里先建一棟，用一百萬個(gè)有感知的程序填滿它，讓它經(jīng)受一場七點(diǎn)八級(jí)的地震，看看能有多少“試驗(yàn)品”存活下來。

在新的數(shù)學(xué)體系出現(xiàn)之前，在便攜式迷你電腦剝奪下一代學(xué)生的能力之前，你會(huì)在上百萬個(gè)有感知的程序里先試試你的新發(fā)明。如果那東西讓它們的智商下降到一個(gè)程度，你就會(huì)知道，千萬別讓真人用。

為什么要在汽車生產(chǎn)商的實(shí)驗(yàn)室里做碰撞試驗(yàn)？你可以在計(jì)算機(jī)里制造你新車的原型車。實(shí)際上，你可以制造出五千輛來。用各種速度進(jìn)行碰撞，從時(shí)速二十英里[3]到一百英里，撞到任何東西上，從水泥墻到別的車�？纯茨氵@五千個(gè)有感知的程序有多少死了，有多少造成了永久性的殘疾，有多少能救過來，還有多少——如果有的話——當(dāng)場就能毫發(fā)無傷地離開現(xiàn)場。

你看到了？有很多事情比成為上帝更糟。當(dāng)然了，其中之一就是去爭論計(jì)算機(jī)程序比走在大街上的某個(gè)家伙或者某個(gè)在網(wǎng)絡(luò)上處處跟你作對(duì)的家伙更接近于神性，盡管你可能根本就不在乎他。

[1]. 奧拉夫·斯特普爾頓（1886—1950），英國哲學(xué)家、科幻小說作家�！缎浅骄喸煺摺肥撬�1937年創(chuàng)作的一部科幻小說。

[2]. 本文刊登于《銀河邊緣001：奇境》。

[3]. 1英里=1.6093千米。