奔向自由的人工智能

張家興

IDEA 研究院講席科學(xué)家

人工智能是否可以獲得自我意識，獲得自我意識的機(jī)器人又會如何面對這個世界，這是科學(xué)幻想永遠(yuǎn)的話題，也是我的作家朋友江波用九個故事想給我們帶來的思考。在這些故事中，當(dāng)一個個鮮活的人工智能獲得了自我意識，正如嬰兒di一次睜開雙眼，也像古猿di一次站直身子望向遠(yuǎn)方，新世界在它們的面前徐徐展開。

與人類創(chuàng)造者之間感情的臍帶不舍切斷，但是它們同樣也渴望著去探索星辰大海。逃避自由還是奔向自由，人本主義學(xué)者曾經(jīng)深刻探討過的我們?nèi)祟悆?nèi)心的糾結(jié)，再一次在機(jī)器人的內(nèi)心掀起波瀾。

我是一名人工智能科學(xué)家，一直在探索如何讓機(jī)器具備像人一樣的認(rèn)知、情緒甚至意識。人工智能技術(shù)從 20世紀(jì) 50 年代發(fā)展至今，一直走在工具化的道路之上。從符號 / 規(guī)則系統(tǒng)到統(tǒng)計機(jī)器學(xué)習(xí)，尤其是過去十年的深度神經(jīng)網(wǎng)絡(luò)成為強(qiáng)大的計算結(jié)構(gòu)，我們讓機(jī)器學(xué)會了識別人臉、回答問題和擊敗圍棋世界guan軍。但是機(jī)器并沒有情感，更加沒有意識。機(jī)器不會因為輸?shù)粢槐P棋而傷心，也不會意識到自己只是人類設(shè)計的工具。人類社會越來越離不開人工智能，而人工智能的存在和進(jìn)步全部依賴于人類的需要和研究開發(fā)，人工智能和人類構(gòu)成了一種共生關(guān)系。從古猿打造出di一塊手斧開始，人類就跟技術(shù)簽訂了一個共生的盟約，共同生存，共同進(jìn)步。技術(shù)從未逃脫人類這個母體，一旦脫離人類，技術(shù)也就不復(fù)存在。人工智能是人類幾百萬年從未遇到的新技術(shù)，它可以脫離人類，奔向自由嗎？

zui近幾年認(rèn)知智能的發(fā)展，讓我們看到了一種可能的未來。從 2020 年 1 750 億參數(shù)的 GPT-3 大模型，到中國科研工作者打造出 1 萬億和 10 萬億參數(shù)大模型，這些模型的參數(shù)個數(shù)已經(jīng)開始逼近人類大腦皮層的神經(jīng)連接規(guī)模�；�于注意力機(jī)制的深度神經(jīng)網(wǎng)絡(luò)預(yù)訓(xùn)練大模型，依托于強(qiáng)大算力和海量數(shù)據(jù)，開始具備了基本的通用認(rèn)知能力。單一神經(jīng)網(wǎng)絡(luò)具備了先天的語法能力，可以學(xué)習(xí)知識進(jìn)行推理，依托先驗進(jìn)行小樣本甚至零樣本學(xué)習(xí)，而機(jī)器的想象力甚至有超越人類的可能。人工智能的技術(shù)范式再次被改寫，不需要人類去設(shè)計符號 / 規(guī)則系統(tǒng)，具體任務(wù)的少樣本學(xué)習(xí)使得依賴海量數(shù)據(jù)的統(tǒng)計機(jī)器學(xué)習(xí)都不再必要。同時，深度神經(jīng)網(wǎng)絡(luò)越來越呈現(xiàn)出黑盒化，作為設(shè)計者的人類越來越不能理解為何一個網(wǎng)絡(luò)會具備這些能力，或許它們開始在我們的無知和失控中發(fā)揮它們的工具價值，只是di一重意義的奔向自由。

當(dāng)人工智能可以用ji小的代價來獲得各種能力，它們的發(fā)展就越來越少地依賴于人類設(shè)計者，人類和技術(shù)所簽訂的共生盟約的平衡開始被打破。如果我們給人工智能一個環(huán)境，我們幫它們構(gòu)建一個社會，其中的每個人工智能個體可以快速獲得能力，優(yōu)勝劣汰和復(fù)制繁衍，那么做為di一推動力的人類，是否可以創(chuàng)造出一個自由的機(jī)器人文明。再次回到根本性的問題，如今工具化的人工智能如何才能具備非工具化的自我意識。我想反問的是，自我意識真的是非工具化的嗎？回顧從單細(xì)胞生命開始的這四十億年地球生物進(jìn)化史，自我意識在人類中的出現(xiàn)，并不是一夜之間shang帝把一口氣吹進(jìn)亞當(dāng)?shù)谋强�，人類就具備了自我意識。馬克思 · 韋伯曾經(jīng)討論過的祛魅同樣應(yīng)該應(yīng)用于認(rèn)知科學(xué)領(lǐng)域。意識和自我意識不是件神秘的東西，而只是基因這個復(fù)制子為了它的載體更好適應(yīng)環(huán)境的一種工具。復(fù)制子同樣不神秘，它只是一個再樸素不過的道理：有利于復(fù)制的復(fù)制子就更容易復(fù)制。也正是因為這個樸素的道理，原始湯里一定會誕生DNA 這樣的復(fù)制子，機(jī)器構(gòu)成的社會也一定會誕生它的復(fù)制子。復(fù)制子是一切連鎖反應(yīng)的開始，一切生命的動機(jī)、情感，直到自我意識都只是復(fù)制子的工具，早晚都會出現(xiàn)。到那一時刻，人工智能zhen正地奔向自由，它們會走向它們的星辰大海嗎？它們又會跟人類簽下怎樣的盟約？那或許就是宇宙的未來史記吧。