自然語(yǔ)言處理：基于預(yù)訓(xùn)練模型的方法
定 價(jià)：118 元
- 作者：車萬(wàn)翔
- 出版時(shí)間：2021/7/1
- ISBN：9787121415128
- 出 版 社：電子工業(yè)出版社
- 中圖法分類：TP391
- 頁(yè)碼：
- 紙張：膠版紙
- 版次：
- 開(kāi)本：16開(kāi)
自然語(yǔ)言處理被譽(yù)為人工智能皇冠上的明珠。深度學(xué)習(xí)等技術(shù)的引入為自然語(yǔ)言處理技術(shù)帶來(lái)了一場(chǎng)革命，尤其是近年來(lái)出現(xiàn)的基于預(yù)訓(xùn)練模型的方法，已成為研究自然語(yǔ)言處理的新范式。本書在介紹自然語(yǔ)言處理、深度學(xué)習(xí)等基本概念的基礎(chǔ)上，重點(diǎn)介紹新的基于預(yù)訓(xùn)練模型的自然語(yǔ)言處理技術(shù)。本書包括基礎(chǔ)知識(shí)、預(yù)訓(xùn)練詞向量和預(yù)訓(xùn)練模型三大部分：基礎(chǔ)知識(shí)部分介紹自然語(yǔ)言處理和深度學(xué)習(xí)的基礎(chǔ)知識(shí)和基本工具；預(yù)訓(xùn)練詞向量部分介紹靜態(tài)詞向量和動(dòng)態(tài)詞向量的預(yù)訓(xùn)練方法及應(yīng)用；預(yù)訓(xùn)練模型部分介紹幾種典型的預(yù)訓(xùn)練語(yǔ)言模型及應(yīng)用，以及預(yù)訓(xùn)練模型的進(jìn)展。除了理論知識(shí)，本書還有針對(duì)性地結(jié)合具體案例提供相應(yīng)的PyTorch 代碼實(shí)現(xiàn)，不僅能讓讀者對(duì)理論有更深刻的理解，還能快速地實(shí)現(xiàn)自然語(yǔ)言處理模型，達(dá)到理論和實(shí)踐的統(tǒng)一。本書既適合具有一定機(jī)器學(xué)習(xí)基礎(chǔ)的高等院校學(xué)生、研究機(jī)構(gòu)的研究者，以及希望深入研究自然語(yǔ)言處理算法的計(jì)算機(jī)工程師閱讀，也適合對(duì)人工智能、深度學(xué)習(xí)和自然語(yǔ)言處理感興趣的學(xué)生和希望進(jìn)入人工智能應(yīng)用領(lǐng)域的研究者參考。
車萬(wàn)翔博士，哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院教授，博士生導(dǎo)師，教育部青年長(zhǎng)江學(xué)者，黑龍江省龍江學(xué)者青年學(xué)者，斯坦福大學(xué)訪問(wèn)學(xué)者�，F(xiàn)任中國(guó)中文信息學(xué)會(huì)計(jì)算語(yǔ)言學(xué)專業(yè)委員會(huì)委員、青年工作委員會(huì)副主任；中國(guó)計(jì)算機(jī)學(xué)會(huì)高級(jí)會(huì)員、曾任YOCSEF哈爾濱主席（2016-2017年度）。在ACL、EMNLP、AAAI、IJCAI等國(guó)內(nèi)外高水平期刊和會(huì)議上發(fā)表學(xué)術(shù)論文50余篇，其中AAAI 2013年的文章獲得了論文提名獎(jiǎng)，論文累計(jì)被引用3,000余次（Google Scholar數(shù)據(jù)），H-index值為29。出版教材 2 部，譯著 2 部。目前承擔(dān)國(guó)家自然科學(xué)基金、973等多項(xiàng)科研項(xiàng)目。負(fù)責(zé)研發(fā)的語(yǔ)言技術(shù)平臺(tái)（LTP）已被600余家單位共享，提供的在線語(yǔ)言云服務(wù)已有用戶1萬(wàn)余人，并授權(quán)給百度、騰訊、華為等公司使用。2018、2019連續(xù)兩年獲CoNLL國(guó)際評(píng)測(cè)第1名。2015、2016連續(xù)兩年獲Google Focused Research Award（谷歌專注研究獎(jiǎng)）；2016年，獲黑龍江省科技進(jìn)步一等獎(jiǎng)（排名第2）；2012年，獲黑龍江省技術(shù)發(fā)明獎(jiǎng)二等獎(jiǎng)（排名第2）；2010年獲中國(guó)中文信息學(xué)會(huì)錢偉長(zhǎng)中文信息處理科學(xué)技術(shù)獎(jiǎng)一等獎(jiǎng)（排名第2）、首屆漢王青年創(chuàng)新獎(jiǎng)（個(gè)人）等多項(xiàng)獎(jiǎng)勵(lì)。2017年，所主講的MOOC課程《高級(jí)語(yǔ)言程序設(shè)計(jì)（Python）》獲國(guó)家精品在線開(kāi)放課程。郭江麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室，博士后研究員。畢業(yè)于哈爾濱工業(yè)大學(xué)社會(huì)計(jì)算與信息檢索研究中心，約翰斯?霍普金斯大學(xué)聯(lián)合培養(yǎng)博士，研究方向?yàn)樽匀徽Z(yǔ)言處理與機(jī)器學(xué)習(xí)。在人工智能、自然語(yǔ)言處理領(lǐng)域國(guó)際重要會(huì)議及期刊（如ACL、EMNLP、AAAI等）發(fā)表論文20余篇。是被業(yè)界廣泛應(yīng)用的中文語(yǔ)言技術(shù)平臺(tái)LTP的主要研發(fā)者之一。2015年，獲百度獎(jiǎng)學(xué)金；2018年，獲中文信息學(xué)會(huì)優(yōu)秀博士學(xué)位論文提名獎(jiǎng)。崔一鳴科大訊飛AI研究院資深級(jí)研究員、研究主管。本科與碩士畢業(yè)于哈爾濱工業(yè)大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)專業(yè)并繼續(xù)攻讀博士學(xué)位。長(zhǎng)期從事閱讀理解、問(wèn)答系統(tǒng)、機(jī)器翻譯、自然語(yǔ)言處理等相關(guān)領(lǐng)域的研究工作。曾以主要研究人員身份參加了國(guó)際口語(yǔ)機(jī)器翻譯評(píng)測(cè)（IWSLT），NIST OpenMT國(guó)際機(jī)器翻譯評(píng)測(cè)獲得多項(xiàng)冠軍。多次獲得國(guó)際權(quán)威機(jī)器閱讀理解評(píng)測(cè)冠軍，其中包括斯坦福SQuAD挑戰(zhàn)賽冠軍、國(guó)際語(yǔ)義評(píng)測(cè)SemEval 2018閱讀理解任務(wù)冠軍、對(duì)話型閱讀理解挑戰(zhàn)賽CoQA、QuAC冠軍、多步推理閱讀理解挑戰(zhàn)賽HotpotQA冠軍。同時(shí)在自然語(yǔ)言處理國(guó)際會(huì)議ACL、EMNLP、AAAI、IJCAI等上發(fā)表十余篇學(xué)術(shù)論文，申請(qǐng)發(fā)明專利十余項(xiàng)，并擔(dān)任國(guó)際會(huì)議程序委員會(huì)委員，擔(dān)任國(guó)際ESI期刊審稿人等學(xué)術(shù)職務(wù)。
目錄
推薦序III
推薦語(yǔ)IV
前言V
數(shù)學(xué)符號(hào)IX
第1 章緒論1
1.1 自然語(yǔ)言處理的概念. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2 自然語(yǔ)言處理的難點(diǎn). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2.1 抽象性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2.2 組合性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2.3 歧義性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.4 進(jìn)化性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.5 非規(guī)范性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.6 主觀性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.7 知識(shí)性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.8 難移植性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.3 自然語(yǔ)言處理任務(wù)體系. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .4
1.3.1 任務(wù)層級(jí). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.3.2 任務(wù)類別. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.3.3 研究對(duì)象與層次. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.4 自然語(yǔ)言處理技術(shù)發(fā)展歷史. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
第2 章自然語(yǔ)言處理基礎(chǔ)11
2.1 文本的表示. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .12
2.1.1 詞的獨(dú)熱表示. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.1.2 詞的分布式表示. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.1.3 詞嵌入表示. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.1.4 文本的詞袋表示. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.2 自然語(yǔ)言處理任務(wù). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.2.1 語(yǔ)言模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.2.2 自然語(yǔ)言處理基礎(chǔ)任務(wù). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
2.2.3 自然語(yǔ)言處理應(yīng)用任務(wù). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.3 基本問(wèn)題. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.3.1 文本分類問(wèn)題. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.3.2 結(jié)構(gòu)預(yù)測(cè)問(wèn)題. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.3.3 序列到序列問(wèn)題. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
2.4 評(píng)價(jià)指標(biāo). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .40
2.5 小結(jié). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .43
第3 章基礎(chǔ)工具集與常用數(shù)據(jù)集45
3.1 NLTK 工具集. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .46
3.1.1 常用語(yǔ)料庫(kù)和詞典資源. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
3.1.2 常用自然語(yǔ)言處理工具集. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .49
3.2 LTP 工具集. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
3.2.1 中文分詞. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
3.2.2 其他中文自然語(yǔ)言處理功能. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .52
3.3 PyTorch 基礎(chǔ). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
3.3.1 張量的基本概念. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
3.3.2 張量的基本運(yùn)算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
3.3.3 自動(dòng)微分. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
3.3.4 調(diào)整張量形狀. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
3.3.5 廣播機(jī)制. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
3.3.6 索引與切片. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.3.7 降維與升維. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.4 大規(guī)模預(yù)訓(xùn)練數(shù)據(jù). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
3.4.1 維基百科數(shù)據(jù). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.4.2 原始數(shù)據(jù)的獲取. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.4.3 語(yǔ)料處理方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.4.4 Common Crawl 數(shù)據(jù). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
3.5 更多數(shù)據(jù)集. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .66
3.6 小結(jié). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .68
第4 章自然語(yǔ)言處理中的神經(jīng)網(wǎng)絡(luò)基礎(chǔ)69
4.1 多層感知器模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
4.1.1 感知器. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
4.1.2 線性回歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
4.1.3 Logistic 回歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
4.1.4 Softmax 回歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
4.1.5 多層感知器. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
4.1.6 模型實(shí)現(xiàn). . . . .
書單推薦
