第1章　人工智能極簡歷史　1

1.1　重要的奠基時期　2

1.1.1　神經(jīng)元的研究和人工神經(jīng)元模型的提出　2

1.1.2　計算機和程序的出現(xiàn)　3

1.1.3　圖靈測試的提出　4

1.2　人工智能的誕生　4

1.3　第一個快速發(fā)展期　5

1.4　人工智能的第一個寒冬　5

1.5　人工智能研究的沉默探索與復(fù)蘇　6

1.6　人工智能的第二個冬天　9

1.7　再一次騰飛　9

1.7.1　計算機綜合計算能力的大幅提升　9

1.7.2　大數(shù)據(jù)的出現(xiàn)　11

1.7.3　神經(jīng)網(wǎng)絡(luò)研究的成熟化　11

1.8　未來展望　13

1.9　本章小結(jié)：歷史指引未來　18

第2章　開發(fā)環(huán)境準(zhǔn)備　19

2.1　安裝Python　20

2.1.1　Windows操作系統(tǒng)下安裝Python　20

2.1.2　Mac OS X操作系統(tǒng)下安裝Python　29

2.1.3　Linux操作系統(tǒng)下安裝Python　30

2.2　安裝TensorFlow　30

2.3　打造更舒適的開發(fā)環(huán)境　32

2.3.1　修改Windows資源管理器的一些顯示設(shè)置　32

2.3.2　命令提示符CMD的替代方案　34

2.3.3　文本文件編輯器　36

2.3.4　Python語言專用的開發(fā)工具　40

2.4　知識背景準(zhǔn)備　45

2.4.1　怎樣輸入Python程序　45

2.4.2　怎樣執(zhí)行Python程序　45

2.4.3　變量　46

2.4.4　函數(shù)（方法）　50

2.4.5　對象　51

2.4.6　條件判斷與分支　53

2.4.7　循環(huán)　54

2.4.8　注釋　55

2.4.9　程序運行時出現(xiàn)錯誤怎么辦　55

2.4.10　本章小結(jié)：一段示例代碼　56

第3章　初識TensorFlow　57

3.1　三好學(xué)生成績問題的引入　58

3.2　搭建解決三好學(xué)生成績問題的神經(jīng)網(wǎng)絡(luò)　58

3.3　訓(xùn)練神經(jīng)網(wǎng)絡(luò)　62

3.4　本章小結(jié)：解決的第一個問題　68

3.5　練習(xí)　68

第4章　簡化神經(jīng)網(wǎng)絡(luò)模型　69

4.1　在程序運行中查看變量取值　70

4.2　張量概念的引入　70

4.3　用向量重新組織輸入數(shù)據(jù)　72

4.4　簡化的神經(jīng)網(wǎng)絡(luò)模型　75

4.5　概念補充標(biāo)量、多維數(shù)組等　76

4.5.1　標(biāo)量　76

4.5.2　多維數(shù)組　76

4.5.3　張量的階和形態(tài)　77

4.6　在TensorFlow中查看和設(shè)定張量的形態(tài)　78

4.7　用softmax函數(shù)來規(guī)范可變參數(shù)　81

4.8　本章小結(jié)：線性問題　83

4.9　練習(xí)　84

第5章　用神經(jīng)網(wǎng)絡(luò)解決非線性問題　85

5.1　非線性問題的引入　86

5.1.1　三好學(xué)生評選結(jié)果問題　86

5.1.2　二分類問題：是否為三好學(xué)生　86

5.1.3　非線性問題　87

5.2　設(shè)計神經(jīng)網(wǎng)絡(luò)模型　88

5.2.1　激活函數(shù)sigmoid　88

5.2.2　使用sigmoid函數(shù)后的神經(jīng)網(wǎng)絡(luò)模型　89

5.2.3　實現(xiàn)本模型的代碼　89

5.3　準(zhǔn)備訓(xùn)練數(shù)據(jù)　90

5.3.1　隨機數(shù)　90

5.3.2　產(chǎn)生隨機訓(xùn)練數(shù)據(jù)　90

5.4　完整的訓(xùn)練代碼　92

5.4.1　使用隨機數(shù)據(jù)進行訓(xùn)練　92

5.4.2　加入偏移量b加快訓(xùn)練過程　94

5.5　進階：批量生成隨機訓(xùn)練數(shù)據(jù)　97

5.6　本章小結(jié)：非線性問題　100

5.7　練習(xí)　100

第6章　從文件中載入訓(xùn)練數(shù)據(jù)　101

6.1　用純文本文件準(zhǔn)備訓(xùn)練數(shù)據(jù)　102

6.1.1　數(shù)據(jù)的數(shù)字化　102

6.1.2　訓(xùn)練數(shù)據(jù)的格式　102

6.1.3　數(shù)據(jù)整理　103

6.1.4　使用CSV格式文件輔助處理數(shù)據(jù)　104

6.2　加載文件中的訓(xùn)練數(shù)據(jù)　106

6.2.1　加載函數(shù)　106

6.2.2　非數(shù)字列的舍棄　106

6.2.3　非數(shù)字列與數(shù)字列的轉(zhuǎn)換　107

6.2.4　行數(shù)據(jù)的分拆及如何喂給訓(xùn)練過程　108

6.3　本章小結(jié)：讀取訓(xùn)練數(shù)據(jù)最常用的方式　110

6.4　練習(xí)　110

第7章　多層全連接神經(jīng)網(wǎng)絡(luò)　111

7.1　身份證問題的引入　112

7.2　問題分析　112

7.3　單層網(wǎng)絡(luò)的模型　112

7.4　多層全連接神經(jīng)網(wǎng)絡(luò)　115

7.4.1　矩陣乘法　115

7.4.2　如何用矩陣乘法實現(xiàn)全連接層　116

7.4.3　使用均方誤差作為計算誤差的方法　119

7.4.4　激活函數(shù)tanh　120

7.4.5　新的模型　121

7.5　身份證問題新模型的代碼實現(xiàn)　121

7.6　進一步優(yōu)化模型和代碼　124

7.7　本章小結(jié)：多層、全連接、線性與非線性　125

7.8　練習(xí)　126

第8章　保存和載入訓(xùn)練過程　127

8.1　保存訓(xùn)練過程　128

8.2　載入保存的訓(xùn)練過程并繼續(xù)訓(xùn)練　130

8.3　通過命令行參數(shù)控制是否強制重新開始訓(xùn)練　132

8.4　訓(xùn)練過程中手動保存　135

8.5　保存訓(xùn)練過程前征得同意　137

8.6　本章小結(jié)：善于利用保存和載入訓(xùn)練過程　139

8.7　練習(xí)　139

第9章　查看圖形化的模型　140

9.1　數(shù)據(jù)流圖的概念　141

9.2　用TensorBoard查看數(shù)據(jù)流圖　141

9.3　控制TensorBoard圖中對象的名稱　143

9.4　本章小結(jié)：圖形化的模型　145

9.5　練習(xí)　145

第10章　用訓(xùn)練好的模型進行預(yù)測　146

10.1　從命令行參數(shù)讀取需要預(yù)測的數(shù)據(jù)　147

10.2　從文件中讀取數(shù)據(jù)進行預(yù)測　149

10.3　從任意字符串中讀取數(shù)據(jù)進行預(yù)測　152

10.4　本章小結(jié)：預(yù)測與訓(xùn)練的區(qū)別　154

10.5　練習(xí)　154

第11章　用高級工具簡化建模和訓(xùn)練過程　155

11.1　Keras框架介紹　156

11.2　用Keras實現(xiàn)神經(jīng)網(wǎng)絡(luò)模型　156

11.3　用Keras進行預(yù)測　158

11.4　保存和載入Keras模型　160

11.5　本章小結(jié)：方便與靈活度的取舍　161

11.6　練習(xí)　161

第12章　在其他語言中調(diào)用TensorFlow模型　162

12.1　如何保存模型　163

12.2　在Java語言中載入TensorFlow模型并進行預(yù)測計算　165

12.3　在Go語言中載入TensorFlow模型并進行預(yù)測計算　167

12.4　本章小結(jié)：僅能預(yù)測　167

第13章　用卷積神經(jīng)網(wǎng)絡(luò)進行圖像識別　169

13.1　情憑誰來定錯對一首歌引出的對錯問題　170

13.2　卷積神經(jīng)網(wǎng)絡(luò)介紹　170

13.2.1　卷積神經(jīng)網(wǎng)絡(luò)的基本概念　170

13.2.2　數(shù)字圖片在計算機中的表達(dá)形式　170

13.2.3　卷積層的具體計算過程　172

13.2.4　卷積層的原理和優(yōu)點　174

13.2.5　卷積神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)　177

13.3　用卷積網(wǎng)絡(luò)實現(xiàn)圖像識別　177

13.3.1　鉤叉問題的圖像數(shù)據(jù)格式　177

13.3.2　準(zhǔn)備鉤叉問題的訓(xùn)練數(shù)據(jù)　178

13.3.3　設(shè)計鉤叉問題的神經(jīng)網(wǎng)絡(luò)模型并實現(xiàn)　179

13.4　本章小結(jié)：進一步優(yōu)化的方向　183

13.5　練習(xí)　183

第14章　循環(huán)神經(jīng)網(wǎng)絡(luò)初探　184

14.1　循環(huán)神經(jīng)網(wǎng)絡(luò)簡介　185

14.2　長短期記憶模型LSTM的作用　186

14.3　匯率預(yù)測問題的引入　186

14.4　用于匯率預(yù)測的LSTM神經(jīng)網(wǎng)絡(luò)模型　187

14.5　實現(xiàn)匯率預(yù)測LSTM網(wǎng)絡(luò)的代碼　188

14.6　用循環(huán)神經(jīng)網(wǎng)絡(luò)來進行自然語言處理　193

14.7　本章小結(jié)：時序有關(guān)問題　195

14.8　練習(xí)　195

第15章　優(yōu)化器的選擇與設(shè)置　196

15.1　優(yōu)化器的作用　197

15.2　梯度下降算法　197

15.3　學(xué)習(xí)率的影響　198

15.4　主流優(yōu)化方法介紹　199

15.5　優(yōu)化器效率對比　200

15.6　本章小結(jié)：渡河之筏　203

第16章　下一步學(xué)習(xí)方向指南　204

16.1　更多的激活函數(shù)　205

16.2　更多的隱藏層類型　205

16.3　確定最適合的神經(jīng)網(wǎng)絡(luò)類型　206

16.4　GPU版本　206

16.5　有監(jiān)督學(xué)習(xí)與無監(jiān)督學(xué)習(xí)　207

16.6　深度學(xué)習(xí)進階　207

16.7　升級到最新的TensorFlow版本　207

16.8　本章小結(jié)：最后的實例　208