人工智能經(jīng)歷了3次發(fā)展浪潮，其中第三次是深度學(xué)習(xí)的復(fù)興，就目前來(lái)看似乎還處在循環(huán)的前半段： 技術(shù)突破先前的局限而快速發(fā)展，投資狂熱，追隨者甚多。問(wèn)題是現(xiàn)在的熱潮是技術(shù)萌芽期的過(guò)分膨脹還是曇花一現(xiàn)且將逐漸冷卻后進(jìn)入寒冬？Keras之父Francois Chollet總結(jié)了深度學(xué)習(xí)自身的特質(zhì)簡(jiǎn)單、可擴(kuò)展、多功能與可利用，并稱它確實(shí)是人工智能的革命，且能長(zhǎng)盛不衰。李開(kāi)復(fù)也曾總結(jié)第三次浪潮是由商業(yè)需求主導(dǎo)的，而這次更多的是解決問(wèn)題。
那是不是每個(gè)人都要學(xué)習(xí)人工智能、深度學(xué)習(xí)呢？計(jì)算機(jī)工程越來(lái)越龐大和細(xì)分，方向繁多，諸如前端、后端、測(cè)試等，縱然是計(jì)算機(jī)從業(yè)人員，到后來(lái)大多也只能集中精力在一個(gè)方向上深入。實(shí)質(zhì)上，深度學(xué)習(xí)更像是一種新的思維，能補(bǔ)充我們對(duì)計(jì)算機(jī)乃至世界運(yùn)行規(guī)律的理解。深度學(xué)習(xí)將傳統(tǒng)機(jī)器學(xué)習(xí)中最為復(fù)雜的特征工程自動(dòng)化，使機(jī)器可以自主地抽象和學(xué)習(xí)更具統(tǒng)計(jì)意義的模式。
深度學(xué)習(xí)如何高效入門可以說(shuō)是AI領(lǐng)域老生常談的一個(gè)問(wèn)題，一種思路是從傳統(tǒng)的統(tǒng)計(jì)學(xué)習(xí)開(kāi)始，然后跟著書上推導(dǎo)公式學(xué)數(shù)學(xué)； 另一種思路是從實(shí)驗(yàn)入手，通過(guò)學(xué)習(xí)深度學(xué)習(xí)框架TensorFlow和Keras以及具體的圖像識(shí)別的任務(wù)開(kāi)展。
本書為什么會(huì)在眾多語(yǔ)言當(dāng)中選擇Python實(shí)現(xiàn)深度學(xué)習(xí)呢？其主要原因如下： Python是一種效率極高的語(yǔ)言； 相比其他語(yǔ)言，Python語(yǔ)言簡(jiǎn)單、易學(xué)、易讀、易維護(hù)。
另外，對(duì)程序員來(lái)說(shuō)，社區(qū)是非常重要的，大多數(shù)程序員都需要向解決過(guò)類似問(wèn)題的人尋求建議，在需要有人幫助解決問(wèn)題時(shí)，有一個(gè)聯(lián)系緊密、互幫互助的社區(qū)至關(guān)重要，Python社區(qū)就是這樣一個(gè)社區(qū)。
本書立足實(shí)踐，以通俗易懂的方式詳細(xì)介紹深度學(xué)習(xí)的基礎(chǔ)理論以及相關(guān)的必要知識(shí)，同時(shí)以實(shí)際動(dòng)手操作的方式引導(dǎo)讀者入門人工智能深度學(xué)習(xí)。本書編寫特色主要表現(xiàn)在：
1． 內(nèi)容淺顯易懂
本書不會(huì)糾纏于晦澀難懂的概念，整本書力求用淺顯易懂的語(yǔ)言引出概念，用常用的方式介紹編程、用清晰的邏輯解釋思路，幫助非專業(yè)人員理解神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)。
2． 知識(shí)點(diǎn)全面，實(shí)例豐富
深度學(xué)習(xí)涉及面較廣，且有一定的門檻。沒(méi)有一定廣度很難達(dá)到一定深度，所以本書內(nèi)容包括機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的主要內(nèi)容。書中各章一般先介紹相應(yīng)的架構(gòu)或原理，再通過(guò)相應(yīng)的經(jīng)典實(shí)例進(jìn)行說(shuō)明，幫助讀者快速領(lǐng)會(huì)知識(shí)要點(diǎn)。
3． 圖文并茂，實(shí)用性強(qiáng)
在深度學(xué)習(xí)中，有很多抽象的概念、復(fù)雜的算法、深?yuàn)W的理論等，如果只用文字來(lái)描述，很難達(dá)到使讀者茅塞頓開(kāi)的效果，如果用一些圖形進(jìn)行展現(xiàn)，再加上文字注明，那么呈現(xiàn)的效果是一目了然的。
4． 實(shí)用性強(qiáng)
本書在理論上突出可讀性并兼具知識(shí)的深度和廣度，實(shí)踐上強(qiáng)調(diào)可操作性并兼具應(yīng)用的廣泛性。書中每章都做到理論與實(shí)例相結(jié)合，內(nèi)容豐富、實(shí)用，幫助讀者快速領(lǐng)會(huì)知識(shí)要點(diǎn)。并且書中源代碼、數(shù)據(jù)集等讀者都可免費(fèi)獲得。
全書共10章，每章的主要內(nèi)容如下。
第1章掀開(kāi)深度學(xué)習(xí)的面紗，主要包括深度學(xué)習(xí)是什么、機(jī)器學(xué)習(xí)與深度學(xué)習(xí)、深度學(xué)習(xí)的應(yīng)用領(lǐng)域與架構(gòu)等內(nèi)容。
第2章神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)基礎(chǔ)，主要包括認(rèn)識(shí)神經(jīng)網(wǎng)絡(luò)、神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)表示、張量運(yùn)算、梯度優(yōu)化、神經(jīng)網(wǎng)絡(luò)剖析、Keras介紹等內(nèi)容。
第3章機(jī)器學(xué)習(xí)的基礎(chǔ)，主要包括機(jī)器學(xué)習(xí)概述、過(guò)擬合和欠擬合、監(jiān)督學(xué)習(xí)與數(shù)據(jù)預(yù)處理等內(nèi)容。
第4章神經(jīng)網(wǎng)絡(luò)分析與應(yīng)用，主要包括單層感知器、激活函數(shù)、解決XOR問(wèn)題、優(yōu)化算法等內(nèi)容。
第5章計(jì)算視覺(jué)分析與應(yīng)用，主要包括從全連接到卷積、卷積神經(jīng)網(wǎng)絡(luò)、現(xiàn)代經(jīng)典網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)CIFAR10數(shù)據(jù)集分類等內(nèi)容。
第6章文本和序列分析與應(yīng)用，主要包括處理文本數(shù)據(jù)、循環(huán)神經(jīng)網(wǎng)絡(luò)、ACF和PACF、循環(huán)神經(jīng)網(wǎng)絡(luò)的應(yīng)用等內(nèi)容。
第7章目標(biāo)檢測(cè)分析與應(yīng)用，主要包括目標(biāo)檢測(cè)概述、目標(biāo)檢測(cè)法、典型的目標(biāo)檢測(cè)算法等內(nèi)容。
第8章生成式深度學(xué)習(xí)分析與應(yīng)用，主要包括使用LSTM生成文本、DeepDream算法、風(fēng)格遷移、深入理解自編碼器、生成對(duì)抗網(wǎng)絡(luò)等內(nèi)容。
第9章人臉檢測(cè)分析與應(yīng)用，主要包括KLT、CAMShift跟蹤目標(biāo)、OpenCV實(shí)現(xiàn)人臉識(shí)別、HOG識(shí)別微笑、卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)人臉識(shí)別微笑檢測(cè)、MTCNN算法實(shí)現(xiàn)人臉檢測(cè)等內(nèi)容。
第10章強(qiáng)化學(xué)習(xí)分析與應(yīng)用，主要包括強(qiáng)化學(xué)習(xí)的特點(diǎn)與要素、Q學(xué)習(xí)、深度Q學(xué)習(xí)、雙重深度Q網(wǎng)絡(luò)、對(duì)偶深度Q網(wǎng)絡(luò)、深度Q網(wǎng)絡(luò)經(jīng)典應(yīng)用等內(nèi)容。
本書可作為高等學(xué)校相關(guān)專業(yè)本科生和研究生的教學(xué)用書，也可作為相關(guān)專業(yè)科研人員、學(xué)者、工程技術(shù)人員的參考用書。
本書是由佛山科學(xué)技術(shù)學(xué)院丁偉雄編寫。
由于時(shí)間倉(cāng)促，加之作者水平有限，書中疏漏之處在所難免，誠(chéng)懇地期望得到各領(lǐng)域的專家和廣大讀者的批評(píng)指正。
作者2024年6月
下載源碼
第1章掀開(kāi)深度學(xué)習(xí)的面紗
1．1深度學(xué)習(xí)是什么
1．1．1深度學(xué)習(xí)的基本思想
1．1．2深度學(xué)習(xí)和淺層學(xué)習(xí)
1．1．3深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)
1．1．4深度學(xué)習(xí)的訓(xùn)練過(guò)程
1．2機(jī)器學(xué)習(xí)與深度學(xué)習(xí)
1．2．1機(jī)器學(xué)習(xí)的算法流程
1．2．2機(jī)器學(xué)習(xí)算法建模
1．2．3機(jī)器學(xué)習(xí)任務(wù)
1．2．4深度學(xué)習(xí)算法流程
1．3深度學(xué)習(xí)的應(yīng)用領(lǐng)域與架構(gòu)
1．3．1深度學(xué)習(xí)的應(yīng)用領(lǐng)域
1．3．2深度學(xué)習(xí)相關(guān)框架
1．3．3深度學(xué)習(xí)實(shí)際應(yīng)用
第2章神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)基礎(chǔ)
2．1認(rèn)識(shí)神經(jīng)網(wǎng)絡(luò)
2．2神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)表示
2．2．1標(biāo)量
2．2．2向量
2．2．3矩陣
2．2．43D張量與更高維張量
2．2．5關(guān)鍵屬性
2．2．6操作張量
2．2．7數(shù)據(jù)批量
2．2．8現(xiàn)實(shí)數(shù)據(jù)張量
2．3張量運(yùn)算
2．3．1張量的創(chuàng)建
2．3．2索引和切片訪問(wèn)張量中的數(shù)據(jù)
2．3．3逐元素運(yùn)算
2．3．4張量變形
2．3．5廣播
2．3．6張量運(yùn)算的幾何解釋
2．4梯度優(yōu)化
2．4．1導(dǎo)數(shù)
2．4．2梯度
2．4．3反向傳播算法
2．5神經(jīng)網(wǎng)絡(luò)剖析
2．5．1層
2．5．2模型
2．5．3損失函數(shù)與優(yōu)化器
2．6Keras介紹
2．6．1Keras的工作方式
2．6．2Keras的設(shè)計(jì)原則
2．6．3Keras深度學(xué)習(xí)鏈接庫(kù)特色
2．6．4使用Keras創(chuàng)建神經(jīng)網(wǎng)絡(luò)
2．6．5使用Keras實(shí)現(xiàn)二分類問(wèn)題
2．6．6使用Keras處理多分類問(wèn)題
2．6．7使用Keras實(shí)現(xiàn)預(yù)測(cè)房?jī)r(jià)問(wèn)題
第3章機(jī)器學(xué)習(xí)的基礎(chǔ)
3．1機(jī)器學(xué)習(xí)概述
3．1．1機(jī)器學(xué)習(xí)的歷程
3．1．2機(jī)器學(xué)習(xí)的4個(gè)分支
3．1．3機(jī)器學(xué)習(xí)的步驟
3．2過(guò)擬合和欠擬合
3．2．1減小模型大小
3．2．2添加權(quán)重正則化
3．2．3添加dropout正則化
3．3監(jiān)督學(xué)習(xí)
3．3．1線性模型
3.3.2邏輯回歸
3.3.3支持向量機(jī)
3.3.4Adaboost算法
3.3.5決策樹
3.3.6隨機(jī)森林
3.4數(shù)據(jù)預(yù)處理
3.4.1數(shù)據(jù)預(yù)處理概述
3.4.2數(shù)據(jù)清理
3.4.3數(shù)據(jù)集成
3.4.4數(shù)據(jù)變換
3.4.5數(shù)據(jù)歸約
3.4.6Python的數(shù)據(jù)預(yù)處理函數(shù)
第4章神經(jīng)網(wǎng)絡(luò)分析與應(yīng)用
4.1單層感知器
4.1.1分類特征表示
4.1.2單層感知器概述
4.1.3多層神經(jīng)網(wǎng)絡(luò)
4.2激活函數(shù)
4.2.1sigmoid激活函數(shù)
4.2.2tanh激活函數(shù)
4.2.3ReLU激活函數(shù)
4.2.4ReLU6激活函數(shù)
4.2.5Leaky ReLU激活函數(shù)
4.2.6softmax激活函數(shù)
4.2.7ELU激活函數(shù)
4.2.8Swish激活函數(shù)
4.2.9Mish激活函數(shù)
4.2.10Maxout激活函數(shù)
4.3解決XOR問(wèn)題
4.4優(yōu)化算法
4.4.1梯度下降法
4.4.2AdaGrad算法
4.4.3RMSProp算法
4.4.4AdaDelta算法
4.4.5Adam算法
4.4.6各優(yōu)化方法實(shí)現(xiàn)
4.4.7無(wú)約束多維極值
第5章計(jì)算視覺(jué)分析與應(yīng)用
5.1從全連接到卷積
5.2卷積神經(jīng)網(wǎng)絡(luò)
5.2.1卷積計(jì)算過(guò)程
5.2.2感受野
5.2.3輸出特征尺寸計(jì)算
5.2.4全零填充
5.2.5批標(biāo)準(zhǔn)化
5.2.6池化
5.2.7舍棄
5.3現(xiàn)代經(jīng)典網(wǎng)絡(luò)
5.3.1LeNet網(wǎng)絡(luò)
5.3.2AlexNet網(wǎng)絡(luò)
5.3.3VGGNet網(wǎng)絡(luò)
5.3.4NiN
5.3.5Google Inception Net網(wǎng)絡(luò)
5.3.6ResNet網(wǎng)絡(luò)
5.3.7DenseNet網(wǎng)絡(luò)
5.4卷積神經(jīng)網(wǎng)絡(luò)CIFAR10數(shù)據(jù)集分類
第6章文本和序列分析與應(yīng)用
6.1處理文本數(shù)據(jù)
6.1.1單詞和字符的onehot編碼
6.1.2使用詞嵌入
6.2循環(huán)神經(jīng)網(wǎng)絡(luò)
6.2.1循環(huán)神經(jīng)網(wǎng)絡(luò)概述
6.2.2Keras中的循環(huán)層
6.2.3RNN的改進(jìn)算法
6.3ACF和PACF
6.3.1截尾與拖尾
6.3.2自回歸過(guò)程
6.3.3移動(dòng)平均過(guò)程
6.4循環(huán)神經(jīng)網(wǎng)絡(luò)的應(yīng)用
6.4.1溫度預(yù)測(cè)
6.4.2數(shù)據(jù)準(zhǔn)備
6.4.3基準(zhǔn)方法
6.4.4基本的機(jī)器學(xué)習(xí)方法
6.4.5第一個(gè)循環(huán)網(wǎng)絡(luò)基準(zhǔn)
6.4.6使用dropout降低過(guò)擬合
6.4.7循環(huán)層堆疊
6.4.8使用雙向RNN
第7章目標(biāo)檢測(cè)的分析與應(yīng)用
7.1目標(biāo)檢測(cè)概述
7.1.1傳統(tǒng)目標(biāo)檢測(cè)
7.1.2基于深度學(xué)習(xí)的目標(biāo)檢測(cè)
7.1.3目標(biāo)檢測(cè)的未來(lái)
7.1.4目標(biāo)檢測(cè)面臨的挑戰(zhàn)
7.2目標(biāo)檢測(cè)法
7.2.1選擇性搜索算法
7.2.2保持多樣性的策略
7.2.3錨框?qū)崿F(xiàn)
7.2.4多尺度目標(biāo)檢測(cè)
7.3典型的目標(biāo)檢測(cè)算法
7.3.1RCNN算法
7.3.2Fast RCNN算法
7.3.3Faster RCNN算法
7.3.4RPN算法
7.3.5YOLO算法
7.3.6SSD算法
第8章生成式深度學(xué)習(xí)分析與應(yīng)用
8.1使用LSTM生成文本
8.1.1如何生成序列數(shù)據(jù)
8.1.2采樣策略
8.2DeepDream算法
8.2.1DeepDream算法原理
8.2.2DeepDream算法流程
8.2.3DeepDream算法實(shí)現(xiàn)
8.3風(fēng)格遷移
8.3.1風(fēng)格遷移定義
8.3.2風(fēng)格遷移方法
8.3.3風(fēng)格遷移實(shí)例
8.4深入理解自編碼器
8.4.1自編碼器
8.4.2欠完備自編碼器
8.4.3正則自編碼
8.5生成對(duì)抗網(wǎng)絡(luò)
8.5.1GAN原理
8.5.2GAN實(shí)現(xiàn)
第9章人臉檢測(cè)分析與應(yīng)用
9.1KLT
9.1.1光流
9.1.2KLT算法
9.2CAMShift跟蹤目標(biāo)
9.2.1MeanShift算法
9.2.2CAMShift算法
9.3OpenCV實(shí)現(xiàn)人臉識(shí)別
9.3.1Haar級(jí)聯(lián)實(shí)現(xiàn)人臉檢測(cè)
9.3.2級(jí)聯(lián)實(shí)現(xiàn)實(shí)時(shí)人臉檢測(cè)與人臉身份識(shí)別
9.4HOG識(shí)別微笑
9.4.1HOG原理
9.4.2HOG實(shí)例應(yīng)用
9.5卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)人臉識(shí)別微笑檢測(cè)
9.6MTCNN算法實(shí)現(xiàn)人臉檢測(cè)
第10章強(qiáng)化學(xué)習(xí)分析與應(yīng)用
10.1強(qiáng)化學(xué)習(xí)的特點(diǎn)與要素
10.2Q學(xué)習(xí)
10.2.1Q學(xué)習(xí)的原理
10.2.2Q學(xué)習(xí)經(jīng)典應(yīng)用
10.3深度Q學(xué)習(xí)
10.3.1經(jīng)驗(yàn)回放
10.3.2回合函數(shù)的近似法
10.3.3半梯度下降法
10.3.4目標(biāo)網(wǎng)絡(luò)
10.3.5相關(guān)算法
10.3.6訓(xùn)練算法
10.3.7深度Q學(xué)習(xí)的應(yīng)用
10.4雙重深度Q網(wǎng)絡(luò)
10.5對(duì)偶深度Q網(wǎng)絡(luò)
10.6深度Q網(wǎng)絡(luò)經(jīng)典應(yīng)用
參考文獻(xiàn)
書單推薦
