第1章 深度學(xué)習(xí)與計算機視覺 1
1.1 深度學(xué)習(xí)的歷史與發(fā)展 1
1.1.1 深度學(xué)習(xí)的起源 2
1.1.2 深度學(xué)習(xí)的發(fā)展脈絡(luò) 3
1.1.3 為什么是PyTorch 2.0 3
1.2 計算機視覺之路 4
1.2.1 計算機視覺的基本概念 4
1.2.2 計算機視覺深度學(xué)習(xí)的主要任務(wù) 5
1.2.3 計算機視覺中的深度學(xué)習(xí)方法 6
1.2.4 深度學(xué)習(xí)在計算機視覺中的應(yīng)用 7
1.3 本章小結(jié) 8
第2章 PyTorch 2.0深度學(xué)習(xí)環(huán)境搭建 9
2.1 環(huán)境搭建1：安裝Python 9
2.1.1 Miniconda的下載與安裝 9
2.1.2 PyCharm的下載與安裝 12
2.1.3 Python代碼小練習(xí)：計算softmax函數(shù) 16
2.2 環(huán)境搭建2：安裝PyTorch 2.0 17
2.2.1 NVIDIA 10/20/30/40系列顯卡選擇的GPU版本 17
2.2.2 PyTorch 2.0 GPU NVIDIA運行庫的安裝 17
2.2.3 Hello PyTorch 19
2.3 Unet圖像降噪第一個深度學(xué)習(xí)項目實戰(zhàn) 20
2.3.1 MNIST數(shù)據(jù)集的準備 20
2.3.2 MNIST數(shù)據(jù)集特征介紹 22
2.3.3 Hello PyTorch 2.0模型的準備和介紹 23
2.3.4 對目標的逼近模型的損失函數(shù)與優(yōu)化函數(shù) 25
2.3.5 Lets do it！基于深度學(xué)習(xí)的模型訓(xùn)練 26
2.4 本章小結(jié) 28
第3章 從0開始PyTorch 2.0 30
3.1 實戰(zhàn)MNIST手寫體識別 30
3.1.1 數(shù)據(jù)圖像的獲取與標簽的說明 30
3.1.2 實戰(zhàn)基于PyTorch 2.0的手寫體識別模型 32
3.2 PyTorch 2.0常用函數(shù)解析與使用指南 36
3.2.1 數(shù)據(jù)加載和預(yù)處理 36
3.2.2 張量的處理 37
3.2.3 模型的參數(shù)與初始化操作 40
3.3 本章小結(jié) 42
第4章 一學(xué)就會的深度學(xué)習(xí)基礎(chǔ)算法 43
4.1 反向傳播神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程 43
4.2 反向傳播神經(jīng)網(wǎng)絡(luò)的兩個基礎(chǔ)算法詳解 46
4.2.1 最小二乘法 46
4.2.2 隨機梯度下降算法 49
4.2.3 最小二乘法的梯度下降算法及其Python實現(xiàn) 52
4.3 反饋神經(jīng)網(wǎng)絡(luò)反向傳播算法介紹 58
4.3.1 深度學(xué)習(xí)基礎(chǔ) 58
4.3.2 鏈式求導(dǎo)法則 59
4.3.3 反饋神經(jīng)網(wǎng)絡(luò)原理與公式推導(dǎo) 60
4.3.4 反饋神經(jīng)網(wǎng)絡(luò)原理的激活函數(shù) 65
4.3.5 反饋神經(jīng)網(wǎng)絡(luò)原理的Python實現(xiàn) 66
4.4 本章小結(jié) 70
第5章 基于PyTorch卷積層的MNIST分類實戰(zhàn) 71
5.1 卷積運算的基本概念 71
5.1.1 基本卷積運算示例 72
5.1.2 PyTorch中卷積函數(shù)實現(xiàn)詳解 73
5.1.3 池化運算 76
5.1.4 softmax激活函數(shù) 77
5.1.5 卷積神經(jīng)網(wǎng)絡(luò)原理 78
5.2 基于卷積的MNIST手寫體分類 80
5.2.1 數(shù)據(jù)的準備 81
5.2.2 模型的設(shè)計 81
5.2.3 基于卷積的MNIST分類模型 82
5.3 PyTorch的深度可分離膨脹卷積詳解 83
5.3.1 深度可分離卷積的定義 84
5.3.2 深度的定義以及不同計算層待訓(xùn)練參數(shù)的比較 86
5.3.3 膨脹卷積詳解 86
5.3.4 PyTorch中基于深度可分離膨脹卷積的MNIST手寫體識別 87
5.4 本章小結(jié) 89
第6章 PyTorch數(shù)據(jù)處理與模型可視化 90
6.1 用于自定義數(shù)據(jù)集的torch.utils.data工具箱的用法 91
6.1.1 使用torch.utils.data. Dataset封裝自定義數(shù)據(jù)集 91
6.1.2 改變數(shù)據(jù)類型的Dataset類中的transform詳解 93
6.1.3 批量輸出數(shù)據(jù)的DataLoader類詳解 97
6.2 基于tensorboardX的訓(xùn)練可視化展示 99
6.2.1 PyTorch 2.0模型可視化組件tensorboardX的安裝 99
6.2.2 tensorboardX可視化組件的使用 100
6.2.3 tensorboardX對模型訓(xùn)練過程的展示 102
6.3 本章小結(jié) 105
第7章 殘差神經(jīng)網(wǎng)絡(luò)實戰(zhàn) 106
7.1 ResNet的原理與程序設(shè)計基礎(chǔ) 107
7.1.1 ResNet誕生的背景 107
7.1.2 不要重復(fù)造輪子PyTorch 2.0中的模塊 110
7.1.3 ResNet殘差模塊的實現(xiàn) 111
7.1.4 ResNet的實現(xiàn) 113
7.2 ResNet實戰(zhàn)：CIFAR-10數(shù)據(jù)集分類 116
7.2.1 CIFAR-10數(shù)據(jù)集簡介 116
7.2.2 基于ResNet的CIFAR-10數(shù)據(jù)集分類 119
7.3 本章小結(jié) 121
第8章 基于OpenCV與PyTorch的人臉識別實戰(zhàn) 122
8.1 找到人臉人臉識別數(shù)據(jù)集的建立 123
8.1.1 LFW數(shù)據(jù)集簡介 123
8.1.2 Dlib庫簡介 124
8.1.3 OpenCV簡介 125
8.1.4 使用Dlib檢測人臉位置 125
8.1.5 使用Dlib和OpenCV制作人臉檢測數(shù)據(jù)集 129
8.1.6 基于人臉定位制作適配深度學(xué)習(xí)的人臉識別數(shù)據(jù)集地址路徑 131
8.2 人臉是誰基于深度學(xué)習(xí)的人臉識別模型基本架構(gòu) 135
8.2.1 人臉識別的基本模型SiameseModel 135
8.2.2 基于PyTorch 2.0的SiameseModel的實現(xiàn) 136
8.2.3 人臉識別的Contrastive Loss詳解與實現(xiàn) 137
8.2.4 基于PyTorch 2.0的人臉識別模型 138
8.3 本章小結(jié) 141

第9章 詞映射與循環(huán)神經(jīng)網(wǎng)絡(luò) 142
9.1 櫻桃－紅色 紫色=？有趣的詞映射 142
9.1.1 什么是詞映射 143
9.1.2 PyTorch中embedding的處理函數(shù)詳解 144
9.2 循環(huán)神經(jīng)網(wǎng)絡(luò)與情感分類實戰(zhàn) 145
9.2.1 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的中文情感分類實戰(zhàn)的準備工作 145
9.2.2 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的中文情感分類實戰(zhàn) 147
9.3 循環(huán)神經(jīng)網(wǎng)絡(luò)理論講解 150
9.3.1 什么是GRU 150
9.3.2 單向不行，那就雙向 152
9.4 本章小結(jié) 153
第10章 注意力機制與注意力模型詳解 154
10.1 注意力機制與模型詳解 154
10.1.1 注意力機制詳解 155
10.1.2 自注意力機制 156
10.1.3 ticks和LayerNormalization 162
10.1.4 多頭注意力 163
10.2 注意力機制的應(yīng)用實踐編碼器 166
10.2.1 編碼器總體架構(gòu) 166
10.2.2 回到輸入層初始詞向量層和位置編碼器層 167
10.2.3 前饋層的實現(xiàn) 170
10.2.4 編碼器的實現(xiàn) 171
10.3 實戰(zhàn)編碼器自然語言轉(zhuǎn)換模型 174
10.3.1 漢字拼音數(shù)據(jù)集處理 174
10.3.2 漢字拼音轉(zhuǎn)換模型的確定 176
10.3.3 模型訓(xùn)練部分的編寫 179
10.3.4 補充說明 181
10.4 本章小結(jié) 182
第11章 開局一幅圖基于注意力機制的圖像識別實戰(zhàn) 183
11.1 基于注意力的圖像識別模型Vision Transformer 183
11.1.1 Vision Transformer 整體結(jié)構(gòu) 183
11.1.2 Patch Embedding 185
11.1.3 Transformer Encoder層 187
11.1.4 完整的Vision Transformer架構(gòu)設(shè)計 190
11.2 基于Vision Transformer的mini_ImageNet實戰(zhàn) 191
11.2.1 mini_ImageNet數(shù)據(jù)集的簡介與下載 191
11.2.2 mini_ImageNet數(shù)據(jù)集的處理基于PyTorch 2.0專用數(shù)據(jù)處理類 193
11.2.3 Vision Transformer模型設(shè)計 195
11.2.4 Vision Transformer模型的訓(xùn)練 196
11.2.5 基于現(xiàn)有Vision Transformer包的模型初始化 198
11.3 提升Vision Transformer模型準確率的一些技巧 198
11.3.1 模型的可解釋性注意力熱圖的可視化實現(xiàn) 198
11.3.2 PyTorch 2.0中圖像增強方法詳解 201
11.4 本章小結(jié) 206
第12章 內(nèi)容全靠編基于Diffusion Model的從隨機到可控的圖像生成實戰(zhàn) 207
12.1 Diffusion Model實戰(zhàn)MNIST手寫體生成 207
12.1.1 Diffusion Model的傳播流程 208
12.1.2 直接運行的DDPM的模型訓(xùn)練實戰(zhàn) 209
12.1.3 DDPM的基本模塊說明 212
12.1.4 DDPM加噪與去噪詳解 215
12.1.5 DDPM的損失函數(shù) 220
12.2 可控的Diffusion Model生成實戰(zhàn)指定數(shù)字生成MNIST手寫體 221
12.2.1 Diffusion Model可控生成的基礎(chǔ)特征融合 221
12.2.2 Diffusion Model可控生成的代碼實戰(zhàn) 221
12.3 加速的Diffusion Model生成實戰(zhàn)DDIM 223
12.3.1 直接運行的少步驟的DDIM手寫體生成實戰(zhàn) 224
12.3.2 DDIM的預(yù)測傳播流程 226
12.4 本章小結(jié) 228
第13章 認清物與位基于注意力的單目攝像頭目標檢測實戰(zhàn) 230
13.1 目標檢測基本概念詳解 231
13.1.1 基于注意力機制的目標檢測模型DETR 231
13.1.2 目標檢測基本概念（注意力機制出現(xiàn)之前） 232
13.1.3 目標檢測基本概念（注意力機制出現(xiàn)之后） 233
13.2 基于注意力機制的目標檢測模型DETR詳解 237
13.2.1 基于預(yù)訓(xùn)練DETR模型實現(xiàn)的實用化目標檢測網(wǎng)頁 237
13.2.2 基于注意力的目標檢測模型DETR 239
13.3 DETR模型的損失函數(shù) 243
13.3.1 一看就會的二分圖匹配算法 243
13.3.2 基于二分圖匹配算法的目標檢測的最佳組合 245
13.3.3 DETR中的損失函數(shù) 250
13.3.4 解決batch中tensor維度不一致的打包問題 253
13.4 基于DETR的目標檢測自定義數(shù)據(jù)集實戰(zhàn) 254
13.4.1 VOC數(shù)據(jù)集簡介與數(shù)據(jù)讀取 254
13.4.2 基于PyTorch中的Dataset的數(shù)據(jù)輸入類 257
13.4.3 基于DETR的自定義目標檢測實戰(zhàn) 259
13.5 本章小結(jié) 261
第14章 凝思辨真顏基于注意力與Unet的全畫幅適配圖像全景分割實戰(zhàn) 262
14.1 圖像分割的基本形式與數(shù)據(jù)集處理 262
14.1.1 圖像分割的應(yīng)用 263
14.1.2 基于預(yù)訓(xùn)練模型的圖像分割預(yù)測示例 264
14.2 基于注意力與Unet的圖像分割模型SwinUnet 267
14.2.1 基于全畫幅注意力的 Swin Transformer詳解 268
14.2.2 經(jīng)典圖像分割模型Unet詳解 270
14.3 基于SwinUnet的圖像分割實戰(zhàn) 271
14.3.1 圖像分割的label圖像處理 271
14.3.2 圖像分割的VOC數(shù)據(jù)集處理 274
14.3.3 圖像分割損失函數(shù)DiceLoss詳解 276
14.3.4 基于SwinUnet的圖像分割實戰(zhàn) 278
14.4 本章小結(jié) 279
第15章 誰還用GAN基于預(yù)訓(xùn)練模型的可控零樣本圖像遷移合成實戰(zhàn) 281
15.1 基于預(yù)訓(xùn)練模型的可控零樣本圖像風(fēng)格遷移實戰(zhàn) 281
15.1.1 實戰(zhàn)基于預(yù)訓(xùn)練模型的可控零樣本圖像風(fēng)格遷移 282
15.1.2 詳解可控零樣本圖像風(fēng)格遷移模型 283
15.2 基于預(yù)訓(xùn)練模型的零樣本圖像風(fēng)格遷移實戰(zhàn) 284
15.2.1 Vision Transformer架構(gòu)的DINO模型 285
15.2.2 風(fēng)格遷移模型Splicing詳解 287
15.2.3 逐行講解風(fēng)格遷移模型Splicing的損失函數(shù) 291
15.3 本章小結(jié) 296