本書全面闡述了模式識別的基礎理論、*新方法以及各種應用。討論了貝葉斯分類、貝葉斯網絡、線性和非線性分類器設計、特征生成、特征選取技術、學習理論的基本概念以及聚類概念與算法。與前一版相比,增加了大數據集和高維數據相關的*新算法,提供了*新的分類器和魯棒回歸的核方法。新增一些熱點問題,如非線性降維、非負矩陣因數分解、關聯(lián)性反饋、魯棒回歸、半監(jiān)督學習、譜聚類和聚類組合技術。每章均提供有習題與練習,用MATLAB求解問題,給出一些例題的多種求解方法;且支持網站上提供有習題解答,以便于讀者增加實際經驗。
本書在完美地合當前的理論與實踐的基礎上,討論了貝葉斯分類、貝葉斯網絡、線性和非線性分類器設計、上下文相關分類、特征生成、特征選取技術、學習理論的基本概念以及聚類概念與算法。
Sergios Theodoridis:希臘雅典大學物理學學士、英國伯明翰大學信號處理與通信碩士和博士。希臘雅典大學信息與通信系教授,其4篇論文獲IEEE神經網絡會刊卓越論文獎,IET和IEEE高級會士。
Konstantinos Koutroumbas:希臘佩特雷大學計算機學士、英國倫敦大學計算機碩士、希臘雅典大學計算機博士。希臘雅典國家天文臺空間應用與遙感研究院研究員,國際知名專家。
李晶皎:東北大學信息學院教授,博士生導師。一直從事教學和科研工作,主要研究方向為模式識別、語音信號處理、計算機系統(tǒng)結構、嵌入式系統(tǒng)等。
第1章 導論 1
1.1 模式識別的重要性 1
1.2 特征、特征向量和分類器 3
1.3 有監(jiān)督、無監(jiān)督和半監(jiān)督學習 4
1.4 MATLAB程序 6
1.5 本書的內容安排 6
第2章 基于貝葉斯決策理論的分類器 8
2.1 引言 8
2.2 貝葉斯決策理論 8
2.3 判別函數和決策面 12
2.4 正態(tài)分布的貝葉斯分類 13
2.5 未知概率密度函數的估計 23
2.6 最近鄰規(guī)則 42
2.7 貝葉斯網絡 44
習題 49
MATLAB編程和練習 55
參考文獻 60
第3章 線性分類器 63
3.1 引言 63
3.2 線性判別函數和決策超平面 63
3.3 感知器算法 64
3.4 最小二乘法 70
3.5 均方估計的回顧 75
3.6 邏輯識別 80
3.7 支持向量機 81
習題 97
MATLAB編程和練習 99
參考文獻 100
第4章 非線性分類器 104
4.1 引言 104
4.2 異或問題 104
4.3 兩層感知器 105
4.4 三層感知器 108
4.5 基于訓練集準確分類的算法 109
4.6 反向傳播算法 110
4.7 反向傳播算法的改進 115
4.8 代價函數選擇 117
4.9 神經網絡大小的選擇 119
4.10 仿真實例 123
4.11 具有權值共享的網絡 124
4.12 線性分類器的推廣 125
4.13 線性二分法中l(wèi)維空間的容量 126
4.14 多項式分類器 127
4.15 徑向基函數網絡 129
4.16 通用逼近 131
4.17 概率神經元網絡 132
4.18 支持向量機:非線性情況 134
4.19 超越SVM的范例 137
4.20 決策樹 146
4.21 合并分類器 150
4.22 合并分類器的增強法 155
4.23 類的不平衡問題 160
4.24 討論 161
習題 161
MATLAB編程和練習 164
參考文獻 168
第5章 特征選擇 178
5.1 引言 178
5.2 預處理 178
5.3 峰值現(xiàn)象 180
5.4 基于統(tǒng)計假設檢驗的特征選擇 182
5.5 接收機操作特性(ROC)曲線 187
5.6 類可分性測量 188
5.7 特征子集的選擇 193
5.8 最優(yōu)特征生成 196
5.9 神經網絡和特征生成/選擇 203
5.10 推廣理論的提示 204
5.11 貝葉斯信息準則 210
習題 211
MATLAB編程和練習 213
參考文獻 216
第6章 特征生成I:線性變換 221
6.1 引言 221
6.2 基本向量和圖像 221
6.3 Karhunen-Loève變換 223
6.4 奇異值分解 229
6.5 獨立成分分析 234
6.6 非負矩陣因子分解 239
6.7 非線性維數降低 240
6.8 離散傅里葉變換(DFT) 248
6.9 離散正弦和余弦變換 251
6.10 Hadamard變換 252
6.11 Haar變換 253
6.12 回顧Haar展開式 254
6.13 離散時間小波變換(DTWT) 257
6.14 多分辨解釋 264
6.15 小波包 265
6.16 二維推廣簡介 266
6.17 應用 268
習題 271
MATLAB編程和練習 273
參考文獻 275
第7章 特征生成II 282
7.1 引言 282
7.2 區(qū)域特征 282
7.3 字符形狀和大小的特征 298
7.4 分形概述 304
7.5 語音和聲音分類的典型特征 309
習題 320
MATLAB編程和練習 322
參考文獻 325
第8章 模板匹配 331
8.1 引言 331
8.2 基于最優(yōu)路徑搜索技術的測度 331
8.3 基于相關的測度 342
8.4 可變形的模板模型 346
8.5 基于內容的信息檢索:相關反饋 349
習題 352
MATLAB編程和練習 353
參考文獻 355
第9章 上下文相關分類 358
9.1 引言 358
9.2 貝葉斯分類器 358
9.3 馬爾可夫鏈模型 358
9.4 Viterbi算法 359
9.5 信道均衡 362
9.6 隱馬爾可夫模型 365
9.7 狀態(tài)駐留的HMM 373
9.8 用神經網絡訓練馬爾可夫模型 378
9.9 馬爾可夫隨機場的討論 379
習題 381
MATLAB編程和練習 382
參考文獻 384
第10章 監(jiān)督學習:尾聲 389
10.1 引言 389
10.2 誤差計算方法 389
10.3 探討有限數據集的大小 390
10.4 醫(yī)學圖像實例研究 393
10.5 半監(jiān)督學習 395
習題 404
參考文獻 404
第11章 聚類:基本概念 408
11.1 引言 408
11.2 近鄰測度 412
習題 427
參考文獻 428
第12章 聚類算法I:順序算法 430
12.1 引言 430
12.2 聚類算法的種類 431
12.3 順序聚類算法 433
12.4 BSAS的改進 436
12.5 兩個閾值的順序方法 437
12.6 改進階段 439
12.7 神經網絡的實現(xiàn) 440
習題 443
MATLAB編程和練習 444
參考文獻 445
第13章 聚類算法II:層次算法 448
13.1 引言 448
13.2 合并算法 448
13.3 cophenetic矩陣 465
13.4 分裂算法 466
13.5 用于大數據集的層次算法 467
13.6 最佳聚類數的選擇 472
習題 474
MATLAB編程和練習 475
參考文獻 477
第14章 聚類算法III:基于函數最優(yōu)方法 480
14.1 引言 480
14.2 混合分解方法 481
14.3 模糊聚類算法 487
14.4 可能性聚類 502
14.5 硬聚類算法 506
14.6 向量量化 513
附錄 514
習題 515
MATLAB編程和練習 516
參考文獻 519
第15章 聚類算法IV 523
15.1 引言 523
15.2 基于圖論的聚類算法 523
15.3 競爭學習算法 533
15.4 二值形態(tài)聚類算法 540
15.5 邊界檢測算法 546
15.6 谷點搜索聚類算法 548
15.7 通過代價最優(yōu)聚類(回顧) 550
15.8 核聚類方法 555
15.9 對大數據集的基于密度算法 558
15.10 高維數據集的聚類算法 562
15.11 其他聚類算法 572
15.12 聚類組合 573
習題 578
MATLAB編程和練習 580
參考文獻 582
第16章 聚類有效性 591
16.1 引言 591
16.2 假設檢驗回顧 591
16.3 聚類有效性中的假設檢驗 593
16.4 相關準則 600
16.5 單獨聚類有效性 612
16.6 聚類趨勢 613
習題 620
參考文獻 622
附錄A 概率論和統(tǒng)計學的相關知識 626
附錄B 線性代數基礎 635
附錄C 代價函數的優(yōu)化 637
附錄D 線性系統(tǒng)理論的基本定義 649
索引 652