目錄
前言
第1章 組合優(yōu)化概述 1
1.1 組合優(yōu)化的概念 1
1.2 組合優(yōu)化與計(jì)算機(jī)數(shù)學(xué) 3
1.2.1 什么是計(jì)算機(jī)數(shù)學(xué)？ 3
1.2.2 組合優(yōu)化與計(jì)算機(jī)數(shù)學(xué)之間的關(guān)系 4
1.2.3 計(jì)算機(jī)科學(xué)中最重要的三十二個(gè)算法 4
1.3 組合優(yōu)化問(wèn)題的研究方法 9
1.3.1 組合優(yōu)化問(wèn)題的一般模型與求解算法 9
1.3.2 經(jīng)典的組合優(yōu)化問(wèn)題與求解算法 10
1.3.3 組合優(yōu)化問(wèn)題的機(jī)器學(xué)習(xí)求解算法 23
1.4 本章小結(jié) 26
第2章 機(jī)器學(xué)習(xí)與組合優(yōu)化問(wèn)題 27
2.1 機(jī)器學(xué)習(xí)概述 27
2.1.1 機(jī)器學(xué)習(xí)發(fā)展歷程 28
2.1.2 機(jī)器學(xué)習(xí)分類 31
2.1.3 深度學(xué)習(xí) 32
2.1.4 深度強(qiáng)化學(xué)習(xí) 35
2.2 圍棋人工智能方法對(duì)求解組合優(yōu)化問(wèn)題的啟示 41
2.2.1 AlphaGo 42
2.2.2 AlphaGo Zero 48
2.2.3 AlphaGo & AlphaGo Zero與組合優(yōu)化問(wèn)題 50
2.3 本章小結(jié) 51
第3章 從序列輸入到序列輸出的機(jī)器學(xué)習(xí)網(wǎng)絡(luò)模型和算法 52
3.1 循環(huán)神經(jīng)網(wǎng)絡(luò) 52
3.1.1 前向傳播過(guò)程 54
3.1.2 后向傳播過(guò)程 56
3.2 長(zhǎng)短期記憶模型 58
3.3 雙向循環(huán)神經(jīng)網(wǎng)絡(luò) 62
3.4 編碼-解碼模型 65
3.5 注意力機(jī)制模型 67
3.6 本章小結(jié) 73
第4章 組合優(yōu)化的深度學(xué)習(xí)方法 74
4.1 基于有監(jiān)督學(xué)習(xí)的求解方法 74
4.1.1 指向型網(wǎng)絡(luò) 74
4.1.2 基于目標(biāo)函數(shù)訓(xùn)練的求解算法 78
4.2 基于強(qiáng)化學(xué)習(xí)的求解方法 79
4.2.1 神經(jīng)組合優(yōu)化模型的求解方法 80
4.2.2 動(dòng)態(tài)輸入的組合優(yōu)化模型的求解方法 86
4.2.3 圖結(jié)構(gòu)問(wèn)題的組合優(yōu)化模型的求解方法 91
4.3 本章小結(jié) 98
第5章 圖像識(shí)別中的組合優(yōu)化問(wèn)題的求解方法 100
5.1 多指向型網(wǎng)絡(luò)求解點(diǎn)集匹配問(wèn)題 100
5.1.1 點(diǎn)集匹配問(wèn)題 100
5.1.2 多標(biāo)簽分類 102
5.1.3 算法結(jié)構(gòu) 104
5.1.4 實(shí)驗(yàn)結(jié)果及分析 107
5.2 基于強(qiáng)化學(xué)習(xí)的圖匹配問(wèn)題的求解方法 113
5.2.1 圖匹配問(wèn)題 114
5.2.2 求解圖匹配問(wèn)題的深度強(qiáng)化學(xué)習(xí)求解方法 116
5.2.3 實(shí)驗(yàn)結(jié)果及分析 124
5.3 基于卷積神經(jīng)網(wǎng)絡(luò)的圖像對(duì)齊問(wèn)題的求解方法 131
5.3.1 圖像對(duì)齊問(wèn)題 132
5.3.2 圖像對(duì)齊問(wèn)題的深度學(xué)習(xí)求解方法 134
5.3.3 基于關(guān)鍵點(diǎn)對(duì)齊的圖像匹配算法 138
5.3.4 基于關(guān)鍵點(diǎn)對(duì)齊算法在指紋識(shí)別中的應(yīng)用 140
5.4 本章小結(jié) 151
第6章 機(jī)器學(xué)習(xí)算法的復(fù)雜性理論 153
6.1 算法復(fù)雜性理論 153
6.2 基于線下學(xué)習(xí)和線上運(yùn)行的學(xué)習(xí)類算法的復(fù)雜性度量 156
6.2.1 深度學(xué)習(xí)類線下訓(xùn)練算法的復(fù)雜度 158
6.2.2 學(xué)習(xí)類算法的時(shí)間復(fù)雜度函數(shù) 163
6.3 本章小結(jié) 167
6.4 總結(jié)與展望 168
參考文獻(xiàn) 170