本書主要包含以下內(nèi)如：最優(yōu)化問題的簡介，凸分析基礎(chǔ)，無約束優(yōu)化的理論及線搜索算法框架，信賴域算法，線搜索收斂性分析及收斂速度分析，半光滑牛頓算法，共軛梯度算法，約束優(yōu)化理論及延伸理論，罰方法，增廣拉格朗日算法及算法在實際問題(支持向量機模型、超圖匹配)中的應用。本書對知識點的分析緊密結(jié)合當前研究前沿問題，并通過對應用問題使用優(yōu)化算法，讓學生看到優(yōu)化理論與實際數(shù)據(jù)的結(jié)合，將知識點以全方位的立體感呈現(xiàn)給學生。
更多科學出版社服務(wù)，請掃碼獲取。
目錄
前言
第1章 支持向量機1
1.1 分類問題與標準支持向量機1
1.1.1 分類問題1
1.1.2C-支持向量機1
1.1.3 最小二乘支持向量機4
1.2 超平面非平行的支持向量機6
1.2.1 雙子支持向量機6
1.2.2 非平行超平面支持向量機10
1.3 拓展閱讀14
1.3.1 二分類支持向量機及其拓展15
1.3.2 多分類支持向量機及其拓展19
參考文獻20
第2章 優(yōu)化算法26
2.1 確定型優(yōu)化算法26
2.1.1 序列最小最優(yōu)化算法26
2.1.2 交替方向乘子算法27
2.1.3 坐標下降算法30
2.1.4 逐次超松弛迭代算法31
2.1.5 凸函數(shù)差分算法33
2.1.6 原始估計次梯度算法35
2.1.7 截斷牛頓共軛梯度算法37
2.2 隨機型優(yōu)化算法39
2.2.1 梯度下降算法39
2.2.2 方差縮減算法41
2.2.3 加速算法43
2.2.4 自適應學習速率算法45
2.2.5 高階算法47
2.2.6 鄰近算法50
2.3 拓展閱讀51
2.3.1 應用領(lǐng)域51
2.3.2 隨機型優(yōu)化算法的拓展52
參考文獻52
第3章 損失函數(shù)58
3.1 分類問題的損失函數(shù)58
3.1.1 損失函數(shù)58
3.1.2 總結(jié)與分析66
3.2 回歸問題的損失函數(shù)67
3.2.1 損失函數(shù)68
3.2.2 總結(jié)與分析70
3.3 無監(jiān)督問題的損失函數(shù).71
3.3.1 損失函數(shù)71
3.3.2 總結(jié)與分析73
3.4 拓展閱讀73
3.4.1 目標檢測中的損失函數(shù)73
3.4.2 人臉識別中的損失函數(shù)76
3.4.3 圖像分割中的損失函數(shù)78
參考文獻80
第4章 正則技術(shù)85
4.1 向量稀疏正則.85
4.1.1 應用場景85
4.1.2 正則項86
4.1.3 總結(jié)與分析90
4.2 矩陣稀疏正則.91
4.2.1 應用場景91
4.2.2 正則項92
4.2.3 總結(jié)與分析94
4.3 矩陣低秩正則.95
4.3.1 應用場景95
4.3.2 正則項96
4.3.3 總結(jié)與分析98
4.4 拓展閱讀99
4.4.1 數(shù)據(jù)增強100
4.4.2 Dropout101
4.4.3 歸一化103
參考文獻105
第5章 多視角學習.109
5.1 多視角學習問題與處理原則109
5.2 兩視角支持向量機SVM-2K111
5.3 基于特權(quán)信息學習理論的兩視角支持向量機113
5.3.1 模型構(gòu)建114
5.3.2 理論分析117
5.4 拓展閱讀119
5.4.1 協(xié)同訓練119
5.4.2 多核學習121
5.4.3 子空間學習121
5.4.4 深度多視角學習124
參考文獻125
第6章 多標簽學習.131
6.1 多標簽學習問題與評價指標131
6.1.1 多標簽分類問題131
6.1.2 多標簽學習的評價指標132
6.2 多標簽學習的經(jīng)典算法133
6.2.1 二元關(guān)聯(lián)133
6.2.2 排序支持向量機134
6.3 考慮標簽相關(guān)性的代價敏感多標簽學習135
6.3.1 模型構(gòu)建136
6.3.2 模型求解138
6.3.3 理論分析140
6.4 拓展閱讀141
6.4.1 傳統(tǒng)多標簽學習141
6.4.2 深度多標簽學習142
參考文獻143
第7章 多示例學習.146
7.1 多示例學習問題146
7.2 多示例支持向量機148
7.3 稀疏多示例支持向量機150
7.3.1 模型構(gòu)建151
7.3.2 模型求解152
7.4 拓展閱讀154
7.4.1 常見算法154
7.4.2 深度多示例學習算法156
7.4.3 與其他學習范式結(jié)合158
參考文獻160
第8章 多任務(wù)學習.166
8.1 多任務(wù)學習問題166
8.2 多任務(wù)支持向量機167
8.3 多任務(wù)特征選擇168
8.3.1 模型構(gòu)建169
8.3.2 模型求解169
8.3.3 理論分析172
8.4 拓展閱讀172
8.4.1 傳統(tǒng)多任務(wù)學習173
8.4.2 深度多任務(wù)學習173
8.4.3 與其他學習范式結(jié)合176
參考文獻177
第9章 度量學習181
9.1 度量學習問題181
9.1.1 距離181
9.1.2 度量學習問題182
9.2 全局與局部度量學習183
9.2.1 全局度量學習183
9.2.2 局部度量學習184
9.3 基于特征分解的度量學習185
9.3.1 全局算法185
9.3.2 局部算法186
9.3.3 比較與分析188
9.4 拓展閱讀188
9.4.1 傳統(tǒng)度量學習188
9.4.2 深度度量學習190
參考文獻192
索引196
書單推薦
