本書在開篇首先介紹了機器學習、線性自適應濾波和傳統(tǒng)非線性方法的基本概念。接著介紹核自適應濾波的數(shù)學基礎-再生核希爾伯特空間理論。此處著重強調(diào)了核自適應濾波器是一個通用的函數(shù)逼近器、在自適應過程中無局部極小值而僅需要合理的計算資源。其次，本書研究了核自適應濾波系列中最簡單的核最小均方算法。其三，介紹了核仿射投影算法，具體包括四個類似的算法。其四，介紹了核遞歸最小二乘算法和高斯過程回歸理論。其五，在核遞歸最小二乘算法基礎上討論擴展核遞歸最小二乘算法。最后，本書介紹了核自適應濾波器的主要瓶頸，引入了一個稱為"驚奇度"的主觀信息測度，并給出了一個統(tǒng)一稀疏方法來有效地裁剪核自適應濾波器的生長，以三個有趣的計算機仿真實驗來加以說明。
第1章 背景與展望
1.1 監(jiān)督、序貫和主動學習
1.2 線性自適應濾波器
1.2.1 最小均方算法
1.2.2 遞歸最小二乘算法
1.2.3 擴展遞歸最小二乘算法
1.3 非線性自適應濾波器
1.4 再生核希爾伯特空間
1.5 核自適應濾波器
1.6 總結(jié)
注釋
第2章 核最小均方算法
2.1 最小均方算法
2.1.1 LMS算法的收斂性
2.1.2 LMS算法的失調(diào) 第1章 背景與展望
1.1 監(jiān)督、序貫和主動學習
1.2 線性自適應濾波器
1.2.1 最小均方算法
1.2.2 遞歸最小二乘算法
1.2.3 擴展遞歸最小二乘算法
1.3 非線性自適應濾波器
1.4 再生核希爾伯特空間
1.5 核自適應濾波器
1.6 總結(jié)
注釋
第2章 核最小均方算法
2.1 最小均方算法
2.1.1 LMS算法的收斂性
2.1.2 LMS算法的失調(diào)
2.1.3 學習曲線
2.2 核最小均方算法
2.3 核及參數(shù)選擇
2.4 步進參數(shù)
2.5 新奇準則
2.6 KLMS算法的自正則化特性
2.6.1 解范式約束
2.6.2 奇異值分析
2.6.3 單位下三角線性系統(tǒng)
2.7 泄漏核最小均方算法
2.8 標準核最小均方算法
2.9 核ADALINE算法
2.10 資源配置網(wǎng)絡
2.11 計算機實驗
2.11.1 KLMS算法應用于Mackey.Glass時間序列預測
2.11.2 KLMS應用于非線性信道均衡
2.12 結(jié)論
注釋
第3章 核仿射投影算法
3.1 仿射投影算法
3.2 核仿射投影算法
3.2.1 KAPA.1(簡單KAPA)
3.2.2 KAPA.2(標準化KAPA)
3.2.3 KAPA.3(泄漏KAPA)
3.2.4 KAPA4(基于牛頓遞歸的泄漏KAPA)
3.3 誤差重用
3.4 滑動窗口Gram矩陣逆
3.5 相關算法之間的關系
3.5.1 KLMS算法
3.5.2 NORMA算法
3.5.3 核ADALINE算法
3.5.4 滑動窗核遞歸最小二乘算法
3.5.5 正則化網(wǎng)絡
3.6 計算機實驗
3.6.1 KAPA應用于MG時間序列預測
3.6.2 KAPA應用于消除噪聲
3.6.3 KAPA應用于非線性信道均衡
3.7 結(jié)論
注釋
第4章 核遞歸最小二乘算法
4.1 遞歸最小二乘算法
4.1.1 正則化和初始化
4.2 指數(shù)加權遞歸最小二乘算法
4.3 核遞歸最小二乘算法
4.4 近似線性相關
4.5 指數(shù)加權核遞歸最小二乘算法
4.6 高斯過程線性回歸
4.7 高斯過程非線性回歸
4.8 貝葉斯模型選擇
4.9 計算機實驗
4.9.1 KRLS應用于Mackey—Glass時間序列預測
4.9.2 最大邊際似然進行模型選擇
4.10 結(jié)論
注釋
第5章 擴展核遞歸最小二乘算法
5.1 擴展遞歸最小二乘算法
5.2 指數(shù)加權擴展遞歸最小二乘算法
5.3 擴展核遞歸最小二乘算法
5.4 擴展核遞歸最小二乘算法用于跟蹤模型
5.5 有限秩假設的擴展核遞歸最小二乘算法
5.6 計算機實驗
5.6.1 EXKRLS應用于瑞利信道跟蹤
5.6.2 EXKRLS在洛倫茲時間序列預測中的應用
5.7 結(jié)論
注釋
第6章 稀疏核自適應濾波器設計
6.1 驚奇測度SC定義
6.2 高斯過程回歸復習
6.3 計算驚奇測度SC
6.3.1 輸入分布
6.3.2 未知的期望信號
6.3.3 新奇概率
6.4 使用驚奇準則的核遞歸最小二乘算法
6.5 使用驚奇準則的核最小均方算法
6.6 使用驚奇準則的核仿射投影算法
6.7 計算機實驗
6.7.1 驚奇準則應用于非線性回歸
6.7.2 驚奇準則應用于MG時間序列預測
6.7.3 sc準則應用于C0，濃度預測
6.8 結(jié)論
注釋
附錄A 數(shù)學背景
A.1 奇異值分解
A.1.1 偽逆
A.1.2 最小范數(shù)解
A.2 正定矩陣
A.3 特征值分解
A.4 Schur補
A.5 塊矩陣求逆
A.6 矩陣求逆引理
A.7 聯(lián)合概率、邊緣概率和條件概率
A.8 正態(tài)分布
A.9 梯度下降法
A.10 牛頓法
附錄B 近似線性相關與系統(tǒng)穩(wěn)定性
參考文獻
后記
書單推薦
