壓縮感知是一個(gè)令人振奮、發(fā)展迅速的領(lǐng)域,在電氣工程、應(yīng)用數(shù)學(xué)、統(tǒng)計(jì)學(xué)和計(jì)算機(jī)科學(xué)等領(lǐng)域引起了相當(dāng)大的關(guān)注。自推出以來,已經(jīng)取得了大量理論和實(shí)踐方面的成果。本書首先重點(diǎn)介紹了新近的理論進(jìn)展和一系列應(yīng)用,并概述了許多目前的研究挑戰(zhàn)。接著,在全面回顧了基本理論之后,介紹了該領(lǐng)域的許多前沿進(jìn)展,包括先進(jìn)的信號(hào)建模、模擬信號(hào)的亞奈奎斯特采樣、硬件原型、隨機(jī)矩陣的非漸近分析、自適應(yīng)感知、貪婪算法、圖模型的使用,以及形態(tài)上不同數(shù)據(jù)成分的分離。本書每一章都是由該領(lǐng)域國際知名的研究人員編寫的。
壓縮感知(CS)是一門發(fā)展迅猛的學(xué)科,因其令人振奮的顯著成效,已經(jīng)在電氣工程、應(yīng)用數(shù)學(xué)、統(tǒng)計(jì)學(xué)和計(jì)算機(jī)等領(lǐng)域獲得高度關(guān)注。從壓縮感知的概念在幾年前首次提出到現(xiàn)在,其已經(jīng)在理論以及實(shí)踐上碩果累累。各種學(xué)術(shù)會(huì)議、研討會(huì)以及專題報(bào)告一直致力發(fā)展這一日益重要的研究領(lǐng)域。本書首次全面介紹了這一主題,重點(diǎn)介紹了最近的理論進(jìn)展和一系列的應(yīng)用實(shí)例,并概述了許多目前還未解決的研究難題。
壓縮感知為同時(shí)感知和壓縮有限維向量提供了一個(gè)依賴于線性降維的框架。令人驚訝的是,它預(yù)測到所有具有稀疏表達(dá)的高維信號(hào)都可以通過有效算法,從高度不完整的測量數(shù)據(jù)中恢復(fù)。具體而言,就是假設(shè)x是一個(gè)長度為n的向量。在壓縮感知理論中,我們不直接測量x,而是通過使用一個(gè)大小為m×n 的壓縮感知矩陣A,獲取形式y(tǒng) = Ax的m 信號(hào)的稀疏性是壓縮感知中最流行的信號(hào)結(jié)構(gòu)。最簡單的情形下,稀疏性意味著x只有少量的非零值。更廣泛地說,當(dāng)x以某種適當(dāng)?shù)姆绞奖硎臼窍∈钑r(shí),就可以應(yīng)用壓縮感知思想。壓縮感知核心理論有個(gè)驚人的結(jié)果:如果x(或x的合適表示)是k稀疏的,即它至多有k個(gè)非零元素,那么它可以通過y=Ax使用數(shù)量級(jí)為klog(n)的測量m來恢復(fù)信號(hào)。此外,重建算法的復(fù)雜度可以是簡單的多項(xiàng)式時(shí)間量級(jí)。 并且可以證明這些算法對(duì)x的噪聲和錯(cuò)誤建模是魯棒的。壓縮感知的首批研究論文大多致力于分析壓縮感知的矩陣A的理論保證,以期實(shí)現(xiàn)穩(wěn)定的恢復(fù)并開發(fā)出高效的算法。
信號(hào)的稀疏性這一基本發(fā)現(xiàn)為信號(hào)處理、圖像恢復(fù)和壓縮算法帶來了全新的方法,在本書中也列舉了從壓縮感知中受益的一些領(lǐng)域。有趣的是,壓縮感知的研究領(lǐng)域源自于近似理論、Banach空間理論、凸優(yōu)化、框架理論、數(shù)值線性代數(shù)、隨機(jī)矩陣?yán)碚撘约靶盘?hào)處理等眾多領(lǐng)域。數(shù)學(xué)家、計(jì)算機(jī)科學(xué)家和工程師共同努力為壓縮感知理論和應(yīng)用做出了卓越的貢獻(xiàn)。這包括各種高效感知矩陣、用于稀疏恢復(fù)的快速算法、稀疏概念擴(kuò)展到更一般的信號(hào)結(jié)構(gòu)(包括低秩矩陣和模擬信號(hào)模型)、依賴壓縮感知思想的亞奈奎斯特轉(zhuǎn)換器的硬件設(shè)計(jì),以及雷達(dá)分析、人臉識(shí)別、圖像處理和生物醫(yī)學(xué)成像的應(yīng)用等。此外,壓縮感知還有望通過利用信號(hào)結(jié)構(gòu)來提高分辨率。在這些設(shè)置中有效地利用可用的自由度,可能會(huì)徹底改變許多應(yīng)用,如雷達(dá)和顯微鏡,F(xiàn)在的顯微學(xué)、民用和軍用監(jiān)視、醫(yī)學(xué)成像、雷達(dá)以及其他許多應(yīng)用都依賴于有效的采樣,且分辨率有限。降低這些應(yīng)用中的采樣率并提高分辨率可以改善用戶體驗(yàn),增加數(shù)據(jù)傳輸,提高成像質(zhì)量,減少曝光時(shí)間。
本書是第一本提供壓縮感知全面概述的專著。本書的潛在讀者可能是應(yīng)用數(shù)學(xué)、計(jì)算機(jī)科學(xué)、電子工程或者相關(guān)研究領(lǐng)域的研究人員,也可能是尋求了解壓縮感知的研究生。本書既可作為研究人員的最新參考資料,也可作為研究生的教科書。
本書包含12章,由來自世界各地的著名專家撰寫,涵蓋了各種各樣的主題。本書以對(duì)壓縮感知的全面介紹開始,作為后面幾章的背景,并設(shè)置了貫穿全書的符號(hào)。第1章不要求任何該領(lǐng)域的預(yù)備知識(shí),而接下來的章節(jié)分為四部分:擴(kuò)展信號(hào)模型(第2~4章),感知矩陣設(shè)計(jì)(第5、6章),恢復(fù)算法和性能保證(第7~9章),以及應(yīng)用(第10~12章)。 這些章節(jié)是獨(dú)立的,涵蓋了相關(guān)主題的最新研究成果,并且可以獨(dú)立于其他章節(jié)進(jìn)行閱讀。下面給出每章的簡要概述。
第1章全面介紹了壓縮感知的基礎(chǔ)知識(shí)。在簡要的歷史概述之后,本章首先討論稀疏性和其他低維信號(hào)模型。然后,作者討論如何從一組小規(guī)模的測量中準(zhǔn)確地恢復(fù)高維信號(hào)的中心問題,并為各種稀疏恢復(fù)算法提供了性能保證。本章最后討論了稀疏恢復(fù)框架的一些擴(kuò)展。
第2章超越了傳統(tǒng)的稀疏建模,并解決了協(xié)作式結(jié)構(gòu)化稀疏,為稀疏表示添加了穩(wěn)定性和先驗(yàn)信息。在結(jié)構(gòu)化稀疏建模中,將字典原子分組而不是將其視為單子,并且一次選擇幾個(gè)組進(jìn)行信號(hào)編碼。然后通過協(xié)作添加更多結(jié)構(gòu),其中允許遵循相同模型的多個(gè)信號(hào)在編碼中協(xié)作。作者討論了這些模型在圖像恢復(fù)和盲源分離中的應(yīng)用。
第3章將壓縮感知泛化為模擬信號(hào)的降速采樣。它介紹了Xampling,這是一個(gè)用于低速采樣和處理聯(lián)合子空間信號(hào)的統(tǒng)一框架。整個(gè)過程倡導(dǎo)硬件導(dǎo)向的觀點(diǎn),解決實(shí)際制約因素,并舉例說明亞奈奎斯特系統(tǒng)的硬件實(shí)現(xiàn)。在Xampling的統(tǒng)一框架內(nèi)回顧了一些模擬壓縮感知的應(yīng)用,包括帶有未知載波頻率的多頻帶通信、超聲成像和寬帶雷達(dá)等。
第4章討論了有限新息率(FRI)模擬信號(hào)(如來自離散測量的脈沖流)的降速采樣過程。為了充分描述FRI信號(hào),需要利用每單位時(shí)間只有少量參數(shù)的前提,用低于奈奎斯特的速率采樣它們。作者提供了理論和算法的概述,以及在諸如超分辨率、雷達(dá)和超聲等領(lǐng)域的多種應(yīng)用。
第5章討論了具有性能保證的隨機(jī)壓縮
Yonina C. Eldar是以色列理工學(xué)院電子工程系教授(愛德華茲工程主席),麻省理工學(xué)院電子研究實(shí)驗(yàn)室研究員,斯坦福大學(xué)客座教授,導(dǎo)師為信號(hào)處理領(lǐng)域的先驅(qū)——奧本海姆。她在研究和教學(xué)方面已獲得眾多卓越獎(jiǎng)勵(lì),包括沃爾夫基金科研獎(jiǎng)、赫謝爾•里奇創(chuàng)新獎(jiǎng)、羅斯柴爾德基金會(huì)的邁克爾•布魯諾紀(jì)念獎(jiǎng)、魏斯曼科學(xué)獎(jiǎng),以及穆里爾和大衛(wèi)•杰克諾卓越教學(xué)獎(jiǎng)。她是IEEE期刊《信號(hào)處理的基礎(chǔ)和趨勢》的主編,信號(hào)處理和數(shù)學(xué)領(lǐng)域等幾個(gè)期刊的副主編,是信號(hào)處理方面的卓越教授、IEEE會(huì)士、以色列青年科學(xué)與人文科學(xué)院和以色列高等教育委員會(huì)的成員。
Gitta Kutyniok是德國柏林理工大學(xué)數(shù)學(xué)系的愛因斯坦教授,曾任普林斯頓大學(xué)、斯坦福大學(xué)和耶魯大學(xué)的博士后研究員,德國奧斯納布呂克大學(xué)的全職教授。她的研究和教學(xué)得到了各種獎(jiǎng)項(xiàng)的認(rèn)可,包括德國海森堡獎(jiǎng)學(xué)金、馮•凱文獎(jiǎng)、愛因斯坦基金會(huì)的愛因斯坦主席獎(jiǎng),以及韋爾斯特拉杰出教學(xué)獎(jiǎng),她是應(yīng)用數(shù)學(xué)領(lǐng)域多個(gè)期刊的副主編。
譯者序
原書前言
壓縮感知簡介
引言
向量空間綜述
賦范向量空間
基底和框架
低維信號(hào)模型
稀疏模型
子空間的有限集合
模擬信號(hào)模型的子空間集合
低秩矩陣模型
流形和參數(shù)模型
感知矩陣
零空間條件
約束等距性質(zhì)(RIP)
相干性
構(gòu)造感知矩陣
1.5基于 最小化方法的信號(hào)重建
1.5.1 不含噪聲的信號(hào)重建
1.5.2 含噪聲的信號(hào)重建
1.5.3 情況-最優(yōu)保證條件問題
1.5.4 正軸形與相位變化
1.6 信號(hào)重建算法
1.7 多維測量向量
1.8 總結(jié)
附錄 第1章的證明
A.1 定理1.4的證明
A.2 引理1.3的證明
A.3 引理1.6的證明
A.4 定理1.13的證明
參考文獻(xiàn)
第二代稀疏建模:結(jié)構(gòu)化和協(xié)作信號(hào)分析
2.1 引言
2.2 圖像復(fù)原的逆問題
2.2.1 傳統(tǒng)稀疏建模
2.2.2 結(jié)構(gòu)化稀疏建模
2.2.3 實(shí)驗(yàn)結(jié)果
2.3 用結(jié)構(gòu)和協(xié)作模型鑒別和分離源
2.3.1 分組Lasso
2.3.2 分層Lasso
2.3.3 協(xié)作分層Lasso
2.3.4 實(shí)驗(yàn)結(jié)果
2.4 總結(jié)
參考文獻(xiàn)
Xampling:模擬信號(hào)的壓縮感知
3.1 引言
3.2 從子空間到聯(lián)合空間
3.3 Xampling
3.3.1 子空間聯(lián)合
3.3.2 架構(gòu)
3.4 稀疏平移不變框架
3.4.1 平移不變子空間中的采樣
3.4.2 SI子空間的稀疏聯(lián)合
3.4.3 無限測量模型和連續(xù)有限測量模型
3.5 從理論到多頻段采樣的硬件
3.5.1 信號(hào)模型和稀疏SI公式
3.5.2 通過不均勻采樣的模擬壓縮感知
3.5.3 建模實(shí)用的ADC器件
3.5.4 調(diào)制寬帶轉(zhuǎn)換器
3.5.5 硬件設(shè)計(jì)
3.5.6 亞奈奎斯特信號(hào)處理
3.6有限新息率信號(hào)
3.6.1 模擬信號(hào)模型
3.6.2 壓縮信號(hào)采集
3.6.3 恢復(fù)算法
3.7 新息信號(hào)序列
3.7.1 模擬信號(hào)模型
3.7.2 壓縮信號(hào)采集
3.7.3 恢復(fù)算法
3.7.4 應(yīng)用
3.8 聯(lián)合建模與有限離散化
3.8.1 隨機(jī)解調(diào)器
3.8.2 有限模型靈敏度
3.8.3 硬件復(fù)雜度
3.8.4 計(jì)算負(fù)載
3.8.5 模擬與離散CS雷達(dá)
3.9 討論
3.9.1 將CS擴(kuò)展到模擬信號(hào)
3.9.2 CS是否是一個(gè)通用采樣方案
3.9.3 總結(jié)
參考文獻(xiàn)
新息率采樣:理論和應(yīng)用
4.1 引言
4.1.1 采樣方案
4.1.2 FRI歷史
4.1.3 本章概覽
4.1.4 符號(hào)和約定
4.2有限新息率信號(hào)
4.2.1 FRI信號(hào)定義
4.2.2 FRI信號(hào)例子
4.3無噪聲環(huán)境中FRI信號(hào)的采樣與恢復(fù)
4.3.1使用sinc核進(jìn)行采樣
4.3.2 使用加和的sinc核進(jìn)行采樣
4.3.3 使用指數(shù)生成核進(jìn)行采樣
4.3.4 多通道采樣
4.4噪聲對(duì)FRI恢復(fù)的影響
4.4.1 連續(xù)時(shí)間噪聲下的性能界限
4.4.2 采樣噪聲下的性能界限
4.4.3提高采樣噪聲魯棒性的FRI技術(shù)
4.5 仿真
4.5.1無噪聲環(huán)境下的采樣和重建
4.5.2 噪聲環(huán)境下的采樣和重建
4.5.3 周期FRI信號(hào)與半周期FRI信號(hào)
4.6 擴(kuò)展和應(yīng)用
4.6.1 采樣分段正弦信號(hào)
4.6.2 信號(hào)壓縮
4.6.3 超分辨率成像
4.6.4 超聲成像
4.6.5 多徑介質(zhì)識(shí)別
4.6.6 超分辨率雷達(dá)
附錄 Cramér-Rao界限推導(dǎo)
參考文獻(xiàn)
隨機(jī)矩陣的非漸近分析
5.1 引言
5.1.1漸近和非漸近的體系
5.1.2高矩陣是近似等距同構(gòu)的
5.1.3模型和方法
5.1.4 應(yīng)用
5.1.5 相關(guān)資源
5.2 預(yù)備知識(shí)
5.2.1 矩陣及其奇異值
5.2.2 網(wǎng)絡(luò)
5.2.3 亞高斯隨機(jī)變量
5.2.4 亞指數(shù)隨機(jī)變量
5.2.5 各向同性隨機(jī)向量
5.2.6 獨(dú)立隨機(jī)矩陣的求和
5.3 具有獨(dú)立元素的隨機(jī)矩陣
5.3.1 極限定理和高斯矩陣
5.3.2 具有獨(dú)立元素的一般隨機(jī)矩陣
5.4具有獨(dú)立行的隨機(jī)矩陣
5.4.1 亞高斯行
5.4.2 重尾行
5.4.3 應(yīng)用:估算協(xié)方差矩陣
5.4.4 應(yīng)用:隨機(jī)子矩陣和子框架
5.5 具有獨(dú)立列的隨機(jī)矩陣
5.5.1 亞高斯列
5.5.2 重尾列
5.6 約束等距同構(gòu)
5.6.1 亞高斯約束等距同構(gòu)
5.6.2 重尾約束等距同構(gòu)
5.7 注釋
參考文獻(xiàn)
自適應(yīng)感知的稀疏重建
6.1 引言
6.1.1去噪
6.1.2逆問題
6.1.3貝葉斯的角度
6.1.4結(jié)構(gòu)稀疏性
6.2貝葉斯自適應(yīng)感知
6.2.1使用一個(gè)簡單生成模型進(jìn)行貝葉斯推理
6.2.2使用多成分模型進(jìn)行貝葉斯推理
6.2.3量化性能
6.3準(zhǔn)貝葉斯自適應(yīng)感知
6.3.1用非自適應(yīng)測量去噪
6.3.2蒸餾感知
6.3.3壓縮感知中的蒸餾法
6.4 相關(guān)工作和進(jìn)一步閱讀的建議
參考文獻(xiàn)
壓縮感知的基本閾值方法:一種高維幾何方法
7.1 引言
7.1.1 l_1最小化魯棒性的閾值邊界
7.1.2 加權(quán)和迭代重加權(quán)l(xiāng)_1最小化閾值
7.1.3 與其他閾值邊界的比較
7.1.4 高維幾何的一些概念
7.1.5 組織結(jié)構(gòu)
7.2 零空間特征
7.3 零空間特征的Grassmann角框架
7.4 評(píng)估閾值界限ζ
7.5 內(nèi)角指數(shù)的計(jì)算
7.6 外角指數(shù)的計(jì)算
7.7ρ_N (δ,C)的存在性與縮放
7.8 弱、部分和強(qiáng)魯棒性
7.9 ζ界限的數(shù)值計(jì)算
7.10 加權(quán)l(xiāng)_1最小化的恢復(fù)閾值
7.11 近似支撐恢復(fù)和迭代重加權(quán)l(xiāng)_1
7.12 總結(jié)
7.13 附錄
7.13.1 內(nèi)角的推導(dǎo)
7.13.2 外角的推導(dǎo)
7.13.3 引理7.7的證明
7.13.4 引理7.8的證明
參考文獻(xiàn)
壓縮感知貪婪算法
8.1貪婪算法,凸集最優(yōu)化的一個(gè)靈活替代算法
8.2貪婪追蹤
8.2.1基本框架
8.2.2系數(shù)更新變型
8.2.3 元素選擇的幾種變型
8.2.4 計(jì)算
8.2.5 性能保證
8.2.6 經(jīng)驗(yàn)比較
8.3 閾值類算法
8.3.1迭代硬閾值
8.3.2壓縮采樣匹配追蹤和子空