基于MATLAB的图像压缩感知设计(含源文件)
歡迎添加微信互相交流學習哦！
項目源碼：https://gitee.com/oklongmm/biye
名稱?? ?基于MATLAB的圖像壓縮感知
??? ?
目錄
目錄?? ?I
第1章 緒論?? ?3
1.1 研究背景和意義?? ?3
1.2 ?數據壓縮技術?? ?4
1.2.1 傳統數據壓縮技術?? ?4
1.2.2 壓縮感知理論（Compressed/Compressive Sensing/Sampling, CS）?? ?5
1.3 無線傳感器網絡?? ?7
1.3.1 無線傳感器網絡概述?? ?7
1.3.2 無線傳感器網絡數據壓縮的必要性?? ?9
1.4 本文主要工作和內容安排?? ?10
第2章 壓縮感知理論?? ?11
2.1壓縮感知的前提條件—稀疏性和不相干性?? ?11
2.2 三個關鍵技術?? ?14
2.3信號的稀疏表示?? ?15
2.4 觀測矩陣設計?? ?17
2.5 稀疏信號的重構?? ?19
2.6 重構算法?? ?20
2.7 壓縮感知優勢及不足?? ?21
2.8 壓縮感知在傳感網中的觀測方式?? ?22
第3章 壓縮感知理論應用概述?? ?24
3.1 壓縮成像?? ?24
3.2 模擬信息轉換?? ?24
3.3 生物傳感?? ?25
3.4 本章小結?? ?25
第4章 CS在無線傳感網中的應用?? ?26
4.1 研究背景?? ?26
4.1.1 基于感知數據相關性的壓縮?? ?26
4.1.2傳統壓縮重構方法?? ?27
4.1.3 圖像壓縮重構質量的評價?? ?27
4.2 壓縮感知理論算法對一維信號的實現?? ?29
4.2.1 CS用于WSN的優勢?? ?29
4.2.2 觀測重構模型?? ?30
4.2.2 正交匹配追蹤算法（OMP）?? ?30
4.2.3 算法的實現及結果分析?? ?31
4.3 壓縮感知理論算法對二維圖像重構的實現?? ?35
4.3.1 基于小波變換的分塊壓縮感知理論?? ?35
4.3.2 實現步驟?? ?36
4.3.3 重構結果及分析?? ?39
4.4 本章小結?? ?42
第5章 總結與展望?? ?43
5.1 工作總結?? ?43
5.2 后續展望?? ?43
參考文獻?? ?44
致謝?? ?46
附錄?? ?47
摘要
數據壓縮技術是提高無線數據傳輸速度的有效措施之一。傳統的數據壓縮技術是基于奈奎斯特采樣定律進行采樣，并根據數據本身的特性降低其冗余度，從而達到壓縮的目的。近年來出現的壓縮感知理論（Compressed Sensing,CS）則不受制于奈奎斯特采樣定律，它是采用非自適應線性投影來保持信號的原始結構，以直接采集壓縮后的數據的方式，從盡量少的數據中提取盡量多的信息。
本文闡述了壓縮感知方法的基本原理，分析了CS理論框架及關鍵技術問題，介紹了壓縮感知技術應用于無線傳感的優勢，并著重介紹了信號稀疏變換、觀測矩陣設計和重構算法三個方面的最新進展，對研究中現存的難點問題進行了探討。并運用matlab軟件，在離散傅里葉變換（DFT）和離散余弦變換（DCT）分塊CS的基礎上，采用正交匹配追蹤算法（OMP）實現了對一維信號和二維圖像的高概率重構。將重構結果與原始信號對比，結果表明，只要采樣數M（遠小于奈奎斯特定理所需要的采樣率）能夠包含圖像所需要的有用信息時，CS算法就能精確的完成對圖像的重構，并且重構效果也比較好。
關鍵詞：壓縮感知 無線傳感 正交匹配 稀疏表示 觀測矩陣
Abstract?
The data compression technology is one of the efficient measures for increasing the speed of wireless data communication. Traditional data compression technology is based on Nyquist sampling theorem, reaching the goal of compression by decreasing redundancy of information. In recent years, Compressed Sensing(CS) comes out as a new sampling theory, it does not have to obey Nyquist sampling theorem, and it can keep the original structure of signals by attaining the non-adaptive linear projections. So, CS can gather the compressed data directly and get more information from less data.?
This paper reviews the theoretical framework and the key technical problems of compressed sensing and introduces the latest developments of signal sparse representation, design of measurement matrix and reconstruction algorithm. Then this paper also discusses the existing difficult problems. Based on the discrete fourier transform (DFT) and discrete cosine transform (DCT), we use MATLAB software, realizes the accurate reconstruction of one-dimension signal two-dimension image by applying the OMP algorithm. Then make a comparison to the reconstruction of signal to original signals and make a conclusion. If only the sampling measurements M (far less than Nyquist sampling measurements ) contain the useful information of signals, CS algorithm can complete the accurate reconstruction, and the effect of reconstruction signal is good too.
Key words: ?compressed sensing ? wireless sensor networks ? orthogonal matching pursuit ? sparse presentation ? measurement matri
?
第1章 緒論
在當今的信息社會，電腦、手機、傳感器、驅動器等都要連接到因特網，這樣的無線通信系統中，將會產生并且傳播大量數據信息，從而對信號的采樣、存儲、傳輸和恢復造成巨大壓力，增加了通信設備的成本。對人們來說，如何有效的處理這些數據，成為一個新的挑戰。近幾年來，在信號處理領域出現的壓縮感知理論（CS）打破了傳統采樣過程中信號采樣速率必須達到信號帶寬兩倍以上才能精確重構原始信號的奈奎斯特采樣定理，使得信息存儲、處理和傳輸的成本大大降低。
1.1 研究背景和意義
隨著人們對信息需求量的增加，網絡通信、多媒體技術、存儲技術的發展越來越快，網絡的規模也越來越大，尋找高效的信息技術來降低數據量成為無線傳輸系統中急需處理的問題之一。這是因為數字化的各類信息的數據量十分龐大，若不對其進行有效的壓縮就難以得到實際的應用，因此，數據壓縮技術成為人們研究的一項重要技術。無線傳感器網絡是近來研究的熱點方向之一。它是由分布在監測區域內的大量微型傳感器節點通過無線電通信而形成的一個自組織網絡系統。這個系統的目的是協作的感知、采集和處理網絡覆蓋區域里被監測對象的信息，并將結果發送給用戶。在一個傳感器網絡中，常常包含大量傳感器節點，每個傳感器都會采集大量的數據。這些數據將會被傳輸到一個控制中心,也會在各個節點之間傳輸，在這種分布式傳感網絡中，數據傳輸功耗和帶寬需求非常大，所以，如何對這樣的分布式信號進行壓縮，從而減小通信開銷已經成為非常緊迫的需求。
壓縮感知理論與傳統奈奎斯特采樣定理不同，它指出，只要信號是可壓縮的或在某個變換域是稀疏的，那么就可以用一個與變換基不相關的觀測矩陣將變換所得高維信號投影到一個低維空間上，然后通過求解一個優化問題就可以從這些少量的投影中以高概率重構出原信號，可以證明這樣的投影包含了重構信號的足夠信息。 在該理論框架下，采樣速率不決定于信號的帶寬，而決定于信息在信號中的結構和內容。 事實上，壓縮感知理論的某些抽象結論源于Kashin創立的范函分析和逼近論， 最近由Candès，Romberg ，Tao和Donoho等人構造了具體的算法并且通過研究表明了這一理論的巨大應用前景。從信號分析角度來講，傅立葉變換是信號和數字圖像處理的理論基礎，小波分析將信號和數字圖像處理帶入到一個嶄新的領域。 多尺度幾何分析是繼小波分析后的新一代信號分析工具，它具有多分辨、局部化和多方向性等優良特性，更適合于處理圖像等高維信號。 這些研究工作都為壓縮感知理論奠定了基礎。顯然，在壓縮感知理論中，圖像/信號的采樣和壓縮同時以低速率進行，使傳感器的采樣和計算成本大大降低，而信號的恢復過程是一個優化計算的過程。 因此，該理論指出了將模擬信號直接采樣壓縮為數字形式的有效途徑，具有直接信息采樣特性。 由于從理論上講任何信號都具有可壓縮性，只能找到其相應的稀疏表示空間，就可以有效地進行壓縮采樣，這一理論必將給信號采樣方法帶來一次新的革命。
1.2 ?數據壓縮技術
數據壓縮技術就是對原始數據進行數據編碼或者壓縮編碼，從而用最少的數碼來表示信源發出的信號。數據壓縮的對象很廣泛，可以是通信時間、傳輸帶寬、存儲空間甚至發射能量。數據壓縮的作用是能夠快速地傳輸各種信號；在已有的一些通信干線并行開通更多的多媒體業務；緊縮數據存儲容量；降低發信機功率等等。
1.2.1 傳統數據壓縮技術
前較成熟的數據壓縮技術有許多種，按照壓縮后對信息的失真程度,主要分為無損壓縮和有損壓縮。?
無損壓縮是利用數據中的統計冗余進行壓縮。數據中間存在的一些多余成分，稱之為冗余度。例如，在某一份計算機文件中，一些符號會反復出現、一些符號比其它的符號出現得更頻繁、一些符號總是出現在各數據塊中的可預見的位置上，以上講述的這些冗余部分便可在數據編碼中除去或者減少。這種無損壓縮機制可以完全恢復原始數據而不引起任何失真，但是壓縮率卻受到數據統計冗余度的理論限制，一般為2:1到5:1。這類方法可以廣泛用于文本數據、程序以及特殊應用場景的圖像數據（如醫學圖像）的壓縮。它的主要壓縮機制包括Huffman編碼、算術編碼、游程編碼和字典編碼等系列。?
有損壓縮是利用了人類對圖像或者聲音中的某些頻率成分不敏感的特殊性質，允許壓縮過程中損失一定的信息；盡管不能完全恢復出原始數據，但是所缺失的數據部分對于我們理解原始圖像的影響很小，卻使得壓縮比大了許多。有損壓縮廣泛應用于語音，圖像和視頻數據的壓縮。它一般有兩種基本的壓縮機制，一種是有損變換編解碼（如傅立葉變換、離散余弦變換、小波變換），即首先對圖像或者聲音進行采樣、切成小塊、變換到一個新的空間、量化，接著對量化值進行熵編碼；另外一種是預測編解碼（如脈沖編碼調制、差分脈沖編碼調制、自適應差分脈沖編碼調制等），即利用先前的數據和隨后解碼的數據來預測當前的聲音采樣或者圖像幀，并對預測數據與實際數據之間的誤差以及其它一些重現預測的信息進行量化與編碼。?
綜合無損壓縮和有損壓縮的優點，還出現了第三類壓縮技術：混合壓縮。它主要是求取在壓縮效率、壓縮比以及保真度之間的最佳平衡，如靜止圖像壓縮標準JPEG和活動圖像壓縮標準MPEG就是采用混合編碼的壓縮方法。
1.2.2 壓縮感知理論（Compressed/Compressive Sensing/Sampling, CS）
在傳統理論的指導下，信號主要的一些壓縮方法都要基于奈奎斯特采樣定律進行采樣，即信息采樣速率至少為信號帶寬的兩倍。信號的編解碼過程如圖1.1所示：編碼端首先獲得X 的N點采樣值，經變換后只保留其中K個最大的投影系數并對它們的幅度和位置編碼，最后將編得的碼值進行存儲或傳輸。解壓縮僅是編碼過程的逆變換。實際上，采樣得到的大部分數據都是不重要的，即K值很小，但由于奈奎斯特采樣定理的限制，采樣點數N可能會非常大，采樣后的壓縮是造成資源浪費的根本所在。
?
CS 理論的信號編解碼框架和傳統的框架大不一樣，如圖1.2 所示。CS 理論對信號的采樣、壓縮編碼發生在同一個步驟，利用信號的稀疏性，以遠低于Nyquist采樣率的速率對信號進行非自適應的測量編碼。測量值并非信號本身，而是從高維到低維的投影值，從數學角度看，每個測量值是傳統理論下的每個樣本信號的組合函數，即一個測量值已經包含了所有樣本信號的少量信息。解碼過程不是編碼的簡單逆過程，而是在盲源分離中的求逆思想下，利用信號稀疏分解中已有的重構方法在概率意義上實現信號的精確重構或者一定誤差下的近似重構，解碼所需測量值的數目遠小于傳統理論下的樣本數。
壓縮感知的核心思想是壓縮和采樣合并進行，并且測量值遠小于傳統采樣方法的數據量，突破了香農采樣定理的瓶頸，使高分辨率的信號采集成為可能。
?壓縮感知理論主要包括信號的稀疏表示、隨機測量和重構算法等三個方面。稀疏表示是應用壓縮感知的先驗條件，隨機測量是壓縮感知的關鍵過程，重構算法是獲取最終結果的必要手段。
?
壓縮感知關鍵要素包括稀疏表示、測量矩陣和重構算法。
信號在某種表示方式下的稀疏性，是壓縮感知應用的理論基礎，經典的稀疏化的方法有離散余弦變換（DCT）、傅里葉變換（FFT）、離散小波變換（DWT）等。
最近幾年，對稀疏表示研究的另一個熱點是信號在冗余字典下的稀疏分解。 這是一種全新的信號表示理論：用超完備的冗余函數庫取代基函數，稱之為冗余字典，字典中的元素被稱為原子。目前信號在冗余字典下的稀疏表示的研究集中在兩個方面：一是如何構造一個適合某一類信號的冗余字典，二是如何設計快速有效的稀疏分解算法。目前常用的稀疏分解算法大致可分為匹配追蹤（Matching Pursuit）和基追蹤（Basis Pursuit）兩大類。
壓縮感知理論中，通過變換得到信號的稀疏系數后，需要設計壓縮采樣系統的觀測部分，它圍繞觀測矩陣 展開。觀測器的設計目的是如何采樣得到M個觀測值，并保證從中能重構出長度為N的信號X或者稀疏基基 下等價的稀疏系數向量。
CandeS和Tao等證明:獨立同分布的高斯隨機測量矩陣可以成為普適的壓縮感知測量矩陣。2007年Candes等研究者建立了著名的約束等距性（RIP）理論，即要想使信號完全重構，必須保證觀測矩陣不會把兩個不同的 K項稀疏信號映射到同一個采樣集合中，這就要求從觀測矩陣中抽取的每M個列向量構成的矩陣是非奇異的。
Donoho給出壓縮感知概念的同時定性和定量的給出測量矩陣要滿足三個特征：(1)由測量矩陣的列向量組成的子矩陣的最小奇異值必須大于一定的常數；(2)測量矩陣的列向量體現某種類似噪聲的獨立隨機性；(3)滿足稀疏度的解是滿足1范數最小的向量。
目前常用的測量矩陣包括：
（1）隨機高斯矩陣。矩陣每個元素獨立地服從均值為0，方差為 的高斯分布。
（2）隨機貝努利矩陣。矩陣的每個元素獨立地服從對稱的貝努利分布，等概率為 或- 。 ? ? ? ? ?
（3）部分正交矩陣。先生成N×N的正交矩陣U（如傅里葉矩陣），然后在矩陣U中隨機地選取M行向量，對M×N矩陣的列向量進行單位化得到測量矩陣。
（4）部分哈達瑪矩陣。生成大小為N×N的哈達瑪矩陣，然后在生成矩陣中隨機地選取M行向量，構成一個M×N的矩陣。
（5）托普利茲和循環矩陣。首先生成一個向量u，由向量u生成相應的輪換矩陣或托普利茲矩陣U，然后在矩陣U中隨機地選取其中的M行而構造的矩陣Φ。
（6）稀疏隨機矩陣。首先生成一個零元素的矩陣Φ，在矩陣Φ的每一個列向量中，隨機地選取d個位置，然后在所選取的位置的值賦為1。
? ? 壓縮感知的重構算法主要分為兩大類，一是貪婪算法，它是通過選擇合適的原子并經過一系列的逐步遞增的方法實現信號矢量的逼近，此類算法主要包括匹配跟蹤算法、正交匹配追蹤算法、補空間匹配追蹤算法等。二是凸優化算法，它是把0范數放寬到1范數通過線性規劃求解的，此類算法主要包括梯度投影法、基追蹤法、最小角度回歸法等。凸優化算法算法比貪婪算法所求的解更加精確，但是需要更高的計算復雜度。
? ? 此外，迭代閾值法也得到了廣泛的應用，此類算法也較易實現，計算量適中，在貪婪算法和凸優化算法中都有應用。但是，迭代閾值法對于迭代初值和閾值的選取均較敏感，且不能保證求出的解是稀疏的。
就目前主流的兩種重建算法而言，基于1范數最小的重建算法計算量巨大，對于大規模信號無法應用；貪婪算法雖然重建速度快，但是在信號重建質量上還有待提高。
目前，上述理論已經應用到各個領域，如傳感網、頻譜感知、雷達、醫學信號處理、信道預測等方面,取得了很好的效果。以上是關于壓縮感知理論與分布式壓縮感知理論的簡單介紹，詳細闡述將在第二章和第三章進行展開。?
1.3 無線傳感器網絡?? ?
?無線傳感器網絡是計算、通信和傳感器這三項技術相結合的產物，一開始在軍事應用中收集數據，對戰場情況和威脅及其重要程度進行適時的完整評價，后發展到民事運用，如監控大型設備，災區臨時通信，衛生保健等等。?
1.3.1 無線傳感器網絡概述?
無線傳感器網絡一般由若干傳感器節點組成，節點是組成無線傳感器網絡的基本單位，它負責完成采集信息、融合并傳輸數據的功能。每一個傳感器節點由數據采集模塊（傳感器、A/D轉換器）、數據處理和控制模塊（微處理器、存儲器）、通信模塊（無線收發器）和供電模塊（電池、DC/DC能量轉換器等）組成，如圖1-3所示。
?
其中，數據采集模塊負責感知所需要的信息，數據處理和控制模塊負責對感知所得的信息和接收信息進行處理，通信模塊負責與其他節點進行通信，即發送或者接收信息，供電模塊則負責提供所需要的能量。?
根據節點在傳感網網絡體系中所起作用的不同，節點在網絡中可以充當數據采集者、數據處理中轉站或簇頭節點幾種角色：?
（1）數據采集者，這類節點的數據采集模塊專門采集周圍的環境數據（如溫度、壓力），然后通過通信路由協議直接或間接地將采集到的數據傳輸給遠方基站（Base Station，BS）或匯聚節點（Sink）;?
（2）數據處理中轉站，這類節點不僅要完成采集的任務，還要接收鄰居節點的數據，一起轉發給距離基站更近的鄰居節點或者直接轉發到基站或匯聚節點;?
（3）簇頭節點，這類節點負責收集節點采集的數據，經數據融合后，發送到基站或匯聚節點。
傳感器節點都分散在特定的感知區域，相互合作、實時監測、感知和采集網絡周邊環境或監測對象的溫度、聲波等各種信息。這些信息一經采集，就將通過嵌入式系統進行處理，最終通過隨機自組織無線通信網絡以多跳中繼方式將所感知信息傳送到用戶終端，使人們無論在何時、何地、何種情況下都能獲取大量詳實可靠的信息,實現人、物和事件之間的無縫連接，從而真正實現“無處不在的計算”理念。?
與傳統的網絡不同的是，傳統網絡以傳輸數據為目的，而無線傳感器網絡則是以數據為中心；與傳統的Ad Hoc網絡相比，無線傳感器網絡具有以下幾點特征：?
（1）網絡節點密度高，傳感節點數量多?
（2）傳感器節點由電池供電?
（3）網絡拓撲變化頻繁?
（4）網絡具有容錯能力?
1.3.2 無線傳感器網絡數據壓縮的必要性?
因為在無線傳感器網絡中，每個傳感節點體積很小，而且分布非常密集，若是對所有采集的數據直接進行傳輸，則所需傳輸的數據量將是非常驚人的，會導致網絡擁塞，也會導致網絡壽命縮短；又由于傳感器節點由電池供電， 所以節點能量有限，而且無線傳感器網絡所布置的地方一般為人們不便于到達的地方，因此傳感器節點中的的電池很難更換。為了節約能量，延長傳感器網絡的壽命，需要采用能效高的網絡通信協議和數據局部處理策略（如數據融合技術、數據壓縮技術）。?
在這里，我們將說明利用壓縮技術來減少傳輸的數據量的必要性和可行性。相對于數據采集、數據壓縮這兩項功能，數據傳輸所需要的能量是最多的，所以，如果要節約傳感器節點的電池能量，必定要減少傳輸的數據量，因此在無線傳感器網絡中運用數據壓縮技術來減少數據量一直是一個值得深入研究的問題。無線傳感器網絡中的感知數據能夠進行壓縮是因為它具備數據壓縮的前提條件：首先，傳感器節點密度很大，節點之間感知的范圍相互重疊，這種高密度的節點分布一方面使得感知數據可靠性增強，另一方面也引起了數據冗余，使得相鄰節點之間所采集的數據具有高度相關性，稱為空間相關性；其次，由于傳感節點感知的物理數據大多數隨著時間變化很緩慢，所以同一個傳感器節點所感知的數據之間也有相關性，稱為時間相關性。利用這兩種相關性，可以對感知數據采取相應的數據壓縮技術。?
圖1-4中監測區域中有大量的無線傳感節點，傳感節點可以感知各種物理環境，包括聲音、溫度、壓力、地震等。人們將傳感器節點采集的大量數據采用某種壓縮技術壓縮，壓縮后的少量數據傳送到sink節點(或者是融合中心)，再由sink節點按照對應的恢復算法恢復出采集的數據。這樣，通過傳輸少量數據就可以得到整個監測區域內的詳細情況。?
?
1.4 本文主要工作和內容安排?
本文在介紹壓縮感知理論/分布式壓縮感知理論的基礎上，將它們應用到無線傳感數據壓縮領域，用于壓縮傳感節點采集的信號，降低傳輸能耗，節約電池能量。?
本文內容安排如下：?
第一章 簡單介紹了課題的研究背景，包括現有的數據壓縮技術和有關無線傳感網絡的基本知識。?
第二章 詳細闡述了壓縮感知理論，深入介紹了壓縮感知理論的核心思想— 可壓縮信號（信號稀疏化）、測量矩陣和重構算法,總結了壓縮感知理論的優勢及不足。?
第三章 進一步介紹由壓縮感知理論發展而來的分布式壓縮感知理論，分別描述了三種聯合稀疏模型及其應用范圍，最后，將其與壓縮感知理論作了仿真性能比較。?
第四章 將傳感網中數據傳輸與壓縮感知理論結合，分別利用壓縮感知和分布式壓縮感知框架下的信號壓縮、重構方法對實際的感知數據進行處理，給出了實際的應用效果，并重點研究了量化對于算法的影響。?
第五章 對全文進行總結并展望下一步的研究工作。?
第2章 壓縮感知理論?
傳統通信系統中的采樣遵循的是奈奎斯特抽樣定理，該定理指出，為防止在獲得信號時損失信息，抽樣速率必須大于信號帶寬的兩倍。在許多應用中，包括數字圖像和視頻攝像中，奈奎斯特抽樣速率太高，不利于數據存儲和傳輸；在其他應用，包括圖像系統（醫療瀏覽和雷達）、高速模數轉換中，增加抽樣速率代價也很昂貴。壓縮感知則是保存原始信號結構的線性投影，然后再從這些投影中將信號重構出來，其速率遠遠低于奈奎斯特抽樣率。CS理論系統與傳統通信系統的類似關系如圖2-1所示：
?
由圖2-1可知，在CS系統中，信源和信道編碼被CS測量（即一個矩陣與信號矢量相乘的形式）代替；信道和信源解碼則用CS恢復（即依賴于優化準則的恢復算法）替代。?
壓縮感知理論主要由三部分構成：稀疏信號、觀測矩陣和重構算法。下面將從這三個方面詳細講述壓縮感知的關鍵技術。?
2.1壓縮感知的前提條件—稀疏性和不相干性
CS隱含的兩個基本前提：稀疏性和不相關性。前者屬于信號的性質，后者和感知（觀測）形式有關。
稀疏性：稀疏性表達了這樣一個思想，一個連續時間信號的“信息速率”可能比由帶寬所決定的香農采樣率要低很多，或者，一個離散時間信號所依賴的自由度數目遠遠低于它的長度。更準確地說，CS利用了這樣一個事實，即許多自然信號在某個合適的基Ψ下具有簡潔的表達。
不相關性：不相關性說明用于采樣信號的波在基Ψ下有很稠密的表達。不相關性表達了這樣的思想，正如時間域的Dirac或者沖擊信號可以在頻域展開那樣，在基Ψ下具有稀疏表示的信號一定可以在獲得它們的某個域中展開。
1 稀疏性
眾所周知，任意長度為N 的離散信號X 都可以表示為一系列基函數的疊加，
即可以在任何正交基下用下式表示：
（式2.1）
其中 由一組基向量 構成的正交基，例如，sinusoids，尖峰spikes、B-splines，wavelets。 為展開系數。展開系數大，說明信號和基足夠相似。如果信號在基 下的展開系數在很小的集合上有值，我們就說該信號在 域是稀疏的，如果有值序列集中在一個小范圍內，那么我們就說該信號是可以壓縮的。本章我們將集中研究具有稀疏表示的信號，其中X是K個基向量的線性組合，K<<N。也就是說， 中僅有K個非零 ，另外N -K個都是零。
許多自然信號在一些基下有簡潔的表達。圖3.3（a）是一幅具有N（N =512×512）個像素點的coins圖像向量 ，我們在9/7小波基 下展開該向量，如（式3.4），其中 是 為列向量構成的 的矩陣，是正交基。圖3.3（b）是coins圖像的9/7小波系數在一維下的表示。圖2.3（c）展示了這樣一個事實：將圖像在9/7小波變換域丟掉93.75%的小系數后得到的逼近圖像盡管PSNR只有29.09dB，但肉眼很難察覺到失真。由此可見，盡管原圖中幾乎所有的像素都是非零值，它在9/7小波域中卻是稀疏的：大部分小波系數都很小，少數的大系數（1/16）就可以捕獲信號的大部分信息。
本例中僅僅保留展開（式3.4）中 的 個大系數得到 ，其中 表示系數向量的除K個大系數外其余置0的向量。該向量從嚴格意義上說是稀疏的，因為K<<N ，即除了極少數項外其余均為0。
現在稀疏的含義很清楚了：如果x在某個變換域下是稀疏或者可壓縮的，就意味著將x的系數 按幅值大小排列衰減很快，那么x可以由K個大系數很好地逼近 。圖3.3（c）所示告訴我們，可以丟棄除了少數幾個系數外的所有小系數而不會帶來視覺上的損失。我們稱至多有K個非零項的向量為K -稀疏，且有 。稀疏性原理是大部分現代有損壓縮編碼算法和許多其它應用的基礎。不過在傳統編碼中，這K個大系數的位置必須事先確定。更一般地，稀疏性是一個基本的建模工具，可以進行信號的精確統計估計和分類、有效的數據壓縮等等。而近幾年來Candès等人提出的壓縮感知理論使得稀疏性有了更加令人驚奇的深遠含義，即信號稀疏性對采樣本身有重要意義，稀疏性決定了我們可以擺脫奈奎斯特采樣頻率的約束，并可以做到高效地非自適應地采樣信號。
?
2 不相關性
? ? Candès， Romberg等人已經證明一個降維的投影集合包含了重構稀疏信號的足夠信息。這就是壓縮感知（CS）理論的核心內容。在CS中，假定信號在某個變換域的系數是K項稀疏的，我們不直接對K個重要的系數 直接編碼，而是將信號的系數向量投影到另一個基函數集合 上，觀測得到M (<<N)個投影 然后再編碼。用矩陣表示，則有， 。其中Y 是一個 的列向量，觀測矩陣 是一個以每個基向量 作為行向量的 矩陣。由于M<<N，從觀測向量y中重構信號x是一個欠定問題，然而信號稀疏的附加假設使得恢復成為可能也是可行的。
CS理論告訴我們，當滿足一定條件時，也即是基 不能稀疏表示 （該條件被稱為兩組基不相關）并且觀測值個數M足夠大，那么就可以從一個相似規模的集合 中恢復大系數集合 ，繼而也就可以得到信號X。許多對基都滿足不相關性質，例如，三角尖峰和傅里葉基中的正弦波不相關，傅里葉基和小波基不相關。重要的是，任意一個固定的基和一個隨機產生的基也以高概率滿足這種不相關。因此在CS理論中隨機矩陣被廣泛應用于CS觀測中。在框架下或者基下可以找到稀疏表示的信號都可以以同樣的方式從不相關觀察中恢復。
文獻[3]給出了相關性度量的具體定義，如下。
定義3.2：觀測系統 和表示系統 之間的相關性度量用 表示，則有如下式子成立：
? ? （式2.2）
簡單來講，相關性度量的是兩個矩陣 和 的元素之間的最大相關性。如果 和 包含了相關的元素，則相關性很大；否則，就很小。相關系數取值范圍為 。壓縮采樣研究的是具有低相關性的兩個系統。下面給出一些例子。
（1） 是尖峰基 ， 為傅立葉基 ，則有 。進一步講，尖峰信號和正弦信號不僅在一維而且在任何維，例如2D，3D空間都具有最大的不相關性。
（2） 為小波基， 是noiselet。這里，noiselet和Haar小波基間的相關系數是 ，noiselet和Daubechies db4及db8小波基間的相關性分別是2.2和2.9。這也可以擴展到高維情況。noiselets也和尖峰信號及傅立葉基高度不相關。人們對noiselets感興趣基于以下兩個事實：1）它們和為圖像數據和其它類型的數據提供稀疏表示的系統不相關；2）它們具有快速算法。noiselet變換的時間復雜度為O(N)，而且類似于傅立葉變換，noiselet矩陣不需要存儲。這一點對于高效的數字計算是至關重要的。如果沒有高效的計算，CS的實用性就會大打折扣。
（3） 為隨機矩陣，則 可以是任何固定的基。此時它們之間具有極大不相關。例如， 可以通過在單位球面上獨立均勻地采樣并做規范正交化得到，此時， 和 間的相關性以很高的概率為 。各項服從獨立同分布的隨機波形 ，例如高斯分布或者 ，也表現出和任何固定基 具有很小的相關性。
研究者們通過大量的實驗分析，得出如下結論：精確重構所需要的觀測值個
數依賴于稀疏變換基和觀測基之間的不相關性。不相關性越強，所需的個數越少；反之，相關性越強，例如 ，則需要采樣所有的系數才能保證精確重構。
2.2 三個關鍵技術
從以上壓縮感知理論的介紹中我們可以看出，壓縮感知理論主要包括以下三個方面的內容：
（1）信號稀疏表示；
（2）信號的編碼測量即觀測矩陣的設計；
（3）信號重構算法的設計。
信號的稀疏表示是指當將信號投影到某個正交變換基時，一般情況下絕大多數的變換系數的絕對值都是很小的，得到的變換向量也是稀疏的或者是近似稀疏的，這是原始信號的一種簡潔的表達方式，也是壓縮傳感理論的先驗條件。信號必須得在某種變換下才可以進行稀疏表示。通常我們可以選取的變換基有離散傅里葉變換基（DFT）、離散余弦變換基（DCT）、離散小波變換基（DWT）、Curvelet 變換基、Gabor 變換基還有冗余字典等。在信號的編碼測量即觀測矩陣的設計過程中，要選擇穩定的觀測矩陣，觀測矩陣的選取必須滿足受限等距特性(Restricted Isometry Property，RIP)準則，才能保證信號的投影能夠保持原始信號的結構特征。通過原始信號與觀測矩陣相乘我們可以獲得原始信號的線性投影值。最后設計合適的重構算法從所得到的觀測值和原來的觀測矩陣來重構原始始號。
所以對壓縮感知理論的研究也主要是基于這三個方面的內容：
（1）信號的稀疏表示。即對于信號 ?，如何找到一個合適的正交基或者緊框架Ψ，以使得原始信號在Ψ上的表示是稀疏的。
（2）觀測矩陣的設計。即如何設計一個平穩且滿足受限等距特性條件或者與變換基Ψ 滿足不相關約束條件的M × N 維觀測矩陣Φ，以保證信號稀疏表示后的向量Θ能從原來的N 維降到M 維時所包含的重要信息沒有受到破壞，從而保證原始信號的準確重構。這個過程也就是壓縮感知理論中信號的低速采樣過程。
（3）重構算法的設計。即如何設計快速有效且穩定的重構算法，從所得到的低維觀測向量中準確地恢復原始信號。
下面我們對壓縮感知理論的這三個關鍵技術做一個詳細的總結和分析，以為后文對壓縮感知理論在圖像重構方面的研究打下基礎。
2.3信號的稀疏表示
從傅立葉變換到小波變換再到后來興起的多尺度幾何分析（Ridgelet，Curvelet，Bandelet，Contourlet），科學家們的研究目的均是為了研究如何在不同的函數空間為信號提供一種更加簡潔、直接的分析方式，所有這些變換都旨在發掘信號的特征并稀疏表示它，進一步研究用某空間的一組基函數表示信號的稀疏程度或分解系數的能量集中程度。
文獻[23]給出稀疏的定義：信號X在正交基 下的變換系數向量為 ，假如對于0<p<2和R> 0，這些系數滿足：
? ?
? ? ? ? ? （式2.3）
則說明系數向量 在某種意義下是稀疏的。文獻[34]給出另一種定義：如果變換系數 的支撐域 的勢小于等于K，則可以說信號X 是K -項稀疏。
如何找到信號最佳的稀疏域？這是壓縮感知理論應用的基礎和前提，只有選擇合適的基表示信號才能保證信號的稀疏度，從而保證信號的恢復精度。在研究信號的稀疏表示時，可以通過變換系數衰減速度來衡量變換基的稀疏表示能力。Candès 和Tao通過研究發現，滿足冪定律衰減的信號，可利用壓縮感知理論進行恢復，并且重構誤差滿足：
? ? ? （式2.4）
其中r=1/p-1/2，0<p<1。
文獻[30]指出光滑信號的Fourier系數、小波系數、有界變差函數的全變差范數、振蕩信號的Gabor系數及具有不連續邊緣的圖像信號的Curvelet系數等都具有足夠的稀疏性，可以通過壓縮感知理論恢復信號。如何找到或構造適合一類信號的正交基，以求得信號的最稀疏表示，這是一個有待進一步研究的問題。Gabriel Peyré把變換基是正交基的條件擴展到了由多個正交基構成的正交基字典。即在某個正交基字典里，自適應地尋找可以逼近某一種信號特征的最優正交基，根據不同的信號尋找最適合信號特性的一組正交基，對信號進行變換以得到最稀疏的信號表示。
最近幾年，對稀疏表示研究的另一個熱點是信號在過完備字典下的稀疏分解。
字典的選擇應盡可能好地符合被逼近信號的結構，其構成可以沒有任何限制。從
從過完備字典中找到具有最佳線性組合的K項原子來表示一個信號，稱作信號的稀疏逼近或高度非線性逼近。
過完備庫下的信號稀疏表示方法最早由Mallat和Zhang于1993年首次提出， 并引入了MP算法。文獻以淺顯易懂的表達說明了過完備字典對信號表示的必要性，同時還指出字典的構成應盡量符合信號本身所固有的特性。
目前信號在過完備字典下的稀疏表示的研究集中在兩個方面：（1）如何構造一個適合某一類信號的過完備字典；（2）如何設計快速有效的稀疏分解算法。這兩個問題也一直是該領域研究的熱點，學者們對此已做了一些探索，其中，以非相干字典為基礎的一系列理論證明得到了進一步改進。
從非線性逼近角度來講，信號的稀疏逼近包含兩個層面：一是根據目標函數從一個給定的基庫中挑選好的或最好的基；二是從這個好的基中挑選最好的K項組合。
從過完備字典的構成角度來講，文獻[38]中提出使用局部Cosine基來刻畫聲音信號的局部頻域特性；利用bandlet基來刻畫圖像中的幾何邊緣。還可以把其它的具有不同形狀的基函數歸入字典，如適合刻畫紋理的Gabor基、適合刻畫輪廓的Curvelet基等等。
從稀疏分解算法角度來講，在音視頻信號處理方面，基于貪婪迭代思想的MP算法表現出極大的優越性，但不是全局最優解。Donoho等人另辟蹊徑，提出了BP算法。BP算法具有全局最優的優點，但計算復雜度極高，例如對于長度為8192的信號，采用小波字典分解，等價于求解一個長度為8192*212992的線性規劃。MP算法雖然收斂速度較BP快，但不具備全局最優性，且計算復雜度仍然很大。之后又出現了一系列同樣基于貪婪迭代思想的改進算法，如正交匹配追蹤算法（OMP），樹形匹配追蹤（TMP），分段匹配追蹤（StOMP）算法等。
2.4 觀測矩陣設計
觀測部分的設計其實就是設計高效的觀測矩陣，換句話說，就是要設計一個
能捕捉稀疏信號中有用信息的高效的觀測（即采樣）協議，從而將該稀疏信號壓
縮成少量的數據。這些協議是非自適應的，僅僅需要用少量的固定波形和原信號
聯系起來，這些固定波形和為信號提供簡潔表示的基不相關。此外，觀測過程獨
立于信號本身。進一步講，使用優化方法可以收集到的少量的觀測值中重構信號。
壓縮感知理論中，通過變換得到信號的稀疏系數向量 后，需要設計觀測部分，它圍繞觀測矩陣 展開。觀測器的設計目的是如何采樣得到M個觀測值，并保證從中能重構出長度為N的信號X或者基 下等價的稀疏系數向量 。顯然，如果觀測過程破壞了X中的信息，重構是不可能的。觀測過程實際就是利用 觀測矩陣 的M個行向量 對稀疏系數向量進行投影，即計算 和各個觀測向量 之間的內積，得到M個觀測值，
?，記觀測向量 ，即
? ? ? （式2.5）
? ? ?
圖3.4（a）是（式3.7）的形象描述。這里，采樣過程是非自適應的，也就是說， 無須根據信號X 而變化，觀測的不再是信號的點采樣而是信號的更一般的線性泛函。
圖3.4（a）隨機高斯矩陣作為觀測矩陣 ，稀疏域選擇DCT變換域，對信號X進行DCT變換后再進行觀測。（b）是（a）圖的另一種表達，變換后的系數向量 是稀疏的，K=3，觀測得到的Y是非零系數 對應的四個列向量的線性組合。
對于給定的Y從（式3.7）中求出 是一個線性規劃問題，但由于M<< N，即方程的個數少于未知數的個數，這一欠定問題一般來講無確定解。然而，如果具有K -項稀疏性（K<<M），則該問題有望求出確定解。此時，只要設法確定出 中的K個非零系數 的合適位置，由于觀測向量Y是這些非零系數 對應 的K個列向量的線性組合，從而可以形成一個 的線性方程組來求解這些非零項的具體值。對此，有限等距性質（restricted isometry property， RIP）給出了存在確定解的充要條件。這個充要條件和Candès、Tao等人提出的稀疏信號在觀測矩陣作用下必須保持的幾何性質相一致。即，要想使信號完全重構，必須保證觀測矩陣不會把兩個不同的K-項稀疏信號映射到同一個采樣集合中，這就要求從觀測矩陣中抽取的每M個列向量構成的矩陣是非奇異的。從中可以看出，問題的關鍵是如何確定非零系數的位置來構造出一個可解的 線性方程組。
然而，判斷給定的 是否具有RIP性質是一個組合復雜度問題。為了降低
問題的復雜度，能否找到一種易于實現RIP條件的替代方法成為構造觀測矩陣? 的關鍵。
文獻[24]指出如果保證觀測矩陣 和稀疏基 不相干，則 在很大概率上滿足RIP性質。不相干是指向量 不能用 稀疏表示。不相干性越強，互相表示時所需的系數越多；反之，相關性則越強。通過選擇高斯隨機矩陣作為 即可高概率保證不相干性和RIP性質。例如，可以生成多個零均值、方差為1/ N 的隨機高斯函數，將它們作為觀測矩陣 的元素 ，使得 以很高的概率具有RIP性質。隨機高斯矩陣 具有一個有用的性質：對于一個 的隨機高斯矩陣 ，可以證明當 時在很大概率下具有RIP性質（其中c是一個很小的常數）。因此可以從M個觀測值 中以很高的概率去恢復長度為N的K-項稀疏信號?？傊?#xff0c;隨機高斯矩陣與大多數固定正交基構成的矩陣不相關，這一特性決定了選它作為觀測矩陣，其它正交基作為稀疏變換基時， 滿足RIP性質。為進一步簡化觀測矩陣 ，在某些條件下，以隨機 為元素構成的Rademacher矩陣也可以證明具有RIP性質和普適性。
? ? 目前，對觀測矩陣的研究是壓縮感知理論的一個重要方面。在該理論中，對
觀測矩陣的約束是比較寬松的，Donoho在文獻[23]中給出了觀測矩陣所必需具備的三個條件，并指出大部分一致分布的隨機矩陣都具備這三個條件，均可作為觀測矩陣，如：部分Fourier集、部分Hadamard集、一致分布的隨機投影（uniform Random Projection）集等，這與對RIP條件進行研究得出的結論相一致。但是，使用上述各種觀測矩陣進行觀測后，都僅僅能保證以很高的概率去恢復信號，而不能保證百分之百地精確重構信號。對于任何穩定的重構算法是否存在一個真實的確定性的觀測矩陣仍是一個有待研究的問題。文獻[56]則從信息論角度描述了信息論與CS之間的聯系。它指出，在模擬系統中，觀測噪聲也是影響觀測次數的重要因素，為說明這一點，作者從信息論的角度研究了稀疏信號的率失真函數，給出了觀測噪聲對信號重建效果的影響。
2.5 稀疏信號的重構
壓縮感知理論的核心問題是從觀測得到的有限的M<<N個觀測樣本中重構出N長的原信號，即未知量個數比觀測量要多得多。由于觀測數量M 遠小于信號長度N，因此不得不面對求解欠定方程組 的問題，需要列舉出 空間的 個稀疏空間，在計算上是相當復雜的。乍一看，我們幾乎不可能期望從Y 恢復每個 。然而，文獻[23-26，28]的近期研究結果表明如果信號X 是稀疏的，那么（1）精確恢復是可能的；（2）真實信號實際上就是一個簡單凸優化問題的解。但是，文獻[30]和[23]均指出由于信號X 是稀疏的或可壓縮的，這個前提從根本上改變了問題，使得問題可解，而觀測矩陣具有RIP性質也為從M 個觀測值中精確恢復信號提供了理論保證。
為更清晰地描述壓縮感知理論的信號重構問題， 首先定義向量 的p-范數為
? ? ? ? ? ? ? ? ? ? ? ? （式2.6）
當p=0時得到0-范數，它實際上表示X中非零項的個數。
在信號X 稀疏或可壓縮的前提下，求解欠定方程組 的問題轉化為最小0-范數問題：
? ? s.t. ? ? ? ? ? ? ? ? ?（式2.7）
? ? ?但是，它需要列出X中所有非零項位置的 種可能的線性組合，才能得到最優解。因此，求解（式3.9）式的數值計算極不穩定而且是NP難問題?？梢?#xff0c;壓縮感知和稀疏分解問題從數學意義上講是同樣的優化問題。于是稀疏分解的已有算法可以應用到CS重構中。
Chen，Donoho和Saunders指出，求解一個更加簡單的1-范數最小優化問題會
產生同等的解（要求 和 不相關）：
? ? s.t. ? ? ? ? ? ? ? ? ?（式2.8）
稍微的差別使得問題變成了一個凸優化問題，于是可以方便地化簡為線性規劃問題，典型算法代表：BP算法。
不過，1-范數最小化不是尋找稀疏解的唯一方法；其它方法，例如貪婪算法也已被提出。
由以上討論我們可以得出結論：（1）相關性在CS中起著至關重要的作用： 和 相關性越小，需要采樣的數目就越少。（2）僅僅觀測比信號長度小得多的任何M 個系數的集合，不會損失信息。（3）最小化帶線性方程約束的1-范數可以很容易地被轉化為線性規劃問題，于是可以找到更高效的求解算法。已經證明，如果 ，那么重構成功的概率超過 。
2.6 重構算法
由前面的分析可知，過完備庫下的稀疏分解問題和壓縮感知理論的重構問題都是線性約束下的0-范數求解問題。因此這兩類問題的求解本質上是一樣的。于是用于過完備庫下稀疏分解的方法都可以用于求解壓縮感知理論的重構計算。
定理2已證明：對于一個K項-稀疏（K<<N）長度為N的信號僅僅需要投影到另一個不相關基上的K+1個系數就可以以高概率被重構。然而，求得最小的0-范數解需要進行組合搜索，計算復雜度相當高。Candès 和Donoho 近來提出一種可行的基于線性規劃的重構方法，論證了只使用對信號的cK（c =3或者4）個觀測值，利用線性規劃的方法就可以得到和組合搜索相同的解。盡管BP算法可行，但在實際應用中存在兩個問題：第一，即使對常見的圖像尺寸，算法的計算復雜度也難以忍受，在采樣點個數滿足 ， 時，重構計算復雜度的量級在 ；第二，由于1-范數無法區分稀疏系數尺度的位置，所以盡管整體上重構信號在歐氏距離上逼近原信號，但存在低尺度能量搬移到了高尺度的現象，從而容易出現一些人工效應，如一維信號會在高頻出現振蕩。
針對上述問題，2005 年1 月Candès 和Romberg 提出了不同的信號恢復方法，該方法要求對原信號具有少量的先驗條件，同時也可以對所求結果施加適當的限制，以約束重構信號的特性。通過在凸集上交替投影（Projections onto Convex Sets）的方法，可以快速求解線性規劃問題。
另一類基于貪婪思想的迭代算法以更多的觀測數量作為代價達到了更加快速重構的目的。
J.Tropp和A.C.Gilbert提出利用匹配追蹤（MP）和正交匹配追蹤（OMP）算法來求解優化問題重構信號，大大提高了計算的速度，且易于實現。樹形匹配追蹤（TMP）算法是2005年Chinh La 和Minh N.Do提出的。該方法針對BP、MP和OMP方法沒有考慮信號的多尺度分解時稀疏信號在各子帶位置的關系，將稀疏系數的樹型結構加以利用，進一步提升了重構信號的精度和求解的速度。匹配追蹤類算法都是基于貪婪迭代算法，以多于BP算法需要的采樣數目換取計算復雜度的降低。例如OMP算法，需要 ， 個采樣點數才能以較高的概率恢復信號，信號重構的計算復雜度為 。2006年Donoho等人提出了分段正交匹配追蹤（StOMP，stagewise OMP）算法。它將OMP進行一定程度的簡化，以逼近精度為代價進一步提高了計算速度（計算復雜度為O(N)），更加適合于求解大規模問題。E. Hale， W. Yin基于分裂算子和同倫算子提出了求解最小1-范數大規模問題的方法，適合于糾錯編碼、磁共振成像、NMR波譜研究等領域的大規模問題求解。
? ? 在上述各種方法中，觀測矩陣中的所有值都非零，這樣信號采樣過程的計算量是O(MN)，在大規模的數據面前，這個量級還是非常大的。因此一類利用稀疏矩陣作為觀測矩陣進行采樣的方法出現了。Graham Cormode等人，提出利用分組測試和隨機子集選取來估計稀疏信號的非零系數的位置和取值，該方法需要的采樣數為 ，信號重構的計算復雜度為 ，得到重構信號的速度更快。
Gilbert等人在2006 年4 月提出了鏈式追蹤（CP，Chaining Pursuit）方法來恢復可壓縮信號。利用 個采樣觀測重構信號，需要計算量為 ，該方法對特別稀疏信號的恢復計算性能較高，但當信號的稀疏度減少，需要的采樣點數會迅速增加，甚至超過信號本身的長度，這就失去了壓縮采樣的意義。
總之，目前為止出現的重構算法都可歸入以下三大類：
（1）貪婪追蹤算法：這類方法是通過每次迭代時選擇一個局部最優解來逐步逼近原始信號。這些算法包括MP算法，OMP算法，分段OMP算法（StOMP）和正則化OMP（ROMP）算法。
（2）凸松弛法：這類方法通過將非凸問題轉化為凸問題求解找到信號的逼近，
如BP算法，內點法，梯度投影方法和迭代閾值法。
（3）組合算法：這類方法要求信號的采樣支持通過分組測試快速重建，如傅
立葉采樣，鏈式追蹤和HHS追蹤等。
總之，每種算法都有其固有的缺點。凸松弛法重構信號所需的觀測次數最少，
但往往計算負擔很重。貪婪追蹤算法在運行時間和采樣效率上都位于另兩種算法
之間。
由上面的分析可知，重構算法和所需的觀測次數密切相關，當前，壓縮感知
理論的信號重構問題的研究主要集中在如何構造穩定的、計算復雜度較低的、對
觀測數量要求較少的重構算法來精確地恢復原信號。
2.7 壓縮感知優勢及不足?
相對于傳統的信息處理方式，壓縮感知理論毫無疑問是具有優勢的，這體現在以下幾個方面：?
（1）采集數據的時候只需要采集一部分數據（包含了原信號的全局信息），一開始就可以傳輸長度較短的信號。這樣做的好處就是將信號壓縮這一端的過程簡單化，而將復雜的部分交給數據還原的這一端來做。這種優勢在醫學圖像領域體現的愈為明顯，因為采集數據的過程往往是對病人帶來很大麻煩甚至身體傷害的過程。以 X 光斷層掃描為例，眾所周知 ，X 光輻射會對病人造成身體損害，而壓縮感知的特點使得我們可以用比經典少得多的輻射劑量來進行數據采集，這在醫學上的意義是不言而喻的。?
（2）由于直接感知壓縮后的數據，所以不受奈奎斯特采樣定律的局限，降低了對采樣系統硬件設備的要求，這對于寬帶信號非常實用。?
（3）具有抗干擾能力。由于感知到的測量值中的任何一項都是重要的，或者說不重要的， 所以如果測量值丟失了其中的某幾項，仍然可以完美重構信號。?
當然，目前的壓縮感知理論還不是特別完善， 尚存在一些問題需要研究，在這里將列出其中幾個問題：?
（1）實際應用領域中，測量到的數據可能無法包含信號的全局信息，例如最傳統的攝像問題，每個感光器件所感知到的只是一小塊圖像而不是什么全局信息。?
（2）感知到的測量值的長度一般是重要分量長度的4倍，才能近乎完美地重構。?
（3）重構算法是NP問題。即使將0-范數轉化為1-范數，由于不可微性（indifferentiable），算法的計算復雜度仍然很高。而且，目前的重構算法對含噪信號或者采樣過程中引入噪聲的信號重構效果不夠理想。?
（4）壓縮感知理論是采用非自適應線性投影來保持信號的原始結構，不夠靈活，需要研究自適應傳感技術，根據不同的信號類型采用不同的數據采樣和重構策略。?
2.8 壓縮感知在傳感網中的觀測方式?
之前已經提及將壓縮感知運用到傳感網中，即在節點處得到觀測值數據并傳給sink節點（或者融合中心）。現在將分別講述壓縮感知在傳感網中的兩種觀測方式。?
（1）第一種：模擬通信方式?
模擬通信，即傳輸的測量值是模擬數據，具體步驟如下（假設有個傳感節點）：?
1)對于個節點而言，每一個節點都要利用其節點網絡地址（或者編號）作為產生偽隨機的種子（seed），得到隨機投影矢量 的個K元素。sink節點在知道種子和節點在網絡中的地址后，也能夠很容易的為每個傳感節點j(j=1,...,n)重建出隨即矢量?
2)）編號為j的傳感節點將所感知數據 與, 相乘得到個元組
? ? ? ?（式2.9）
所有的節點在k個時隙內（次傳輸）連貫的將相應的 以模擬方式傳至融合中心。由于無線電波的累加性質，在k次傳輸后sink節點最終得到的接收信號為?
? ? ? ?（式2.10）
其中ω為通信過程中產生的噪聲。?
以上步驟是以完全分散的形式將感知數據的k個隨機投影在k次傳輸中傳給sink節點。
（2）第二種：數字通信方式?
數字通信方式，即傳輸的測量值是量化后的值。這種方式可以達到同樣的目的。假設節點能夠進行本地通信，并能建立一條路由，從而與某個確定的簇頭節點之間形成生成樹。具體步驟如下：
1）首先傳感節點能夠計算測量值 ；?
2）然后這些測量值可以經過聚合在簇頭節點得到所有測量值V=Ax，然后對這些值進行編碼傳至sink節點。
這兩種方法主要的不同就在于第一種方式不需要復雜的路由信息。但考慮到數字通信的抗噪聲能力強，遠距離傳輸能保證信號質量，在本文中將選取第二種方式。
第3章 壓縮感知理論應用概述
壓縮傳感理論帶來了傳統信號采樣理論的變革，而且具有很廣闊的應用前景和場合?，F有的應用主要包括壓縮感知成像、模擬信息的轉換、生物傳感等方面。
3.1 壓縮成像
運用壓縮感知原理，美國RICE大學已經成功研制了“單像素”壓縮數碼照相機，設計的原理是首先通過光路系統將成像目標投影到一個數字微鏡器件上，然后其反射光由透鏡聚焦到單個光敏二極管上，光敏二極管兩端的電壓值即為一個測量值y，將此投影操作重復M次，得到測量向量y，然后用最小全變分算法構建的數字信號處理器重構原始圖像f。數字微鏡器件由數字電壓信號控制微鏡片的機械運動以實現對入射光線的調整，相當于隨機觀測矩陣Φ。由于該相機直接獲取的是M次隨機線性測量值，而不是獲取原始信號的N (M << N)個像素值，為低像素相機拍攝高質量的圖像提供了可能。而且壓縮感知技術也可以應用于雷達成像領域，與傳統雷達成像技術相比，壓縮感知雷達成像主要實現了兩個重要改進：在接收端省去了脈沖壓縮匹配濾波器；同時因為避開了對原始信號的直接采樣，降低了接收端對模數轉換器件帶寬的要求。設計的重點由傳統的設計昂貴的接收端硬件轉化成為設計新穎可靠的信號恢復算法，從而簡化了雷達成像系統。Bhattacharya等人將壓縮感知理論應用到合成孔徑雷達圖像數據獲取上，從而解決了海量數據的采集和存儲問題，顯著降低了衛星圖像處理的計算代價。另外，壓縮傳感技術也可以應用于醫學成像領域，如稀疏核磁共振成像、壓縮感知三維磁共振波譜成像等等。
3.2 模擬信息轉換
對于帶寬非常高的信號，比如雷達和通信信號處理系統涉及的射頻信號，根據奈奎斯特定理，要獲得完整的信號信息，所采用的模數轉換器必須具有很高的采樣頻率。然而由于傳感器及轉換硬件性能的限制，獲得的信號的帶寬要遠遠低于實際信號的帶寬，存在較大的信息的丟失。對此Kriolos等人設計了基于壓縮感知理論的模擬/信息轉換器，利用壓縮感知理論中測量信息可以得到完整信號的原理。首先獲得原始信號的線性測量，再利用后端數字信號處理器重構原始信號或者直接計算原始信號的統計數據等信息。Laska等人進一步發展了基于隨機采樣系統的模擬/信息轉換器，并給出了隨機抽樣系統的兩種實現模型：第一種模型采用多個并行低采樣率的模數轉換器，每個模數轉換器之間有等間隔的位移，通過隨機控制來自不同的模數轉換器的采樣，實現隨機采樣。然而這種方法卻需要多個模數轉換芯片，每個芯片利用率不太高。第二種模型采用一組電容和數字控制換向器隨機采樣，該系統只需要一個模數轉換芯片即可。
3.3 生物傳感
生物傳感中的傳統DNA芯片能平行測量多個有機體，但是只能識別有限種類的有機體，Sheikh等人運用壓縮感知和群組檢測原理設計的壓縮感知DNA芯片克服了這個缺點，壓縮感知DNA芯片中的每個探測點都能識別一組目標，從而明顯減少了所需探測點數量。此外，基于生物體基因序列稀疏特性，Sheikh等驗證了可以通過置信傳播的方法實現壓縮感知DNA芯片中的信號重構。
除此之外，壓縮感知理論還被應用于信號的檢測分類、數據的通信、無線傳感器網絡應用和地球物理數據的分析等眾多的領域。
3.4 本章小結
本章詳細描述了壓縮感知理論基本框架。壓縮感知理論是一個非常簡單有效的信號采集協議，它以較低采樣速率和獨立于信號的采樣方式采樣信號，然后又用強大的計算能力從看上去不完整的觀測集合中重構原信號。對壓縮感知理論實現的兩個前提要求——信號稀疏性及觀測矩陣和稀疏表示基之間滿足不相干性進行了詳細的論述，著重介紹了信號稀疏變換、觀測矩陣設計和重構算法三個方面的最新研究進展情況。
壓縮感知理論是近幾年剛剛興起的理論，但卻展現了強大的生命力引起了廣泛的關注，下面我們將對該理論的歷史和發展歷程做出介紹。
第4章 CS在無線傳感網中的應用?
前文我們已經對壓縮感知（CS）理論做了叫詳細的介紹，下面我將介紹將壓縮感知應用于無線傳感的優勢以及采用OMP算法，實現對一維信號和二維信號圖像的CS重構。
4.1 研究背景?
前面緒論中已經提到無線傳感網中的一些感知數據具有時間相關性和空間相關性，利用這種數據特點，人們可以對感知數據進行了壓縮處理。下面將介紹已有的基于相關性的數據壓縮技術，并闡明利用CS壓縮數據的優勢。?
4.1.1 基于感知數據相關性的壓縮?
利用傳感數據間的時間相關性，文獻[13]提出了節省一個傳感器節點內存和計算資源的無損壓縮算法。利用傳感數據間（相鄰傳感器節點在同一時刻所采集的數據之間）的空間相關性，文獻[17]提出了在多層架構中，運用多重主成分分析法（Multiple Principal Component Analysis, MPCA）去除了普通節點間的數據相關性以及相鄰簇頭節點主成分之間的相關性，而文獻[26]則將近年提出壓縮感知算法運用到基于分簇的傳感網數據壓縮中，降低了傳輸能耗。文獻[33]在時域和空間域提出了多分辨率和查詢（Multiresolution Compression and Query, MCQ）架構，用離散余弦變換和差分編碼技術來降低數據冗余度，延長網絡壽命。但是這些算法并沒有綜合考慮時間相關性和空間相關性，文獻[46]將融合了這兩種相關性的分布式信源編碼運用到傳感網的數據壓縮中。在一些分布式編碼算法中，需要進行傳感器節點間的信息交換，傳輸這些信息需要消耗能量，因此，文獻[13,22]提出了基于聯合稀疏模型的分布式壓縮感知算法，既采用了兩種相關性，又不需要傳感器節點之間交換信息，而且能夠大大降低所需要傳輸的測量值的數目，在此基礎上，文獻[21]還利用貝爾實驗室所采集的實際數據進行了仿真驗證。另外文獻[26]在分布式架構的基礎上利用小波提升算法來壓縮數據，而文獻[23]則優化了簇內信息的交換，此外，文獻[25]也都各自闡述了相應的數據壓縮技術。?
4.1.2傳統壓縮重構方法
信號壓縮一般是通過改變信號的表示方式來實現的，所以壓縮和編碼也是分不開的。信號壓縮的分類方法根據不同的原理大致可以分為兩種。首先根據編碼的原理和處理的空間域的不同可以將圖像壓縮方法分為在空間域和變換域編碼表示這兩大類。
（1）空間域處理方法
空間域處理方法是指直接在圖像所在的空間對圖像進行壓縮處理。包括點處理方法(基于像素)和模塊處理方法(基于模板)?？臻g域處理方法的特點是具有較強的實時處理能力，但缺點是壓縮比不太高。
（2）變換域處理方法
變換域處理方法是指圖像編碼在圖像的某個變換域中進行處理。將圖像從空間域變換到一個變換域來進行描述。圖像經過變換之后去掉了像素之間的相關性，而且此時能量比較集中，比較有助于后續進一步的壓縮處理；在變換域對圖像進行處理的效果會比直接在空間域處理的效果要好。變換域編碼處理的優點是抗信道誤碼的能力較強，缺點是算法較復雜，對硬件設備技術要求較高，成本相對較高。常用的圖像變換處理方式有：離散傅里葉變換(Discrete FourierTransfrom，DFT)，離散余弦變換(Discrete Cosine Transform，DCT)，離散沃爾什—哈達瑪變換(Walsh-Hadamard)，還有近些年來發展起來的小波變換等。
變換域編碼的流程圖如圖4.1所示：
4.1.3 圖像壓縮重構質量的評價
1.主觀評價方法
圖像的最終接收者是人。所以，圖像質量的好壞一般取決于人的主觀判斷。人眼是圖像壓縮重構后質量主觀評價的工具。主觀畫質評價的實驗方法有很多。例如：多用于圖像閾值評價的調整法、極限法和恒值法。還有根據圖像系統的各種物理心理因素有著一定關系的評價方法，如：排序法、評定尺度法、序列范疇法、配對比較法、謝菲配對比較法等。其中主觀評價利用度較高、應用范圍較廣的是評定尺度法，該方法是給已排好順序的范疇分別定一個相應的分數，用這個分數值來表達所評價對象的好壞程度。例如，將“非常不好”、“不好”、“一般”、“好”、“非常好”這五種范疇分別定為1，2，3，4，5 分，就可以以這個評價尺度上的數值為心理尺度來按照線性能否保證、能否估計等方式來評價。評價尺度如表4.1 所示：
評價得分?? ?畫質好壞程度?? ?畫質失真效果
5?? ?非常好?? ?感覺不到失真
4?? ?好?? ?感覺到失真，但沒有不舒服感覺
3?? ?一般?? ?稍有感覺到不舒服
2?? ?較差?? ?不舒服
1?? ?差?? ?非常不舒服的感覺
2.客觀評價方法
所謂的客觀評價方法，就是先定義一個數學公式，然后通過運算，得到一個數字量作為評測結果，這個方法經常被用于評價圖像的失真程度。圖像壓縮編碼的好壞一般有這樣幾個量來表征：
（1）壓縮比CR(Compression Ratio)
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? （式4.1）
其中B代表圖像壓縮前所含的比特數， 代表圖像壓縮后所含的比特數。
每個像素所占的比特數又被稱之為比特率，單位是bit/s，它是刻畫壓縮技術或系統的一個重要的性能指標。
（2）圖像壓縮編解碼速度和所需要的時間
（3）峰值信噪比PSNR
? ? ? ? ? ? ? ? ? ?（式4.2）
式中L代表圖像的灰度值的量化級數，例如對于8比特的量化，L=255，MSE 則代表歸一化處理后的均方誤差，它的定義形式為：
? ? ? ? ? ?（式4.3）
其中M × N 代表圖像的尺寸大小，Ψ(x, y)、Ψ’ (x, y)則分別代表原圖像和壓縮重建后圖像在點(x, y)處的灰度值。
一般來說，PSNR值是對圖像重構質量客觀評價的一個很重要的指標。通常情況下，當圖像的PSNR值超過30dB 時，人們便很難從主觀視覺感覺上找出重構后圖像與原始圖像之間的差異。應該注意的是，MSE和PSNR是從總體上來反映原始圖像和重構圖像的差別的，并不能反映局部的差別。有時候在同樣的信噪比條件下，視覺效果還是會存在一定的差異，這主要還是由于誤差的均勻程度所造成的。一般來講，誤差均勻時視覺效果較好，反之視覺效果不理想。所以大多數情況下，我們都可以用PSNR值來對圖像的質量進行客觀的評價，但有時候其結果可能會與主觀評價結果不太相符。
4.2 壓縮感知理論算法對一維信號的實現
正如本章引言中所提出，壓縮感知理論突破了傳統的乃奎斯特采樣定理，將信號或圖像的采樣和壓縮結合成一起，避免了傳統的高速采樣再壓縮過程中大量采樣資源的浪費。從而有效地減少了采樣系統的復雜度，降低了系統成本，并且加快了信號和圖像的重構速度。
下面我們將重點介紹基于貪婪迭代思想的正交匹配追蹤算法（OMP）是如何進行圖像的壓縮重構的。
4.2.1 CS用于WSN的優勢?
對于無線傳感器網絡來說，壓縮感知相對于普通的信息壓縮技術的最大優勢就在于壓縮率高，所需要的傳輸數據量小。緒論中提到無線傳感器節點的信息處理能力有限，使得無線傳感器網絡中的匯聚節點無法接收和處理太多的信息，從而導致匯聚節點只能處理少數傳感器節點所傳輸的信息，壓縮感知理論的應用，恰好使得匯聚節點能夠從這些少量的傳輸信息中得到整個網絡的情況。?
文獻中則詳述了CS算法用于傳感網絡的優點：?
（1）為任意的聯合稀疏信號群提供了一個通用編碼方法；?
（2）傳感節點之間完全不用合作，也就不需要有通信開銷；?
（3）由于計算復雜度幾乎都轉移到了收集點的解碼端，所以該算法可以在傳感節點上的最簡單的通信硬件上實施應用；?
（4）能夠容錯；對于測量和量化噪聲具有魯棒性，而且具有安全性；對于有損通信環節具有魯棒性；?
（5）能夠應用于一組傳感網絡信號的處理，可以用于信號的壓縮、預測、檢測和分類。?
4.2.2 觀測重構模型?
在本章中，將采用OMP算法進行傳感網中感知數據的重構。首先，根據第二章的介紹，得到基于OMP的模型圖，如圖4.2所示。?
?
在上圖中，Xj(j {1,2,...J})是第j個節點的原始感知數據（長度為N），在各自的節點處經過計算得到相應的模擬測量值矢量Yj(j {1,2...J})（長度為M）,這些模擬測量值經過無線傳感網傳輸到簇頭節點之后，在簇頭節點集中進行量化編碼得到量化的測量值矢量Yj’(j {1,2...J})，并再次通過無線傳感網傳輸到sink節點，最后在sink節點利用OMP算法對每一個測量值矢量進行獨立的解碼恢復，得到重構后的信號Xj’(j {1,2,...J})。
4.2.2 正交匹配追蹤算法（OMP）
匹配追蹤算法是一種貪婪迭代算法，該算法的思想是在每次迭代過程中，首先從原子庫中選擇與信號最為匹配的原子，并同時求出原始信號并表示殘差，再選擇和信號殘差最為匹配的原子，再經過一定數目的迭代過程之后，原始信號便可以由一些原子線性地表示出來。該算法的流程如圖4.3所示。
?
OMP算法法繼續沿用匹配追蹤算法中的原子選擇的準則，然后通過遞歸地對原子集合進行正交化的處理從而保證了迭代的最優性，這樣便大大減少了迭代的次數。對K稀疏N維離散時間信號x，采用M×N 維高斯矩陣觀測，一般只需要M = O(K ln N)的代價。OMP算法能夠高概率重構原始信號，而且該算法的速度比l 范數算法的速度更快。但是，該算法能夠精確重構原始信號的理論保證卻比l 范數算法要弱，而且并非對所有的信號都能夠非常準確地重構，它對于觀測矩陣的要求也比較嚴格。
4.2.3 算法的實現及結果分析
為了實現壓縮感知理論對信號的重建， 本文選取一維正弦波疊加測試信號： ，采樣頻率 ，采樣間隔 ，采樣序列為 ，則原信號為： ，其中信號長度N選取256。首先對一維測試信號進行離散傅里葉正交變換，得到它在傅里葉變換域的稀疏表示形式。然后選取M × N 維的隨機高斯分布的白噪聲矩陣作為觀測矩陣。因為壓縮感知理論要求觀測值的長度一般要達到信號重要分量即信號稀疏度大小的四倍才能近乎完美重構，即要求M ≈ 4K 或 ?。信號的重構算法選取壓縮感知理論工程領域應用最多的正交匹配追蹤算法。
該算法的流程框圖如圖4.3所示。具體算法實現步驟如下所示：
（1）在MATLAB 中生成M×N維的高斯隨機分布白噪聲觀測矩陣Φ=randn(M, N)，并通過與原信號相乘獲得原信號的M個線性測量值s = Φx，其中 ；
（2）在MATLAB 中生成傅里葉正交變換矩陣Ψ = fft(eye(N, N))/ sqrt(N) 其中
?，原信號x通過傅里葉正交變換得到變換域向量y = Φx，反變換則得到重構信號 ，其中 是待求變換域向量，是K項稀疏的。令恢復矩陣 ，則約束等式 可改寫成 。因為 中未知數有N 個，方程只有M 個，且M<<N。因此，該方程有無窮多解。而由于 是K 稀疏的，K<M，所以該方程有確定解；
（3） 先假設稀疏度K=1，則在 向量中，唯一非零元素 在 中對應的位置為q，于是 便是恢復矩陣T的第q列 與 中的非零元素 的乘積， 即
?， 且 ，其中δ 是一個小的常數。換句話說，T 的
第q列與s的相似程度最高，即可以得?
，所以只要求恢復矩陣T 的所有列與s的內積，找到內積絕對值最大的那列即可。該列對應的位置即為q；
（4）根據最小二乘法，可得 ，此時， 最小。
計算余量，始終與 正交；
（5）對于本實驗中K>1,再繼續找到余量 與T 中所有列向量最大的值即可（但第一次找到的那列要排除，因為已將它保留），即找到使的那列要排除，因為已將它保留）。
（6）令 ，則余量 ?被更新為：
（7）重復以上步驟，直至找到變換域所有K 個重要的分量。其中迭代次數要求m ≥ K ，當滿足條件： ，迭代終止，此時便得到重構的譜域向量y^。本實驗中，為留有余量，迭代次數m從K至2K之間也選取了多個不同值進行測試。
（8）做傅里葉逆變換重構得到時域向量 。
由此可將主程序分以下為四個模塊（圖4.4）：
（1）信號輸入模塊，本模塊完成一維信號的輸入和參數的設定，參數有主要有稀疏度K和測量數M等；
（2）稀疏表示模塊，將信號x稀疏表示；
（3）OMP重構信號模塊，本模塊完成對信號的降維投影和重構；
（4）信號輸出模塊，本模塊輸出原始信號x和重構信號x^。
程序流程圖如圖4.5：
在 MATLAB7.0 實驗平臺下，為驗證高概率重構原始信號所需觀測值M的大小，本文選取了不同M值的觀測矩陣對原信號進行觀測采樣，得到了不同的重構效果。不同M值的選取所得到重構誤差如表4.2所示。
M值?? ?10?? ?15?? ?20?? ?25
重構誤差?? ?1.8051?? ?1.2772?? ?1.0908?? ?0.6689
M值?? ?30?? ?40?? ?50?? ?64
重構誤差?? ?7.0638e-014?? ?6.9980e-014?? ?7.7848e-014?? ?5.9400e-014
從表4.2 可以看出當觀測值M的大小超過30時，重構誤差在e-14數量級，從圖4.6 也可以看出重構信號與原始信號非常接近，重構效果較好。而當M值較小時，重構誤差較大，從圖4.7也可以看出重構效果不理想。這也驗證了壓縮感知理論要求觀測值的長度一般要達到信號重要分量四倍左右才能近乎精確重構這一條件要求。
在實驗過程中，并不是每次相同的觀測值都會重構出相同誤差值的信號，因為我們采用的是高斯隨機觀測矩陣。而且會出現經過多次以較小的M值（如20）進行運算后也能得到高精度的信號，但經過多次的實驗表明，對一維測試信號，當觀測值的長度達到信號重要分量即信號稀疏度四倍（M ≈ 4K ）或 時重構效果較為理想。算法性能較為穩定。這些也充分說明了該算法對維數較低的小尺度信號的重構效果較為理想，重構速度也較快。
?
?
4.3 壓縮感知理論算法對二維圖像重構的實現
4.3.1 基于小波變換的分塊壓縮感知理論
由前面內容可以得知：壓縮感知圖像重建是利用圖像在某個變換域具有稀疏表示的先驗知識來完成的。而大部分圖像本身卻并不是稀疏的，一般都是通過某種稀疏變換進行稀疏表示的?，F在的實際圖像則常采用離散余弦變換和小波變換等非冗余的正交變換來進行表示。
由于對圖像進行小波變換之后小波系數的稀疏性，本文通過對測試圖像進行小波稀疏變換，得到稀疏的小波系數矩陣；然后通過設計合適的觀測矩陣對小波變換后的稀疏小波系數進行觀測，得到數據量遠小于原信號或圖像維數N 的M 個觀測值；最后通過采用合適的重構算法即求解一個基于嚴格的數學最優化問題來重構出小波變換域下的稀疏小波矩陣，從而得到重構后的圖像。該方法的處理流程如圖4.8所示：
?
4.3.2 實現步驟
本文分別選取不同特性的兩幅標準測試圖像：大小為256×256的lena 圖像、大小為256×256的rice圖像，采用上述壓縮感知方法對分別在不同的采樣率下對圖像進行變化重構。具體實現步驟如下所示：
（1）選取大小為N×N的測試圖像X，根據測試圖像的大小進行適當的分塊，把原始圖像數據分成適當大小的不同塊，如8×8塊，16×16塊，32×32等；
（2）對每個子塊進行離散余弦變換，以得到它在變換域的變換系數；
（3）然后對變換域的系數進行量化處理，構成一個系數矩陣；
（4）對每個數據塊單元的稀疏變換系數用Z（Zigzag）行掃描將其變成一維的數列，以有利于后面的熵編碼步驟；
（5）對系數矩陣的直流（DC）、交流（AC）系數進行編碼。
（6）解碼重構圖像，計算峰值信噪比psnr
（式4.4）
其中，MSE 代表歸一化處理后的均方誤差，其計算公式為：
（式4.5）
整個編解碼流程可以歸納為以下幾個步驟：
（1）首先像素大小為X = N×N的圖像均勻分成互不覆蓋大小為B×B的子塊 ，i=1,2,…,n，?
（2）對每個塊進行二維DCT 變換以得到它在變換域的系數表示形式，然后對變換域的系數進行量化Z行掃描以得到變換域系數稀疏矩陣的一維數列形式。
? ?（3）設計維數為 的高斯隨機觀測矩陣 ，對量化掃描后的變換域系數進行觀測采樣得到長度為 的觀測值向量 。對i子塊的整個采樣過程可表示為： ? ? ? ? ??
（式4.6）
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
式中 代表量化算子，Τ(?)是指二維離散余弦變換算子， 則是序列長度為
?的觀測采樣向量。
? ?（4）定義 為一個子塊的采樣算子，則整幅圖像的等價采樣矩陣可寫成一個基于采樣算子 的對角矩陣Φ
（式4.7）
（5）重構算法可以通過求解一個基于范數的最小優化問題解決：
目標函數： ? ? ?且滿足等式約束： ? ? （式4.8）
其中 ，s′是s的近似估計。
根據以上步驟，我們將程序分為五個模塊（圖4.9）：?
（1）輸入模塊。本模塊完成圖像的輸入和參數的設定；
（2）CS壓縮感知模塊。本模塊將輸入圖像進行DCT稀疏變換，降維投影，壓縮編碼；
（3）OMP解碼重構模塊。本模塊將壓縮后的信號解碼重構；
（4）誤差計算模塊。本模塊計算重構圖像與原始圖像的psnr值和mse值；
（5）輸出模塊。本模塊完成重構圖像和各結果參數的輸出。
主程序流程圖如圖4.10：
?
CS壓縮編碼子程序流程圖如圖4.11：
?
OMP重構子程序如圖4.12：?
4.3.3 重構結果及分析
首先我們令分塊都為8×8不變，通過選取大小不同的觀測矩陣，即在不同的觀測長度下，研究采樣率對重構效果和重構時間的影響。本實驗所選取的觀測長度M分別為16、32、64、128。
重構效果如圖4.13和圖4.14所示。
? ?
??
? ? ?
過重構效果圖可以看出，圖像的質量隨著采樣率的增加而顯著提高，當采樣率較低時，采樣信息不能包含圖像的所有有效信息，重構會出現很多誤差，甚至根本不能實現重構。在實驗過程中對于不同稀疏度的圖像重構的效果也是不一
樣的，重構的時間也相同。當采樣率太低而重構算法不能有效進行時，重構時間會特別長，而重構效果也不好。表4.4 給出了在不同的測量值M下，該方法對兩幅圖像重構所用重構時間、PSNR（峰值信噪比）、MSE（均方差）的對比。
?? ?觀測長度M?? ?Psnr（dB）?? ?MSE?? ?重構時間（s）
lena?? ?16?? ?NaN?? ?NaN?? ?41.30
?? ?32?? ?24.3720?? ?1.5572e+007?? ?20.03
?? ?64?? ?33.2605?? ?2.0114e+006?? ?24.36
?? ?128?? ?37.2576?? ?8.0131e+005?? ?27.43
coins?? ?16?? ?NaN?? ?NaN?? ?21.49
?? ?32?? ?24.2518?? ?1.6010e+007?? ?10.54
?? ?64?? ?33.0032?? ?2.1342e+006?? ?12.86
?? ?128?? ?37.5355?? ?7.5164e+005?? ?14.66
從表4.3可以看出：當測量數增加時，重構圖像的PSNR值有明顯的提高，重構效果也相應增強，但當測量數偏低，如測量數為16時，PSNR值明顯過低，重構效果很差。這也說明當采樣率過低時，該算法的性能很低，達不到壓縮感知重構算法的要求。但當采樣率較高時，雖然重構圖像的效果和PSNR值較高，但整個重構過程所花費的時間也隨之增長。重構所需要的觀測值數量較多的話，便體現不了壓縮感知理論對信號重構所需要的低采樣率的優勢。所以該算法的性能還需得到進一步的改進和優化。
上面我們只是在8×8分塊的情況下運行算法進行圖像重構，如果將圖像分塊為16×16時，會有什么效果呢？下面我們給出16×16分塊下，圖像cameraman和rice的重構效果圖并做出結果分析。
重構效果如圖4.15和圖4.16所示。
? ?
??
? ? ?
通過實驗分析可得采用不同分塊重構效果的性能參數的比較如表4.4和表4.5所示：
lena?? ?分塊（8×8）?? ?分塊（16×16）
測量值M?? ?PSNR（dB）?? ?重構時間（s）?? ?PSNR（dB）?? ?重構時間（s）
16?? ?NaN?? ?41.30?? ?NaN?? ?11.57
32?? ?24.3720?? ?20.03?? ?17.9850?? ?6.03
64?? ?33.2605?? ?24.36?? ?20.9283?? ?7.32
128?? ?37.2576?? ?27.43?? ?25.0834?? ?8.72
coins?? ?分塊（8×8）?? ?分塊（16×16）
測量值M?? ?PSNR（dB）?? ?重構時間（s）?? ?PSNR（dB）?? ?重構時間（s）
16?? ?NaN?? ?21.49?? ?NaN?? ?6.88
32?? ?24.2518?? ?10.54?? ?17.3982?? ?3.38
64?? ?33.0032?? ?12.86?? ?21.1624?? ?4.31
128?? ?37.5355?? ?14.66?? ?25.9449?? ?5.03
通過重構效果圖可以很明顯的看出，隨著測量數的增加，重構效果明顯增強，重構圖像的信噪比PSNR值也隨之提高。而從不同分塊的效果圖以及表4.5和表4.6中的數據可以得出，對于相同的采樣數，隨著分塊大小的減小，圖像的重構效果會有很大的提高，但重構時間則會隨之增加。分塊16×16的重構時間比分塊8×8的重構時間少的多，但相應的其重構質量卻大為下降。如何構造穩定的、計算復雜度較低的、對觀測次數較少的重構算法來精確的恢復可壓縮信號，將是未來壓縮感知的一個重要的研究方向。
4.4 本章小結
本章說明了壓縮感知/分布式壓縮感知用于無線傳感網的優勢。重點對基于變換域處理的圖像壓縮方法做了詳細的研究，在此基礎上實現了小波變換編解碼對一維信號和二維圖像的變換重構。在離散傅里葉變換和小波變換的基礎上，采用壓縮感知理論框架的正交匹配追蹤算法實現了對一維信號和二維圖像的高概率重構，通過實驗結果分析對其進行了重構效果的主客觀評價。
第5章 總結與展望
5.1 工作總結?
利用信號的稀疏特性，壓縮感知理論將傳統的基于奈奎斯特采樣定理的信號采樣過程轉化為基于優化準則恢復信號的觀測過程，省去了高速采樣過程中獲得大批冗余數據然后再舍去大部分無用數據的中間過程，從而有效緩解了高速采樣實現的壓力，減少了處理、存儲和傳輸的成本，使得用低成本的傳感器將模擬信息轉化為數字信息成為可能。 在壓縮感知理論上，結合分布式信源編碼技術，得到適合分布式網絡數據處理的分布式壓縮感知理論。在分布式壓縮感知理論的框架下，分析了適合不同特點的感知數據的三種模型。 本文的研究工作主要是在介紹上述理論的基礎上，首先，將用于壓縮感知理論的OMP算法與用于傳統算法在處理多信號的測量速率、信號平均信噪比等性能上作了比較，并首次分析了在多信號情況下，這兩種算法平均處理單個信號所需要的時間復雜度。接著，將上述兩種算法用于無線傳感網中的實際的感知數據，結果表明OMP算法在不增加終端編碼復雜度的情況下，更能夠顯著降低傳輸的測量速率，從而節省傳感器節點的能量消耗，但是它對于量化比特數的影響更為敏感。?
5.2 后續展望?
由于自身能力和時間的限制，本文所做的研究工作還不是十分完善，有待進一步改進，今后可以從以下幾個方面進行深入的探討和研究：?
（1） 本文中直接采用了固定的稀疏基、測量矩陣以及信號重建算法，以后可以根據實 際感知數據的分布情況，選擇最合適的搭配方式。?
（2） 本文僅僅對OMP算法和傳統小波算法的時間復雜度作了簡單比較，下一步可以研究如何有效降低這兩種算法復雜度（包括空間復雜度），并且可以在綜合考慮測量速率和復雜度的基礎上提出折中方案。?
（3） 將壓縮技術和路由策略相結合，進一步降低網絡中的能量消耗。?
參考文獻
[1] E Candes. Compressive sampling. Proceedings of the International Congress of Mathematicians. Madrid, Spain, 2006, 3: 1433~1452.
[2] E Candes, J Romberg, Terence Tao. Robust uncertainty principles: Exact signal reconstruction from highly incomplete frequency information [J]. IEEE Trans. on Information Theory, 2006,52(2): 489~509.
[3] E Candes and J Romberg. Quantitative robust uncertainty principles and optimally sparse decompositions [J]. Foundations of Comput Math, 2006, 6 (2): 227~254.
[4] D L Donoho. Compressed sensing [J], IEEE Trans. on Information Theory. 2006,52 (4):1289~1306.
[5] E J Candes, J Romberg. Practical signal recovery from random projections[OL].
http://www.acm.caltech.edu/~ emmanuel/papers/Practical Recovery.pdf.
[6] D L Donoho, Y Tsaig. Extensions of compressed sensing [J]. Signal Processing.
2006,86(3):533~548.
[7] B Kashin. The widths of certain finite dimensional sets and classes of smooth functions[J]. Izv Akad Nauk SSSR. 1977,41(2):334~351.
[8] E J Candes and T Tao. Near optimal signal recovery from random projections: Universal encoding strategies[J]. IEEE Trans. Info. Theory.2006,53(12):5406~5425.
[9] Mallat S. A Wavelet Tour of Signal Processing. San Diego: Academic Press,1996
[10] Candes E, Donoho D L. Curvelets-A Surprisingly Effective Nonadaptive Representation for Objects with Edges, Technical Report 1999-28, Department of Statistics, Stanford University,USA, 1999.
[11] Sun Yu-Bao, Xiao Liang, Wei Zhi-Hui, Shao Wen-Ze. Sparse representations of images by a multicomponent Gabor perception dictionary. Acta Automatica Sinica,2008,34(11): 1379~1387.
[12] Aharon M, Elad M, Bruckstein A M. The K-SVD: an algorithm for designing of overcomplete dictionaries for sparse representations. IEEE Transactions on Image Processing, 2006,54(11):4311~4322.
[13] Rauhut H, Schnass K, Vandergheynst P. Compressed sensing and redundant dictionaries. IEEE Transactions on Information Theory, 2008,54(5): 2210~2219.
[14] Candes E, Romberg J. Sparsity and incoherence in compressive sampling. Inverse Problems,2007,23(3): 969~985.
[15] G Peyre. Best Basis compressed sensing[J]. Lecture Notes in Computer Science, 2007,4485:80~91.
[16] 彭玉華.小波變換與工程應用,第一版. 北京:科學出版社,1999.
[17] 趙松年,熊小蕓.子波變換與子波分析，第一版. 北京:電子工業出版社,1996.
[18] 陳逢時子波變換理論及其在信號處理中的應用,第一版. 北京:國防工業出版社,1998.
[19] 楊帆. 基于Contourlet 變換的圖像去噪算法研究. 碩士學位論文. 北京交通大學信息科學研究所. 2007. P4~6: 27~30.
[20]陳超.MATLAB應用實例精講—圖像處理與GUI設計篇.北京:電子工業出版社.2010.
[21]胡學龍.許開宇.數字圖像處理.北京:電子工業出版社.2006.20~153
[22]王正林.精通MATLAB7.北京:電子工業出版社.2006.IEEE,2007.141~144.
[23]董長虹.MATLAB圖像處理與應用.北京：國防工業出版社.2003SPIE, Bellingham, WA: SPIE, 2008, 68140J-12.?
[24] 沙威.壓縮感知引論[OL].[2008]. http:// www. eee. hku/ ~wsha/ Freecode/ Files/ Compressive Sensing. Pdf.?
[25] 胡海峰，楊震. 無線傳感網中基于空間相關性的分布式壓縮感知. 南京郵電大學學報（自然科學版, 2009, 29(6): 12-16.?
[26] 魏永紅, 李科杰. 層次拓撲結構的無線傳感器網絡能量模型. 計算機應用, 2010, 30(7): 1731-1735.?
總結
以上是生活随笔為你收集整理的基于MATLAB的图像压缩感知设计(含源文件)的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： linq 查出一条最大的记录_洛龙是最大
- 下一篇： python运势预测程序_Python