
压缩感知理论综述.docx
11页压缩感知理论综述摘要:信号采样是模拟的物理世界通向数字的信息世界之必备手段多年来,指导信号采样的理论基础一直是著名的Nyquist采样定理,但其产生的大量数据造成了存储空间的浪费压缩感知(CompressedSensing)提出一种新的采样理论,它能够以远低于Nyquist采样速率采样信号本文详述了压缩感知的基本理论,着重介绍了信号稀疏变换、观测矩阵设计和重构算法三个方面的最新进展,并介绍了压缩感知的应用及仿真,举例说明基于压缩感知理论的编解码理论在一维信号、二维图像处理上的应用关键词:压缩感知;稀疏表示;观测矩阵;编码;解码一、引言Nyquist采样定理指出,采样速率达到信号带宽的两倍以上时,才能由采样信号精确重建原始信号可见,带宽是Nyquist采样定理对采样的本质要求然而随着人们对信息需求量的增加,携带信息的信号带宽越来越宽,以此为基础的信号处理框架要求的采样速率和处理速度也越来越高解决这些压力常见的方案是信号压缩但是,信号压缩实际上是一种资源浪费,因为大量的不重要的或者只是冗余信息在压缩过程中被丢弃从这个意义而言,我们得到以下结论:带宽不能本质地表达信号的信息,基于信号带宽的Nyquist采样机制是冗余的或者说是非信息的。
于是很自然地引出一个问题:能否利用其它变换空间描述信号,建立新的信号描述和处理的理论框架,使得在保证信息不损失的情况下,用远低于Nyquist采样定理要求的速率采样信号,同时又可以完全恢复信号与信号带宽相比,稀疏性能够直观地而且相对本质地表达信号的信息事实上,稀疏性在现代信号处理领域起着至关重要的作用近年来基于信号稀疏性提出一种称为压缩感知或压缩采样的新兴采样理论,成功实现了信号的同时采样与压缩简单地说,压缩感知理论指出:只要信号是可压缩的或在某个变换域是稀疏的,那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上,然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号,可以证明这样的投影包含了重构信号的足够信息在该理论框架下,采样速率不再取决于信号的带宽,而在很大程度上取决于两个基本准则:稀疏性和非相干性,或者稀疏性和等距约束性事实上,压缩感知理论的某些抽象结论源于Kashin创立的范函分析和逼近论⑺,最近由CandeS3],Romberg[4],Tao⑹和Donoho⑼等人构造了具体的算法并且通过研究表明了这一理论的巨大应用前景目前国内已经有科研单位的学者对其展开研究。
如西安电子科技大学课题组基于该理论提出采用超低速率采样检测超宽带回波信号[11]0显然,在压缩感知理论中,图像/信号的采样和压缩同时以低速率进行,使传感器的采样和计算成本大大降低,而信号的恢复过程是一个优化计算的过程.因此,该理论指出了将模拟信号直接采样压缩为数字形式的有效途径从理论上讲任何信号都具有可压缩性,只要能找到其相应的稀疏表示空间,就可以有效地进行压缩采样当前,压缩感知理论主要涉及三个核心问题:(1) 具有稀疏表示能力的过完备字典设计;(2) 满足非相干性或等距约束性准则的测量矩阵设计;(3) 快速鲁棒的信号重建算法设计压缩感知理论必将给信号采样方法带来一次新的革命这一理论的引人之处还在于它对应用科学的许多领域具有重要的影响,如统计学、信息论、编码[8]等目前,学者们已经在模拟-信息采样、合成孔径雷达成像、遥感成像、核磁共振成像、深空探测成像、无线传感器网络、信源编码、人脸识别、语音识别、探地雷达成像等诸多领域对压缩感知展开了广泛的应用研究Rice大学已经成功设计出了一种基于压缩感知的新型单像素相机,在实践中为取代传统相机迈出了实质性的一步本文围绕稀疏字典设计、测量矩阵设计、重建算法设计三个核心问题,综述了压缩感知理论以及与之相关的信号稀疏变换、观测矩阵设计、重构算法等一系列最新理论成果和应用研究,描述了国内外的研究进展。
本文结构安排如下:第2部分阐述了压缩感知的理论框架;第3部分系统介绍了压缩感知的三个核心问题,即信号的稀疏表示、信号的观测矩阵、信号重构算法;第4部分指出压缩感知有待解决的若干关键问题;第5部分介绍了压缩感知的应用及仿真;第6部分对全文作了总结二、压缩感知理论框架传统的信号采集、编解码过程如图I所示:编码端先对信号进行采样,再对所有采样值进行变换,并将其中重要系数的幅度和位置进行编码,最后将编码值进行存储或传输:信号的解码过程仅仅是编码的逆过程,接收的信号经解压缩、反变换后得到恢复信号采用这种传统的编解码方法,由于信号的采样速率不得低于信号带宽的2倍,使得硬件系统面临着很大的采样速率的压力此外在压缩编码过程中,大量变换计算得到的小系数被丢弃,造成了数据计算和内存资源的浪费编码端采样一解接收数据囂十丽缩「反变换恢复信号X图1传统编解码理论的框图压缩感知理论对信号的采样、压缩编码发生在同一个步骤,利用信号的稀疏性,以远低于Nyquist采样率的速率对信号进行非自适应的测量编码测量值并非信号本身,而是从高维到低维的投影值,从数学角度看,每个测量值是传统理论下的每个样本信号的组合函数,即一个测量值已经包含了所有样本信号的少量信息。
解码过程不是编码的简单逆过程,而是在盲源分离中的求逆思想下利用信号稀疏分解中已有的重构方法在概率意义上实现信号的精确重构或者一定误差下的近似重构[3]解码所需测量值的数目远小于传统理论下的样本数稀疏信号x』测量编码解接收数据恢复信号码v-一-*解码重构——*v端丫A图2压缩感知理论的编解码框图三、压缩感知的基本理论及核心问题假设有一信号f(fRN),长度为N,基向量为养1(i=1,2,…,N),对信号进行变换:Nfvall或f-?i二显然f是信号在时域的表示,:是信号在?域的表示信号是否具有稀疏性或者近似稀疏性是运用压缩感知理论的关键问题,若(1)式中的〉只有K个是非零值(N..K)者仅经排序后按指数级衰减并趋近于零,可认为信号是稀疏的信号的可稀疏表示是压缩感知的先验条件在已知信号是可压缩的前提下,压缩感知过程可分为两步:设计一个与变换基不相关的MN(M「::N)维测量矩阵对信号进行观测,得到M维的测量向量1) 由M维的测量向量重构信号3.1信号的稀疏表示文献[4]给出稀疏的数学定义:信号X在正交基?下的变换系数向量为心-宇Tx,假如对于0:::p:::2和R0,这些系数满足:12『「I如VRi则说明系数向量。
在某种意义下是稀疏的•文献[1]给出另一种定义:如果变换系数3•的支撑域{i;„0}的势小于等于K,则可以说信号X是K项稀疏如何找到信号最佳的稀疏域?这是压缩感知理论应用的基础和前提,只有选择合适的基表示信号才能保证信号的稀疏度,从而保证信号的恢复精度在研究信号的稀疏表示时,可以通过变换系数衰减速度来衡量变换基的稀疏表示能力Cande列Tao研究表明,满足具有幕次(power-law)速度衰减的信号,可利用压缩感知理论得到恢复最近几年,对稀疏表示研究的另一个热点是信号在冗余字典下的稀疏分解.这是一种全新的信号表示理论:用超完备的冗余函数库取代基函数,称之为冗余字典,字典中的元素被称为原子.字典的选择应尽可能好地符合被逼近信号的结构,其构成可以没有任何限制•从从冗余字典中找到具有最佳线性组合的K项原子来表示一个信号,称作信号的稀疏逼近或高度非线性逼近[12,13]目前信号在冗余字典下的稀疏表示的研究集中在两个方面:(1)如何构造一个适合某一类信号的冗余字典;(2)如何设计快速有效的稀疏分解算法•这两个问题也一直是该领域研究的热点,学者们对此已做了一些探索,其中以非相干字典为基础的一系列理论证明得到了进一步改进.西安电子科技大学的石光明教授也对稀疏表示问题进行了认真研究,并基于多组正交基级联而成的冗余字典提出一种新的稀疏分解方法[17]。
3.2信号的观测矩阵用一个与变换矩阵不相关的MN(Mi:N)测量矩阵••对信号进行线性投影,得到线性测量值y:y=f测量值y是一个M维向量,这样使测量对象从N维降为M维观测过程是非自适应的即测量矩阵少的选择不依赖于信号f测量矩阵的设计要求信号从f转换为y的过程中,所测量到的K个测量值不会破坏原始信号的信息,保证信号的精确重构由于信号f是是可稀疏表示的,上式可以表示为下式:其中0是一个MN矩阵上式中,方程的个数远小于未知数的个数,方程无确定解,无法重构信号但是,由于信号是K稀疏,若上式中的0满足有限等距性质(RestrictedIsometryProperty,简称RIP),即对于任意K稀疏信号f和常数■(0,1),矩阵0满足:2心|b2||f||2则K个系数能够从M个测量值准确重构RIP性质的等价条件是测量矩阵••和稀疏基7不相关目前,用于压缩感知的测量矩阵主要有以下几种:高斯随机矩阵,二值随机矩阵(伯努力矩阵),傅立叶随机矩阵,哈达玛矩阵,一致球矩阵等3.3信号的重构算法当矩阵满足RIP准则时压缩感知理论能够通过对上式的逆问题先求解稀疏系数:--rTx,然后将稀疏度为K的信号x从M维的测量投影值y中正确地恢复出来。
解码的最直接方法是通过10范数下求解的最优化问题:min||c(hs・tyaa从而得到稀疏系数的估计由于上式的求解是个NP—HARD问题而该最优化问题与信号的稀疏分解十分类似,所以有学者从信号稀疏分解的相关理论中寻找更有效的求解途径文献[10]表明,h最小范数下在一定条件下和I最小范数具有等价性,可得到相同的解那么上式转化为li最小范数下的最优化问题:minWlliistyCtli最小范数下最优化问题又称为基追踪(BP),其常用实现算法有:内点法和梯度投影法内点法速度慢,但得到的结果十分准确:而梯度投影法速度快,但没有内点法得到的结果准确[14]二维图像的重构中,为充分利用图像的梯度结构可修正为整体部分(TotalVariation,TV)最小化法由于l1最小范数下的算法速度慢,新的快速贪婪法被逐渐采用,如匹配追踪法(MP)和正交匹配追踪法(OMP)此外,有效的算法还有迭代阈值法以及各种改进算法四、有待研究的几个关键问题压缩感知经过近年来的迅猛发展,已基本形成了自己的理论框架,包括基础理论、实现方法和实际应用但是,压缩感知理论还有很多亟待解决的问题,为此本文列出了压缩感知有待解决的几个关键问题。
4.1基础理论层面基于非正交稀疏字典的压缩感知信号重建理论在等距约束性准则驱动的可压缩信号压缩感知定理中,关于稀疏字典B和测量矩阵①仅要求两者乘积©=①W满足RIP但是,测量矩阵设计部分关于压缩测量个数M的界定还额外附加了假设条件,即稀疏字典W是正交基当测量矩阵①依然通过三种方式生成,但是稀疏字典3不再正交时,©=①是否满足RIP?压缩测量个数M的下限是否不变?由于过完备的稀疏字典才能保证表示系数具有足够的稀疏性或衰减性,进而能够在减少压缩测量的同时保证压缩感知的重建精度,所以需要设计鲁棒的测量矩阵①使之与过完备稀疏字典依然满足RIP,同时需要重新估计压缩测量个数M的下限,这时所需的压缩测量定会减少1) 自然图像的自适应压缩感知信号重建理论虽然基于线性投影的压缩感知理论能够直接应用于自然图像这样的复杂高维信号,但是由于没有考虑到自然图像的固有特性,诸如结构多成分性、高阶统计性等,对于自然图像压缩采样本身没有特殊的指导作用事实上,相对于一维离散信号,自然图像的复杂性和高维性使之需要自适应的压缩采样和重建算法例如,基于图像多成分性的特点能够提高重建图像的峰值信噪比和视觉效果注意到,压缩感知理论的大部分文献中,测量矩阵①都是线性的且设计好的,不需根据观测信号自适应地变化。
对于自然图像,假如能。












