压缩感知——SP（subspace pursuit）重构算法前言翻译

压缩感知是一种採样方法，它和变换编码类似，后者被广泛用于涉及到大规模数据採样的现代通信系统中。变换编码将高维空间中的输入信号。转换成很低的低维空间中的信号。变换编码器的样例有著名的小波变换和普遍存在的傅立叶变换。

压缩感知技术将变换编码成功的用于可压缩信号或者是稀疏信号。将一个K稀疏N维离散时间信号x进行编码。是通过计算一个m维的測量向量y来完毕的，y是x的线性投影。这能够通过下式进行简洁表示：y=Phi*x。在这里，Phi代表一个m*N的矩阵，一般是在实数领域中。在这个框架中，投影基被如果成是不相关的，在这个基下，信号能够有一个稀疏表示。

虽然重构信号是一个欠定问题。信号稀疏性的先验使求解问题成为可能。CS理论中一个很著名的结果是能够使用优化的策略进行信号重构，方法是寻找最稀疏的信号使得y=Phi*x成立。

换句话说，重构问题能够归结为L0最优化问题。

在无噪的情况下。L0最优化只须要m=2K个随机投影就能重构出稀疏信号。不幸的是，L0最优化问题是一个NP-hard问题。这个问题引发了大量的CS 理论研究和实践，实践主要是环绕设计低计算复杂度的測量和重构算法。

Donoho和Candes等人的工作表明，CS重构确实是一个多项式时间问题，尽管是在多于2K次測量的约束条件下。这些发现表明不一定必须使用求解L0最优化问题进行重构。并且通过求解一个更简单的L1最优化问题，这能够通过线性规划问题。L1和L0在一定条件下是等价的，仅仅要測量矩阵满足一定的RIP条件。

虽然LP技术在设计重构算法中非常重要。可是它们的计算复杂度仍然非常高。非常难应用到非常多应用中。在这些样例中，对于高速解码算法的需求——最好是线性时间——是非常重要的，虽然不得不提高測量的个数。几种低复杂度的重构技术近期被提了出来，包含群測方法和基于置信传播的算法。

近期。一类迭代贪婪算法引起了人们的注意，由于这些算法的计算复杂度低。而且有较好的几何解释。

包含OMP 、ROMP和StOMP等。这些方法的基本出发点是迭代寻找未知信号的支撑集。在每次迭代中。向量x的一个或者多个坐标被选出来进行測试，測试的方法是计算正则化的測量向量和Phi的列之间的相关系数。假设被觉得是足够好，待选列逐步被选入到x的当前支撑集中。

追踪算法迭代进行这种步骤，直到正确支撑集中全部的坐标被选入到预计的支撑集中。

OMP策略的计算复杂度依赖于正确重构所须要的迭代次数：标准的OMP通常执行K次迭代，因此它的重构复杂度大约为O(KmN)（很多其它信息查看Section-IV
C）。这种计算复杂度比LP算法要低非常多。尤其是当信号的稀疏度K非常小的时候。可是。追踪算法没有和LP算法一样级别的重构性能保证。

为了保证OMP算法能恢复成功，要求Phi的随意两列之间的相关系数不超过1/2K。它由Gershgorin Circle定理证明，它比RIP的要求还要严格。ROMP算法能够重构出全部的K稀疏信号，要求Phi满足特定參数的RIP条件(delta_{2K}<=0.06/sqrt(log(K)))，它比普通的L1线性规划问题要求有更强的RIP条件，分母上多了一个sqrt(log(K))。

本文的主要贡献是提出了一种新的算法。称作子空间追踪算法（SP）。它有和LP算法类似的能够证明的重构性能。而且计算复杂度很低。这个算法既能够无噪和有噪的情况。在无噪情况下。假如矩阵Phi满足带有一定參数的RIP条件，那么SP算法能够准确重构出原始信号。

当測量不准却，或者信号不是严格稀疏的，重构失真有一个上界，这个上界与測量的常数倍数和摄动能量有关。

对于很稀疏的信号，K<=const*sqrt(N)，计算复杂度的上界是O(mNK)，当信号的稀疏度更小的时候，甚至能达到O(mNlog(K))。

原文：http://dsp.rice.edu/sites/dsp.rice.edu/files/cs/SubspacePursuit.pdf

转载请注明出处：http://blog.csdn.net/zhyoulun/article/details/41978129