初识压缩感知Compressive Sensing

压缩感知是近年来极为热门的研究前沿,在若干应用领域中都引起瞩目.最近粗浅地看了这方面一些研究,对于Compressive Sensing有了初步理解,在此分享一些资料与精华.本文针对陶哲轩和Emmanuel Candes上次到北京的讲座中对压缩感知的讲解进行讲解,让大家能够对这个新兴领域有一个初步概念. compressive sensing(CS) 又称 compressived sensing ,compressived sample,大意是在采集信号的时候(模拟到数字),同时完成对信号压缩…

压缩感知Compressive sensing（一）

compressive sensing(CS) 又称 compressived sensing ,compressived sample,大意是在采集信号的时候(模拟到数字),同时完成对信号压缩之意.中文的翻译成"压缩感知",意思变得至少不太好理解了. 数码相机镜头收集了大量的数据,然后再压缩,压缩时丢弃掉90%的数据.如果有CS,如果你的照相机收集了如此多的数据只是为了随后的删除,那么为什么不一开始就丢弃那90%的数据,直接去除冗余信息不仅可以节省电池电量,还能节省空间. 感知压缩难…

Real-Time Compressive Tracking，实时压缩感知跟踪算法解读

这是Kaihua Zhang发表在ECCV2012的paper,文中提出了一种基于压缩感知(compressive sensing)的单目标跟踪算法,该算法利用满足压缩感知(compressive sensing)的RIP(restricted isometry property)条件的随机测量矩阵(random measurement matrix)对多尺度(multiple scale)的图像特征(features)进行降维,然后通过朴素贝叶斯分类器(naive Bayes classifi…

压缩感知中的lp球：p范数最优化为什么总会导致一个稀疏的解的原因

转自:彬彬有礼. 压缩感知中的lp球:p范数最优化为什么总会导致一个稀疏的解的原因 http://blog.csdn.net/jbb0523/article/details/40268943 题目: 压缩感知中的lp球:p范数最优化为什么总会导致一个稀疏的解的原因 ================问题的引出================ 压缩感知中为了解释0范数或1范数最优化为什么总会导致一个稀疏解的原因在解释时经常使用lp球与直线的交点去解释,下面论文中就是这样子解释的: 戴琼海,付长军,…

[转] 中国压缩传感资源（China Compressive Sensing Resources）

昨天查压缩感知的资料,无意间看到一位浙大女神Rachel Zhang的博客,果断关注了.我感觉应该向她好好学习.下面转自她的CSDN博客.网址是http://blog.csdn.net/abcjennifer/article/details/7724360 一.引论与综述 1 石光明,刘丹华,高大化,刘哲,林杰,王良君,压缩感知理论及其研究进展,http://www.cqvip.com/qk/90131x/200905/30412489.html 2 李树涛,魏丹,压缩传感综述,http:/…

压缩感知“Hello World”代码初步学习

压缩感知代码初学实现:1-D信号压缩传感的实现算法:正交匹配追踪法OMP(Orthogonal Matching Pursuit) >几个初学问题 1. 原始信号f是什么?我采集的是原始信号f还是y = Af得到的y? 记原始信号为f,我们在sensor方得到的原始信号就是n*1的信号f,而在receiver方采集到的信号是y.针对y=Af做变换时,A(m*n )是一个随机矩阵(真的很随机,不用任何正交啊什么的限定).通过由随机矩阵变换内积得到y,我们的目标是从y中恢复f.由于A是m…

压缩感知重构算法之子空间追踪(SP)

SP的提出时间比CoSaMP提出时间稍晚一些,但和压缩采样匹配追踪(CoSaMP)的方法几乎是一样的.SP与CoSaMP主要区别在于“In each iteration, in the SP algorithm, only K new candidates are added, while theCoSAMP algorithm adds 2K vectors.”,即SP每次选择K个原子,而CoSaMP则选择2K个原子:这样带来的好处是“This makes the SP algorithm c…

浅谈压缩感知（二十四）：压缩感知重构算法之子空间追踪（SP）

主要内容: SP的算法流程 SP的MATLAB实现一维信号的实验与结果测量数M与重构成功概率关系的实验与结果 SP与CoSaMP的性能比较一.SP的算法流程压缩采样匹配追踪(CoSaMP)与子空间追踪(SP)几乎完全一样,因此算法流程也基本一致. SP与CoSaMP主要区别在于"Ineach iteration, in the SP algorithm, only K new candidates are added, while theCoSAMP algorithm adds 2K…

[Understanding] Compressive Sensing and Deep Model

低维模型与深度模型的殊途同归有助理解核心,陌生概念需要加强理解. 对于做机器学习,和做图像视觉的研究者来说,过去的十年是非常激动人心的十年.以我个人来讲,非常有幸接触了两件事情: 第一件是压缩感知(compressive sensing),高维空间的低维模型,利用其稀疏低秩的性质,带来一场图像处理的革命. 第二件就是大家非常熟悉的深度学习.今天我以视觉为例,探讨低维模型和深度模型如何为了一个共同的目的从两个完全对立的方向走到了一起. 从结果来看,压缩感知和深度学习都让我们能在像素级别处理图像的…

压缩跟踪Compressive Tracking

好了,学习了解了稀疏感知的理论知识后,终于可以来学习<Real-Time Compressive Tracking>这个paper介绍的感知跟踪算法了.自己英文水平有限,理解难免出错,还望各位不吝指正. 下面是这个算法的工程网站:里面包含了上面这篇论文.Matlab和C++版本的代码,还有测试数据.demo等.后面我再学习学习里面的C++版本的代码,具体见博客更新. http://www4.comp.polyu.edu.hk/~cslzhang/CT/CT.htm 之前自己稍微学习了下稀疏感知…

压缩感知重构算法之SP算法python实现

压缩感知重构算法之OMP算法python实现压缩感知重构算法之CoSaMP算法python实现压缩感知重构算法之SP算法python实现压缩感知重构算法之IHT算法python实现压缩感知重构算法之OLS算法python实现压缩感知重构算法之IRLS算法python实现 SP(subspace pursuit)算法是压缩感知中一种非常重要的贪婪算法,它有较快的计算速度和较好的重构概率,在实际中应用较多.本文给出了SP算法的python和matlab代码,以及完整的仿真过程. 参考文献:…

[综] Sparse Representation 稀疏表示压缩感知

稀疏表示分为 2个过程:1. 获得字典(训练优化字典:直接给出字典),其中字典学习又分为2个步骤:Sparse Coding和Dictionary Update:2. 用得到超完备字典后,对测试数据进行稀疏编码Sparse Coding,求出稀疏矩阵. 1. 训练字典的方法:MOD,K-SVD,Online ... MOD (Method of Optimal Direction): Sparse Coding其采用的方法是OMP贪婪算法; Dictionary Update采用的是最小二乘法…

使用方向变换（directional transform）图像分块压缩感知

论文的思路是先介绍分块压缩感知BCS,然后介绍使用投影和硬阈值方法的迭代投影方法PL,接着将PL与维纳滤波器结合形成SPL(平滑PL),并且介绍了稀疏表示的几种基,提出了两种效果较好的稀疏基:CT与DDWT,并且将PL中的硬阈值用bivariate shrinkage(双变量收缩)代替. BCS+SPL(PL+维纳滤波平滑)+CT or DDWT 首先介绍PL的框架,是赋予一些初值,通过迭代来逼近最优解. 其中γ为尺度因子,使用了ΦTΦ中最大的特征值,τ(i)是每次迭代中设定的门限值,CS中运用…

图像压缩Vs.压缩感知

压缩感知科普文两则: 原文链接:http://www.cvchina.info/2010/06/08/compressed-sensing-2/ 这几天由于happyharry的辛勤劳动,大伙纷纷表示对稀疏表达,压缩感知很感兴趣啊.我是搞不太懂这个前沿啊,只好转两篇科学松鼠会的科普文,都是译文,说不定大伙都看过了原文. 第一篇是陶哲轩写的. 这是数学家陶哲轩在他自己的blog上写的一篇科普文章,讨论的是近年来在应用数学领域里最热门的话题之一:压缩感知(compressed sensing).所谓…

压缩感知重构算法之IRLS算法python实现

压缩感知重构算法之OMP算法python实现压缩感知重构算法之CoSaMP算法python实现压缩感知重构算法之SP算法python实现压缩感知重构算法之IHT算法python实现压缩感知重构算法之OLS算法python实现压缩感知重构算法之IRLS算法python实现 IRLS(iteratively reweighted least squares)算法 (本文给出的代码未进行优化,只是为了说明算法流程 ,所以运行速度不是很快) IRLS(iteratively reweighte…

压缩感知重构算法之IHT算法python实现

压缩感知重构算法之OMP算法python实现压缩感知重构算法之CoSaMP算法python实现压缩感知重构算法之SP算法python实现压缩感知重构算法之IHT算法python实现压缩感知重构算法之OLS算法python实现压缩感知重构算法之IRLS算法python实现 IHT(iterative hard thresholding )算法是压缩感知中一种非常重要的贪婪算法,它具有算法简单的有点,且易于实现,在实际中应用较多.本文给出了IHT算法的python和matlab代码(本文给…

浅谈压缩感知（三十一）：压缩感知重构算法之定点连续法FPC

主要内容: FPC的算法流程 FPC的MATLAB实现一维信号的实验与结果基于凸优化的重构算法基于凸优化的压缩感知重构算法. 约束的凸优化问题: 去约束的凸优化问题: 在压缩感知中,J函数和H函数的选择: 一.FPC的算法 FPC,全称Fixed-Point Continuation,这里翻译为定点连续. 数学模型: 算法: 该算法在迭代过程中利用了收缩公式shrinkage(也称为软阈值soft thresholding),算法简单.优美. 迭代过程: (梯度) 合并一下,就得到了整个迭…

浅谈压缩感知（三十）：压缩感知重构算法之L1最小二乘

主要内容: l1_ls的算法流程 l1_ls的MATLAB实现一维信号的实验与结果前言前面所介绍的算法都是在匹配追踪算法MP基础上延伸的贪心算法,从本节开始,介绍基于凸优化的压缩感知重构算法. 约束的凸优化问题: 去约束的凸优化问题: 在压缩感知中,J函数和H函数的选择: 那么,后面要解决的问题就是如何通过最优化方法来求出x. 一.l1_ls的算法 l1_ls,全称ℓ1-regularized least squares,基于L1正则的最小二乘算法,在标准内点法的基础上,在truncate…

浅谈压缩感知（二十八）：压缩感知重构算法之广义正交匹配追踪(gOMP)

主要内容: gOMP的算法流程 gOMP的MATLAB实现一维信号的实验与结果稀疏度K与重构成功概率关系的实验与结果一.gOMP的算法流程广义正交匹配追踪(Generalized OMP, gOMP)算法可以看作为OMP算法的一种推广.OMP每次只选择与残差相关最大的一个,而gOMP则是简单地选择最大的S个.之所以这里表述为"简单地选择"是相比于ROMP之类算法的,不进行任何其它处理,只是选择最大的S个而已. gOMP的算法流程: 二.gOMP的MATLAB实现(CS_gOMP…

浅谈压缩感知（二十六）：压缩感知重构算法之分段弱正交匹配追踪（SWOMP）

主要内容: SWOMP的算法流程 SWOMP的MATLAB实现一维信号的实验与结果门限参数a.测量数M与重构成功概率关系的实验与结果 SWOMP与StOMP性能比较一.SWOMP的算法流程分段弱正交匹配追踪(Stagewise Weak OMP)可以说是StOMP的一种修改算法,它们的唯一不同是选择原子时的门限设置,这可以降低对测量矩阵的要求.我们称这里的原子选择方式为"弱选择"(Weak Selection),StOMP的门限设置由残差决定,这对测量矩阵(原子选择)提出了要求…

浅谈压缩感知（二十五）：压缩感知重构算法之分段正交匹配追踪（StOMP）

主要内容: StOMP的算法流程 StOMP的MATLAB实现一维信号的实验与结果门限参数Ts.测量数M与重构成功概率关系的实验与结果一.StOMP的算法流程分段正交匹配追踪(Stagewise OMP)也是由OMP改进而来的一种贪心算法,与CoSaMP.SP算法类似,不同之处在于CoSaMP.SP算法在迭代过程中选择的是与信号内积最大的2K或K个原子,而StOMP是通过门限阈值来确定原子.此算法的输入参数中没有信号稀疏度K,因此相比于ROMP及CoSaMP有独到的优势(这句话存在疑问)…

压缩感知中的数学知识：稀疏、范数、符号arg min

转自:http://blog.csdn.net/jbb0523/article/details/40262629 1.稀疏:什么是K稀疏呢? 在压缩感知里经常提到 "K稀疏" 的概念,这个是很容易理解的:也就是对于长度为N的向量(实际上是指一个N维离散离值信号)来说,它的N个元素值只有K个是非零的,其中K<<N,这时我们称这个向量是K稀疏的或者说是严格K稀疏的:实际中要做到严格K稀疏不容易,一般来说,只要除了这K个值其它的值很小很小,我们就认为向量是稀疏的,这时区别于严格K…

压缩感知重构算法之压缩采样匹配追踪（CoSaMP）

压缩采样匹配追踪(CompressiveSampling MP)是D. Needell继ROMP之后提出的又一个具有较大影响力的重构算法.CoSaMP也是对OMP的一种改进,每次迭代选择多个原子,除了原子的选择标准之外,它有一点不同于ROMP:ROMP每次迭代已经选择的原子会一直保留,而CoSaMP每次迭代选择的原子在下次迭代中可能会被抛弃. 在这之前先读了下参考论文[1],论文前面还是看得懂一点的,讲了一些压缩感知的基础知识,还聊到了压缩重构方法主要分为三类,但是到了第2部分介绍算法的时候又看…

[转]压缩感知重构算法之分段正交匹配追踪(StOMP)

分段正交匹配追踪(StagewiseOMP)或者翻译为逐步正交匹配追踪,它是OMP另一种改进算法,每次迭代可以选择多个原子.此算法的输入参数中没有信号稀疏度K,因此相比于ROMP及CoSaMP有独到的优势. 1.StOMP重构算法流程: 分段正交匹配追踪(StagewiseOMP)或者翻译为逐步正交匹配追踪,它是OMP另一种改进算法,每次迭代可以选择多个原子.此算法的输入参数中没有信号稀疏度K,因此相比于ROMP及CoSaMP有独到的优势. 1.StOMP重构算法流程: 2.分段正交匹配追踪(S…