一个信号往往包含多个维度,各个维度之间可能包含较强的相关性。下图表示的是一组二维信号x=(x1,x2),可以看到数据点基本上分布在x2=x1这条直线上,二者存在很强的相关性(也就是确定x1之后,就能确定x2的大致范围)。

主成分分析(Principal Component Analysis, PCA)的目的在于寻找到一组基,将信号投影到这组基上面,从而能够去除信号各个维度之间的相关性。如下图,u1和u2是通过PCA找到的两个基向量,将信号投影到该基向量上,信号各维度之间的相关性就基本被去除了。

信号各维度之间的相关性可以用相关系数来表示。假设一个维度为x1,另一个维度为x2,二者都相当于随机变量。那么相关系数为:

\[\rho=\frac{cov(x1,x2)}{\sqrt{Var(x1)Var(x2)}}
\]

如果两个变量没有相关性,那么相关系数为0。PCA的目的就在于使得信号任意两个维度之间的相关系数都变成0。上式分子为协方差,我们只考虑将协方差变为0。协方差公式如下:

\[cov(x_1,x_2)=\frac{1}{N}\Sigma_{i=1}^N(x_1^{(i)}-\bar{x_1})(x_2^{(i)}-\bar{x_2})
\]

假设有一组信号,将它们表示为一个矩阵\(X_0\),维度为d*N。\(X_0\)的每一列代表一个信号,d表示信号的维度,N表示有N个信号。X表示各维度去除均值之后的信号。那么信号各维度两两之间的协方差可以表示为一个协方差矩阵:

\[S=\begin{bmatrix}s_{11}&s_{12}&...&s_{1d}\\s_{21}&s_{22}&...&s_{2d}\\...\\s_{d1}&s_{d2}&...&s_{dd}\\\end{bmatrix}=\frac{1}{N}XX^T\in{R}^{d\times{d}}
\]

要去除各维度之间的相关性,相当于让S的非对角元素全变为0,使S对角化。因此我们需要找到一个矩阵U,使S对角化:

\[D=U^TSU
\]

正好,S的特征向量组成的矩阵能达到这一目的,因此把S的特征向量放入U的每一列中即可。U的列向量即为主成分向量。D为S的特征值组成的对角阵。我们把信号投影到特征向量中,得到的信号为:

\[Z=U^TX
\]

那么Z的协方差矩阵为:

\[S_Z=\frac{1}{N}ZZ^T=\frac{1}{N}U^TXX^TU=U^TSU=D
\]

可见,投影后的信号Z各维度之间不存在相关性。实际中我们不需要将X投影到所有的主成分向量上。可以证明,只需要将X投影到前k个最大特征值对应的特征向量上即可,其余特征向量上的投影分量为噪声。k的数量往往远小于信号原来的维度,因此PCA可以对信号进行降维。只需要通过前k个主成分分量,即可复原原信号,并使恢复误差任意小。

S的维度为d*d。由于实际情况下d很大,远远大于信号个数N,直接求S的特征向量复杂度很高。考虑下面的矩阵:

\[S_0=\frac{1}{N}X^TX\in{R^{N\times{N}}}
\]

\[S_0u_0=\lambda{u_0}\Rightarrow{}\frac{1}{N}X^TXu_0=\lambda{u_0}
\]

\[\Rightarrow{}\frac{1}{N}XX^TXu_0=\lambda{Xu_0}
\]

\[\Rightarrow{SXu_0=\lambda{Xu_0}}
\]

可见,可以先求出\(S_0\)征向量\(u_0\),\(S\)的特征向量为\(Xu_0\)。由于\(S_0\)的维度较低,计算量极大地减少。要求\(S_0\)的特征向量,最直接的方法是做特征值分解。不过由于\(S_0\)是半正定矩阵,也可以通过SVD来求解。下面证明SVD分解与特征值分解之间的关系。对于一个矩阵A(不一定是方阵),SVD分解如下:

\[A=U\Sigma{V^T}
\]

\[\Rightarrow{A}A^T=U\Sigma{V^T}V\Sigma{U^T}=U\Sigma{^2}U^T
\]

\[\Rightarrow{A}A^TU=U\Sigma{^2}
\]

上述第三个等式相当于对\(AA^T\)做特征值分解,U为\(AA^T\)的特征值向量矩阵,\(\Sigma^2\)为特征值矩阵。由此可见,要求\(AA^T\)的特征向量,只需对A做SVD分解,取A的左特征向量矩阵即可。

下面给出MATLAB代码示例。通过PCA分解对ORL人脸库中的人脸图片做降维处理,并用前k个主成分(即最大的k个特征值对应的特征向量)将人脸复原。

PCA代码:

function [avg,U]=fastPCA(X,k)
% X: X的每一列代表一张人脸图片
% k: 降维后的信号维度
%%
avg=mean(X,2);
X=bsxfun(@minus,X,avg);
[~,N]=size(X);
S0=1/N*(X'*X);
[U0,~]=eig(S0);
U0=U0(:,end:-1:1); % V0原本是按特征值升序排列的,要调换顺序
U=X*U0(:,1:k); % 得到真正协方差矩阵的主成分向量
for i=1:size(U,2)
U(:,i)=U(:,i)/norm(U(:,i)); % 向量归一化
end

主函数:

% 通过少量几个主成分来恢复人脸
clear;
load orl_data.mat; % 人脸库,每行代表一张人脸图像
k=350; % 把人脸降到k维,用k个主成分恢复人脸
X=Faces; % 矩阵的每一列代表一张人脸
tic;
[avg,U]=fastPCA(X,k);
toc;
X_extract=bsxfun(@minus,X,avg); % 减去均值
X_lowdim=U'*X_extract; % 降维后的图像表达
X_recv=U*X_lowdim; % 用k个主成分分量恢复人脸
X_recv=bsxfun(@plus,X_recv,avg); % 加上均值
im=reshape(X_recv(:,1),[112,92]);
figure,imshow(im,[]); % 显示前16个主成分
u=zeros(112,92);
figure
for i=1:16
u(:)=U(:,i);
subplot(4,4,i),imshow(u,[]);
end

下图图1为原图,分别用50个主成分、200个主成分和350个主成分复原人脸图像,结果如下:

以下为前16个主成分人脸。可以看到越往后的脸,越不平滑。实际上是因为靠后的脸代表的是人脸的高频分量,包含了更多的细节信息,而靠前的人脸是低频分量,更多地包含了人脸的轮廓。这一点和小波变换是有点像的。

PCA原理推导及其在数据降维中的应用的更多相关文章

  1. 降维算法----PCA原理推导

    1.从几何的角度去理解PCA降维 以平面坐标系为例,点的坐标是怎么来的? 图1                                                             ...

  2. [机器学习]-PCA数据降维:从代码到原理的深入解析

    &*&:2017/6/16update,最近几天发现阅读这篇文章的朋友比较多,自己阅读发现,部分内容出现了问题,进行了更新. 一.什么是PCA:摘用一下百度百科的解释 PCA(Prin ...

  3. 主成分分析PCA数据降维原理及python应用(葡萄酒案例分析)

    目录 主成分分析(PCA)——以葡萄酒数据集分类为例 1.认识PCA (1)简介 (2)方法步骤 2.提取主成分 3.主成分方差可视化 4.特征变换 5.数据分类结果 6.完整代码 总结: 1.认识P ...

  4. (数据科学学习手札20)主成分分析原理推导&Python自编函数实现

    主成分分析(principal component analysis,简称PCA)是一种经典且简单的机器学习算法,其主要目的是用较少的变量去解释原来资料中的大部分变异,期望能将现有的众多相关性很高的变 ...

  5. 数据降维-PCA主成分分析

    1.什么是PCA? PCA(Principal Component Analysis),即主成分分析方法,是一种使用最广泛的数据降维算法.PCA的主要思想是将n维特征映射到k维上,这k维是全新的正交特 ...

  6. 机器学习实战(Machine Learning in Action)学习笔记————10.奇异值分解(SVD)原理、基于协同过滤的推荐引擎、数据降维

    关键字:SVD.奇异值分解.降维.基于协同过滤的推荐引擎作者:米仓山下时间:2018-11-3机器学习实战(Machine Learning in Action,@author: Peter Harr ...

  7. 主成分分析(PCA)原理及推导

    原文:http://blog.csdn.net/zhongkejingwang/article/details/42264479 什么是PCA? 在数据挖掘或者图像处理等领域经常会用到主成分分析,这样 ...

  8. PCA主成分分析算法的数学原理推导

    PCA(Principal Component Analysis)主成分分析法的数学原理推导1.主成分分析法PCA的特点与作用如下:(1)是一种非监督学习的机器学习算法(2)主要用于数据的降维(3)通 ...

  9. 初识PCA数据降维

    PCA要做的事降噪和去冗余,其本质就是对角化协方差矩阵. 一.预备知识 1.1 协方差分析 对于一般的分布,直接代入E(X)之类的就可以计算出来了,但真给你一个具体数值的分布,要计算协方差矩阵,根据这 ...

随机推荐

  1. Nodejs搭建音视频通信-信令服务器 总结

    1.安装nodejs  node-v10.16.3-x64.msi 2.安装配置环境变量 这里的环境配置主要配置的是npm安装的全局模块所在的路径,以及缓存cache的路径,之所以要配置,是因为以后在 ...

  2. PTA编程总结一

    7-1 币值转换 (20 分) 输入一个整数(位数不超过9位)代表一个人民币值(单位为元),请转换成财务要求的大写中文格式.如23108元,转换后变成“贰万叁仟壹百零捌”元.为了简化输出,用小写英文字 ...

  3. SQL Server 2016升级迁移过程中性能问题诊断案例

    日常运行的批量更新作业,平日是5分钟之内结束,今天出现超过30分钟没结束的情况,实际运行3个小时以上,应用程序超时报错. 数据库版本:SQL Server 2016企业版 问题SQL: declare ...

  4. 启动webpack-dev-server错误,ERROR in main.js from UglifyJs Unexpected token: name «element», expected: punc «;»

    启动webpack-dev-server出现以下错误 ERROR in main.js from UglifyJsUnexpected token: name «element», expected: ...

  5. 基于EasyHook实现监控explorer资源管理器文件复制、删除、剪切等操作

    一.前言 最近自己在研究一个项目,需要实现对explorer资源管理器文件操作的监控功能,网上找到一些通过C++实现Hook explorer文件操作的方法,由于本人习惯用.NET开发程序,加之C/C ...

  6. 在WCF程序中动态修改app.config配置文件

    今天在个WCF程序中加入了修改配置文件的功能.我是直接通过IO操作修改的app.config文件内容,修改后发现发现其并不生效,用Google搜了一下,在园子里的文章动态修改App.Config 和w ...

  7. 在aspx页面的checkbox取值验证

    在做项目的时候遇到了一个选择性的问题,之前都可以用$("#id").checked,但是不知道为什么现在不可以了,只能if($(this).is(":checked&qu ...

  8. deepfm代码参考

    https://github.com/lambdaji/tf_repos/blob/master/deep_ctr/Model_pipeline/DeepFM.py https://www.cnblo ...

  9. LoadRunner之关联

    一.什么是关联 关联就是将服务器动态返回变化的值保存为一个参数以供后面需要用到的地方使用. 二.什么时候需要关联 1.服务器返回中存在动态变化的值,一般是类似session.token这样的无规则数据 ...

  10. java调用com组件com4j

    com4j A Java library that allows Java applications to seemlessly interoperate with Microsoft Compone ...