SVM matlab 代码详解说明

x=[0 1 0 1 2 -1];y=[0 0 1 1 2 -1];z=[-1 1 1 -1 1 1];
%其中，（x,y）代表二维的数据点，z 表示相应点的类型属性。
 
data=[1,0;0,1;2,2;-1,-1;0,0;1,1];% (x,y)构成的数据点
groups=[1;1;1;1;-1;-1];%各个数据点的标签
figure;
subplot(2,2,1);
Struct1 = svmtrain(data,groups,'Kernel_Function','quadratic', 'showplot',true);%data数据，标签，核函数，训练
classes1=svmclassify(Struct1,data,'showplot',true);%data数据分类，并显示图形
title('二次核函数');
CorrectRate1=sum(groups==classes1)/6　　

subplot(2,2,2);
Struct2 = svmtrain(data,groups,'Kernel_Function','rbf', 'RBF_Sigma',0.41,'showplot',true);
classes2=svmclassify(Struct2,data,'showplot',true);
title('高斯径向基核函数(核宽0.41)');
CorrectRate2=sum(groups==classes2)/6
subplot(2,2,3);
Struct3 = svmtrain(data,groups,'Kernel_Function','polynomial', 'showplot',true);
classes3=svmclassify(Struct3,data,'showplot',true);
title('多项式核函数');
CorrectRate3=sum(groups==classes3)/6
subplot(2,2,4);
Struct4 = svmtrain(data,groups,'Kernel_Function','mlp', 'showplot',true);
classes4=svmclassify(Struct4,data,'showplot',true);
title('多层感知机核函数');
CorrectRate4=sum(groups==classes4)/6

　　

svmtrain代码分析：
if plotflag   %画出训练数据的点
[hAxis,hLines] = svmplotdata(training,groupIndex);
legend(hLines,cellstr(groupString));
end
 
scaleData = [];
if autoScale   %训练数据标准化
scaleData.shift = - mean(training);
stdVals = std(training);
scaleData.scaleFactor = 1./stdVals;
% leave zero-variance data unscaled:
scaleData.scaleFactor(~isfinite(scaleData.scaleFactor)) = 1;
 
% shift and scale columns of data matrix:
for c = 1:size(training, 2)
training(:,c) = scaleData.scaleFactor(c) * ...
(training(:,c) + scaleData.shift(c));
end
end

　　

if strcmpi(optimMethod, 'SMO')%选择最优化算法
else % QP and LS both need the kernel matrix:
%求解出超平面的参数 (w,b):     wX+b

　　

if plotflag  %画出超平面在二维空间中的投影
    hSV = svmplotsvs(hAxis,hLines,groupString,svm_struct);
    svm_struct.FigureHandles = {hAxis,hLines,hSV};
end

　　

svmplotsvs.m文件

hSV = plot(sv(:,1),sv(:,2),'ko');%从训练数据中选出支持向量，加上圈标记出来
 
lims = axis(hAxis);%获取子图的坐标空间
[X,Y] = meshgrid(linspace(lims(1),lims(2)),linspace(lims(3),lims(4)));%根据x和y的范围，切分成网格，默认100份
Xorig = X; Yorig = Y;
 
% need to scale the mesh    将这些隔点标准化
if ~isempty(scaleData)
    X = scaleData.scaleFactor(1) * (X + scaleData.shift(1));
    Y = scaleData.scaleFactor(2) * (Y + scaleData.shift(2));
end
 
[dummy, Z] = svmdecision([X(:),Y(:)],svm_struct); %计算这些隔点[标签，离超平面的距离]
contour(Xorig,Yorig,reshape(Z,size(X)),[0 0],'k');%画出等高线图，这个距离投影到二维空间的等高线

　　

svmdecision.m文件
function [out,f] = svmdecision(Xnew,svm_struct)
%SVMDECISION evaluates the SVM decision function
 
%   Copyright 2004-2006 The MathWorks, Inc.
%   $Revision: 1.1.12.4 $  $Date: 2006/06/16 20:07:18 $
 
sv = svm_struct.SupportVectors;
alphaHat = svm_struct.Alpha;
bias = svm_struct.Bias;
kfun = svm_struct.KernelFunction;
kfunargs = svm_struct.KernelFunctionArgs;
 
f = (feval(kfun,sv,Xnew,kfunargs{:})'*alphaHat(:)) + bias;%计算出距离
out = sign(f);%距离转化成标签
% points on the boundary are assigned to class 1
out(out==0) = 1;

　　

function K = quadratic_kernel(u,v,varargin)%核函数计算
%QUADRATIC_KERNEL quadratic kernel for SVM functions
 
% Copyright 2004-2008 The MathWorks, Inc.
 
dotproduct = (u*v');
K = dotproduct.*(1 + dotproduct);

　　

维度分析：假设输入的训练数据为m个，维度为d，记作X(m,d);显然w为w(m,1);    wT*x+b

核函数计算:k(x,y)->上公式改写成  wT*@(x)+b

假设支持的向量跟训练数据保持一致，没有筛选掉一个，则支撑的数据就是归一化后的X,记作：Xst;

测试数据为T(n,d);

则核函数计算后为：(m,d)*(n,d)'=m*n;与权重和偏移中以后为： (1,m)*(m*n)=1*n；如果是训练数据作核函数处理，则m*d变成为m*m

这n个测试点的距离。

将这些隔点和其对应的超平面距离，画成等高线，得到现有图形。

第二批测试数据：

clc;
clear;
close all;
%rng(1); % For reproducibility
r = sqrt(rand(100,1)); % Radius 0~1
t = 2*pi*rand(100,1); % Angle 0~2pi
data1 = [r.*cos(t), r.*sin(t)]; % Points
 
r2 = sqrt(3*rand(100,1)+1); % Radius 1~4
t2 = 2*pi*rand(100,1); % Angle 0~2pi
data2 = [r2.*cos(t2), r2.*sin(t2)]; % points
 
figure;
plot(data1(:,1),data1(:,2),'r.','MarkerSize',15)
hold on
plot(data2(:,1),data2(:,2),'b.','MarkerSize',15)
ezpolar(@(x)1);ezpolar(@(x)2);
axis equal
hold off
 
%Put the data in one matrix, and make a vector of classifications.
data3 = [data1;data2];%标签 +1 -1
theclass = ones(200,1);
theclass(1:100) = -1;

　　

% r^2(r的平方) KMatrix = exp(-gamma*r2);
function KMatrix = getKRBF(X, Y, gamma)%rbf核函数
r2 =  repmat( sum(X.^2,2), 1, size(Y,1) ) ...
    + repmat( sum(Y.^2,2), 1, size(X,1) )'- 2*X*Y'
%K(x,y)     m*n
%sum(X.^2,2)   m*d  ->   m*1  ->   repmat ->  m*n
%              n*d  ->   n*1  ->   n*m    ->  m*n
%m*n
 
% XVec表示X向量。||XVec||表示向量长度。 r表示两点距离。r^2表示r的平方。
% k(XVec,YVec) = exp(-1/(2*sigma^2)*(r^2)) = exp(-gamma*r^2)
% 公式-1 这里, gamma=1/(2*sigma^2)是参数, r=||XVec-YVec|| 实际上，可看作是计算2个点X与Y的相似性。

　　

核函数理论：参考：http://www.cnblogs.com/jerrylead/archive/2011/03/18/1988406.html

考虑我们最初在“线性回归”中提出的问题，特征是房子的面积x，这里的x是实数，结果y是房子的价格。假设我们从样本点的分布中看到x和y符合3次曲线，那么我们希望使用x的三次多项式来逼近这些样本点。那么首先需要将特征x扩展到三维，然后寻找特征和结果之间的模型。我们将这种特征变换称作特征映射（feature mapping）。映射函数称作，在这个例子中

我们希望将得到的特征映射后的特征应用于SVM分类，而不是最初的特征。这样，我们需要将前面公式中的内积从，映射到。

至于为什么需要映射后的特征而不是最初的特征来参与计算，上面提到的（为了更好地拟合）是其中一个原因，另外的一个重要原因是样例可能存在线性不可分的情况，而将特征映射到高维空间后，往往就可分了。（在《数据挖掘导论》Pang-Ning Tan等人著的《支持向量机》那一章有个很好的例子说明）

将核函数形式化定义，如果原始特征内积是，映射后为，那么定义核函数（Kernel）为

到这里，我们可以得出结论，如果要实现该节开头的效果，只需先计算，然后计算即可，然而这种计算方式是非常低效的。比如最初的特征是n维的，我们将其映射到维，然后再计算，这样需要的时间。那么我们能不能想办法减少计算时间呢？

先看一个例子，假设x和z都是n维的，

展开后，得

这个时候发现我们可以只计算原始特征x和z内积的平方（时间复杂度是O(n)），就等价与计算映射后特征的内积。也就是说我们不需要花时间了。

现在看一下映射函数（n=3时），根据上面的公式，得到

也就是说核函数只能在选择这样的作为映射函数时才能够等价于映射后特征的内积。

再看一个核函数

对应的映射函数（n=3时）是

轮换对称

更一般地，核函数对应的映射后特征维度为。（求解方法参见http://zhidao.baidu.com/question/16706714.html）。

由于计算的是内积，我们可以想到IR中的余弦相似度，如果x和z向量夹角越小，那么核函数值越大，反之，越小。因此，核函数值是和的相似度。

再看另外一个核函数

这时，如果x和z很相近（），那么核函数值为1，如果x和z相差很大（），那么核函数值约等于0。由于这个函数类似于高斯分布，因此称为高斯核函数，也叫做径向基函数(Radial Basis Function 简称RBF)。它能够把原始特征映射到无穷维。

既然高斯核函数能够比较x和z的相似度，并映射到0到1，回想logistic回归，sigmoid函数可以，因此还有sigmoid核函数等等。

下面有张图说明在低维线性不可分时，映射到高维后就可分了，使用高斯核函数。

来自Eric Xing的slides

注意，使用核函数后，怎么分类新来的样本呢？线性的时候我们使用SVM学习出w和b，新来样本x的话，我们使用来判断，如果值大于等于1，那么是正类，小于等于是负类。在两者之间，认为无法确定。如果使用了核函数后，就变成了，是否先要找到，然后再预测？答案肯定不是了，找很麻烦，回想我们之前说过的

只需将替换成，然后值的判断同上。

核函数不仅仅用在SVM上，但凡在一个模型后算法中出现了，我们都可以常使用去替换，这可能能够很好地改善我们的算法。

参考：http://blog.csdn.net/shijing_0214/article/details/51000845

由之前对核函数的定义（见统计学习方法定义7.6）： 
设χ是输入空间（欧氏空间或离散集合），Η为特征空间（希尔伯特空间），如果存在一个从χ到Η的映射

φ(x): χ→Η

使得对所有的x,z∈χ,函数Κ(x,z)=φ(x)∙φ(z)， 
则称Κ(x,z)为核函数，φ(x)为映射函数，φ(x)∙φ(z)为x,z映射到特征空间上的内积。 
由于映射函数十分复杂难以计算，在实际中，通常都是使用核函数来求解内积，计算复杂度并没有增加，映射函数仅仅作为一种逻辑映射，表征着输入空间到特征空间的映射关系。例如： 
设输入空间χ：,

映射函数φ(x)= < X,X > = 
核函数Κ(x,z)= 
那么，取两个样例x=(1,2,3),z=(4,5,6)分别通过映射函数和核函数计算内积过程如下： 
φ(x)=(1,2,3,2,4,6,3,6,9) 
φ(z)=(16,20,24,20,25,30,24,30,36) 
φ(x)∙φ(z)=16+40+72+40+100+180+72+180+324=1024 
而直接通过Κ(x,z)计算得[(4+10+18)]^2=1024 
两者相比，核函数的计算量显然要比映射函数小太多了。