行人检测4（LBP特征）

参考原文： http://blog.csdn.net/zouxy09/article/details/7929531　

http://www.cnblogs.com/dwdxdy/archive/2012/05/31/2528941.html

　　　　　http://blog.csdn.net/dujian996099665/article/details/8886576

　　 LBP（Local Binary Pattern，局部二值模式）是一种用来描述图像局部纹理特征的算子；它具有旋转不变性和灰度不变性等显著的优点。它是首先由T. Ojala, M.Pietikäinen, 和 D. Harwood 在1994年提出，用于纹理特征提取。而且，提取的特征是图像的局部的纹理特征；在行人检测中HOG+LBP+HIKSVM取得了不错的效果，在人脸识别中也是广泛应用。

1、LBP特征的描述

　　原始的LBP算子定义为在3*3的窗口内，以窗口中心像素为阈值，将相邻的8个像素的灰度值与其进行比较，若周围像素值大于中心像素值，则该像素点的位置被标记为1，否则为0。这样，3*3邻域内的8个点经比较可产生8位二进制数（通常转换为十进制数即LBP码，共256种），即得到该窗口中心像素点的LBP值，并用这个值来反映该区域的纹理信息。如下图所示：

LBP的改进版本：

原始的LBP提出后，研究人员不断对其提出了各种改进和优化。

（1）圆形LBP算子：

　　基本的 LBP算子的最大缺陷在于它只覆盖了一个固定半径范围内的小区域，这显然不能满足不同尺寸和频率纹理的需要。为了适应不同尺度的纹理特征，并达到灰度和旋转不变性的要求，Ojala等对 LBP 算子进行了改进，将 3×3邻域扩展到任意邻域，并用圆形邻域代替了正方形邻域，改进后的 LBP 算子允许在半径为 R 的圆形邻域内有任意多个像素点。从而得到了诸如半径为R的圆形区域内含有P个采样点的LBP算子；

（2）LBP旋转不变模式

　　从 LBP 的定义可以看出，LBP 算子是灰度不变的，但却不是旋转不变的。图像的旋转就会得到不同的 LBP值。

　　Maenpaa等人又将 LBP算子进行了扩展，提出了具有旋转不变性的 LBP 算子，即不断旋转圆形邻域得到一系列初始定义的 LBP值，取其最小值作为该邻域的 LBP 值。

图 2.5 给出了求取旋转不变的 LBP 的过程示意图，图中算子下方的数字表示该算子对应的 LBP值，图中所示的 8 种 LBP模式，经过旋转不变的处理，最终得到的具有旋转不变性的 LBP值为 15。也就是说，图中的 8种 LBP 模式对应的旋转不变的 LBP模式都是 00001111。

一个更加正式的LBP操作可以被定义为

其中 是中心像素，亮度是 ；而 则是相邻像素的亮度。s是一个符号函数：

这种描述方法使得你可以很好的捕捉到图像中的细节。实际上，研究者们可以用它在纹理分类上得到最先进的水平。正如刚才描述的方法被提出后，固定的近邻区域对于尺度变化的编码失效。所以，使用一个变量的扩展方法，在文献[AHP04]中有描述。主意是使用可变半径的圆对近邻像素进行编码，这样可以捕捉到如下的近邻：

对一个给定的点 ，他的近邻点 可以由如下计算：

其中，R是圆的半径，而P是样本点的个数。

这个操作是对原始LBP算子的扩展，所以有时被称为扩展LBP(又称为圆形LBP)。如果一个在圆上的点不在图像坐标上，我们使用他的内插点。计算机科学有一堆聪明的插值方法，而OpenCV使用双线性插值。

（3）LBP等价模式（ULBP）

　　一个LBP算子可以产生不同的二进制模式，对于半径为R的圆形区域内含有P个采样点的LBP算子将会产生P²种模式。很显然，随着邻域集内采样点数的增加，二进制模式的种类是急剧增加的。例如：5×5邻域内20个采样点，有2²⁰＝1,048,576种二进制模式。如此多的二值模式无论对于纹理的提取还是对于纹理的识别、分类及信息的存取都是不利的。同时，过多的模式种类对于纹理的表达是不利的。例如，将LBP算子用于纹理分类或人脸识别时，常采用LBP模式的统计直方图来表达图像的信息，而较多的模式种类将使得数据量过大，且直方图过于稀疏。因此，需要对原始的LBP模式进行降维，使得数据量减少的情况下能最好的代表图像的信息。

　　为了解决二进制模式过多的问题，提高统计性，Ojala提出了采用一种“等价模式”（Uniform Pattern）来对LBP算子的模式种类进行降维。Ojala等认为，在实际图像中，绝大多数LBP模式最多只包含两次从1到0或从0到1的跳变。因此，Ojala将“等价模式”定义为：当某个LBP所对应的循环二进制数从0到1或从1到0最多有两次跳变时，该LBP所对应的二进制就称为一个等价模式类。如00000000（0次跳变），00000111（只含一次从0到1的跳变），10001111（先由1跳到0，再由0跳到1，共两次跳变）都是等价模式类。除等价模式类以外的模式都归为另一类，称为混合模式类，例如10010111（共四次跳变）（这是我的个人理解，不知道对不对）。

　　通过这样的改进，二进制模式的种类大大减少，而不会丢失任何信息。模式数量由原来的2^P种减少为 P ( P-1)+2种，其中P表示邻域集内的采样点数。对于3×3邻域内8个采样点来说，二进制模式由原始的256种减少为58种，这使得特征向量的维数更少，并且可以减少高频噪声带来的影响。

2、LBP特征用于检测的原理

　　显而易见的是，上述提取的LBP算子在每个像素点都可以得到一个LBP“编码”，那么，对一幅图像（记录的是每个像素点的灰度值）提取其原始的LBP算子之后，得到的原始LBP特征依然是“一幅图片”（记录的是每个像素点的LBP值）。

　　LBP的应用中，如纹理分类、人脸分析等，一般都不将LBP图谱作为特征向量用于分类识别，而是采用LBP特征谱的统计直方图作为特征向量用于分类识别。

　　因为，从上面的分析我们可以看出，这个“特征”跟位置信息是紧密相关的。直接对两幅图片提取这种“特征”，并进行判别分析的话，会因为“位置没有对准”而产生很大的误差。后来，研究人员发现，可以将一幅图片划分为若干的子区域，对每个子区域内的每个像素点都提取LBP特征，然后，在每个子区域内建立LBP特征的统计直方图。如此一来，每个子区域，就可以用一个统计直方图来进行描述；整个图片就由若干个统计直方图组成；

　　例如：一幅100*100像素大小的图片，划分为10*10=100个子区域（可以通过多种方式来划分区域），每个子区域的大小为10*10像素；在每个子区域内的每个像素点，提取其LBP特征，然后，建立统计直方图；这样，这幅图片就有10*10个子区域，也就有了10*10个统计直方图，利用这10*10个统计直方图，就可以描述这幅图片了。之后，我们利用各种相似性度量函数，就可以判断两幅图像之间的相似性了；

3、对LBP特征向量进行提取的步骤

（1）首先将检测窗口划分为16×16的小区域（cell）；

（2）对于每个cell中的一个像素，将相邻的8个像素的灰度值与其进行比较，若周围像素值大于中心像素值，则该像素点的位置被标记为1，否则为0。这样，　　　　3*3邻域内的8个点经比较可产生8位二进制数，即得到该窗口中心像素点的LBP值；

（3）然后计算每个cell的直方图，即每个数字（假定是十进制数LBP值）出现的频率；然后对该直方图进行归一化处理。

（4）最后将得到的每个cell的统计直方图进行连接成为一个特征向量，也就是整幅图的LBP纹理特征向量；

然后便可利用SVM或者其他机器学习算法进行分类了。

Reference：

黄非非，基于 LBP 的人脸识别研究，重庆大学硕士学位论文，2009.5

4.LBP的扩展DLBP

参考文献　Background Subtraction Based on a Combination of Texture,Color and Intensity ICSP 2008

文献在LBP的基础上，提出了DLBP特征　Double Local Binary Pattern.

LBP的缺点：

1).It cannot differeniate between ascending and homogeneous.

无法区分邻域像素点与中心像素点相等，或者邻域像素点大于中心像素点两种情况，因此，这两种情况所得都是s(u) = 1．

2).It is sensitive to noise due its threshold schem.

DLBP主要是为了解决LBP的缺点而提出的，表式形式如下：

当LBP+ = 0 且 LBP- = 0,表示邻域像素点与中心像素点相同；

当LBP+ = 1 且 LBP- = 0时，表示邻域像素点大于中心像素点；

当LBP+ = 0 且 LBP- = 1时，表示邻域像素点小于中心像素点；

从而可以区分邻域像素点与中心像素点的三种情况．

引入参数n，来改善像素点值轻微变化对LBP的影响．文中取n = 4.

LBP和DLBP的比较示例图如下：

(b),(c),(d)利用DLBP更能表述图像的特征．(a)中DLBP和LBP的表描结果是一样的．

5.原始LBP算法的opencv实现

// LBP.cpp : 定义控制台应用程序的入口点。
//

/***********************************************************************
 * OpenCV 2.4.4 测试例程
 * 杜健健 提供
 ***********************************************************************/

#include "stdafx.h"
#include <opencv2/opencv.hpp>
#include  <cv.h>
#include  <highgui.h>
#include  <cxcore.h>

using namespace std;
using namespace cv;

//原始的LBP算法
//使用模板参数

template <typename _Tp> static
void olbp_(InputArray _src, OutputArray _dst) {
    // get matrices
    Mat src = _src.getMat();
    // allocate memory for result
    _dst.create(src.rows-, src.cols-, CV_8UC1);
    Mat dst = _dst.getMat();
    // zero the result matrix
    dst.setTo();

    cout<<"rows "<<src.rows<<" cols "<<src.cols<<endl;
    cout<<"channels "<<src.channels();
    getchar();
    // calculate patterns
    for(int i=;i<src.rows-;i++) {
        cout<<endl;
        for(int j=;j<src.cols-;j++) {

            _Tp center = src.at<_Tp>(i,j);
            //cout<<"center"<<(int)center<<"  ";
            unsigned char code = ;
            code |= (src.at<_Tp>(i-,j-) >= center) << ;
            code |= (src.at<_Tp>(i-,j  ) >= center) << ;
            code |= (src.at<_Tp>(i-,j+) >= center) << ;
            code |= (src.at<_Tp>(i  ,j+) >= center) << ;
            code |= (src.at<_Tp>(i+,j+) >= center) << ;
            code |= (src.at<_Tp>(i+,j  ) >= center) << ;
            code |= (src.at<_Tp>(i+,j-) >= center) << ;
            code |= (src.at<_Tp>(i  ,j-) >= center) << ;

            dst.at<unsigned char>(i-,j-) = code;
            //cout<<(int)code<<" ";
            //cout<<(int)code<<endl;
        }
    }
}

//基于旧版本的opencv的LBP算法opencv1.0
void LBP (IplImage *src,IplImage *dst)
{
    int tmp[]={};
    CvScalar s;

    IplImage * temp = cvCreateImage(cvGetSize(src), IPL_DEPTH_8U,);
    uchar *data=(uchar*)src->imageData;
    int step=src->widthStep;

    cout<<"step"<<step<<endl;

    for (int i=;i<src->height-;i++)
      for(int j=;j<src->width-;j++)
      {
          int sum=;
          if(data[(i-)*step+j-]>data[i*step+j])
            tmp[]=;
          else
            tmp[]=;
          if(data[i*step+(j-)]>data[i*step+j])
            tmp[]=;
          else
            tmp[]=;
          if(data[(i+)*step+(j-)]>data[i*step+j])
            tmp[]=;
          else
            tmp[]=;
          if (data[(i+)*step+j]>data[i*step+j])
            tmp[]=;
      else
            tmp[]=;
          if (data[(i+)*step+(j+)]>data[i*step+j])
            tmp[]=;
          else
            tmp[]=;
          if(data[i*step+(j+)]>data[i*step+j])
            tmp[]=;
          else
            tmp[]=;
          if(data[(i-)*step+(j+)]>data[i*step+j])
            tmp[]=;
          else
            tmp[]=;
          if(data[(i-)*step+j]>data[i*step+j])
            tmp[]=;
          else
            tmp[]=;
          //计算LBP编码
            s.val[]=(tmp[]*+tmp[]*+tmp[]*+tmp[]*+tmp[]*+tmp[]*+tmp[]*+tmp[]*);

        cvSet2D(dst,i,j,s);写入LBP图像
      }
}

int _tmain(int argc, _TCHAR* argv[])
{
    //IplImage* face = cvLoadImage("D://input//yalefaces////s1.bmp",CV_LOAD_IMAGE_ANYDEPTH | CV_LOAD_IMAGE_ANYCOLOR);
    IplImage* face = cvLoadImage("D://input//lena.jpg",CV_LOAD_IMAGE_ANYDEPTH | CV_LOAD_IMAGE_ANYCOLOR);
    //IplImage* lbp_face =   cvCreateImage(cvGetSize(face), IPL_DEPTH_8U,1);

    IplImage* Gray_face = cvCreateImage( cvSize( face->width,face->height ), face->depth, );//先分配图像空间
    cvCvtColor(face, Gray_face ,CV_BGR2GRAY);//把载入图像转换为灰度图
    IplImage* lbp_face =   cvCreateImage(cvGetSize(Gray_face), IPL_DEPTH_8U,);//先分配图像空间

    cvNamedWindow("Gray Image",);
    cvShowImage("Gray Image",Gray_face);

    //Mat face2 = imread("D://input//buti.jpg",CV_LOAD_IMAGE_ANYDEPTH | CV_LOAD_IMAGE_ANYCOLOR);
    Mat face2 = imread("D://input//yalefaces//01//s1.bmp",CV_LOAD_IMAGE_ANYDEPTH | CV_LOAD_IMAGE_ANYCOLOR);
    //Mat Gray_face2 = Mat::zeros(face2.size(),IPL_DEPTH_8U,1);

    //cvCvtColor(face2,Gray_face2,CV_BGR2RAY);
    Mat lbp_face2 = Mat::zeros(face2.size(),face2.type()) ;
    //Mat::copyTo(lbp_face,face);

    //显示原始的输入图像
    cvNamedWindow("Src Image",CV_WINDOW_AUTOSIZE);
    cvShowImage("Src Image",face);
    //imshow("Src Image",face);

    //计算输入图像的LBP纹理特征
    LBP(Gray_face,lbp_face);
    //olbp_<uchar>((Mat)face,(Mat)lbp_face);//有问题的调用
    olbp_<uchar>(face2,lbp_face2);

    //显示第一幅图像的LBP纹理特征图
    cvNamedWindow("LBP Image",CV_WINDOW_AUTOSIZE);
    cvShowImage("LBP Image",lbp_face);
    //显示第二幅图 的LBP纹理特征图-一张yaleface人脸库中的人脸LBP特征图
    namedWindow("LBP Image2",);
    imshow("LBP Image2",lbp_face2);
    waitKey();

    //cvReleaseImage(&face);
    cvDestroyWindow("Src Image");

    return ;

}

结果：

原始图像lena.jpg

变换成灰度图后：

提取图片的LBP特征：

提取人脸图像的LBP特征；