[机器学习实战-Logistic回归]使用Logistic回归预测各种实例

目录

本实验代码已经传到gitee上，请点击查收！

Logistic_Examples

一、实验目的

  1. 学习Logistic回归的基本思想。
  2. Sigmoid函数和Logistic回归分类器。
  3. 学习最优化算法--梯度上升算法、随机梯度上升算法等。
  4. 运用Logistic回归预测各种实例。

二、实验内容与设计思想

实验内容

  1. 基于Logistic回归和Sigmoid函数分类
  2. 基于最优化方法的最佳回归系数确定
  3. 示例1：从疝气病症预测病马的死亡率
  4. 示例2：从打斗数和接吻数预测电影类型（数据自制）
  5. 示例3：从心脏检查样本帮助诊断心脏病（数据来源于网络）
  6. 改进函数封装使不同的样本数据可以使用相同的函数封装

设计思想

  • Logistic回归的一般步骤：

    1. 收集数据：采用任意方法收集数据。
    2. 准备数据：由于需要进行距离计算，因此要求数据类型为数值型。另外，结构化数据格式则最佳
    3. 分析数据：采用任意方法对数据进行分析。
    4. 训练算法：大部分时间将用于训练，训练的目的是为了找到最佳的分类回归系数。
    5. 测试算法：一旦训练步骤完成，分类将会很快。
    6. 使用算法：首先，我们需要输入一些数据，并将其转换成对应的结构化数值；接着，基于训练好的回归系数就可以对这些数值进行简单的回归计算。判定它们属于哪个类别；在这之后，我们就可以输出的类别上做一些其他的分析工作。

三、实验使用环境

  • 操作系统：Microsoft Windows 10
  • 编程环境：Python 3.6、Pycharm、Anaconda

四、实验步骤和调试过程

4.1 基于Logistic回归和Sigmoid函数分类

  • 优点：计算代价不高，易于理解和实现。
  • 缺点：容易欠拟合，分类精度可能不高。
  • 使用数据类型：数值型和标称型数据。

Logistic回归算法只能用于预测结果只有两种情况（即要么0，要么1）的实例。而我们需要的函数则是能接收所有输入特征，最后预测出类别。且函数能稳定在某两个值之间，且能够平均分配，这里就引入了数学上的一个函数，即Sigmoid函数。

Sigmoid函数计算公式如下：

Sigmoid函数图像如下（来源：百度百科-Sigmoid函数）：

Sigmoid函数特点描述：

当z值为0，Sigmoid函数值为0.5.随着z的不断增大，对应的Sigmoid值将逼近1；而随着z的减小，Sigmoid值将逼近与0。如果横坐标刻度足够大，那么纵观Sigmoid函数，它看起来很像一个阶跃函数。

而Sigmoid函数中的z值是需要经过下列计算的，为了实现Logistic回归分类器，我们可以在每一个特征上乘以一个回归系数，然后把所有的结果值相加，而这个相加的总和就是z值了。再将z值代入到Sigmoid函数中，可以得到一个0到1之间的数值，我们将任何大于0.5的数值归为1类，小于0.5的数值被归为0类。所以，Logistic回归可以被看做是一种概率估算。

在上面说明了z值的计算方法后，我们用公式来更直观地描述z值计算：

用向量的写法，上述公式可以写成，表示将这两个数值向量对应元素相乘起来然后全部加起来即是z值。其中向量x是分类器的输入数据，即特征值数据；向量w是我们需要寻找的最佳系数，寻找最佳系数的目的是为了让分类器的结果尽可能的精确。

经过上面分析，Sigmoid函数公式最终形式可以写成下面这种形式：

4.2 基于最优化方法的最佳回归系数确定

上面我们提到z值计算中，w的值是回归系数，而回归系数决定了预测结果的准确性，为了获取最优回归系数，我们需要使用最优化方法。最优化方法这里学习和使用两种：梯度上升算法和随机梯度上升算法（是对梯度上升算法的改进，使计算复杂度降低）。

4.2.1 梯度上升算法：

算法思想：要找到某函数的最大值，最好的方法是沿着该函数的梯度方向探寻。

算法迭代公式：

其中：

  • w是我们要求的最佳系数，因为这个公式要迭代多次，且不断变大直到得到一个最佳系数值，所以每次要在w的基础上加上某个方向的步长。
  • α是步长，即每次的移动量。
  • 是梯度方向，即每次迭代时w上升最快的方向。

4.2.2 测试算法：使用梯度上升算法找到最佳参数

  1. def loadDataSet():
  2.     """
  3.     读取测试文件中的数据，拆分得到的每一行数据并存入相应的矩阵中，最后返回。
  4.     :return: dataMat, labelMat
  5.         dataMat: 特征矩阵
  6.         labelMat: 类型矩阵
  7.     """
  9.     # 初始化特征列表和类型列表
  10.     dataMat = []
  11.     labelMat = []
  12.     # 打开测试数据，默认为读方式
  13.     fr = open("data/testSet.txt")
  14.     # 通过readLines()方法可以获得文件中的所有行信息
  15.     for line in fr.readlines():
  16.         # 将一行中大的信息先通过strip()方法去掉首尾空格
  17.         # 再通过split()方法进行分割，默认分割方式是空格分割
  18.         # 将分割好后的数据存入列表lineArr
  19.         lineArr = line.strip().split()
  20.         # 取出列表lineArr中的数据通过append方法插入到dataMat列表表中
  21.         # 这里为了方便计算，将第一列的值都设置为1.0
  22.         dataMat.append([1.0, float(lineArr[0]), float(lineArr[1])])
  23.         # 再取出文件中的最后一列的值作为类型值存入labelMat列表中
  24.         labelMat.append(int(lineArr[2]))
  25.         """
  26.         列表中的append方法小结：
  27.             从上面两个列表添加元素的语句可以看出：
  28.             当我们需要添加一行数据时，需要加[]，表示将插入一行数据。
  29.             当我们将数据直接插入到某一列的后面时，则不需要加[]。
  30.             且需要注意的是：如果一次要添加好几个元素时，必须有[],否则会报错。
  31.         """
  32.     return dataMat, labelMat
  34. def sigmoid(inX):
  35.     """
  36.     sigmoid函数：α(z) = 1 / (1 + e^(-z))
  37.     :param inX: 函数中的参数z
  38.     :return: 返回函数计算结果
  39.     """
  40.     return 1.0 / (1 + exp(-inX))
  42. def gradAscent(dataMatIn, classLabels):
  43.     """
  44.     梯度上升算法
  45.     :param dataMatIn: 特征值数组
  46.     :param classLabels: 类型值数组
  47.     :return: 返回最佳回归系数
  48.     """
  50.     # 通过numpy模块中的mat方法可以将列表转化为矩阵
  51.     dataMatrix = mat(dataMatIn)
  52.     # transpose()方法是矩阵中的转置
  53.     labelMatrix = mat(classLabels).transpose()
  54.     # 通过numpy中大的shape方法可以获得矩阵的行数和列数信息
  55.     # 当矩阵是一维矩阵时，返回的是一个数的值
  56.     # 当矩阵是二维矩阵时，返回的是一个（1*2）的元组，元组第一个元素表示行数，第二个元素表示列数
  57.     m, n = shape(dataMatrix)  # m = 100; n = 3
  58.     alpha = 0.001  # 步长
  59.     maxCycles = 500  # 迭代次数
  60.     # ones()属于numpy模块，函数功能是生成一个所有元素都为1的数组
  61.     # 这里是生成一个“n行1列”的数组，数组中每一个元素值都是1
  62.     weights = ones((n, 1))
  63.     # 循环迭代maxCycles次，寻找最佳参数
  64.     for k in range(maxCycles):
  65.         # dataMatrix * weights 是矩阵乘法
  66.         # 矩阵相乘时注意第一个矩阵的列数要和第二个矩阵的行数相同
  67.         # (m × n) * ( n × 1) = (m × 1) 括号中表示几行几列
  68.         # (100 × 3) * (3 × 1) = (100 × 1)
  69.         # 最后得到一个100行1列的矩阵
  70.         # 该矩阵运算结果为为sigmoid函数（α(z) = 1 / (1 + e^(-z))）中的z
  71.         # z的公式为：z = w0x0 + w1x1 + w2x2 + ... + wnxn
  72.         h = sigmoid(dataMatrix * weights)
  73.         # 计算真实类别与预测类别的差值
  74.         error = labelMatrix - h
  75.         # 按差值error的方向调整回归系数
  76.         # 0.01 * (3 × m) * (m × 1)
  77.         # 表示每一个列上的一个误差情况，最后得到x1，x2，xn的系数偏移量
  78.         # 矩阵乘法，最后得到一个更新后的回归系数
  79.         # 梯度上升算法公式：w:=w+α▽w f(w)
  80.         # 其中α是步长，▽w f(w)是上升方向
  81.         weights = weights + alpha * dataMatrix.transpose() * error
  82.     return array(weights)

输出：

  1. if __name__ == '__main__':
  2.     dataMats, classMats = loadDataSet()
  3.     dataArr = array(dataMats)
  4.     weights = array(gradAscent(dataMats, classMats))
  5.     print(weights)  # 输出最佳系数w的各个值

[[ 4.12414349]

[ 0.48007329]

[-0.6168482 ]]

小结：

  • 梯度上升算法核心函数是gradAscent(dataMatIn, classLabels)函数，在该函数中不断迭代使得参数w不断优化，使得最终返回的参数最优。

  • 上述的sigmoid(inX)函数就是我们使用的Sigmoid函数公式，写成函数是因为下面我们会频繁的使用到这个函数，所以将该公式单独封装成一个函数。

  • loadDataSet()函数作用就是将我们收集到的数据读取出来，并且将读取出来的数据格式化存储到相应的数组中，最后返回供外界使用和分析。

  • 这里小结一下列表中的append()方法和extend()方法：

    1. if __name__ == '__main__':
    2.     li = []
    3.     appendLi = [1, 2, 3]
    4.     extendLi = [3, 4, 5]
    5.     li.append(appendLi)
    6.     print(li)
    7.     li.extend(extendLi)
    8.     print(li)

    输出：

    [[1, 2, 3]]

    [[1, 2, 3], 3, 4, 5]

    可以看到append()方法是将appendLi这个列表加入到li列表的新的一行，而extend()方法则是将extendLi列表中的数值取出来一个个接在li列表后面。

  • 这里涉及到的numpy模块中的新函数（所谓新，是相对于我来说滴）：

    • mat()：将数组或则列表转化为矩阵
    • 矩阵中包含的方法：transpose()方法是矩阵的转置。
    • 矩阵相乘需要注意：第一个矩阵的列数需要和第二个矩阵的函数相同。

  • line.strip().split()用法：可以看到这里是对字符串的切割，字符串line先通过strip()方法去掉了首尾的空格，在通过split()方法进行默认空格切割。两种方法一气呵成，不用分成两不写。

4.2.3 分析数据：画出决策边界

  1. def plotBestFit(dataArr, labelMat, weights):
  2.     """
  3.     画出决策边界
  4.     :param dataArr: 特征值数组
  5.     :param labelMat: 类型数组
  6.     :param weights: 最佳回归系数
  7.     :return:
  8.     """
  10.     # 通过shape函数获得dataArr的行列数，其中[0]即行数
  11.     n = shape(dataArr)[0]
  12.     # xCord1和yCord1是类型为1的点的x和y坐标值
  13.     xCord1 = []
  14.     yCord1 = []
  15.     # xCord2和yCord1是类型为0的点的x和y坐标值
  16.     xCord2 = []
  17.     yCord2 = []
  18.     # 特征数组的每一行和类型数组的没每一列一一对应
  19.     for i in range(n):
  20.         # 当类型为1时，
  21.         # 将特征数组中的指定行的1和2两个下标下的值分别作为x轴和y轴的值
  22.         if int(labelMat[i]) == 1:
  23.             xCord1.append(dataArr[i, 1])
  24.             yCord1.append(dataArr[i, 2])
  25.         # 当类型为0时，
  26.         # 将特征数组中的指定行的1和2两个下标下的值分别作为x轴和y轴的值
  27.         else:
  28.             xCord2.append(dataArr[i, 1])
  29.             yCord2.append(dataArr[i, 2])
  30.     # figure()操作时创建或者调用画板
  31.     # 使用时遵循就近原则，所有画图操作是在最近一次调用的画图板上实现。
  32.     fig = plt.figure()
  33.     # 将fig分成1×1的网格，在第一个格子中加载ax图
  34.     # 参数111表示“1×1网格中的第1个表格”
  35.     # 如果参数是211则表示“2行1列的表格的中的第一个表格”
  36.     # 第几个表格的计算顺序为从左到右，从上到下
  37.     ax = fig.add_subplot(111)
  38.     # 设置散点图参数
  39.     # 前两个参数xCord1，yCord1表示散点对应的x和y坐标值
  40.     # s=30表示散点大小为30
  41.     # c='red'表示散点颜色为红色
  42.     # marker='s'表示散点的形状，这里是正方形
  43.     ax.scatter(xCord1, yCord1, s=30, c='red', marker='s')
  44.     # 同上说明
  45.     ax.scatter(xCord2, yCord2, s=30, c='green')
  46.     # 生成一个[-3.0, 3.0]范围中间隔每0.1取一个值
  47.     x = arange(-3.0, 3.0, 0.1)
  48.     # y相对于x的函数
  49.     """
  50.     这里的y是怎么得到的呢？
  51.         从dataMat.append([1.0, float(lineArr[0]), float(lineArr[1])])
  52.         可得：w0*x0+w1*x1+w2*x2 = z
  53.         x0最开始就设置为1，x2就是我们画图的y值，x1就是我们画图的x值。
  54.         所以：w0 + w1*x + w2*y = 0
  55.         →   y = (-w0 - w1 * x) / w2
  56.     """
  57.     y = (-weights[0] - weights[1] * x) / weights[2]
  58.     # 画线
  59.     ax.plot(x, y)
  60.     # 设置x轴和y轴的名称
  61.     plt.xlabel('x1')
  62.     plt.ylabel('x2')
  63.     # 展示图像
  64.     plt.show()

输出：

  1. if __name__ == '__main__':
  2.     dataMats, classMats = loadDataSet()
  3.     dataArr = array(dataMats)
  4.     weights = array(gradAscent(dataMats, classMats))
  5.     plotBestFit(dataArr, classMats, weights)  # 调用该函数话决策边界

输出图如下：

小结：

  • 观察上面的图示，可以看出这个分类结果相当不错，只错分了三四个点。

  • 画图方法小结：(箭头表示赋值)

    • 调用画板→fig：plt.figure() 方法。（plt是画图工具包我们取的别名）

  • 划分画板→ax：fig.add_subplot(111)方法，其中111表示1*1的画板中的第1个画板。

    • 画图：画曲散点图用ax.sctter()方法，画曲线图用ax.plot()方法

  • 设置坐标名称：plt.xlabel('x1')和plt.ylabel('x2')，这里设置x轴名称为x1，y轴名称为x2。

    • 显示图画：plt.show()方法。

  • 但是尽管该例子很小且数据集很小，求最佳系数时需要大量的计算（300次乘法）。对于几百个左右的数据集合还可以，但是如果是10亿个样本和成千上万的特征，那么这个计算方法的复杂度太高了，甚至可能出不来最佳系数。所以下面引入随机梯度上升算法。

4.2.4 训练算法：随机梯度上升

  1. def stocGradAscent0(dataMatrix, classLabels):
  2.     """
  3.     随机梯度上升算法
  4.     :param dataMatrix: 特征值矩阵
  5.     :param classLabels: 类型数组
  6.     :return: 最佳系数weights
  7.     """
  9.     # m = 100，n = 3
  10.     m, n = shape(dataMatrix)
  11.     alpha = 0.01
  12.     weights = ones(n)
  13.     print(weights)
  14.     # 循环迭代m次，即100次
  15.     for i in range(m):
  16.         # (1 × 3) * (1 × 3) = (1 × 3)
  17.         # 数组相乘，两个数组的每个元素对应相乘
  18.         # 最后求和
  19.         # z = w0x0 + w1x1 + wnxn
  20.         # 在将z代入sigmoid函数进行计算
  21.         h = sigmoid(sum(dataMatrix[i] * weights))
  22.         # 计算实际结果和测试结果之间的误差，按照差值调整回归系数
  23.         error = classLabels[i] - h
  24.         # 通过梯度上升算法更新weights
  25.         weights = weights + alpha * error * dataMatrix[i]
  26.     return weights

使用上面的plotBestFit(dataArr, labelMat, weights)函数分析该算法。

输出：

  1. if __name__ == '__main__':
  2.     dataMats, classMats = loadDataSet()
  3.     dataArr = array(dataMats)
  4.     weights = array(stocGradAscent0(dataArr, classMats))
  5.     plotBestFit(dataArr, classMats, weights)

小结：

  • 通过图示可以看出，随机梯度上升算法错分了三分之一的样本。
  • 随机梯度上升算法与梯度上升算法很类似，但是有一些区别：
    1. 后者的变量h和误差error都是向量，而前者则全是一个数值；
    2. 前者没有矩阵转换的过程，所有变量的数据类型都是Numpy，效率上会较后者快。
  • 因为经过比较此时的随机梯度算法错分了三分之一的样本，我们通过下面的改进来优化一下该算法。

改进后的随机梯度上升算法代码如下：

  1. def stocGradAscent1(dataMatrix, classLabels, numIter=150):
  2.     """
  3.     改进后的随机梯度上升算法
  4.     :param dataMatrix: 特征值矩阵
  5.     :param classLabels: 类型数组
  6.     :param numIter: 迭代次数，设置默认值为150
  7.     :return: 最佳系数weights
  8.     """
  10.     m, n = shape(dataMatrix)
  11.     # 创建与列数相同矩阵，所有元素都为1
  12.     weights = ones(n)
  13.     # 随机梯度，循环默认次数为150次，观察是否收敛
  14.     for j in range(numIter):
  15.         # 产生列表为[0, 1, 2 ... m-1]
  16.         dataIndex = list(range(m))
  17.         for i in range(m):
  18.             # i和j不断增大，导致alpha不断减小，单上衣不为0,
  19.             # alpha会随着迭代不断的减小，但永远不会减小到0，因为后面还有一个常数项0.01
  20.             alpha = 4 / (1.0 + j + i) + 0.01
  21.             # 产生一个随机在0-len()之间的值
  22.             # random.uniform(x, y)方法将随机生成一个实数，他在[x, y]范围内，x<=y。
  23.             randIndex = int(random.uniform(0, len(dataIndex)))
  24.             # sum(dataMatrix[randIndex]*weights)是为了求z值
  25.             # z = w0x0 + w1x1 + ... + wnxn
  26.             h = sigmoid(sum(dataMatrix[randIndex] * weights))
  27.             # 计算实际结果和测试结果之间的误差,按照差值调整回归系数
  28.             error = classLabels[randIndex] - h
  29.             # 通过梯度上升算法更新weights
  30.             weights = weights + alpha * error * dataMatrix[randIndex]
  31.             # 删除掉此次更新中用到的特征数据
  32.             del(dataIndex[randIndex])
  33.     return weights

输出：

  1. if __name__ == '__main__':
  2.     dataMats, classMats = loadDataSet()
  3.     dataArr = array(dataMats)
  4.     weights = array(stocGradAscent1(dataArr, classMats))
  5.     plotBestFit(dataArr, classMats, weights)

小结：

  • 这里增加了3处代码来进行改进：

    1. 一方面，alpha在每次迭代的时候都会再进行调整。另外，虽然alpha会随着迭代次数不断减小，但永远不会减小到0，这是因为调整时还存在一个常数项。必须这样做的原因是为了保证多次迭代后新数据仍然具有一定的影响。
    2. 第二处改进，通过随机选取样本来更新回归系数。这种方法每次随机从列表中选取一个值，更新完系数后删除掉该值（再进行下一次迭代）。
    3. 第三就是该算法还增加了第三个参数，传入迭代的次数，默认值为150.
  • 在看此时分析数据得到的划分图，此时划分只错分了几个样本数据，所以该优化后的随机梯度算法满足我们需求，且数据量大的时候不用进行矩阵变化，效率也比较高。

4.3 示例1：从疝气病症预测病马的死亡率

这里我们将使用Logistic回归来预测患有疝气病症的马的存活问题。这里的数据包含299个训练样本和67个测试样本。其中我们通过21中特征值（每个特征代表什么我们可以不用关心）来进行预测患有疝病的马的存活率。1表示存活，0表示死亡。

训练样本horseColicTraining.txt展示：

测试样本horseColicTest.txt展示：

测试算法：用Logistic回归进行分类

  1. def classifyVector(inX, weights):
  2.     """
  3.     使用梯度上升算法获取到的最优系数来计算测试样本中对应的Sigmoid值。
  4.     其中Sigmoid值大于0.5返回1，小于0.5返回0.
  5.     :param inX: 特征数组
  6.     :param weights: 最优系数
  7.     :return: 返回分类结果，即1或0
  8.     """
  10.     prob = sigmoid(sum(inX * weights))
  11.     if prob > 0.5:
  12.         return 1.0
  13.     else:
  14.         return 0.0
  16. def colicTest():
  17.     """
  18.     测试回归系数算法的用于计算疝气病症预测病马的死亡率的错误率。
  19.     这里运用的随机梯度算法来获取最佳系数w1，w2,...,wn
  20.     :return: 返回此次测试的错误率
  21.     """
  23.     # 以默认只读方式打开训练数据样本和测试数据样本
  24.     frTrain = open('data/horseColicTraining.txt')
  25.     frTest = open('data/horseColicTest.txt')
  26.     trainingSet = []
  27.     trainingLabels = []
  28.     # 读取训练数据样本的每一行
  29.     for line in frTrain.readlines():
  30.         # 去掉首尾空格，并按tab空格数来切割字符串，并将切割后的值存入列表
  31.         currLine = line.strip().split('\t')
  32.         lineArr = []
  33.         # 将21个特征值依次加入到lineArr列表汇总
  34.         for i in range(21):
  35.             lineArr.append(float(currLine[i]))
  36.         # 再将lineArr列表加入到二维列表trainingSet列表中
  37.         trainingSet.append(lineArr)
  38.         # 将类型值依次接到trainingLabels这个列表的末尾行
  39.         trainingLabels.append(float(currLine[21]))
  40.     # 使用上面写的改进的随机梯度算法求得最佳系数，用于下面分类器使用区分类型
  41.     trainWeights = stocGradAscent1(array(trainingSet), trainingLabels, 300)
  42.     errorCount = 0
  43.     numTestVec = 0.0
  44.     # 读取测试数据的每一行
  45.     for line in frTest.readlines():
  46.         # 测试数据数加1
  47.         numTestVec += 1.0
  48.         # 去掉首尾空格，并以tab空格数切割字符串，并将切割后的值存入列表
  49.         currLine = line.strip().split('\t')
  50.         lineArr = []
  51.         # 将21个特征值依次加入到特征列表lineArr中
  52.         for i in range(21):
  53.             lineArr.append(float(currLine[i]))
  54.         # 通过上面计算得到的最佳系数，使用分类器计算lineArr这些特征下的所属的类型
  55.         if int(classifyVector(array(lineArr), trainWeights)) != int(currLine[21]):
  56.             # 如果分类器得到结果和真实结果不符，则错误次数加1
  57.             errorCount += 1
  58.     # 通过遍历获得的所有测试数据量和错误次数求得最终的错误率
  59.     errorRate = float(errorCount) / numTestVec
  60.     # 输出错误率
  61.     print("测试结果的错误率为：{:.2%}".format(errorRate))
  62.     # 返回错误率，用于计算n次错误率的平均值
  63.     return errorRate
  65. def multiTest():
  66.     """
  67.     多次测试算法的错误率取平均值，以得到一个比较有说服力的结果。
  68.     :return:
  69.     """
  71.     numTests = 10
  72.     errorSum = 0.0
  73.     # 通过10次的算法测试，并获得10次错误率的总和
  74.     for k in range(numTests):
  75.         errorSum += colicTest()
  76.     # 通过错误率总和/10可以求得10次平均错误率并输出
  77.     print("10次算法测试后平均错误率为：{:.2%}".format(errorSum/float(numTests)))

输出：

  1. if __name__ == '__main__':
  2.     multiTest()

测试结果的错误率为：29.85%

测试结果的错误率为：32.84%

测试结果的错误率为：35.82%

测试结果的错误率为：40.30%

测试结果的错误率为：34.33%

测试结果的错误率为：46.27%

测试结果的错误率为：32.84%

测试结果的错误率为：37.31%

测试结果的错误率为：29.85%

测试结果的错误率为：50.75%

10次算法测试后平均错误率为：37.01%

小结：

  • classifyVector(inX, weights)函数，是以最佳回归系数和特征向量作为输入来计算最终对应的Sigmoid值。如果Sigmoid值大于0.5,函数返回1，否则返回0。注意：这个函数后面其他实例也会经常用到，因为这个函数相当于一个分类器，可以获取到最终的预测结果。
  • colicTest()函数，是用于打开测试集和训练测试集，并对数据进行格式化处理的函数，函数最终放回测试的错误率。
  • multiTest()函数，其功能是调用10次colicTest()函数并求结果的平均值。为了使最终错误率更有说服力。
  • 从上面的结果可以看到10次迭代后的平均错误率为37.01%。事实上，这个结果并不差，因为样本数据中实际上有30%的数据缺失。当然，如果调整colicTest()的迭代次数和stochGradAscent1()中的步长，平均错误率可以降到20%左右。
  • 当然后面如果我们有某些特征值需要判断，并使用该算法预测时，我们只需再增加一个输入各特征值的函数，然后调用classifyVector(inX, weights)函数，就可以预测出某些特征下疝病马是否会死亡。

4.4 示例2：从打斗数和接吻数预测电影类型（数据自制）

从kNN算法里面的小例子得到启发，使用打斗数和接吻数这两个特征最终预测得到的电影类型只有两种：爱情片和动作片。所以符合Logistic回归算法的使用标准。

特征说明：打斗数、接吻数

类型说明：1表示动作片；0表示爱情片

自制数据代码展示：

  1. # !/usr/bin/python3
  2. # -*- coding: utf-8 -*-
  3. # @Time    : 2020/4/26 17:21
  4. # @Author  : zjw
  5. # @FileName: generateData.py
  6. # @Software: PyCharm
  7. # @Blog    ：https://www.cnblogs.com/vanishzeng/
  9. from numpy import *
  11. def generateSomeData(fileName, num):
  12.     trainFile = open(fileName, "w")
  13.     for i in range(num):
  14.         fightCount = float(int(random.uniform(0, 101)))
  15.         kissCount = float(int(random.uniform(0, 101)))
  16.         if fightCount > kissCount:
  17.             label = 1  # 表示动作片
  18.         else:
  19.             label = 0  # 表示爱情片
  20.         trainFile.write(str(fightCount) + "\t" + str(kissCount) + "\t" + str(float(label)) + "\n")
  21.     trainFile.close()
  23. if __name__ == '__main__':
  24.     generateSomeData("data/movieTraining.txt", 200)
  25.     generateSomeData("data/movieTest.txt", 100)

自制数据思路：通过随机生成打斗数和接吻数（数量在100以内），判断当打斗数大于接吻数时为动作片，记为1；当接吻数大于打斗数时为爱情片，记为0。并将数据写入相应的txt文件中。这里生成了200个训练样本和100个测试样本。最后，还经过对生成的样本数据，进行手动修改几个类别，以达到更加实际现实的样本数据。

样本展示：

  • movieTraining.txt训练样本展示：

  • movieTest.txt测试样本展示：

测试算法：使用Logistic回归预测电影类别（关键代码展示）

  1. def classifyVector(inX, weights):
  2.     """
  3.     使用梯度上升算法获取到的最优系数来计算测试样本中对应的Sigmoid值。
  4.     其中Sigmoid值大于0.5返回1，小于0.5返回0.
  5.     :param inX: 特征数组
  6.     :param weights: 最优系数
  7.     :return: 返回分类结果，即1或0
  8.     """
  10.     prob = sigmoid(sum(inX * weights))
  11.     if prob > 0.5:
  12.         return 1.0
  13.     else:
  14.         return 0.0
  16. def movieTest():
  17.     """
  18.     使用Logistic回归算法测试判断电影类别的错误率。
  19.     :return: 错误率
  20.     """
  21.     trainFile = open("data/movieTraining.txt")
  22.     testFile = open("data/movieTest.txt")
  23.     trainSet = []
  24.     trainLabels = []
  25.     for line in trainFile.readlines():
  26.         lineArr = line.strip().split('\t')
  27.         trainSet.append([float(lineArr[0]), float(lineArr[1])])
  28.         trainLabels.append(float(lineArr[2]))
  29.     trainWeights = stocGradAscent1(array(trainSet), trainLabels, 500)
  30.     errorCount = 0
  31.     allTestCount = 0
  32.     for line in testFile.readlines():
  33.         allTestCount += 1
  34.         lineArr = line.strip().split('\t')
  35.         eigenvalue = [float(lineArr[0]), float(lineArr[1])]
  36.         if classifyVector(eigenvalue, trainWeights) != float(lineArr[2]):
  37.             errorCount += 1
  38.     errorRate = float(errorCount)/float(allTestCount)
  39.     print("错误率为：{:.2%}".format(errorRate))
  40.     return errorRate
  42. def multiTest():
  43.     """
  44.     多次测试算法的错误率取平均值，以得到一个比较有说服力的结果。
  45.     :return:
  46.     """
  48.     numTests = 10
  49.     errorSum = 0.0
  50.     # 通过10次的算法测试，并获得10次错误率的总和
  51.     for k in range(numTests):
  52.         errorSum += movieTest()
  53.     # 通过错误率总和/10可以求得10次平均错误率并输出
  54.     print("10次算法测试后平均错误率为：{:.2%}".format(errorSum/float(numTests)))

输出：

  1. if __name__ == '__main__':
  2.     multiTest()

错误率为：11.00%

错误率为：6.00%

错误率为：5.00%

错误率为：6.00%

错误率为：5.00%

错误率为：10.00%

错误率为：4.00%

错误率为：7.00%

错误率为：14.00%

错误率为：11.00%

10次算法测试后平均错误率为：7.90%

小结：

  • 这里测试算法的思路和上面的思路基本一致，只是对一些函数中的内容进行小修小补。
  • 因为这里的数据是自制的，且特征数量只有两个，制作规则比较简单，且手动修改的类别不多，所以最终得到的错误率并不高，算法的测试结果是令人满意的。

4.5 示例3：从心脏检查样本帮助诊断心脏病（数据来源于网络）

在这个例子中我们使用到一批心脏检查样本数据（数据来源于网络：Statlog (Heart) Data Set），这里我将获取到的270个样本数据分成两部分，一部分作为训练样本（heartTraining.txt)有200个样本数据，一部分作为测试样本（heartTest.txt）有70个样本数据。数据各列的特征（有13个特征）和是否为心脏病如下图所示：

注：这里中间有些特征没有标明，但这并不影响我们对数据的操作。

这里为了使数据便于后面的操作，我将数据集中最后一列数据进行了修改，原来是1表示否，2表示是；修改后1表示是，0表示否。

重构数据集的代码如下：

  1. # !/usr/bin/python3
  2. # -*- coding: utf-8 -*-
  3. # @Time    : 2020/4/29 9:54
  4. # @Author  : zjw
  5. # @FileName: modifyDataFile.py
  6. # @Software: PyCharm
  7. # @Blog    ：https://www.cnblogs.com/vanishzeng/
  9. def modifyData(fileName):
  10.     file = open(fileName, 'r')
  11.     allStr = []
  12.     for line in file.readlines():
  13.         arr = line.strip().split(' ')
  14.         if arr[13] == '1':
  15.             arr[13] = '0'
  16.         else:
  17.             arr[13] = '1'
  18.         s = ''
  19.         for i in range(14):
  20.             s += arr[i] + '\t'
  21.         s += '\n'
  22.         allStr.append(s)
  23.     file.close()
  24.     newFile = open(fileName, 'w')
  25.     newFile.writelines(allStr)
  26.     newFile.close()
  28. if __name__ == '__main__':
  29.     modifyData('data/heartTest.txt')
  30.     modifyData('data/heartTraining.txt')

重构思路：将文本文件中的数据都读取出来，然后进行切割，将数据中的最后一列中的值通过if判别进行替换。并将修改好后的列表转化为一个个字符串，存入到allStr这个总列表中。最后再以写的方式打开文件，通过writelines()方法一次性将allStr列表写入文件中。

重构后的文件数据集：

  • 训练样本（heartTraining.txt）：

  • 测试样本（heartTest.txt）：

测试算法：使用Logistic回归预测是否为心脏病（关键代码展示）

  1. def classifyVector(inX, weights):
  2.     """
  3.     使用梯度上升算法获取到的最优系数来计算测试样本中对应的Sigmoid值。
  4.     其中Sigmoid值大于0.5返回1，小于0.5返回0.
  5.     :param inX: 特征数组
  6.     :param weights: 最优系数
  7.     :return: 返回分类结果，即1或0
  8.     """
  10.     prob = sigmoid(sum(inX * weights))
  11.     if prob > 0.5:
  12.         return 1.0
  13.     else:
  14.         return 0.0
  16. def heartTest():
  17.     """
  18.     使用Logistic回归算法诊断心脏病的错误率。
  19.     :return:错误率
  20.     """
  22.     trainFile = open("data/heartTraining.txt")
  23.     testFile = open("data/heartTest.txt")
  24.     trainSet = []
  25.     trainLabels = []
  26.     for line in trainFile.readlines():
  27.         lineArr = line.strip().split(' ')
  28.         temArr = []
  29.         for i in range(13):
  30.             temArr.append(float(lineArr[i]))
  31.         trainSet.append(temArr)
  32.         trainLabels.append(float(lineArr[13]))
  33.     trainWeights = stocGradAscent1(array(trainSet), trainLabels, 100)
  34.     errorCount = 0
  35.     allTestCount = 0
  36.     for line in testFile.readlines():
  37.         allTestCount += 1
  38.         lineArr = line.strip().split(' ')
  39.         eigenvalue = []
  40.         for i in range(13):
  41.             eigenvalue.append(float(lineArr[i]))
  42.         if classifyVector(eigenvalue, trainWeights) != float(lineArr[13]):
  43.             errorCount += 1
  44.     errorRate = float(errorCount) / float(allTestCount)
  45.     print("错误率为：{:.2%}".format(errorRate))
  46.     return errorRate
  48. def multiTest():
  49.     """
  50.     多次测试算法的错误率取平均值，以得到一个比较有说服力的结果。
  51.     :return:
  52.     """
  54.     numTests = 10
  55.     errorSum = 0.0
  56.     # 通过10次的算法测试，并获得10次错误率的总和
  57.     for k in range(numTests):
  58.         errorSum += heartTest()
  59.     # 通过错误率总和/10可以求得10次平均错误率并输出
  60.     print("10次算法测试后平均错误率为：{:.2%}".format(errorSum/float(numTests)))

输出：

  1. if __name__ == '__main__':
  2.     multiTest()

错误率为：18.57%

错误率为：17.14%

错误率为：15.71%

错误率为：31.43%

错误率为：24.29%

错误率为：12.86%

错误率为：21.43%

错误率为：12.86%

错误率为：32.86%

错误率为：22.86%

10次算法测试后平均错误率为：21.00%

小结：

  • 可以看到测试算法的错误率为21%，是一个还不错的结果。因为这次得到的数据的特征值较多，且特征值之间也有所差别。可以通过增加迭代次数，以及调整步长进一步减低错误率。
  • 在数据处理方面，从三个实例可以看出，基本上是一致的，知识因为特征值数量的不同，以及读取文件的不同，导致代码上有略微的区别。测试Logistic算法的大致思路都是一致的，测试算法思想：
    1. 读取训练样本中的数据，进行格式化处理；
    2. 将格式化处理后的数据传入随机梯度上升算法函数中，获取到最佳参数。
    3. 再读取测试样本中的数据，进行格式化处理后，调用分类器函数（传入样本特征和最佳参数），可以预测出最终特征。与测试数据中的实际特征进行比较，计算出错误次数。
    4. 最终通过错误次数/测试样本总数求出错误率。
    5. 为了使试验结果具有说服力，使用了多次求解错误率取平均值的方法。
  • 经过上面的分析，我们可以看到在测试算法时，我们用到了基本一致的步骤，所以想到写几个函数，可以将这些步骤统一起来，通过传入某些参数来实现对不同特征数据的分析和预测。

4.6 改进函数封装使不同的样本数据可以使用相同的函数封装

改进函数展示：

  1. def dataTest(trainFileName, testFileName, numOfFeatures):
  2.     """
  3.     函数功能：测试回归算法预测数据样本的错误率。
  4.     函数伪代码：
  5.         1. 读取训练样本中的数据，进行格式化处理；
  6.         2. 将格式化处理后的数据传入随机梯度上升算法函数中，获取到最佳参数。
  7.         3. 再读取测试样本中的数据，进行格式化处理后，调用分类器函数（传入样本特征和最佳参数），可以预测出最终特征。与测试数据中的实际特征进行比较，计算出错误次数。
  8.         4. 最终通过错误次数/测试样本总数**求出错误率。
  9.     :param trainFileName: 训练样本的文件路径/文件名
  10.     :param testFileName: 测试样本的文件路径/文件名
  11.     :param numOfFeatures: 样本所包含的特征数量
  12.     :return:
  13.     """
  15.     trainFile = open(trainFileName)
  16.     testFile = open(testFileName)
  17.     trainSet = []
  18.     trainLabels = []
  19.     for line in trainFile.readlines():
  20.         lineArr = line.strip().split('\t')
  21.         temArr = []
  22.         for i in range(numOfFeatures):
  23.             temArr.append(float(lineArr[i]))
  24.         trainSet.append(temArr)
  25.         trainLabels.append(float(lineArr[numOfFeatures]))
  26.     trainWeights = stocGradAscent1(array(trainSet), trainLabels, 200)
  27.     errorCount = 0
  28.     allTestCount = 0
  29.     for line in testFile.readlines():
  30.         allTestCount += 1
  31.         lineArr = line.strip().split('\t')
  32.         eigenvalue = []
  33.         for i in range(numOfFeatures):
  34.             eigenvalue.append(float(lineArr[i]))
  35.         if classifyVector(eigenvalue, trainWeights) != float(lineArr[numOfFeatures]):
  36.             errorCount += 1
  37.     errorRate = float(errorCount) / float(allTestCount)
  38.     print("错误率为：{:.2%}".format(errorRate))
  39.     return errorRate
  41. def multiTest1(trainFileName, testFileName, numOfFeatures):
  42.     """
  43.     多次测试算法的错误率取平均值，以得到一个比较有说服力的结果。
  44.     :return:
  45.     """
  47.     numTests = 10
  48.     errorSum = 0.0
  49.     # 通过10次的算法测试，并获得10次错误率的总和
  50.     for k in range(numTests):
  51.         errorSum += dataTest(trainFileName, testFileName, numOfFeatures)
  52.     # 通过错误率总和/10可以求得10次平均错误率并输出
  53.     print("10次算法测试后平均错误率为：{:.2%}".format(errorSum/float(numTests)))

输出：

  1. if __name__ == '__main__':
  2.     print("示例1：示例1：从疝气病症预测病马的死亡率")
  3.     multiTest1('data/horseColicTraining.txt', 'data/horseColicTest.txt', 21)
  4.     print("\n示例2：从打斗数和接吻数预测电影类型")
  5.     multiTest1('data/movieTraining.txt', 'data/movieTest.txt', 2)
  6.     print("\n示例3：从心脏检查样本帮助诊断心脏病")
  7.     multiTest1('data/heartTraining.txt', 'data/heartTest.txt', 13)

示例1：从疝气病症预测病马的死亡率

错误率为：32.84%

错误率为：29.85%

错误率为：29.85%

错误率为：37.31%

错误率为：29.85%

错误率为：34.33%

错误率为：31.34%

错误率为：29.85%

错误率为：29.85%

错误率为：31.34%

10次算法测试后平均错误率为：31.64%

示例2：从打斗数和接吻数预测电影类型

错误率为：14.00%

错误率为：6.00%

错误率为：14.00%

错误率为：3.00%

错误率为：6.00%

错误率为：11.00%

错误率为：5.00%

错误率为：11.00%

错误率为：5.00%

错误率为：5.00%

10次算法测试后平均错误率为：8.00%

示例3：从心脏检查样本帮助诊断心脏病

错误率为：20.00%

错误率为：22.86%

错误率为：17.14%

错误率为：22.86%

错误率为：18.57%

错误率为：18.57%

错误率为：35.71%

错误率为：22.86%

错误率为：35.71%

错误率为：18.57%

10次算法测试后平均错误率为：23.29%

小结：

  • 通过函数封装后，就可以直接传入相应的文件名和特征数即可测试不同的样本。解决了上面的代码冗余。
  • 函数封装的思路主要是对上面写的测试函数进行重构，重构的位置有两个地方：
    1. 将colicTest()、movieTest()、heartTest()三个函数统一为dataTest(trainFileName, testFileName, numOfFeatures)这个函数，增加了三个参数的目的是，原来三个函数中的不同的地方就是不同的文件和不同的特征数量，所以以参数的形式传递进来，即使有所不同，但是以函数内参数形式调用即可实现相同的功能。
    2. 将原来的multiTest()函数重构为multiTest1(trainFileName, testFileName, numOfFeatures)这个函数，也是增加了和上面同样的三个参数，主要是因为在这个函数中要调用dataTest()这个函数，所以需要需要通过multiTest1这个函数间接帮忙传递参数。
  • 通过该函数封装后，后面当我们需要测试新的数据使，只要告诉我文件所在位置和文件名，以及数据的特征数量，我就可以调用multiTest1()函数很快的计算出错误率，无需再写新的函数进行测试，极大的提高了效率。

五、实验总结

  1. Logistic回归算法的目的是寻找一个非线性函数Sigmoid的最佳拟合参数，求解过程可以使用最优化算法来完成。

  2. 最优化算法中，最常用的是梯度上升算法。梯度上升算法可以简化为效率比较高的随机梯度上升算法。

  3. 改进后的随机梯度上升算法的效果和梯度上升算法效果相当，但是占用更少的计算资源且效率更高。

  4. Sigmoid函数：

  5. 函数封装很重要，可以解决代码冗余问题，此外也可以提高开发效率，不必每次一有新数据，就要重新写新的函数来满足要求。好的代码封装，后续只要调用相应的函数就可以完成指定的目标。

  6. numpy相关函数:

    1. mat()：将数组或列表转为矩阵形式。
    2. mat.transpose():矩阵转置

六、参考资料

  1. 《机器学习实战》 Peter Harrington (作者) 李锐 , 李鹏 , 曲亚东 , 王斌 (译者) 第2章 k-近邻算法
  2. 预测心脏病的数据来源：http://archive.ics.uci.edu/ml/datasets/Concrete+Compressive+Strength
  3. 机器学习代码实战：使用逻辑回归帮助诊断心脏病
  4. Sigmoid函数
  5. 【机器学习笔记1】Logistic回归总结

版权声明：欢迎转载=>请标注信息来源于 Vanish丶博客园

[机器学习实战-Logistic回归]使用Logistic回归预测各种实例的更多相关文章

  1. 机器学习实战 - 读书笔记(05) - Logistic回归

    解释 Logistic回归用于寻找最优化算法. 最优化算法可以解决最XX问题,比如如何在最短时间内从A点到达B点?如何投入最少工作量却获得最大的效益?如何设计发动机使得油耗最少而功率最大? 我们可以看 ...

  2. 机器学习实战读书笔记(五)Logistic回归

    Logistic回归的一般过程 1.收集数据:采用任意方法收集 2.准备数据:由于需要进行距离计算,因此要求数据类型为数值型.另外,结构化数据格式则最佳 3.分析数据:采用任意方法对数据进行分析 4. ...

  3. 机器学习实战3：逻辑logistic回归+在线学习+病马实例

    本文介绍logistic回归,和改进算法随机logistic回归,及一个病马是否可以治愈的案例.例子中涉及了数据清洗工作,缺失值的处理. 一 引言 1 sigmoid函数,这个非线性函数十分重要,f( ...

  4. 【机器学习】逻辑回归（Logistic Regression）

    注:最近开始学习<人工智能>选修课,老师提纲挈领的介绍了一番,听完课只了解了个大概,剩下的细节只能自己继续摸索. 从本质上讲:机器学习就是一个模型对外界的刺激(训练样本)做出反应,趋利避害 ...

  5. 机器学习之逻辑回归（logistic回归）

    前言            以下内容是个人学习之后的感悟,转载请注明出处~ 逻辑回归 一.为什么使用logistic回归   一般来说,回归不用在分类问题上,因为回归是连续型模型,而且受噪声影响比较大 ...

  6. Python机器学习算法 — 逻辑回归（Logistic Regression）

    逻辑回归--简介 逻辑回归(Logistic Regression)就是这样的一个过程:面对一个回归或者分类问题,建立代价函数,然后通过优化方法迭代求解出最优的模型参数,然后测试验证我们这个求解的模型 ...

  7. 机器学习之逻辑回归（Logistic Regression）

    1. Classification 这篇文章我们来讨论分类问题(classification problems),也就是说你想预测的变量 y 是一个离散的值.我们会使用逻辑回归算法来解决分类问题. 之 ...

  8. logistic回归和probit回归预测公司被ST的概率(应用)

    1.适合阅读人群: 知道以下知识点:盒状图.假设检验.逻辑回归的理论.probit的理论.看过回归分析,了解AIC和BIC判别准则.能自己跑R语言程序 2.本文目的:用R语言演示一个相对完整的逻辑回归 ...

  9. 机器学习实战-Logistics回归

    Logistics回归:实战,有两个特征X0,X1.100个样本,进行Logistics回归 1.导入数据 def load_data_set(): """ 加载数据集 ...

随机推荐

  1. iOS 构建静态库

    一..a 文件静态库打包 打开 Xcode 创建一个新的 Static Library 工程,取名 MyStaticLibrary. 创建工程完毕后,系统自动创建了一个同名类,添加一个方法用于测试. ...

  2. 线程状态以及sleep yield wait join方法

    前言 在日常的开发过程中,我们通过会使用Thread.sleep模拟一个耗时的任务执行过程. 在深入理解这四个方法之前,首先对线程的状态进行理解阐述. 线程概念 线程是操作系统执行任务的基本单位,处理 ...

  3. 深入理解Java虚拟机（第三版）-13.Java内存模型与线程

    13.Java内存模型与线程 1.Java内存模型 Java 内存模型的主要目的是定义程序中各种变量的访问规则,即关注在虚拟机中把变量值存储到主内存和从内存中取出变量值的底层细节 该变量指的是 实例字 ...

  4. MATLAB 一维随机变量及其概率分布

    1.两点分布 clc clear a=rand(1,10); for ii=1:10 if a(ii)<0.2 a(ii)=0; else a(ii)=1; end end a x=0的概率为0 ...

  5. CSS超链接样式，去除下划线等

    控制超链接样式 链接的四种状态: a:link - 普通的.未被访问的链接 a:visited - 用户已访问的链接 a:hover - 鼠标指针位于链接的上方 a:active - 链接被点击的时刻 ...

  6. HashMap源码与相关面试题

    一.哈希表 哈希表是一种可以快速定位得数据结构.哈希表可以做到平均查找.插入.删除时间是O(1),当然这是指不发生Hash碰撞得情况.而哈希表最大得缺陷就是哈希值得碰撞(collision). Has ...

  7. 配置附加权限和LDAP

     配置附加权限和LDAP 补充:调整root的权限为rwx(读,写,执行) 步骤:采用数值形式将目录/root的权限调整为rwx------ 1)查看原来的权限 [root@svr7~]#ls -ld ...

  8. ORM框架对分表分库的实现

    *:first-child { margin-top: 0 !important; } .markdown-body>*:last-child { margin-bottom: 0 !impor ...

  9. django发邮件

    django发邮件 配置setting信息 EMAIL_BACKEND = 'django.core.mail.backends.smtp.EmailBackend' EMAIL_HOST = 'sm ...

  10. 计算机网络协议，UDP数据报的分析

    一.UDP数据报的特点 1.基本特性 UDP是在IP数据报的基础上增加了复用和分用以及差错检测的功能 UDP的主要特点如下: UDP是无连接的:即发送数据之前不需要建立连接 UDP使用尽最大努力交付, ...