title: "Python实现bp神经网络识别MNIST数据集"

date: 2018-06-18T14:01:49+08:00

tags: [""]

categories: ["python"]


前言

训练时读入的是.mat格式的训练集,测试正确率时用的是png格式的图片

代码

  1. #!/usr/bin/env python3
  2. # coding=utf-8
  3. import math
  4. import sys
  5. import os
  6. import numpy as np
  7. from PIL import Image
  8. import scipy.io as sio
  9. def sigmoid(x):
  10. return np.array(list(map(lambda i: 1 / (1 + math.exp(-i)), x)))
  11. def get_train_pattern():
  12. # 返回训练集的特征和标签
  13. # current_dir = os.getcwd()
  14. current_dir = "/home/lxp/F/developing_folder/intelligence_system/bpneuralnet/"
  15. train = sio.loadmat(current_dir + "mnist_train.mat")["mnist_train"]
  16. train_label = sio.loadmat(
  17. current_dir + "mnist_train_labels.mat")["mnist_train_labels"]
  18. train = np.where(train > 180, 1, 0) # 二值化
  19. return train, train_label
  20. def get_test_pattern():
  21. # 返回测试集
  22. # base_url = os.getcwd() + "/test/"
  23. base_url = "/home/lxp/F/developing_folder/intelligence_system/bpneuralnet/mnist_test/"
  24. test_img_pattern = []
  25. for i in range(10):
  26. img_url = os.listdir(base_url + str(i))
  27. t = []
  28. for url in img_url:
  29. img = Image.open(base_url + str(i) + "/" + url)
  30. img = img.convert('1') # 二值化
  31. img_array = np.asarray(img, 'i') # 转化为int数组
  32. img_vector = img_array.reshape(
  33. img_array.shape[0] * img_array.shape[1]) # 展开成一维数组
  34. t.append(img_vector)
  35. test_img_pattern.append(t)
  36. return test_img_pattern
  37. class BPNetwork:
  38. # 神经网络类
  39. def __init__(self, in_count, hiden_count, out_count, in_rate, hiden_rate):
  40. """
  41. :param in_count: 输入层数
  42. :param hiden_count: 隐藏层数
  43. :param out_count: 输出层数
  44. :param in_rate: 输入层学习率
  45. :param hiden_rate: 隐藏层学习率
  46. """
  47. # 各个层的节点数量
  48. self.in_count = in_count
  49. self.hiden_count = hiden_count
  50. self.out_count = out_count
  51. # 输入层到隐藏层连线的权重随机初始化
  52. self.w1 = 0.2 * \
  53. np.random.random((self.in_count, self.hiden_count)) - 0.1
  54. # 隐藏层到输出层连线的权重随机初始化
  55. self.w2 = 0.2 * \
  56. np.random.random((self.hiden_count, self.out_count)) - 0.1
  57. # 隐藏层偏置向量
  58. self.hiden_offset = np.zeros(self.hiden_count)
  59. # 输出层偏置向量
  60. self.out_offset = np.zeros(self.out_count)
  61. # 输入层学习率
  62. self.in_rate = in_rate
  63. # 隐藏层学习率
  64. self.hiden_rate = hiden_rate
  65. def train(self, train_img_pattern, train_label):
  66. if self.in_count != len(train_img_pattern[0]):
  67. sys.exit("输入层维数与样本维数不等")
  68. # for num in range(10):
  69. # for num in range(10):
  70. for i in range(len(train_img_pattern)):
  71. if i % 5000 == 0:
  72. print(i)
  73. # 生成目标向量
  74. target = [0] * 10
  75. target[train_label[i][0]] = 1
  76. # for t in range(len(train_img_pattern[num])):
  77. # 前向传播
  78. # 隐藏层值等于输入层*w1+隐藏层偏置
  79. hiden_value = np.dot(
  80. train_img_pattern[i], self.w1) + self.hiden_offset
  81. hiden_value = sigmoid(hiden_value)
  82. # 计算输出层的输出
  83. out_value = np.dot(hiden_value, self.w2) + self.out_offset
  84. out_value = sigmoid(out_value)
  85. # 反向更新
  86. error = target - out_value
  87. # 计算输出层误差
  88. out_error = out_value * (1 - out_value) * error
  89. # 计算隐藏层误差
  90. hiden_error = hiden_value * \
  91. (1 - hiden_value) * np.dot(self.w2, out_error)
  92. # 更新w2,w2是j行k列的矩阵,存储隐藏层到输出层的权值
  93. for k in range(self.out_count):
  94. # 更新w2第k列的值,连接隐藏层所有节点到输出层的第k个节点的边
  95. # 隐藏层学习率×输入层误差×隐藏层的输出值
  96. self.w2[:, k] += self.hiden_rate * out_error[k] * hiden_value
  97. # 更新w1
  98. for j in range(self.hiden_count):
  99. self.w1[:, j] += self.in_rate * \
  100. hiden_error[j] * train_img_pattern[i]
  101. # 更新偏置向量
  102. self.out_offset += self.hiden_rate * out_error
  103. self.hiden_offset += self.in_rate * hiden_error
  104. def test(self, test_img_pattern):
  105. """
  106. 测试神经网络的正确率
  107. :param test_img_pattern[num][t]表示数字num的第t张图片
  108. :return:
  109. """
  110. right = np.zeros(10)
  111. test_sum = 0
  112. for num in range(10): # 10个数字
  113. # print("正在识别", num)
  114. num_count = len(test_img_pattern[num])
  115. test_sum += num_count
  116. for t in range(num_count): # 数字num的第t张图片
  117. hiden_value = np.dot(
  118. test_img_pattern[num][t], self.w1) + self.hiden_offset
  119. hiden_value = sigmoid(hiden_value)
  120. out_value = np.dot(hiden_value, self.w2) + self.out_offset
  121. out_value = sigmoid(out_value)
  122. # print(out_value)
  123. if np.argmax(out_value) == num:
  124. # 识别正确
  125. right[num] += 1
  126. print("数字%d的识别正确率%f" % (num, right[num] / num_count))
  127. # 平均识别率
  128. print("平均识别率为:", sum(right) / test_sum)
  129. """
  130. def test1:
  131. """
  132. def run():
  133. # 读入训练集
  134. train, train_label = get_train_pattern()
  135. # 读入测试图片
  136. test_pattern = get_test_pattern()
  137. # 神经网络配置参数
  138. in_count = 28 * 28
  139. hiden_count = 6
  140. out_count = 10
  141. in_rate = 0.1
  142. hiden_rate = 0.1
  143. bpnn = BPNetwork(in_count, hiden_count, out_count, in_rate, hiden_rate)
  144. bpnn.train(train, train_label)
  145. bpnn.test(test_pattern)
  146. # 单张测试
  147. # 识别单独一张图片,返回识别结果
  148. """
  149. while True:
  150. img_name = input("输入要识别的图片\n")
  151. base_url = "/home/lxp/F/developing_folder/intelligence_system/bpneuralnet/"
  152. img_url = base_url + img_name
  153. img = Image.open(img_url)
  154. img = img.convert('1') # 二值化
  155. img_array = np.asarray(img, 'i') # 转化为int数组
  156. # 得到图片的特征向量
  157. img_v = img_array.reshape(img_array.shape[0] * img_array.shape[1]) # 展开成一维数组
  158. bpnn.test1(img_v)
  159. """
  160. if __name__ == "__main__":
  161. run()
  162. # train, train_label = get_train_pattern()
  163. # print(train_label[5][0])
  164. # test = get_test_pattern()

数据集下载:

链接: https://pan.baidu.com/s/1ldWTSqVUm6l1cc4EDOzHpQ 提取码: mm93

Python实现bp神经网络识别MNIST数据集的更多相关文章

  1. 【Python】keras神经网络识别mnist

    上次用Matlab写过一个识别Mnist的神经网络,地址在:https://www.cnblogs.com/tiandsp/p/9042908.html 这次又用Keras做了一个差不多的,毕竟,现在 ...

  2. matlab练习程序(神经网络识别mnist手写数据集)

    记得上次练习了神经网络分类,不过当时应该有些地方写的还是不对. 这次用神经网络识别mnist手写数据集,主要参考了深度学习工具包的一些代码. mnist数据集训练数据一共有28*28*60000个像素 ...

  3. RNN入门(一)识别MNIST数据集

    RNN介绍   在读本文之前,读者应该对全连接神经网络(Fully Connected Neural Network, FCNN)和卷积神经网络( Convolutional Neural Netwo ...

  4. python构建bp神经网络_曲线拟合(一个隐藏层)__2.代码实现

    IDE:jupyter 抽象程度可能不是那么高,以后再优化. 理论和代码实现的差距还是挺大的 数据集请查看 python构建bp神经网络(一个隐藏层)__1.数据可视化 部分代码预览 git上传.ip ...

  5. SGD与Adam识别MNIST数据集

    几种常见的优化函数比较:https://blog.csdn.net/w113691/article/details/82631097 ''' 基于Adam识别MNIST数据集 ''' import t ...

  6. python对BP神经网络实现

    python对BP神经网络实现 一.概念理解 开始之前首先了解一下BP神经网络,BP的英文是back propagationd的意思,它是一种按误差反向传播(简称误差反传)训练的多层前馈网络,其算法称 ...

  7. deep_learning_LSTM长短期记忆神经网络处理Mnist数据集

    1.RNN(Recurrent Neural Network)循环神经网络模型 详见RNN循环神经网络:https://www.cnblogs.com/pinard/p/6509630.html 2. ...

  8. TensorFlow——LSTM长短期记忆神经网络处理Mnist数据集

    1.RNN(Recurrent Neural Network)循环神经网络模型 详见RNN循环神经网络:https://www.cnblogs.com/pinard/p/6509630.html 2. ...

  9. TensorFlow——CNN卷积神经网络处理Mnist数据集

    CNN卷积神经网络处理Mnist数据集 CNN模型结构: 输入层:Mnist数据集(28*28) 第一层卷积:感受视野5*5,步长为1,卷积核:32个 第一层池化:池化视野2*2,步长为2 第二层卷积 ...

随机推荐

  1. Django路由机制

    Django的URL路由配置: Settings.py文件中的ROOT_URLCONF变量指定全局路由文件名称 ROOT_URLCONF = '工程名称.urls'   #默认对应工程目录下urls. ...

  2. 作用域和闭包(二)this

    this 要在执行时才确认,定义时无法确认 1. 作为构造函数执行 2. 作为对象属性执行 3.作为普通函数执行 4. call,apply,bind 改变this

  3. MFC版链表实现稀疏多项式相加减

    链表实现多项式运算(加减)MFC可视化版 题目 设计一个一元稀疏多项式简单计算器. 基本要求 (1)输入并建立两个多项式: (2)多项式a与b相加,建立和多项式c: (3)多项式a与b相减,建立差多项 ...

  4. (61)Wangdao.com第十天_JavaScript 立即执行函数

    1. 立即执行函数 创建完了就执行,只执行完就不再执行了. ( function(){} )(); 例 ( function(a,b){ alert("Hello ,我是一个匿名函数!&qu ...

  5. (85)Wangdao.com第十八天_JavaScript NodeList 接口,HTMLCollection 接口

    NodeList 接口        HTMLCollection 接口 节点都是单个对象,有时需要一种数据结构,能够容纳多个节点 DOM 提供两种节点集合,用于容纳多个节点:NodeList 和 H ...

  6. Linux安装nginx详细步骤

    安装依赖 yum -y install gcc zlib zlib-devel pcre-devel openssl openssl-devel 在/usr/local/下创建一个nginx的文件夹 ...

  7. laravel之ORM增删改查数据

    1.首先在控制器中添加方法,然后添加路由,接着在模型中操作: 以下是模型 2.以下是控制器中的操作 一下是通过ORM进行更新 删除数据

  8. Asch PK Lisk系列之一:安全性

    在币圈,听到对数字货币的质疑之声从来没少过.为什么有人会质疑呢?他们列出了很多理由(以下四点内容摘自网络): 数字货币是依附于网络的,而中国并没有独立自主的网络技术,容易被敌对势力利用数字货币损害中国 ...

  9. day29 二十九、元类、单例

    一.eval.exec内置函数 1.eval函数 eval内置函数的使用场景: ①执行字符串会得到相应的执行结果 ②一般用于类型转换得到dict.list.tuple等 2.exec函数 exec应用 ...

  10. c#拷贝整个文件夹到指定文件夹下(非递归)

    public static void CopyEntireDir(string sourcePath, string destPath) { //Now Create all of the direc ...