基于Keras 的VGG16神经网络模型的Mnist数据集识别并使用GPU加速

这段话放在前面：之前一种用的Pytorch，用着还挺爽，感觉挺方便的，但是在最近文献的时候，很多实验都是基于Google 的Keras的，所以抽空学了下Keras，学了之后才发现Keras相比Pytorch而言，基于keras来写神经网络的话太方便，因为Keras高度的封装性，所以基于Keras来搭建神经网络很简单，在Keras下，可以用两种两种方法来搭建网络模型，分别是Sequential（）与Model（），对于网络结构简单，层次较少的模型使用sequential方法较好，只需不断地model.add即可，而后者更适用于网络模型复杂的情况，各有各的好处。

论GPU的重要性：在未使用GPU之前，一直用的CPU来训练，那速度，简直是龟速，一个VGG16花了10个小时，费时费力还闹心，然后今天将它加载在实验室的服务器上，只花了不到半个小时就好了。

下面给出代码：

 #!/usr/bin/env python 3.6

 #_*_coding:utf-8 _*_

 #@Time    :2019/11/9 15:19

 #@Author  :hujinzhou 

 #@FileName: My_frist_keras_moudel.py

 #@Software: PyCharm

 from keras.datasets import mnist

 from call_back import LossHistory

 from keras.utils.np_utils import to_categorical

 import numpy as np

 import cv2

 import pylab

 from keras.optimizers import Adam,SGD

 from matplotlib import pyplot as plt

 from keras.utils.vis_utils import plot_model

 from keras.layers import Dense, Activation, Flatten,Convolution2D,MaxPool2D,Dropout,BatchNormalization

 from keras.models import Sequential, Model

 from keras.layers.normalization import BatchNormalization

 np.random.seed(10)

 """下载mnist数据集,x_train训练集的数据，y_train训练集的标签，测试集依次类推"""

 (x_train,y_train),(x_test,y_test)=mnist.load_data()

 print(x_train.shape)

 print(len(x_train))

 print(y_train[0])

 "-----------------------------------------------------------------------------------------"

 """通过迭代的方法将训练集中的数据整形为32*32"""

 x_train4D = [cv2.cvtColor(cv2.resize(i,(32,32)), cv2.COLOR_GRAY2BGR) for i in x_train]

 x_train4D = np.concatenate([arr[np.newaxis] for arr in x_train4D]).astype('float32')

 x_test4D = [cv2.cvtColor(cv2.resize(i,(32,32)), cv2.COLOR_GRAY2BGR) for i in x_test]

 x_test4D = np.concatenate([arr[np.newaxis] for arr in x_test4D]).astype('float32')

 print(x_test4D.shape)

 print(x_train4D.shape)

 "------------------------------------------------------------------------------------"

 plt.imshow(x_train4D[0],cmap='gray')

 pylab.show()

 #x_train4D = x_train4D.astype('float32')

 #x_test4D = x_test4D.astype('float32')

 """归一化"""

 x_test4D_normalize=x_test4D/255

 x_train4D_normalize=x_train4D/255

 """one_hot encoding"""

 y_trainOnehot=to_categorical(y_train)

 y_testOnehot=to_categorical(y_test)

 """建立模型"""

 "--------------------------------------------------------------------------"

 model=Sequential()

 model.add(Convolution2D(filters=64,

                         kernel_size=(5,5),

                         padding='same',

                         input_shape=(32,32,3),

                         kernel_initializer='he_normal',

                         name='cnn1'

                         )

           )#output32*32*64

 model.add(BatchNormalization(axis=-1))

 model.add(Activation('relu'))

 # model.add(Convolution2D(filters=64,

 #                         kernel_size=(5,5),

 #                         padding='same',

 #

 #                         kernel_initializer='he_normal',

 #                         name='cnn2'

 #                         )

 #           )#output32*32*64

 # model.add(BatchNormalization(axis=-1))

 # model.add(Activation('relu'))

 model.add(MaxPool2D(pool_size=(2,2),strides=(2, 2)))#output16*16*64

 model.add(Convolution2D(filters=128,

                         kernel_size=(5,5),

                         padding='same',

                         kernel_initializer='he_normal',

                         name='cnn3'

                         )

           )#output16*16*128

 model.add(BatchNormalization(axis=-1))

 model.add(Activation('relu'))

 # model.add(Convolution2D(filters=128,

 #                         kernel_size=(5,5),

 #                         padding='same',

 #

 #                         kernel_initializer='he_normal',

 #                         name='cnn4'

 #                         )

 #           )#output16*16*128

 # model.add(BatchNormalization(axis=-1))

 # model.add(Activation('relu'))

 model.add(MaxPool2D(pool_size=(2,2),strides=(2, 2)))#output8*8*128

 model.add(Convolution2D(filters=256,

                         kernel_size=(5,5),

                         padding='same',

                         kernel_initializer='he_normal',

                         name='cnn5'

                         )

           )#output8*8*256

 model.add(BatchNormalization(axis=-1))

 model.add(Activation('relu'))

 # model.add(Convolution2D(filters=256,

 #                         kernel_size=(5,5),

 #                         padding='same',

 #

 #                         kernel_initializer='he_normal',

 #                         name='cnn6'

 #                         )

 #           )#output8*8*256

 # model.add(BatchNormalization(axis=-1))

 # model.add(Activation('relu'))

 # model.add(Convolution2D(filters=256,

 #                         kernel_size=(5,5),

 #                         padding='same',

 #

 #                         kernel_initializer='he_normal',

 #                         name='cnn7'

 #                         )

 #           )#output8*8*256

 # model.add(BatchNormalization(axis=-1))

 # model.add(Activation('relu'))

 model.add(MaxPool2D(pool_size=(2,2),strides=(2, 2)))#output4*4*256

 model.add(Convolution2D(filters=512,

                         kernel_size=(5,5),

                         padding='same',

                         kernel_initializer='he_normal',

                         name='cnn8'

                         )

           )#output4*4*512

 model.add(BatchNormalization(axis=-1))

 model.add(Activation('relu'))

 # model.add(Convolution2D(filters=512,

 #                         kernel_size=(5,5),

 #                         padding='same',

 #

 #                         kernel_initializer='he_normal',

 #                         name='cnn9'

 #                         )

 #           )#output4*4*512

 # model.add(BatchNormalization(axis=-1))

 # model.add(Activation('relu'))

 # model.add(Convolution2D(filters=512,

 #                         kernel_size=(5,5),

 #                         padding='same',

 #

 #                         kernel_initializer='he_normal',

 #                         name='cnn10'

 #                         )

 #           )#output4*4*512

 # model.add(BatchNormalization(axis=-1))

 # model.add(Activation('relu'))

 model.add(MaxPool2D(pool_size=(2,2),strides=(2, 2)))#output2*2*512

 model.add(Convolution2D(filters=512,

                         kernel_size=(5,5),

                         padding='same',

                         kernel_initializer='he_normal',

                         name='cnn11'

                         )

           )#output2*2*512

 model.add(BatchNormalization(axis=-1))

 model.add(Activation('relu'))

 # model.add(Convolution2D(filters=512,

 #                         kernel_size=(5,5),

 #                         padding='same',

 #

 #                         kernel_initializer='he_normal',

 #                         name='cnn12'

 #                         )

 #           )#output2*2*512

 # model.add(BatchNormalization(axis=-1))

 # model.add(Activation('relu'))

 # model.add(Convolution2D(filters=512,

 #                         kernel_size=(5,5),

 #                         padding='same',

 #

 #                         kernel_initializer='he_normal',

 #                         name='cnn13'

 #                         )

 #           )#output2*2*512

 # model.add(BatchNormalization(axis=-1))

 # model.add(Activation('relu'))

 model.add(MaxPool2D(pool_size=(2,2),strides=(2, 2)))#output1*1*512

 model.add(Dropout(0.5))

 model.add(Flatten())

 model.add(Dense(512))

 model.add(Activation('relu'))

 model.add(Dropout(0.5))

 model.add(Dense(10))

 model.add(Activation('softmax'))

 model.summary()

 plot_model(model,to_file='model4.png',show_shapes=True,show_layer_names=True)

 # for layer in model.layers:

 #     layer.trainable=False

 "--------------------------------------------------------------------------------"

 """训练模型"""

 adam=SGD(lr=0.1)

 model.compile(optimizer=adam,loss='categorical_crossentropy',metrics=['accuracy'])

 epoch=5

 batchsize=100

 # from keras.models import load_model

 # model = load_model('./My_keras_model_weight')

 history=model.fit(x=x_train4D_normalize,

           y=y_trainOnehot,

           epochs=epoch,

           batch_size=batchsize,

           validation_data=(x_test4D_normalize,y_testOnehot))

 """保存模型"""

 model.save('./My_keras_model2_weight')

 #model.load('./My_keras_model_weight')

 """画出损失曲线"""

 training_loss=history.history["loss"]

 train_acc=history.history["acc"]

 test_loss=history.history["val_loss"]

 test_acc=history.history["val_acc"]

 epoch_count=range(1,len(training_loss)+1)

 plt.plot(epoch_count,training_loss,'r--')

 plt.plot(epoch_count,test_loss,'b--')

 plt.plot(epoch_count,train_acc,'r--')

 plt.plot(epoch_count,test_acc,'b--')

 plt.legend(["Training_loss","Test_loss","train_acc","test_acc"])

 plt.xlabel("Epoch")

 plt.ylabel("loss")

 plt.show()

结果如下

最终的精度可以达到0.993左右

loss: 0.0261 - acc: 0.9932 - val_loss: 0.0246 - val_acc: 0.9933

基于Keras 的VGG16神经网络模型的Mnist数据集识别并使用GPU加速的更多相关文章

使用PyTorch构建神经网络模型进行手写识别
使用PyTorch构建神经网络模型进行手写识别 PyTorch是一种基于Torch库的开源机器学习库,应用于计算机视觉和自然语言处理等应用,本章内容将从安装以及通过Torch构建基础的神经网络,计算梯 ...
一个简单的TensorFlow可视化MNIST数据集识别程序
下面是TensorFlow可视化MNIST数据集识别程序,可视化内容是,TensorFlow计算图,表(loss, 直方图, 标准差(stddev)) # -*- coding: utf-8 -*- ...
【Keras篇】---利用keras改写VGG16经典模型在手写数字识别体中的应用
一.前述 VGG16是由16层神经网络构成的经典模型,包括多层卷积,多层全连接层,一般我们改写的时候卷积层基本不动,全连接层从后面几层依次向前改写,因为先改参数较小的. 二.具体 1.因为本文中代码需 ...
Keras学习:第一个例子-训练MNIST数据集
import numpy as npimport gzip import struct import keras as ks import logging from keras.layers impo ...
吴裕雄--天生自然 python数据分析：基于Keras使用CNN神经网络处理手写数据集
import pandas as pd import numpy as np import matplotlib.pyplot as plt import matplotlib.image as mp ...
CNN算法解决MNIST数据集识别问题
网络实现程序如下 import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data # 用于设置将记 ...
Keras学习环境配置-GPU加速版（Ubuntu 16.04 + CUDA8.0 + cuDNN6.0 + Tensorflow)
本文是个人对Keras深度学习框架配置的总结,不周之处请指出,谢谢! 1. 首先,我们需要安装Ubuntu操作系统(Windows下也行),这里使用Ubuntu16.04版本: 2. 安装好Ubunt ...
机器学习与Tensorflow（3）—— 机器学习及MNIST数据集分类优化
一.二次代价函数 1. 形式: 其中,C为代价函数,X表示样本,Y表示实际值,a表示输出值,n为样本总数 2. 利用梯度下降法调整权值参数大小,推导过程如下图所示: 根据结果可得,权重w和偏置b的梯度 ...
Keras结合Keras后端搭建个性化神经网络模型（不用原生Tensorflow）
Keras是基于Tensorflow等底层张量处理库的高级API库.它帮我们实现了一系列经典的神经网络层(全连接层.卷积层.循环层等),以及简洁的迭代模型的接口,让我们能在模型层面写代码,从而不用仔细 ...

随机推荐

TreadPool
ThreadPool概述提供一个线程池,该线程池可用于执行任务.发送工作项.处理异步 I/O.代表其他线程等待以及处理计时器. 创建线程需要时间.如果有不同的小任务要完成,就可以事先创建许多线程/在 ...
js代码加这个
避免因为浏览器不支持js代码,而直接显示出来,以html注释的形式隐藏
老式浏览器支持html5与css3
html5低版本浏览器兼容方式 <!--[if IE]> <script src=”http://apps.bdimg.com/libs/html5shiv/3.7/html5s ...
更改ejs模板引擎的后缀为html
安装 EJS 在项目目录右键->Open Command Prompt Here 输入 npm install ejs 打开app.js //app.set('view engine', 'ja ...
002_UCOSIII任务创建于删除
(一)先创建一个启动任务来进行创建其它任务,创建任务的宏定义 #define START_TASK_PRIO 3 //任务优先级 #define START_STK_SIZE 128 //任务堆栈大小 ...
使用scikit-learn决策树实现简单预测
1.scikit-learn决策树算法库介绍 scikit-learn决策树算法类库内部实现是使用了调优过的CART树算法,既可以做分类,又可以做回归.分类决策树的类对应的是DecisionTreeC ...
csp-s模拟测试77+78(lrd day1&2)
RP-=inf....... 一场考试把rp败光...由于本次考试本人在考试中乱说自己AK导致rp--,本人当选为机房倒数第二没素质不过AK一次还挺开心的... 达哥出的题还是比较简单的. T1:考 ...
Python互联网金融之用户增长的数据逻辑
怎样看待和应用我们互联网金融中的数据? 怎样进行数据分析? 互联网金融数据分析的三个层面: (1)指标层面建立指标体系,观察指标涨跌的情况 (2)行业框架不同的行业对于各个指标的权重不同复投率 ...
CF1197A
CF1197A 题意: 定义k阶梯子为两边各一块木板长度至少k+1,中间k块木板至少为1 .问给你n块木板,最多能搭成几阶的梯子. 解法: 读题两小时,代码五分钟. 考虑贪心,构成梯子的两侧的木棍一 ...
ROS机器人开发实践学习笔记1
刚刚开始学习ROS,打算入机器人的坑了,参考教材是<ROS及其人开发实践>胡春旭编著机械工业出版社华章科技出品.本来以为可以按照书上的步骤一步步来,但是,too young to si ...

基于Keras 的VGG16神经网络模型的Mnist数据集识别并使用GPU加速

基于Keras 的VGG16神经网络模型的Mnist数据集识别并使用GPU加速的更多相关文章

随机推荐

热门专题