for epoch in range(training_steps): with tf.Session() as sess: sess.run(tf.global_variable_initializer()) sess.run(train_op) if epoch % 100 == 0 : print(sess.run([loss])) 上述代码写后,trian loss 和 valid loss 一致都不怎么变化,好像神经网络完全没有在训练一样.这是因为每训练一次后,weight和bias都…

折腾了几天,爬了大大小小若干的坑,特记录如下.代码在最后面. 环境: Python3.6.4 + TensorFlow 1.5.1 + Win7 64位 + I5 3570 CPU 方法: 先用MNIST手写数字库对CNN(卷积神经网络)进行训练,准确度达到98%以上时,再准备独家手写数字10个.画图软件编辑的数字10个共计20个,让训练好的CNN进行识别,考察其识别准确度. 调试代码: 坑1:ModuleNotFoundError: No module named 'google' 解决:pi…

tensorflow CNN 卷积神经网络中的卷积层和池化层的代码和效果图 因为很多 demo 都比较复杂,专门抽出这两个函数,写的 demo. 更多教程:http://www.tensorflownews.com #!/usr/bin/python # -*- coding: UTF-8 -*- import matplotlib.pyplot as plt import tensorflow as tf from PIL import Image import numpy img = Ima…

本篇文章介绍使用TensorFlow的递归神经网络(LSTM)进行序列预测.作者在网上找到的使用LSTM模型的案例都是解决自然语言处理的问题,而没有一个是来预测连续值的. 所以呢,这里是基于历史观察数据进行实数序列的预测.传统的神经网络模型并不能解决这种问题,进而开发出递归神经网络模型,递归神经网络模型可以存储历史数据来预测未来的事情. 在这个例子里将预测几个函数: 正弦函数:sin 同时存在正弦函数和余弦函数:sin和cos x*sin(x) 首先,建立LSTM模型,lstm_model,这个…

1 卷积神经网络简介 在介绍卷积神经网络(CNN)之前,我们需要了解全连接神经网络与卷积神经网络的区别,下面先看一下两者的结构,如下所示: 图1 全连接神经网络与卷积神经网络结构 虽然上图中显示的全连接神经网络结构和卷积神经网络的结构直观上差异比较大,但实际上它们的整体架构是非常相似的.从上图中可以看出,卷积神经网络也是通过一层一层的节点组织起来的.和全连接神经网络一样,卷积神经网络中的每一个节点都是一个神经元.在全连接神经网络中,每相邻两层之间的节点都有边相连,于是一般会将每一层全连接层中的节…

更新记录: 2018年2月5日 初始文章版本 近几天需要进行英语手写体识别,查阅了很多资料,但是大多数资料都是针对MNIST数据集的,并且主要识别手写数字.为了满足实际的英文手写识别需求,需要从训练集构造到神经网络搭建各个方面对现有代码进行修改. 神经网络的结构: 1.输入28*28=784维行向量 2.卷积层:卷积核大小5*5,共32个,激活函数ReLu 3.池化层:最大值池化,2*2窗口 4.卷积层:卷积核大小5*5,共64个,激活函数ReLu 5.池化层:最大值池化,2*2窗口 6.全连接…

一 感知器 感知器学习笔记:https://blog.csdn.net/liyuanbhu/article/details/51622695 感知器(Perceptron)是二分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1.这种算法的局限性很大: 只能将数据分为 2 类; 数据必须是线性可分的; 虽然有这些局限,但是感知器是 ANN 和 SVM 的基础,理解了感知器的原理,对学习ANN 和 SVM 会有帮助,所以还是值得花些时间的. 感知器可以表示为 f:Rn ->…

因为实训课要用LSTM+attention机制在钢材领域做一个关系抽取.作为仅仅只学过一点深度学习网络的小白在b站上学习了RNN,LSTM的一些理论知识. 但只懂得一些理论知识是无法完成关系抽取的任务的.于是从图书馆借来<tensoflow实战-----深度学习框架>,在此开始记录我的tensorflow神经网络编程! 首先先介绍一下tensorflow的运作机制,对一个具体的计算而言,一般可以分为两个阶段,第一个阶段用来定义计算图中的计算,第二个阶段用来执行计算. 有了这个概念之后,就会发现…

训练一个神经网络 能让她认得我 阅读原文 这段时间正在学习tensorflow的卷积神经网络部分,为了对卷积神经网络能够有一个更深的了解,自己动手实现一个例程是比较好的方式,所以就选了一个这样比较有点意思的项目. 项目的github地址:github 喜欢的话就给个Star吧. 想要她认得我,就需要给她一些我的照片,让她记住我的人脸特征,为了让她区分我和其他人,还需要给她一些其他人的照片做参照,所以就需要两组数据集来让她学习,如果想让她多认识几个人,那多给她几组图片集学习就可以了.下面就开始让我…

from PIL import Image import numpy as np import tensorflow as tf import time bShowAccuracy = True # 加载手写图片 def loadHandWritingImage(strFilePath): im = Image.open(strFilePath, 'r') ndarrayImg = np.array(im.convert("L"), dtype='float') return ndar…