创建图、启动图

Shift+Tab Tab


变量介绍：


F

etch


Feed


简单的模型构造

：线性回归


MNIST数据集 Softmax函数


非线性回归神经网络

 



MINIST数据集分类器简单版本


二次代价函数

sigmoid函数


交叉熵代价函数


对数释然代价函数


拟合


防止过拟合






Dropout







优化器


优化器的使用

如何提升准确率？

1.改每批训练多少个

2.改神经网络中间层（神经元层数，每层的个数，每层用的激活函数，权重的初值用随机正态、要不要防止过拟合）

3.改计算loss的函数：交叉熵cross entropy更好。【sigmoid函数一般是作为每层的激活函数，softmax函数是用于多分类，且该函数一般用在最后一层，即输出层，并且不是使用sigmoid函数来获得输出。前面的激活函数用不用sigmoid函数不作要求。logistic相当于只有输入层、单隐层神经元，和两个神经元的输出层，即结构特别简单，输入直接和权重相乘之后，加上偏置，再进行sigmoid激活函数激活，就得到了输出层的两个概率值，分别表示两个类别的概率。而softmax通常用在多层神经网络的的最后一层，中间经过了多次运算和激活，最后的类别不止两类。】

4.改优化器（类型、学习率）：Adadelta很厉害。

5.改迭代次数：一般越大越好，次数要足够，稳定、变化不大。

 

ANN代码结构的总结——"六股文"：

第一步：构建输入参数。

第二步：构建神经网络。

第三步：选择代价函数。

第四步：选择优化器

第五步：计算准确率。

第六步：创建会话，进行运算

看看老师的优化：




将MNIST数据集准确率优化到98%以上

AI-11【炼数成金】深度学习框架Tensorflow学习与应用 视频05：tensorboard可视化部分暂时不看（10:12 – 结尾）

 

 








卷积神经网络CNN








神经网络用于MNIST数据集分类

CNN代码结构的总结

有待看tensorflow笔记

 

 

AI-11【炼数成金】深度学习框架Tensorflow学习与应用 视频05：循环神经网络RNN部分暂时不看

 


模型的保存与载入


下载模型：文件夹不存在？




使用下载的模型


测试训练好的模型

 




安装GPU版tensorflow


tfrecords文件的分块生成


验证码的生成


验证码识别之生成单个tfrecords文件

 


多任务训练

 


从tfrecords读取数据


验证码识别的训练程序用到Alexnet

最后一层的四个输出，前面所有共享。


验证码识别的测试程序

截图：【炼数成金】深度学习框架Tensorflow学习与应用的更多相关文章

  1. dataguru（炼数成金）大数据培训基地印象

    dataguru访问地址:http://f.dataguru.cn/?fromuid=99611 课程优惠码:C4B6  这段时间一直在dataguru(炼数成金)上学习<hadoop数据分析平 ...

  2. 炼数成金（dataguru）IT技能修炼

    2016我定的目标就是要走出舒适区,进入学习区!为了少走弯路,节约学习的成本和时间,我选择了dataguru.看到心仪的课程毫不犹豫的就报了名. 分享了炼数成金邀请码,使用邀请码报名课程可以减免50% ...

  3. 炼数成金数据分析课程---14、Logistic回归

    炼数成金数据分析课程---14.Logistic回归 一.总结 一句话总结: 大纲+实例快速学习法 主要讲Logistic回归的原理及编程实现 1.事件的优势比(odds)是什么? 记y取1的概率是p ...

  4. 炼数成金数据分析课程---10、python中如何画图

    炼数成金数据分析课程---10.python中如何画图 一.总结 一句话总结: 主要matplotlib库,pandas中也可以画一些基础图 大纲+实例快速学习法 1.matplotlib的最简单画图 ...

  5. MapReduce工作原理图文详解 (炼数成金)

    MapReduce工作原理图文详解 1.Map-Reduce 工作机制剖析图: 1.首先,第一步,我们先编写好我们的map-reduce程序,然后在一个client 节点里面进行提交.(一般来说可以在 ...

  6. Python数据分析【炼数成金15周完整课程】

    点击了解更多Python课程>>> Python数据分析[炼数成金15周完整课程] 课程简介: Python是一种面向对象.直译式计算机程序设计语言.也是一种功能强大而完善的通用型语 ...

  7. tensorflow学习框架(炼数成金网络版学习记录)

    chapter1 #变量 import tensorflow as tf x = tf.Variable([1,2]) a = tf.constant([3,3]) #增加一个减法op sub = t ...

  8. 机器学习第7周-炼数成金-支持向量机SVM

    支持向量机SVM 原创性(非组合)的具有明显直观几何意义的分类算法,具有较高的准确率源于Vapnik和Chervonenkis关于统计学习的早期工作(1971年),第一篇有关论文由Boser.Guyo ...

  9. 机器学习第5周--炼数成金-----决策树，组合提升算法，bagging和adaboost，随机森林。

    决策树decision tree 什么是决策树输入:学习集输出:分类觃则(决策树) 决策树算法概述 70年代后期至80年代初期,Quinlan开发了ID3算法(迭代的二分器)Quinlan改迚了ID3 ...

随机推荐

  1. 为什么java中只允许继承一个类？

      一个类只能继承一个其他的类 在Java语言中禁止多重继承:一个类可以具有多个直接父类.多重继承不合法的原因是容易引发意义不明确.例如,有一个类C,如果允许它同时继承A类与B类(class C ex ...

  2. CSV输入输出

    读取csv文件: import csv cf = open('D:\pywe.csv','rb') cf.readline() #读取标题行,光标移动到下一行(相当于调过标题行) for l in c ...

  3. kotlin lateinit

    声明变量: private var a: String? = "" 或者:private lateinit var a: String // 使用前先初始化

  4. EF学习之CodeFirst（一）--创建Model

    一.创建Model 创建Model类有两种方式: 1.直接创建model 所有约束条件都以特性的方式写在model的属性上面,映射到数据库的table表名标识在class上,例如: [Table(&q ...

  5. WCF已超过传入消息(65536)的最大消息大小配额。若要增加配额，请使用相应绑定元素上的 MaxReceivedMessageSize 属性

    <?xml version="1.0" encoding="utf-8"?> <configuration> <connectio ...

  6. 原生JS实现轮播图的效果

    原生JS实现轮播图的效果: 只要缕清了全局变量index的作用,这个轮播图也就比较容易实现了:另外,为了实现轮这个效果,有几处clearInterval()必须写上.废话不多说,直接上代码,修复了几个 ...

  7. Socket Tools的使用

    1.启动工具 Socket Tools.exe , 分享:链接:http://pan.baidu.com/s/1dFiuEHz 密码:1sv9 2.在本地创建TCP Server,自动启动监听 3.在 ...

  8. 历史在重演：从KHTML到WebKit，再到Blink

    http://36kr.com/p/202396.html 上周四,Google宣布从WebKit 分支出自己的浏览器渲染引擎 Blink.很多人觉得这像是晴天霹雳,或者甚至是迟到的愚人节笑话,但是其 ...

  9. 关于Mysql查询varchar类型错误问题

    因为后台所有表ID都是按照雪花算法生成的18位数字,需要对接到Android,Ios和H5,此时H5会出现字符超长溢出,所以直接把ID改为varchar类型. 如我的一张表ID为varchar(18) ...

  10. 【转】Faster RCNN 原理

    看过好几篇讲Faster RCNN的文章,有一些基础以后,看这个文章是最好的. https://www.cnblogs.com/wangyong/p/8513563.html