『TensorFlow』专题汇总
TensorFlow2.0快速入门:https://tf.wiki/zh/basic/tools.html
+++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++
TensorFlow:官方文档
TensorFlow:项目地址
本篇列出文章对于全零新手不太合适,可以尝试TensorFlow入门系列博客,搭配其他资料进行学习。
Keras使用tf.Session训练方法教程
一、API介绍
基础操作列表
常用基础操作
流程控制
『PyTorch』第六弹_最小二乘法对比PyTorch和TensorFlow :参数更新机制分析,流程控制初探
神经网络构建
『TensorFlow』网络操作API_上 :卷积层,池化层,激活函数(含dropout和bias_add)
层/网络解析与实现
『教程』CapsNet 架构 & TensorFlow 实现
『TensorFlow』读书笔记_Inception_V3_上
『TensorFlow』读书笔记_Inception_V3_下
『PyTorch × TensorFlow』第十七弹_ResNet快速实现
优化器&梯度操作
.minimize
- compute_gradients
- apply_gradients
『TensorFlow』网络操作API_下 :优化器相关接口
『TensorFlow』梯度优化相关 :梯度操作
集合操作与正则化实现
『TensorFlow』使用集合collection控制variables
#集合转换为字典,{节点名:输出张量值}
end_points = slim.utils.convert_collection_to_dict(end_points_collection) # 收集 & 获取 变量
tf.add_to_collection("loss",mse_loss)
tf.add_n(tf.get_collection("loss"))
损失函数
『TensorFlow』网络操作API_中 :损失函数以及分类器
模型载入
命令行解析
线程操作&数据读取
Dataset API读取数据
『TensorFlow』数据读取类_data.Dataset
传统数据读取方法
『TensorFlow』TFR数据预处理探究以及框架搭建 :基于queue处理TFR数据
线程控制器原理:
监视tensorflow所有后台线程,有异常出现(主要是越界,资源循环完了)时,其should_stop方法就会返回True,而它的request_stop方法则用于要求各个线程安全退出。需要使用local变量,初始化时注意。
常规图片数据读取方式:
img_bytes = tf.read_file(FLAGS.style_image)
image = tf.image.decode_png(img_bytes)
涉及队列操作时报错可能解决办法
OutOfRangeError (see above for traceback): FIFOQueue '_1_input_producer' is closed and has insufficient elements (requested 1, current size 0) [[Node: ReaderReadV2 = ReaderReadV2[_device="/job:localhost/replica:0/task:0/cpu:0"](WholeFileReaderV2, input_producer)]]
因为局部变量(local variables)没有初始化,将初始化变量语句改为
全局变量初始化:tf.global_variables_initializer().run()
局部变量初始化:tf.local_variables_initializer().run()
不再报错。局部变量很少,一般都是系统自己创建的变量,如记录训练进度的epoch。
可视化相关
ctrl + 鼠标滑轮 可以放大&缩小tensorboard中所有的页面
命名空间设置好:添加记录节点 -> 汇总记录节点 -> run汇总节点 -> [书写器生成]书写入文件 [-> 刷新缓冲区]
# 书写器生成,会自动记录指定图
tf.summary.FileWriter('./', sess.graph)
# 张量记录
tf.summary.histogram(layer_name+'/weights',Weights)
# 标量记录
tf.summary.scalar = ('loss',cross_entropy)
# 记录激活
merged = tf.summary.merge_all()
# 书写器生成
train_writer = tf.summary.FileWriter('logs/train',sess.graph)
# run记录
train_result = sess.run(merged, feed_dict={xs: X_train, ys: y_train, keep_prob:1})
# 书写记录
train_writer.add_summary(train_result,i)
# 刷新缓冲区,立即写入文件
train_writer.flush()
slim模块
二、TensorFlow的tips
节点和张量
节点张量铺设好了之后,只要不加sess.run(),可以运行脚本检查张量节点是否匹配,无需传入实际数据流。
'conv1'指节点,'conv1:0'指节点输出的第一个张量。
sess上下文环境中的函数调用即使不传入sess句柄,函数体内也存在于默认的sess环境中,可以直接sess.run()。
image_holder = tf.placeholder(tf.float32,[None, None, None, 3]),使用None回避指定大小。
sess实际运行单机模式时,会提取目标节点的所有前置依赖构建成子图,然后按照设备划分成多个局部图,局部图根据依赖先后关系对节点进行加载
设备指定使用tf.device('/cpu:0')上下文操作,且支持嵌套,逻辑于slim的scope一致
查看信息版本安装路径
import tensorflow as tf
tf.__version__ # 版本
tf.__path_ # 路径
# __看着是一个下划线,实际上是两个下划线
通常张量的Feed
TensorFlow中所有张量而不仅是占位符都是可以feed的,如果有feed,其优先级大于图中的计算流程。
『TensorFlow』专题汇总的更多相关文章
- 『MXNet』专题汇总
MXNet文档 MXNet官方教程 持久化模型 框架介绍 『MXNet』第一弹_基础架构及API 『MXNet』第二弹_Gluon构建模型 『MXNet』第三弹_Gluon模型参数 『MXNet』第四 ...
- 『TensorFlow』模型保存和载入方法汇总
『TensorFlow』第七弹_保存&载入会话_霸王回马 一.TensorFlow常规模型加载方法 保存模型 tf.train.Saver()类,.save(sess, ckpt文件目录)方法 ...
- 『TensorFlow』滑动平均
滑动平均会为目标变量维护一个影子变量,影子变量不影响原变量的更新维护,但是在测试或者实际预测过程中(非训练时),使用影子变量代替原变量. 1.滑动平均求解对象初始化 ema = tf.train.Ex ...
- 『TensorFlow』流程控制
『PyTorch』第六弹_最小二乘法对比PyTorch和TensorFlow TensorFlow 控制流程操作 TensorFlow 提供了几个操作和类,您可以使用它们来控制操作的执行并向图中添加条 ...
- 『TensorFlow』读书笔记_降噪自编码器
『TensorFlow』降噪自编码器设计 之前学习过的代码,又敲了一遍,新的收获也还是有的,因为这次注释写的比较详尽,所以再次记录一下,具体的相关知识查阅之前写的文章即可(见上面链接). # Aut ...
- 『TensorFlow』梯度优化相关
tf.trainable_variables可以得到整个模型中所有trainable=True的Variable,也是自由处理梯度的基础 基础梯度操作方法: tf.gradients 用来计算导数.该 ...
- 『TensorFlow』命令行参数解析
argparse很强大,但是我们未必需要使用这么繁杂的东西,TensorFlow自己封装了一个简化版本的解析方式,实际上是对argparse的封装 脚本化调用tensorflow的标准范式: impo ...
- 『TensorFlow』TFR数据预处理探究以及框架搭建
一.TFRecord文件书写效率对比(单线程和多线程对比) 1.准备工作 # Author : Hellcat # Time : 18-1-15 ''' import os os.environ[&q ...
- 『TensorFlow』第七弹_保存&载入会话_霸王回马
首更: 由于TensorFlow的奇怪形式,所以载入保存的是sess,把会话中当前激活的变量保存下来,所以必须保证(其他网络也要求这个)保存网络和载入网络的结构一致,且变量名称必须一致,这是caffe ...
随机推荐
- windows 中的类似于sudo的命令(在cmd中以另一个用户的身份运行命令)
linux中我们习惯用sudo命令来临时用另一个用户的身份执行命令. windows中,通常我们需要用管理员权限执行命令的时候通常是 右键->run as administrator. 用着键盘 ...
- jupyter notebook + frp 实现内容穿透
服务器上找到frps.ini 配置如下 [common] bind_port = 7000 vhost_http_port = 8890 要穿透的笔记本的frpc.ini配置 [common] ser ...
- 网络库压力测试:mongols VS evpp
evpp是360出品的一个网络库,基于libevent,进行了许多改造,对c++11友好.据称比libevent性能要好. 到底有多好呢?360开发人员有自己的测试,信不信由你. evpp源码下有个h ...
- Dataguard配置总结
Dataguard配置总结 本例情形 在主库存在运行的情况下,增加配置dataguard备库,实现双机热备,高可用性. 主库要求,归档模式,强制归档. 主库idty 备库idty_st 1.密码文件 ...
- jq+bootstrap响应式系统管理页面
用bootstrap搭建的一个系统管理页面基于经典的HTML+Css 弊端:代码量太大,用vue组件化开发的思想更加便捷且方便!不过如果是做纯展示的系统页面,只需要一些简单的数据交互,用jq配合boo ...
- sitecore8.2 基于站点来查询item
树形结构: /sitecore /content /foo-site /home /my-account /bar-site /home /my-account /baz-site /home /my ...
- Docker学习资源
Docker是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器上,也可以实现虚拟化,容器是完全使用沙箱机制,相互之间不会有任何接口. ...
- Git 教程(二):提交和回退
我们已经成功地添加并提交了一个readme.txt文件,现在,是时候继续工作了,于是,我们继续修改readme.txt文件,改成如下内容: Git is a distributed version c ...
- spring boot常见问题
1.什么是springboot 用来简化spring应用的初始搭建以及开发过程 使用特定的方式来进行配置(properties或yml文件) 创建独立的spring引用程序 main方法运行 嵌入的T ...
- 【融云分析】如何实现分布式场景下唯一 ID 生成?
◀背景▶ 对于一套分布式部署的 IM 系统,要求每条消息的 ID 要保证在集群中全局唯一且按生成时间有序排列.如何快速高效的生成消息数据的唯一 ID ,是影响系统吞吐量的关键因素.那么,融云是如何做到 ...