很多时候在运行python代码的时候我们需要从外部定义参数,从而避免每次都需要改动代码.所以一般我们都会使用 argparse 这个库.其实TensorFlow也提供了这个功能,那就是 tf.app.flags . 使用方法很简单 tf.app.flags.DEFINE_boolean("param_name", "default_val", "description") 上面给出的是定义一个bool变量,第一个参数是指参数名,第二个是默认值,第…
------------------------------------ 写在开头:此文参照莫烦python教程(墙裂推荐!!!) ------------------------------------ TensorFlow入门笔记之基础架构 1 构建简单神经网络:一维线性预测 #导入相关库 import tensorflow as tf import numpy as np #用随机数生成x x_data = np.random.rand(100).astype(np.float32) #生…
tf.app.flags.DEFINE_xxx()就是添加命令行的optional argument(可选参数),而tf.app.flags.FLAGS可以从对应的命令行参数取出参数.举例如下: FLAGS = tf.app.flags.FLAGS # 基本模型参数 # 定义integer型flag tf.app.flags.DEFINE_integer(flag_name='batch_size', default_value=128, docstring='Number of images…
tf.app.flags.FLAGS 的使用,主要是在用命令行执行程序时,需要传些参数,代码如下:新建一个名为:app_flags.py 的文件. #coding:utf-8  import tensorflow as tf  FLAGS = tf.app.flags.FLAGS  tf.app.flags.DEFINE_string("train_data_path", "/home/libo3/train.txt", "training data di…
模块内的函数: tf.summary.audio(name, tensor, sample_rate, max_outputs=3, collections=None, family=None) 输出带有音频的summary协议缓冲区. tf.summary.get_summary_description(node_def) 根据给定的TensorSummary node_def检索对应的SummaryDescription.当summary op被实例化时,相关元数据的 SummaryDesc…
tf.GraphKeys类存放了图集用到的标准名称. 该标准库使用各种已知的名称收集和检索图中相关的值.例如,tf.Optimizer子类在没有明确指定待优化变量的情况下默认优化被收集到tf.GraphKeys.TRAINABLE_VARIABLES中的变量:但如果通过列表的形式明确地指定了需要优化的变量,那优化器就会优化指定的变量. Graph中定义了下列standard keys: GLOBAL_VARIABLES: 变量对象的默认集合,在分布式环境中被共享.通常,所有的TRAINABLE_…
Gokula Krishnan Santhanam认为,大部分深度学习框架都包含以下五个核心组件: 张量(Tensor) 基于张量的各种操作 计算图(Computation Graph) 自动微分(Automatic Differentiation)工具 BLAS.cuBLAS.cuDNN等拓展包 . . 一.张量的理解 本节主要参考自文章<开发丨深度学习框架太抽象?其实不外乎这五大核心组件> . 1.张量的解读 张量是所有深度学习框架中最核心的组件,因为后续的所有运算和优化算法都是基于张量进…
以下这些函数可以用于解决梯度消失或梯度爆炸问题上. 1. tf.clip_by_value tf.clip_by_value( t, clip_value_min, clip_value_max, name=None ) Returns:A clipped Tensor. 输入一个张量t,把t中的每一个元素的值都压缩在clip_value_min和clip_value_max之间.小于min的让它等于min,大于max的元素的值等于max. 例子: import tensorflow as tf…
一.上下文管理器(context manager) 上下文管理器是实现了上下文协议的对象,主要用于资源的获取与释放.上下文协议包括__enter__.__exit__,简单说就是,具备__enter__()和__exit__()方法的类就可以实现上下文管理,做到文件的自动关闭,这样的类实例化的对象就是上下文管理器. 典型的例子就是读写文件的操作.使用open()函数打开文件,操作之后再用close()函数关闭文件.如果使用上下文管理器的的话就会简洁方便些,因为File()类内部包含有__ente…
tensorflow提供的tf.train.ExponentialMovingAverage 类利用指数衰减维持变量的滑动平均. 当训练模型的时候,保持训练参数的滑动平均是非常有益的.评估时使用取平均后的参数有时会产生比使用最终训练好的参数值好很多的效果.方法apply()会添加被训练变量的影子副本和在影子副本中维持被训练变量的滑动平均的若干操作.该方法在创建训练模型时使用.那些保持维持滑动平均的操作(ops)一般会在每个训练步骤之后被执行.average()和average_name()方法分…