模型的存储与加载 TF的API提供了两种方式来存储和加载模型: 1.生成检查点文件,扩展名.ckpt,通过在tf.train.Saver()对象上调用Saver.save()生成.包含权重和其他在程序中定义的变量,不包含图结构. 2.生成图协议文件,扩展名.pb,用tf.train.write_graph()保存,只包含图形结构,不包含权重,然后使用tf.import_graph_def()来加载图形. 模型的存储与加载 (https://github.com/nlintz/TensorFlow…

批标准化 批标准化(batch normalization,BN)是为了克服神经网络层数加深导致难以训练而诞生的.深度神经网络随着深度加深,收敛会越来越慢,会导致梯度弥散问题(vanishing gradient problem). 统计机器学习有一个ICS理论,这是一个经典假设:源域和目标域的数据分布是一致的. 解决思路是根据训练样本和目标样本的比例对训练样本做一个矫正. 方法 批标准化一般用在非线性映射(激活函数)之前,对x=Wu+b做规范化,使结果(输出信号各个维度)的均值为0,方差为1,…

1.常用API 1.图,操作和张量 tf.Graph,tf.Operation,tf.Tensor 2.可视化 TensorBoard 3.变量作用域 在TF中有两个作用域(scope),一个是name_scope,另一个是variable_scope.他们有什么区别呢? variable_scope主要是给variable_name加前缀,也可以给op_name加前缀:name_scope是给op_name加前缀. variable_scope变量作用域机制在TF中主要有两部分组成: v=tf…

博客参考:https://www.ncnynl.com/archives/201702/1306.html ROS与C++入门教程-tf-坐标变换 说明: 介绍在c++实现TF的坐标变换 概念: Coodinate Frames (坐标框架,坐标系) Transforms (变换) TF 参考: TF中的几何对象表示的TF类型,这是相当于相应的bullet类型:见TF数据类型. Bullet类参考transforms和quaternions Frames and Points Frame是坐标系…

卷积神经网络CNN 卷积神经网络的权值共享的网络结构显著降低了模型的复杂度,减少了权值的数量. 神经网络的基本组成包括输入层.隐藏层和输出层. 卷积神经网络的特点在于隐藏层分为卷积层和池化层. padding 卷积核在提取特征映射时的动作称为padding,其中有两种方式: 不越过边缘取样称为Vaild Padding 越过边缘取样称为Same Padding 卷积神经网络的发展 Alexnet之后卷积神经网络的演化过程主要有4个方向的演化:一个是网络加深,二是增强卷积层的功能,三是从分类任务到…

在之前的博客中,有讲解tf的相关内容,本篇博客重新整理了tf的介绍和学习内容,对tf的认识会更加系统. 1 tf简介 1.1 什么是tf tf是一个让用户随时间跟踪多个参考系的功能包,它使用一种树型数据结构,根据时间缓冲并维护多个参考系之间的坐标变换关系,可以帮助用户在任意时间,将点.向量等数据的坐标,在两个参考系中完成坐标变换. tf的相关设计思想,可以参见:tf设计 1.2 tf可以做什么 一个机器人系统通常有很多三维的参考系,而且会随着时间的推移发生变化,例如全局参考系(world fra…

阅读笔记: 仅希望对底层有一定必要的感性认识,包括一些基本核心概念. Here只关注Graph相关,因为对编程有益. TF – Kernels模块部分参见:https://mp.weixin.qq.com/s/vwSlxxD5Ov0XwQCKy1oyuQ TF – Session部分,也可以在起专题总结:https://mp.weixin.qq.com/s/Bi6Rg-fEwyN4uIyRHDPhXg Tensorflow Download: https://github.com/tensorf…

第2章 Tensorflow keras实战 2-0 写在课程之前 课程代码的Tensorflow版本 大部分代码是tensorflow2.0的 课程以tf.kerasAPI为主,因而部分代码可以在tf1.3+运行 另有少量tensorflow1.*版本代码 方便大家读懂老代码 2-1 tf-keras简介 理论部分 Tensorflow-keras简介 分类问题.回归问题.损失函数 神经网络.激活函数.批归一化.Dropout Wide&deep模型 超参数搜索 实战部分 Keras搭建分类模…

Variables:TF基础数据之一,常用于变量的训练...重要性刚学TF就知道了 1.tf.Variable() tf.Variable(initial_value=None, trainable=True, collections=None, validate_shape=True, caching_device=None, name=None, variable_def=None, dtype=None, expected_shape=None, import_scope=None) 这种…

本章介绍tf基础知识,主要包括cookbook的第一.二章节. 方针:先会用,后定制 Ref: TensorFlow 如何入门? Ref: 如何高效的学习 TensorFlow 代码? 顺便推荐该领域三件装备: How TensorFlow Works? Steps Import or generate datasets Transform and normalize data Partition datasets into train, test, and validation sets Se…