tf.squared_difference

tf.squared_difference squared_difference( x, y, name=None ) 功能说明: 计算张量 x.y 对应元素差平方参数列表: 参数名必选类型说明 x 是张量是 half, float32, float64, int32, int64, complex64, complex128 其中一种类型 y 是张量是 half, float32, float64, int32, int64, complex64, complex128 其中一…

TF常用知识

命名空间及变量共享 # coding=utf-8 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt; with tf.variable_scope('V1') as scope: a1 = tf.get_variable(name='a1', shape=[1], initializer=tf.constant_initializer(1)) scope.reuse_variables() a3…

TensorFlow 基础知识

参考资料: 深度学习笔记目录向机器智能的TensorFlow实践 TensorFlow机器学习实战指南 Nick的博客 TensorFlow 采用数据流图进行数值计算.节点代表计算图中的数学操作,计算图的边表示多维数组,即张量. 在 TensorFlow 官网上将其定义为基于数据流图的数值计算库,TensorFlow 还提供了一个可使得用户用数学方法从零开始定义模型的函数和类的广泛套件.这使得具有一定技术背景的用户可迅速而直观地创建自定义.具有较高灵活性的模型. TensorFlow 的计算模…

TensorFlow实现线性回归模型代码

模型构建 1.示例代码linear_regression_model.py #!/usr/bin/python # -*- coding: utf-8 -* import tensorflow as tf import numpy as np class linearRegressionModel: def __init__(self,x_dimen): self.x_dimen = x_dimen self._index_in_epoch = 0 self.constructModel() s…

TensorFlow-相关 API（学习笔记）

1.tf.nn.conv2d conv2d( input, filter, strides, padding, use_cudnn_on_gpu=True, data_format='NHWC', name=None ) 参数名必选类型说明 input 是 tensor 是一个 4 维的 tensor,即 [ batch, in_height, in_width, in_channels ](若 input 是图像,[ 训练时一个 batch 的图片数量, 图片高度, 图片宽度, 图像通道…

Tensorflow数学运算

一.Tensor 之间的运算规则 1) 相同大小 Tensor 之间的任何算术运算都会将运算应用到元素级 2) 不同大小 Tensor(要求dimension 0 必须相同) 之间的运算叫做广播(broadcasting) 3) Tensor 与 Scalar(0维 tensor) 间的算术运算会将那个标量值传播到各个元素 4) Note:TensorFLow 在进行数学运算时,一定要求各个 Tensor 数据类型一致二.算术操作(+,-,*,/,Mod) (1)tensor-tensor操作…

Tensorflow学习笔记2019.01.22

tensorflow学习笔记2 edit by Strangewx 2019.01.04 4.1 机器学习基础 4.1.1 一般结构: 初始化模型参数:通常随机赋值,简单模型赋值0 训练数据:一般打乱.random.shuffle() 在训练数据上推断模型:得到输出计算损失:loss(X, Y)多种损失函数调整模型参数:最小化损失 SGD等优化方法. 评估:70%:30% 分训练集和校验集代码框架: 首先模型参数初始化, 然后为每个训练闭环中的运算定义一个方法:读取训练数据input,计算…

【转】【强化学习】Deep Q Network(DQN)算法详解

原文地址:https://blog.csdn.net/qq_30615903/article/details/80744083 DQN(Deep Q-Learning)是将深度学习deeplearning与强化学习reinforcementlearning相结合,实现了从感知到动作的端到端的革命性算法.使用DQN玩游戏的话简直6的飞起,其中fladdy bird这个游戏就已经被DQN玩坏了.当我们的Q-table他过于庞大无法建立的话,使用DQN是一种很好的选择 1.算法思想 DQN与Qlean…

【转】强化学习（一）Deep Q-Network

原文地址:https://www.hhyz.me/2018/08/05/2018-08-05-RL/ 1. 前言虽然将深度学习和增强学习结合的想法在几年前就有人尝试,但真正成功的开端就是DeepMind在NIPS 2013上发表的 Playing Atari with Deep Reinforcement Learning 一文,在该文中第一次提出Deep Reinforcement Learning 这个名称,并且提出DQN(Deep Q-Network)算法,实现从纯图像输入完全通过学习来…

第七节，TensorFlow编程基础案例-TensorBoard以及常用函数、共享变量、图操作(下)

这一节主要来介绍TesorFlow的可视化工具TensorBoard,以及TensorFlow基础类型定义.函数操作,后面又介绍到了共享变量和图操作. 一 TesnorBoard可视化操作 TensorFlow提供了可视化操作工具TensorBoard.他可以将训练过程中的各种数据展示出来,包括标量,图片,音频,计算图,数据分布,直方图和嵌入式向量.可以通过网页来观察模型的结构和训练过程中各个参数的变化.TensorBoard不会自动把代码代码出来,其实它是一个日志展示系统,需要在session…

DoubleDQN---tensorflow实现

完整代码:https://github.com/zle1992/Reinforcement_Learning_Game 开山之作: <Playing Atari with Deep Reinforcement Learning>(NIPS) http://export.arxiv.org/pdf/1312.5602 <Human-level control through deep reinforcementlearnin> https://www.cs.swarthmore.ed…

tensorFlow（二）线性回归

需要TensorFlow基础,见TensorFlow(一) 原理默认了解不赘述实例: 模型创建: #!/usr/bin/python # -*- coding: utf-8 -* import tensorflow as tf import numpy as np class linearRegressionModel: def __init__(self,x_dimen): self.x_dimen = x_dimen self._index_in_epoch = 0 self.constr…

tensorFlow（一）相关重要函数理解

1.函数及参数:tf.nn.conv2d conv2d( input, filter, strides, padding, use_cudnn_on_gpu=True, data_format='NHWC', name=None) 卷积的原理可参考 A guide to convolution arithmetic for deep learning 参数列表: 参数名必选类型说明 input 是 tensor 是一个 4 维的 tensor,即 [ batch, in_height, i…

TensorFlow 算术运算符

TensorFlow 算术运算符 TensorFlow 提供了几种操作,您可以使用它们将基本算术运算符添加到图形中. tf.add tf.subtract tf.multiply tf.scalar_mul tf.div tf.divide tf.truediv tf.floordiv tf.realdiv tf.truncatediv tf.floor_div tf.truncatemod tf.floormod tf.mod tf.cross TensorFlow 基本数学函数 Tensor…

TensorFlow学习之二

二.常用操作符和基本数学函数大多数运算符都进行了重载操作,使我们可以快速使用 (+ - * /) 等,但是有一点不好的是使用重载操作符后就不能为每个操作命名了. 1 算术操作符:+ - * / % tf.add(x, y, name=None) # 加法(支持 broadcasting) tf.subtract(x, y, name=None) # 减法 tf.multiply(x, y, name=None) # 乘法 tf.divide(x, y, name=Non…

tensorflow相关API的学习

学习目录 1.tensorflow相关函数理解 (1)tf.nn.conv2d (2)tf.nn.relu (3)tf.nn.max_pool (4)tf.nn.dropout (5)tf.nn.sigmoid_cross_entropy_with_logits (6)tf.nn.truncated_normal (7)tf.nn.constant (8)tf.nn.placeholder (9)tf.nn.reduce_mean (10)tf.nn.squared_difference (1)…

DeepNetwork---tensorflow实现

https://github.com/zle1992/Reinforcement_Learning_Game DeepQNetwork.py import numpy as np import tensorflow as tf from abc import ABCMeta, abstractmethod np.random.seed(1) tf.set_random_seed(1) import logging # 引入logging模块 logging.basicConfig(level=l…

强化学习10-Deep Q Learning-fix target

针对 Deep Q Learning 可能无法收敛的问题,这里提出了一种 fix target 的方法,就是冻结现实神经网络,延时更新参数. 这个方法的初衷是这样的: 1. 之前我们每个(批)记忆都会更新参数,这是一种实时更新神经网络参数的方法,这个方法有个问题,就是每次都更新,由于样本都是随机的,可能存在各种不正常现象,比如你考试得了90分,妈妈奖励了你,但是也有可能是考了90分,被臭骂一顿,因为别人都考了95分以上,当然这只是个例子,正是各种异常现象,可能导致损失忽小忽大,参数来回震荡,无…

使用线性回归识别sklearn中的手写数字digit

从昨天晚上,到今天上午12点半左右吧,一直在调这个代码.最开始训练的时候,老是说loss:nan 查了资料,因为是如果损失函数使用交叉熵,如果预测值为0或负数,求log的时候会出错.需要对预测结果进行约束. 有一种约束方法是:y_predict=max(y,(0,1e-18]).也就是将小于0的数值随机分配为(0,1e-18]中的某个数.这样做好像不太合适. 还有一种方法是使用sigmoid作为激活函数.我这样改正了之后仍然没有效果. 后来我把数据集中的图片打开看了一下才发现,它跟mnist不一…

使用线性回归识别手写阿拉伯数字mnist数据集

学习了tensorflow的线性回归. 首先是一个sklearn中makeregression数据集,对其进行线性回归训练的例子.来自腾讯云实验室 import tensorflow as tf import numpy as np class linearRegressionModel: def __init__(self,x_dimen): self.x_dimen=x_dimen self._index_in_epoch=0 self.constructModel() self.sess=…

Deep Q-Network 学习笔记（六）—— 改进④：dueling dqn

这篇同样是完全没看懂 Orz,这里只做实现记录.. 要改动的地方只是在神经网络的最后一层做下调整即可. def create(self): neuro_layer_1 = 3 w_init = tf.random_normal_initializer(0, 0.3) b_init = tf.constant_initializer(0.1) # -------------- 创建 eval 神经网络, 及时提升参数 -------------- # self.q_eval_input = tf.…

Deep Q-Network 学习笔记（五）—— 改进③：Prioritized Replay 算法

也就是优先采样,这里的推导部分完全没看懂 Orz,这里也只是记录实现代码. 也就是看了以下两篇文章对应做了实现. 莫烦老师的教程: https://morvanzhou.github.io/tutorials/machine-learning/reinforcement-learning/4-6-prioritized-replay/ 还有这位大神的: https://jaromiru.com/2016/11/07/lets-make-a-dqn-double-learning-and-prio…

深度增强学习--DDPG

DDPG DDPG介绍2 ddpg输出的不是行为的概率, 而是具体的行为, 用于连续动作 (continuous action) 的预测公式推导推导代码实现的gym的pendulum游戏,这个游戏是连续动作的代码实践 """ Deep Deterministic Policy Gradient (DDPG), Reinforcement Learning. DDPG is Actor Critic based algorithm. Pendulum example.…

tensorFlow 神经网络2

learnrate 太大容易跑飞,设置激活函数可以一定程度上增加learnrate,不跑飞 self.saver = tf.train.Saver() 和 self.init_variable = tf.global_variables_initializer() self.sess.run(self.init_variable)一定要写在所有变量的最后 GradientDescentOptimizer优化器可以继续训练 AdadeltaOptimizer优化器的训练结果,反之则不行 #…

《C-RNN-GAN: Continuous recurrent neural networks with adversarial training》论文笔记

出处:arXiv: Artificial Intelligence, 2016(一年了还没中吗?) Motivation 使用GAN+RNN来处理continuous sequential data,并训练生成古典音乐 Introduction In this work, we investigate the feasibility of using adversarial training for a sequential model with continuous data, and eva…