最近几个月一直在和几个小伙伴做Deep Learning相关的事情.除了像tensorflow,gpu这些框架或工具之外,最大的收获是思路上的,Neural Network相当富余变化,发挥所想.根据手头的数据和问题去设计创新吧.今天聊一个Unsupervised Learning的NN:Autoencoder. Autoencoder的特点是:首先,数据中只有X,没有y:此外,输入和输出的nodes数量相同,可以把其定义为用神经网络对input data压缩.取精华后的重构.其结构图如下: 听…

一.常量的定义 import tensorflow as tf #类比 语法 api 原理 #基础数据类型 运算符 流程 字典 数组 data1 = tf.constant(2,dtype=tf.int32) data2 = tf.Variable(10,name='var') print(data1) print(data2) #shape 维度 const长度 shape维度 dtype 数据类型 sess = tf.Session() print(sess.run(data1)) init…

TensorFlow从入门到实战资料汇总 2017-02-02 06:08 | 数据派 来源:DataCastle数据城堡 TensorFlow是谷歌基于DistBelief进行研发的第二代人工智能学**系统,其命名来源于本身的运行原理.Tensor(张量)意味着N维数组,Flow(流)意味着基于数据流图的计算,TensorFlow为张量从图象的一端流动到另一端计算过程.TensorFlow是将复杂的数据结构传输至人工智能神经网中进行分析和处理过程的系统. TensorFlow已经开源一年多了,…

一.矩阵的基本操作 import tensorflow as tf   # 1.1矩阵操作 sess = tf.InteractiveSession() x = tf.ones([2, 3], "float32") print("tf.ones():", sess.run(x))   tensor = [[1, 2, 3], [4, 5, 6]] x = tf.ones_like(tensor) 和0", sess.run(x))   print(&quo…

tensorflow学习笔记——使用TensorFlow操作MNIST数据(1) 一:神经网络知识点整理 1.1,多层:使用多层权重,例如多层全连接方式 以下定义了三个隐藏层的全连接方式的神经网络样例代码: import tensorflow as tf l1 = tf.matmul(x, w1) l2 = tf.matmul(l1, w2) y = tf.matmul(l2,w3) 1.2,激活层:引入激活函数,让每一层去线性化 激活函数有多种,例如常用的 tf.nn.relu  tf.nn.…

1.对TensorFlow的基本操作 import tensorflow as tf import os os.environ[" a=tf.constant(2) b=tf.constant(3) with tf.Session() as sess: print("a:%i" % sess.run(a),"b:%i" % sess.run(b)) print("Addition with constants: %i" % sess.r…

TensorFlow扩展功能 自动求导.子图的执行.计算图控制流.队列/容器 1.TensorFlow自动求导 在深度学习乃至机器学习中,计算损失函数的梯度是最基本的需求,因此TensorFlow也原生支持自动求导. 比如,一个tensor C,在计算图中有一组依赖的tensor{Xk},那么在TensorFlow中可以自动求出(dC/dXk).这个求解梯度的过程也是通过在计算图中拓展节点的方式实现的,只不过求梯度的节点对用户是透明的. 如下图,当TensorFlow计算一个tensor C关于…

完整代码请见 models/DenoisingAutoencoder.py at master · tensorflow/models · GitHub: 1. Denoising Autoencoder 类设计与构造函数 简单起见,这里仅考虑一种单隐层的去噪自编码器结构: 即整个网络拓扑结构为:输入层,单隐层,输出层: 输入层 ⇒ 单隐层,可视为编码的过程,需要非线性的激励函数: 单隐层 ⇒ 输出层,可视为解码的过程,也可称之为某种意义上的重构(reconstruction),无需激励函数:…

自编码器可以用于降维,添加噪音学习也可以获得去噪的效果. 以下使用单隐层训练mnist数据集,并且共享了对称的权重参数. 模型本身不难,调试的过程中有几个需要注意的地方: 模型对权重参数初始值敏感,所以这里对权重参数w做了一些限制 需要对数据标准化 学习率设置合理(Adam,0.001) 1,建立模型 import numpy as np import tensorflow as tf class AutoEncoder(object): ''' 使用对称结构,解码器重用编码器的权重参数 '''…

使用 TensorFlow 进行基本操作的实例,这个实例主要是使用 TensorFlow 进行了加法运算. 包括使用 constant 常量进行加法运算和使用 placeholder 进行变量加法运算,以及扩展到矩阵的加法运算. TensorFlow 变量定义,加法运算. # -*- coding:utf-8 -*- from __future__ import print_function ''' 使用 TensorFlow 进行基本操作的实例,这个实例主要是使用 TensorFlow 进行了…