sklearn ⇒ 机器学习算法和模型: theras theano TensorFlow 1. 理解模型以及函数,参数返回值的实际意义 一定要注意模型的构造函数,接收的参数列表,以及该模型本身所要解决的问题,因为在一些实现较好的框架或者库中,相似功能的类都会共享同一种接口. KMeans(sklearn.cluster.KMeans),其也有成员函数: fit:训练 ⇒ 模型的参数,其实是以及聚类的中心: predict:接收的测试样本,属于哪一个聚类中心: autoencoder,其内部对称…

一.<莫烦Python>学习笔记: TensorFlow从入门到理解(一):搭建开发环境[基于Ubuntu18.04] TensorFlow从入门到理解(二):你的第一个神经网络 TensorFlow从入门到理解(三):你的第一个卷积神经网络(CNN) TensorFlow从入门到理解(四):你的第一个循环神经网络RNN(分类例子) TensorFlow从入门到理解(五):你的第一个循环神经网络RNN(回归例子) TensorFlow从入门到理解(六):可视化梯度下降…

  本文为原创作品,未经本人同意,禁止转载,禁止用于商业用途!本人对博客使用拥有最终解释权 欢迎关注我的博客:http://blog.csdn.net/hit2015spring和http://www.cnblogs.com/xujianqing 本文主要是介绍在ubuntu16.04下,怎么配置当下流行的深度学习框架,cuda8.0+cudnn+caffe+theano+tensorflow 安装英伟达显卡驱动 首先去官网上查看适合你GPU的驱动 (http://www.nvidia.com/…

  Caffe Torch Theano TensorFlow Language C++, Python Lua Python Python Pretrained Yes ++ Yes ++ Yes (Lasagne) Inception Multi-GPU: Data parallel Yes Yes Yes Yes Multi-GPU: Model parallel No Yes Experimental Yes (best) Readable source code Yes (C++) Y…

安装过程中,网络状态一定要好,如果安装过程中出现time out的提示信息,今天就可以洗洗睡啦,等明天网络状态好的时候再安装. 安装过程出现不知名的错误的时候,执行第一步,update一下 1.#update software sudo apt-get update 2.# 安装gfortran sudo apt-get install gfortran # 安装blas sudo apt-get install libopenblas-dev # 安装lapack sudo apt-get i…

一.sklearn模型保存与读取 1.保存 from sklearn.externals import joblib from sklearn import svm X = [[0, 0], [1, 1]] y = [0, 1] clf = svm.SVC() clf.fit(X, y) joblib.dump(clf, "train_model.m") 2.读取 clf = joblib.load("train_model.m") clf.predit([0,0]…

参考 ubuntu16.04+gtx1060+cuda8.0+caffe安装.测试经历 ,细节处有差异. 首先说明,这是在台式机上的安装测试经历,首先安装的win10,然后安装ubuntu16.04双系统,显卡为GTX1060 台式机显示器接的是GTX1060 HDMI口,win10上首先安装了最新的GTX1060驱动375 废话不多说,上车吧,少年 一.首先安装nvidia显卡驱动 我是1080P的显示器,在没有安装显卡驱动前,ubuntu分辨率很低,可以手动修改一下grub文件,提高分辨率,…

『cs231n』通过代码理解gan网络&tensorflow共享变量机制_上 上篇是一个尝试生成minist手写体数据的简单GAN网络,之前有介绍过,图片维度是28*28*1,生成器的上采样使用的是tf.image.resize_image(),不太正规,不过其他部分很标准,值得参考学习. 辨别器: n,28,28,1    :卷积 + 激活 + 池化 n,14,14,32  :卷积 + 激活 + 池化 n,7,7,64     :reshape n,7*7*64    :全连接 + 激活 n,…

Tensor即张量,在tensorflow中所有的数据都通过张量流来传输,在看代码的时候,对张量的概念很不解,很容易和矩阵弄混,今天晚上查了点资料,并深入了解了一下,简单总结一下什么是张量的阶,以及张量的shape是什么? 在tensorflow中,张量的维数被描述为“阶”,张量是以list的形式存储的.list有几重中括号,对应的张量就是几阶.如t=[ [1,2,3],[4,5,6],[7,8,9] ],t就是一个二阶张量. 我们可以认为,一阶张量,如[1,2,3],相当于一个向量,二阶张量,…

softmax函数的作用   对于分类方面,softmax函数的作用是从样本值计算得到该样本属于各个类别的概率大小.例如手写数字识别,softmax模型从给定的手写体图片像素值得出这张图片为数字0~9的概率值,这些概率值之和为1.预测的结果取最大的概率表示的数字作为这张图片的分类. 可以从下面这张图理解softmax x1,x2,x3代表输入的值,b1,b2,b3代表类别1,2,3的偏置量,是因为输入的值可能存在无关的干扰量. 将上图写成等式 \[ \left[\begin{matrix}tem…

自己通过网上查询的有关张量的解释,稍作整理. TensorFlow用张量这种数据结构来表示所有的数据.你可以把一个张量想象成一个n维的数组或列表.一个张量有一个静态类型和动态类型的维数.张量可以在图中的节点之间流通. 阶 在TensorFlow系统中,张量的维数来被描述为阶.但是张量的阶和矩阵的阶并不是同一个概念.张量的阶(有时是关于如顺序或度数或者是n维)是张量维数的一个数量描述.比如,下面的张量(使用Python中list定义的)就是2阶. t = [[1, 2, 3], [4, 5, 6]…

本章中,你会假装作为被一家地产公司刚刚雇佣的数据科学家,完整地学习一个案例项目.下面是主要步骤: 项目概述. 获取数据. 发现并可视化数据,发现规律. 为机器学习算法准备数据. 选择模型,进行训练. 微调模型. 给出解决方案. 部署.监控.维护系统. 使用真实数据 学习机器学习时,最好使用真实数据,而不是人工数据集.幸运的是,有上千个开源数据集可以进行选择,涵盖多个领域.以下是一些可以查找的数据的地方: 流行的开源数据仓库: UC Irvine Machine Learning Reposito…

运行代码: import tensorflow as tf import numpy as np import matplotlib.pyplot as plt from mpl_toolkits.mplot3d import Axes3D LR = 0.1 REAL_PARAMS = [1.2, 2.5] INIT_PARAMS = [[5, 4], [5, 1], [2, 4.5]][2] x = np.linspace(-1, 1, 200, dtype=np.float32) # x d…

运行代码: import tensorflow as tf import numpy as np import matplotlib.pyplot as plt BATCH_START = 0 TIME_STEPS = 20 BATCH_SIZE = 50 INPUT_SIZE = 1 OUTPUT_SIZE = 1 CELL_SIZE = 10 LR = 0.006 def get_batch(): global BATCH_START, TIME_STEPS # xs shape (50ba…

运行代码: import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data # set random seed for comparing the two result calculations tf.set_random_seed(1) # this is data mnist = input_data.read_data_sets('MNIST_data', one_hot=True) #…

运行代码: from __future__ import print_function import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data # number 1 to 10 data mnist = input_data.read_data_sets('MNIST_data', one_hot=True) def compute_accuracy(v_xs, v_ys): globa…

运行代码: from __future__ import print_function import tensorflow as tf import numpy as np import matplotlib.pyplot as plt # 神经层函数 def add_layer(inputs, in_size, out_size, activation_function=None): Weights = tf.Variable(tf.random_normal([in_size, out_si…

*注:教程及本文章皆使用Python3+语言,执行.py文件都是用终端(如果使用Python2+和IDE都会和本文描述有点不符) 一.安装,测试,卸载 TensorFlow官网介绍得很全面,很完美了,各种系统.方式.类别都一一组合介绍了,大家直接点击去官网安装TensorFlow,这里需要注意的是TensorFlow有CPU和GPU版本之分.当然用TensorFlow前得先装好Python的开发环境. *测试安装是否成功的代码时,如果使用的是CPU版本,如果出现错误: sess = tf.Ses…

地址 https://github.com/apachecn/hands-on-ml-zh 目录结构 零.前言 第一部分 机器学习基础 一.机器学习概览 二.一个完整的机器学习项目 三.分类 四.训练模型 五.支持向量机 六.决策树 七.集成学习和随机森林 八.降维 第二部分 神经网络与深度学习 九.启动并运行 TensorFlow 十.人工神经网络介绍 十一.训练深层神经网络 十二.设备和服务器上的分布式 TensorFlow 十三.卷积神经网络 十四.循环神经网络 十五.自编码器 十六.强化…

对于理论,简单的去看一下百度上的说明,这里直接上实例,帮助理解. # softmax函数,将向量映射到0-1的范围内,P=exp(ax)/(sum(exp(a1x)+exp(a2x)+...)) inputdata = tf.Variable([[0.2, 0.1, 0.9]], dtype=np.float32) output = tf.nn.softmax(inputdata) with tf.Session() as sess: sess.run(tf.global_variables_i…

keras 安装: 最好在anaconda的虚拟环境下搭建: conda create -n 环境名 python=3.6 进入环境: source activate 环境名 安装keras: pip install keras pip install theano pip install tensorflow-gpu==1.2.0 如果使用theano为backend, 则需要conda install pygpu来支持并行和gou运算. 如果出现ModuleNotFoundError: No…

数据集地址:https://github.com/ageron/handson-ml/tree/master/datasets 先行知识准备:NumPy,Pandas,Matplotlib的模块使用 机器学习项目流程(一般):可视化数据,发现规律 对数据进行预处理,为算法准备数据 选择模型,训练 微调模型 数据集使用1990年加州普查数据,包含:每个街区的人口.收入中位数.房价中位数等指标 一.划分问题 可以将问题划分为分类问题或者回归问题,选择不同的模型 二.选择性能指标 选择合适的性能指标例…

Tensorflow   BN具体实现(多种方式): 理论知识(参照大佬):https://blog.csdn.net/hjimce/article/details/50866313 补充知识: ① tf.nn.moments  这个函数的输出就是BN需要的mean和variance. 方式1: tf.nn.batch_normalization(x, mean, variance, offset, scale, variance_epsilon, name=None):原始接口封装使用 x·m…

零.前言 一.机器学习概览 二.一个完整的机器学习项目 三.分类 四.训练模型 五.支持向量机 六.决策树 七.集成学习和随机森林 八.降维 十.使用 Keras 搭建人工神经网络 十一.训练深度神经网络 十二.使用 TensorFlow 自定义模型并训练 十三.使用 TensorFlow 加载和预处理数据 十四.使用卷积神经网络实现深度计算机视觉 十五.使用 RNN 和 CNN 处理序列 十六.使用 RNN 和注意力机制进行自然语言处理 十七.使用自编码器和 GAN 做表征学习和生成式学习 十…

一.什么是机器学习? 计算机程序利用经验E(训练数据)学习任务T(要做什么,即目标),性能是P(性能指标),如果针对任务T的性能P随着经验E不断增长,成为机器学习.[这是汤姆米切尔在1997年定义] 大白话:类比于学生学习考试,你先练习一套有一套的模拟卷 (这就相当于训练数据),在这几套模拟卷上能得到差不多的成绩的时候(这个就是在训练数据得到的性能指标P理想),然后去考试(应用到实际生产生活中去).这就是机器学习的类比. 二.机器学习的好处 传统的编程技术完成的程序会在动态变化的生产环境中难以维…

https://www.youtube.com/watch?v=Qynt-TxAPOs&index=12&list=PL16j5WbGpaM0_Tj8CRmurZ8Kk1gEBc7fg&ab_channel=MachineLearner                         来自为知笔记(Wiz)…

1. tf.nn.softmax tf.nn.softmax(logits, dim=-1, name=None) w*x+b ⇒ logits softmax 函数执行的操作:exp(logits)/reduce_sum(exp(logits), dim)…

catalogue . 引言 . 一些基本概念 . Sequential模型 . 泛型模型 . 常用层 . 卷积层 . 池化层 . 递归层Recurrent . 嵌入层 Embedding 1. 引言 Keras是一个高层神经网络库,Keras由纯Python编写而成并基Tensorflow或Theano 简易和快速的原型设计(keras具有高度模块化,极简,和可扩充特性) 支持CNN和RNN,或二者的结合 支持任意的链接方案(包括多输入和多输出训练) 无缝CPU和GPU切换 0x1: Kera…

http://wossoneri.github.io/2017/11/15/[Tensorflow]The-dimension-of-Tensor/ Tensor维度理解 Tensor在Tensorflow中是N维矩阵,所以涉及到Tensor的方法,也都是对矩阵的处理.由于是多维,在Tensorflow中Tensor的流动过程就涉及到升维降维,这篇就通过一些接口的使用,来体会Tensor的维度概念.以下是个人体会,有不准确的请指出. tf.reduce_mean reduce_mean( inp…

参考 https://keras.io/#configuring-your-keras-backend https://keras.io/backend/ Switching from one backend to another If you have run Keras at least once, you will find the Keras configuration file at: $HOME/.keras/keras.json If it isn't there, you can…