最近邻模型,更为常见的是k-最近邻模型,是一种常见的机器学习模型,原理如下: KNN算法的前提是存在一个样本的数据集,每一个样本都有自己的标签,表明自己的类型.现在有一个新的未知的数据,需要判断它的类型.那么通过计算新未知数据与已有的数据集中每一个样本的距离,然后按照从近到远排序.取前K个最近距离的样本,来判断新数据的类型. import相关库,记载数据(当然正常情况下不是这么加载的),指定了5000个样本用来训练,200个样本用来测试. 然后下面分别定义了训练和测试的计算图的输入. 算法很简单…
import库,加载mnist数据集. 设置学习率,迭代次数,batch并行计算数量,以及log显示. 这里设置了占位符,输入是batch * 784的矩阵,由于是并行计算,所以None实际上代表并行数.输出是10类,因为mnist数据集是手写数字0-9,所以分成10类是很正常的. W和b是变量. 第一行代码建立了一个softmax模型,意思是,将10类最后的输出结果再通过softmax函数换算一下,softmax函数如下: ,其实就是做了一次转换,让各个输出变成了概率,且概率之和等于1. 也要…
首先呢,进行import,对于日常写代码来说,第二行经常写成:import numpy as np,这样会更加简洁.第三行import用于绘图. 定义了学习率.迭代数epoch,以及展示的学习步骤,三个参数. 同时给出了训练用的原始数据,n_samples用来记录一共有多少数据. 这里指明了计算图的输入,W和b是模型的权重矩阵和偏差,目的是要学习一个 \[y=\mathbf{W}x+\mathbf{b}\] 函数. 这里就定义了上述函数. 这里定义了损失函数cost,使用了平方损失. optim…
加载数据集. 这里的keep_prob是dropout的一个参数.dropout是一种随机置零的策略,用来防止模型过拟合. 这里定义两层,上面是卷积层,下面是池化层. 搭建了一层卷积.一层池化.一层卷积.一层池化.之后将输出展平,输入到全连接层里,进行输出,激活函数选用了relu函数. 这是上面神经网络用到的参数. 之后我们构建模型,pred是整个网络的输出. cost设置为交叉熵 \[l(\varphi)=ylog(1-\varphi)+(1-y)log(1-\varphi)\] 优化器设置为…
自动编码机(Autoencoder)属于非监督学习,不需要对训练样本进行标记.自动编码机(Autoencoder)由三层网络组成,其中输入层神经元数量与输出层神经元数量相等,中间层神经元数量少于输入层和输出层.在网络训练期间,对每个训练样本,经过网络会在输出层产生一个新的信号,网络学习的目的就是使输出信号与输入信号尽量相似.自动编码机(Autoencoder)训练结束之后,其可以由两部分组成,首先是输入层和中间层,我们可以用这个网络来对信号进行压缩:其次是中间层和输出层,我们可以将压缩的信号进行…
前面的不做过多解释了. 这里定义了两个占位符,各位也知道,在训练时,feed_dict会填充它们. 定义相关网络. 这里是权值矩阵和偏差. 这里是实例化了网络,定义了优化器和损失,和上一篇一样. 最后,写一个两重的for循环,进行训练. 然后简单地测试一下.…
第一步仍然是导入库和数据集. ''' To classify images using a reccurent neural network, we consider every image row as a sequence of pixels. Because MNIST image shape is 28*28px, we will then handle 28 sequences of 28 steps for every sample. ''' 这里我们设定了各种参数,此时的n_ste…
其实任何资料里面的任何知识点都无所谓,都是不重要的,重要的是学习方法,自行摸索的过程(不妥之处欢迎指正) 汇总:http://www.cnblogs.com/dunitian/p/4822808.html#mvc 本章Demo:https://github.com/dunitian/LoTCodeBase/blob/master/NetCode/6.网页基础/BMVC5/MVC5Base/Controllers/ModelController.cs 说重点,先简单说下过度提交,一般黑客利用这个和…
众所周知我暂时弃掉了那个音乐生成的坑,原因是我的代码写得还不够纯熟…… 现在我找到了一个项目,用来从代码基础开始补起,同时写下学习笔记. 项目地址:https://github.com/aymericdamien/TensorFlow-Examples 首先最基础的第0章我们就跳过了,这个不涉及TensorFlow本身. 然后使用jupyter打开这开ipynb文件: 我们开始. ======================================== example里的是完整代码,no…
TensorFlow入门教程之0: BigPicture&极速入门 TensorFlow入门教程之1: 基本概念以及理解 TensorFlow入门教程之2: 安装和使用 TensorFlow入门教程之3: CNN卷积神经网络的基本定义理解 TensorFlow入门教程之4: 实现一个自创的CNN卷积神经网络 TensorFlow入门教程之5: TensorBoard面板可视化管理 TensorFlow入门教程之6: AlphaGo 的策略网络(CNN)简单的实现 TensorFlow入门教程之7…