来自:http://deeplearning.net/tutorial/dA.html#daa Denoising Autoencoders (dA) note:该部分假设读者已经看过(Theano3.3-练习之逻辑回归)和(Theano3.4-练习之多层感知机).另外需要了解这几个theano函数和概念: T.tanh,  shared variables,  basic arithmetic ops,  T.grad,  Random numbers, floatX. 如果想在GPU上跑代码…

来自:http://deeplearning.net/tutorial/SdA.html#sda Stacked Denoising Autoencoders (SdA) note:这部分需要读者读过 (Theano3.3-练习之逻辑回归)和(Theano3.4-练习之多层感知机).另外会使用到的theano函数和概念: T.tanh, shared variables, basic arithmetic ops, T.grad, Random numbers,floatX.如果你想将代码运行在…

这是Hinton的第10课 这节课有两篇论文可以作为背景或者课外读物<Adaptive mixtures of local experts>和<Improving neural networks by preventing co-adaptation of feature detectors>. 一.为什么模型的结合是有帮助的 这部分将介绍为什么当我们进行预测的时候,想要将许多模型结合起来.如果我们只有一个模型,我们不得不对这个模型选择某些能力:如果我们选择的能力太少,那么模型可以…

Link: Neural Networks for Machine Learning - 多伦多大学 Link: Hinton的CSC321课程笔记 Lecture 09 Lecture 10 提高泛化能力 介绍不同的方法去控制网络的数据表达能力,并介绍当我们使用这样一种方法的时候如何设置元参数,然后给出一个通过提早结束训练来控制网络能力(其实就是防止过拟合)的例子. 所以我们需要方法来阻止过拟合, 第一个方法也是目前最好的方法:就是简单的增加更多的数据,如果你能提供更多的数据,那么就不需要去提…

0.背景 这篇论文是2017年11月29号第一次提交到arxiv并紧接着30号就提交了V2版本的. 近些年DCNN模型在图像生成和修复上面表现很好,大部分人认为好的原因主要是由于网络基于大量的图片训练,从数据中获取了足够的信息,从而使得模型性能这么好.然而Dmitry Ulyanov等人的这篇论文让我们看到了不一样的解释,他们通过实验发现: 人为设计的网络结构(主要还是cnn,毕竟这里讨论的是图像)本身就能够抓取大量低层级的图像统计先验信息,也就是说网络结构本身就差不多等于传统的如hog等这样人…

Hinton第15课,本节有课外读物<Semantic Hashing>和<Using Very Deep Autoencoders for Content-Based Image Retrieval>这两篇论文 一.从PCA到AE 这部分中,首先介绍下PCA,这个方法被广泛的应用在信号处理上.PCA的idea就是高维数据可以用更低维度的编码来表示,当数据位于高维空间中的线性流形(linear manifold)附近时就会发生这种情况.所以如果我们可以找到这个线性流形,我们就能将数…

Opencv支持GPU计算,并且包含成一个gpu类用来方便调用,所以不需要去加上什么__global__什么的很方便,不过同时这个类还是有不足的,待opencv小组的更新和完善. 这里先介绍在之前的<opencv4-highgui之视频的输入和输出以及滚动条>未介绍的图像的相似性检测,当然这是cpu版本,然后接着在介绍对应的gpu版本.这里只介绍了PSNR和SSIM两种用来进行对比图像的方法 原理: PSNR: 当我们想检查压缩视频带来的细微差异的时候,就需要构建一个能够逐帧比较差视频差异的系…

本文结构 为了看懂ORB特征提取算法,来看了BRIEF算法的原文,并查看了OpenCV中BRIEF的相关实现,来验证论文的解读正确与否. BRIEF论文解读 摘要 用二进制串描述局部特征,好处有二:一是很少的bit就能描述独特的性质:二是可以用汉明距离计算两个二进制串之间的特征,计算速度快.在实际应用中的好处是:算的准:算的快:省内存. BRIEF特征的建立和用于匹配,都很快.性能测试表明,BRIEF比SURF和U-SURF快,准确度差不多. Introduction 经验表明,用256甚至12…

正交变换是保持图形形状和大小不变的几何变换,包含旋转,轴对称及上述变换的复合. 几何意义 正交变换是保持图形形状和大小不变的几何变换,包含旋转,轴对称及上述变换的复合. 代数定义 欧几里得空间V的线性变换σ称为正交变换,如果它保持向量内积不变,即对任意的α,β∈V,都有 (σ(α),σ(β))=(α,β) 设σ是n维欧式空间V的一个线性变换,于是下面4个命题等价 1.σ是正交变换 2.σ保持向量长度不变,即对于任意α∈V,丨σ(α)丨=丨α丨 3.如果ε_1,ε_2,...,ε_n是标准正交基,…

MATLAB小波变换指令及其功能介绍 1 一维小波变换的 Matlab 实现 (1) dwt函数 功能:一维离散小波变换 格式:[cA,cD]=dwt(X,'wname') [cA,cD]=dwt(X,Lo_D,Hi_D)别可以实现一维.二维和 N 维 DFT 说明:[cA,cD]=dwt(X,'wname') 使用指定的小波基函数 'wname' 对信号X 进行分解,cA.cD 分别为近似分量和细节分量:[cA,cD]=dwt(X,Lo_D,Hi_D) 使用指定的滤波器组 Lo_D.Hi_D …