Matrices and Vectors Matrices are 2-dimensional arrays: A vector is a matrix with one column and many rows:The above matrix has four rows and three columns, so it is a 4 x 3 matrix. Notation and terms:So vectors are a subset of matrices. The above ve…

转载 - Recurrent Neural Networks Tutorial, Part 2 – Implementing a RNN with Python, Numpy and Theano 本文是RNN教程的第二部分,第一部分教程在这里. 对应的样板代码在 Github上面. 在这部分内容中,我将会使用 numpy 和 theano 从头开始实现RNN 模型. 实验中涉及的代码可以在Github中找到.一些不重要的内容将会略去,但是Github中保留了全部的实践过程. 语言建模 Our…

今天推导公式,发现居然有对矩阵的求导,狂汗--完全不会.不过还好网上有人总结了.吼吼,赶紧搬过来收藏备份. 基本公式:Y = A * X --> DY/DX = A'Y = X * A --> DY/DX = AY = A' * X * B --> DY/DX = A * B'Y = A' * X' * B --> DY/DX = B * A' 1. 矩阵Y对标量x求导: 相当于每个元素求导数后转置一下,注意M×N矩阵求导后变成N×M了 Y = [y(ij)] --> dY/…

http://scottsievert.github.io/blog/2015/01/31/the-mysterious-eigenvalue/ The Fibonacci problem is a well known mathematical problem that models population growth and was conceived in the 1200s. Leonardo of Pisa aka Fibonacci decided to use a recursiv…

背景介绍 图像拼接是一项应用广泛的图像处理技术.根据特征点的相互匹配,可以将多张小视角的图像拼接成为一张大视角的图像,在广角照片合成.卫星照片处理.医学图像处理等领域都有应用.早期的图像拼接主要是运用像素值匹配的方法.后来,人们分别在两幅图像中寻找拐点.边缘等稳定的特征,用特征匹配的方法拼接图像.本实验根据Matthew Brown (2005) 描述的方法,实现多张生活照的拼接. 特征点捕捉 (Interest Point Detection) 首先,拍摄两张场景有重合的照片.为了保证有足够多…

本程序意在解释这样几个问题:完整版代码在本文的最后. 1.实验的设计如何转换成设计矩阵? 2.设计矩阵的每列表示一个刺激条件,如何确定它们? 3.如何根据设计矩阵和每个体素的信号求得该体素对刺激的敏感性? 程序详解: 1.构造hrf hrf_small = [ 0 4 2 -1 0 ]; figure(1); clf; plot(0:4,hrf_small,'o-'); grid on; xlabel('Time (in units of TRs, 4s long each)'); ylabel…

Introduction to Gaussian Processes Gaussian processes (GP) are a cornerstone of modern machine learning. They are often used for non-parametric regression and classification, and are extended from the theory behind Gaussian distributions and Gaussian…

The Model Complexity Myth (or, Yes You Can Fit Models With More Parameters Than Data Points) An oft-repeated rule of thumb in any sort of statistical model fitting is "you can't fit a model with more parameters than data points". This idea appea…

Gaussian Mixture Model(GMM)是一个很流行的聚类算法.它与K-Means的很像,但是K-Means的计算结果是算出每个数据点所属的簇,而GMM是计算出这些数据点分配到各个类别的概率.与K-Means对比K-Means存在一些缺点,比如K-Means的聚类结果易受样本中的一些极值点影响.此外GMM的计算结果由于是得出一个概率,得出一个概率包含的信息量要比简单的一个结果多,对于49%和51%的发生的事件如果仅仅使用简单的50%作为阈值来分为两个类别是非常危险的. Gaussi…

1.基础概念 机器学习是一门研究在非特定编程条件下让计算机采取行动的学科.最近二十年,机器学习为我们带来了自动驾驶汽车.实用的语音识别.高效的网络搜索,让我们对人类基因的解读能力大大提高.当今机器学习技术已经非常普遍,您很可能在毫无察觉情况下每天使用几十次.许多研究者还认为机器学习是人工智能(AI)取得进展的最有效途径.在本课程中,您将学习最高效的机器学习技术,了解如何使用这些技术,并自己动手实践这些技术.更重要的是,您将不仅将学习理论知识,还将学习如何实践,如何快速使用强大的技术来解决新问题.…