给定 $k$ 个互不相同的复数 $x_0,\cdots,x_{k-1}$,以及 $k$ 个复数$y_0,\cdots,y_{k-1}$.我们知道存在唯一的复系数 $k-1$ 次多项式$$\mathcal{P}_{k-1}(x)=\xi_0+\xi_1x+\cdots+\xi_{k-1}x^{k-1}$$使得$$\mathcal{P}_{k-1}(x_0)=y_0,\cdots,\mathcal{P}_{k-1}(x_{k-1})=y_{k-1}.$$其中 $\xi_0,\cdots,\xi_{k…

前言 傅立叶分析的作用是把一个函数变成一堆三角函数的和的形式,也就是分解.首先引入的是傅立叶级数,Fourier级数的作用是把函数变为可数无限个三角函数的和,而且这些三角函数的频率都是某个基频的整数倍.如果这个基频无限趋近于0,那么在极限的情况下这函数的参数(频率)就连续了,将连续时域函数映射到连续的频域函数的变换就是标准的傅立叶变换. 由于工程采集的信号大多都是离散的,把时域离散化以后不可能在得到连续的频域函数,所以在频域上也不连续了,这种离散时域序列到离散频域序列的变换称之为离散傅立叶变换(…

目录 目录 1. 为什么会出现图卷积神经网络? 2. 图卷积网络的两种理解方式 2.1 vertex domain(spatial domain):顶点域(空间域) 2.2 spectral domain:频域方法(谱方法) 3. 什么是拉普拉斯矩阵? 3.1 常用的几种拉普拉斯矩阵 普通形式的拉普拉斯矩阵 对称归一化的拉普拉斯矩阵(Symmetric normalized Laplacian) 随机游走归一化拉普拉斯矩阵(Random walk normalized Laplacian) 泛化…

从傅里叶级数(Fourier series)到离散傅里叶变换(Discrete Fourier transform) 一. 傅里叶级数(FS) 首先从最直观的开始,我们有一个信号\(x(t)\)(满足Dirichelet条件),先假设它是周期的,为了研究它,我们使用级数将之展开,展开方法如下 \[x(t)=\sum_{k=0}^{\infty}a_ke^{jkw_0t}\tag{1} \] 现在问题就是如何求解\(a_k\).因为三角函数是正交系,即 \[\forall \theta_1 \ne…

0 引言 一直想写Adaboost来着,但迟迟未能动笔.其算法思想虽然简单“听取多人意见,最后综合决策”,但一般书上对其算法的流程描述实在是过于晦涩.昨日11月1日下午,邹博在我组织的机器学习班第8次课上讲决策树与Adaboost,其中,Adaboost讲得酣畅淋漓,讲完后,我知道,可以写本篇博客了. 无心啰嗦,本文结合邹博之决策树与Adaboost 的PPT 跟<统计学习方法>等参考资料写就,可以定义为一篇课程笔记.读书笔记或学习心得,有何问题或意见,欢迎于本文评论下随时不吝指出,thank…

paper 4中介绍了支持向量机,结果说到 Maximum Margin Classifier ,到最后都没有说“支持向量”到底是什么东西.不妨回忆一下上次最后一张图: 可以看到两个支撑着中间的 gap 的超平面,它们到中间的 separating hyper plane 的距离相等(想想看:为什么一定是相等的?),即我们所能得到的最大的geometrical margin γ˜.而“支撑”这两个超平面的必定会有一些点,试想,如果某超平面没有碰到任意一个点的话,那么我就可以进一步地扩充中间的 g…

更新:25 MAR 2016 对于周期函数(周期为\(2\pi\))或定义在\([-\pi,\pi]\)上的函数\(f(x)\),可以展开为* \(\large f(x)=\dfrac{a_0}{2}+\sum\limits_{n=1}^{\infty}(a_n\cos nx+b_n\sin nx)\quad n=0,1,2,…\) 则系数为 \(\large a_n=\frac{1}{\pi}\int_{-\pi}^{\pi}f(x)\cdot\cos nx dx\) \(\large b_n…

二项式系数,也是我们常用的组合数,最直观的组合意义就是从n个元素取k个元素所有可能的情况数,因此我们自然的得到下面二项式系数的定义式. 那么我们通过具有组合意义的二项系数,给出更加一般的二项式系数的定义: 通过上文给出推广形式的二项式系数,容易推得恒等式3. 但是我们注意到,在第二个恒等式的推导中,我们运用了对称恒等式. 而对称恒等式的使用要求上指标非负,这是否意味着对于第二个恒等式我们需要限制r的范围? 答案是否定的?该恒等式依然对实数r成立. 因为首先这个恒等式(下指标不变的相伴恒等式)必然…

首先什么是人工神经网络?简单来说就是将单个感知器作为一个神经网络节点,然后用此类节点组成一个层次网络结构,我们称此网络即为人工神经网络(本人自己的理解).当网络的层次大于等于3层(输入层+隐藏层(大于等于1)+输出层)时,我们称之为多层人工神经网络. 1.神经单元的选择 那么我们应该使用什么样的感知器来作为神经网络节点呢?在上一篇文章我们介绍过感知器算法,但是直接使用的话会存在以下问题: 1)感知器训练法则中的输出 由于sign函数时非连续函数,这使得它不可微,因而不能使用上面的梯度下降算法来最…

AdaBoost(Adaptive Boosting):自适应提升方法. 1.AdaBoost算法介绍 AdaBoost是Boosting方法中最优代表性的提升算法.该方法通过在每轮降低分对样例的权重,增加分错样例的权重,使得分类器在迭代过程中逐步改进,最终将所有分类器线性组合得到最终分类器,Boost算法框架如下图所示: 图1.1 Boost分类框架(来自PRML) 2.AdaBoost算法过程: 1)初始化每个训练样例的权值,共N个训练样例. 2)共进行M轮学习,第m轮学习过程如下: A)使…