统计学的基本概念 学过概率统计的孩子都知道,统计里最基本的概念就是样本的均值,方差,或者再加个标准差.首先我们给你一个含有n个样本的集合,依次给出这些概念的公式描述,这些高中学过数学的孩子都应该知道吧,一带而过. 均值: 标准差: 方差: 很显然,均值描述的是样本集合的中间点,它告诉我们的信息是很有限的,而标准差给我们描述的则是样本集合的各个样本点到均值的距离之平均.以这两个集合为例,[0,8,12,20]和[8,9,11,12],两个集合的均值都是10,但显然两个集合差别是很大的,计算两者的标…

今天我们来讲一讲有关数据探索的问题.其实这个概念还蛮容易理解的,就是我们刚拿到数据之后对数据进行的一个探索的过程,旨在了解数据的属性与分布,发现数据一些明显的规律,这样的话一方面有助于我们进行数据预处理,另一方面在进行特征工程时可以给我们一些思路.所以这样一个过程在数据挖掘中还是蛮有用的,相信大家在网上看过不少数据挖掘比赛的Kernel,一般一上来都先是个数据探索的过程.之前听过一个老师讲课,说数据探索过程其实可有可无,直接预处理猛搞,但典型的口嫌体正直,在演示一个比赛的流程时,还是先进行了汇总…

特征降维就是降低特征矩阵维数,减少噪声和冗余,减少过度拟合. Principal factor analysis简称PCA,其思想是将n维特征映射到k维上(k<n),这k维是全新的正交特征.这k维特征称为主元,是重新构造出来的k维特征,而不是简单地从n维特征中去除其余n-k维特征. PCA计算步骤: 分别求出每一特征的平均值,然后所有特征都减去其对应的均值 求特征协方差矩阵 求协方差的特征值和特征向量 将特征值按照从大到小的顺序排序,选择前k个,然后将其对应的k个特征向量分别作为列向量组成特征向…

Lecture 7 神经网络二 课程内容记录:https://zhuanlan.zhihu.com/p/21560667?refer=intelligentunit 1．协方差矩阵: 协方差(Covariance)在概率论和统计学中用于衡量两个变量的总体误差.而方差是协方差的一种特殊情况,即当两个变量是相同的情况. 协方差表示的是两个变量的总体的误差,这与只表示一个变量误差的方差不同. 如果两个变量的变化趋势一致,也就是说如果其中一个大于自身的期望值,另外一个也大于自身的期望值,那么两个变量之间…

主成分分析和奇异值分解进行降维有何共同点? 矩阵的奇异值分解 当矩阵不是方阵,无法为其定义特征值与特征向量,可以用一个相似的概念来代替:奇异值. 通常用一种叫奇异值分解的算法来求取任意矩阵的奇异值: 抽象的概念要用具体的方式理解,来看几张图: 上图中的红色区域是一个以原点为中心的单位圆.圆当中的任意一点可以用向量 x 标示,且 x 满足: 给定一个 2×2 的方阵: 利用 MATLAB 对 A 做奇异值分解: 即: 所以: 先看 V' 对 x 做了什么: V' 使 x 旋转了一个角度. 再看 S…

目录 简介 GS示例代码 简介 R包sommer内置了C++,运算速度还是比较快的,功能也很丰富,可求解各种复杂模型.语法相比于lme4包也要好懂一些. 建议查看文档:vignette("v1.sommer.quick.start") 混合线性模型关键在于协方差结构的建立,有以下几类: 复合对称(Compound Symmetry,CS),所有方差相等,所有协方差也相等,对应于单变量方法.但是对于不同尺度的变量是无意义的. 方差组分(Variance Components),每个方差都…

https://www.jianshu.com/p/e1c8270477bc?utm_campaign=maleskine&utm_content=note&utm_medium=seo_notes&utm_source=recommendation 三个式子分别表示了样本的平均值.样本方差无偏估计值.样本协方差的无偏估计值,如果把S.C中的N-1换做N就成了表示方差与协方差了. 函数名称:cov函数功能: 求协方差矩阵函数用法: cov(X)  % cov(X,0) = cov(…

covariance, co本能的想到双变量,用于描述两个变量之间的关系. correlation,相关性,covariance标准化后就是correlation. covariance的定义: 期望,实例减去均值,积 covariance matrix也就是相关性矩阵的原始形式,描述了一群变量之间的相互关系 一下是一个例子: For eg here’s an example : Covariance matrix is of dimension #cols * #cols, diagonal…

之前我们知道,方差是一组数据的离散程度,它的公式为: 那么如果我们有几组数据,需要知道这几组数据的协同性呢? 举个例子,还是在小红,几次考试成绩如下: 入学考试:数学:80,语文:80 期中考试:数学:90,语文:70 期末考试:数学:70,语文:90 小蓝,几次考试成绩如下: 入学考试:数学:60,语文:60 期中考试:数学:70,语文:70 期末考试:数学:80,语文:80 好,我们把数据放着,先说一下概念.所谓的协方差,就是用来统计两组数据之间的协同程度,协方差矩阵是用来遍历不同组数据的方…

http://www.cnblogs.com/chaosimple/p/3182157.html http://blog.csdn.net/goodshot/article/details/8611178 一.统计学的基本概念 统计学里最基本的概念就是样本的均值.方差.标准差.首先,我们给定一个含有n个样本的集合,下面给出这些概念的公式描述: 均值: 标准差: 方差: 均值描述的是样本集合的中间点,它告诉我们的信息是有限的,而标准差给我们描述的是样本集合的各个样本点到均值的距离之平均. 以这两个…