假设检验(Hypothesis Testing)
假设检验(Hypothesis Testing)
1. 什么是假设检验呢?
假设检验又称为统计假设检验,是数理统计中根据一定假设条件由样本推断总体的一种方法。
什么意思呢,举个生活中的例子:买橘子(借用http://www.360doc.com/content/16/0617/08/31718185_568436468.shtml)
当我们去买橘子的时候,无论甜不甜,老板都会说:“挺甜的,不信拿一个尝尝”。我们随手拿一个(这就相当于抽样),此时我们对于这些橘子甜或不甜的判断全基于这个橘子(样本),为什么不拿总体来判断呢?老板能让你把橘子都吃一遍?(大多数情况下无法直接对总体进行判断)。当我们吃到的橘子是甜的,我们会想,随便拿一个就是甜的,那么这些橘子大部分都是甜的;当我们吃到的是酸的,我们会想,随便拿一个就是酸的,我运气有那么不好吗,肯定是大部分橘子都是酸的。
假设检验就是对总体(全部橘子)提出假设(甜或不甜),然后通过样本(随便拿一个橘子)进行统计计算,来推断假设是否成立的一种方法。
2.假设检验的依据是什么呢?
假设检验重要的依据是人们的一条普遍经验,即小概率事件在一次实验中很难发生,如果一旦发生,就认为原来的假设不成立,从而拒绝H0。
例如, 某彩票抽奖处声称该彩票中奖概率为p(A) = 99.99%,现在我们做出如下假设
若假设H0正确,则抽奖一次不中奖的概率为0.01%,这是一个小概率事件。那么我们通过抽奖一次,来检验该假设。
假设检验的基本思想:先对总体的参数或分布函数的表达式作出某种假设,然后构造出一个在假设成立下出现可能性甚小的事件(即小概率事件)。如果试验或抽样的结果使该小概率事件出现了,这与小概率事件原理相违背,表明原来的假设有问题,应予以否定,即拒绝这个假设;若该小概率事件在一次试验或抽样中并未出现,就没有理由否定这个假设,表明试验或抽样结果支持这个假设,这时假设与实验结果是一致的,或者说可以接受这个假设。
但是,我们要注意的是:在假设检验中“拒绝”和“接受”反映了决策者在所面对的样本证据下,对该命题所采取的一种态度、倾向性,而不是在逻辑上“证明”该命题正确与否!又回到刚开始买橘子的例子,我们在拿一个尝过后,对所有橘子下的结论(大部分是甜的或者大部分是酸的)都是我们的主观猜想,而非客观事实。
3.怎么做假设检验呢?
假设检验的一般步骤为:
(I)跟据实际问题提出零假设(H0)与备择假设(H1);
(II)选择合适的检验统计量,并确定在H0为真时的分布;
(III)给定显著性水平α,确定临界点,得到接受域和否定域;
(IV)计算检验统计量的样本值;
(V)做出判断,若值落在否定域,则拒绝H0;若落在接受域,则在所选择的显著性水平上,不能拒绝H0。
假设
我们将对总体提出的某种假设称为零假设(也称原假设),记为H0;将与原假设矛盾的假设称为备择假设(也称对立假设),记为H1.
零假设是一种无差别假设,表示要被拒绝的目的。备择假设是与H0相反的结论。若H0被拒绝,H1就可能被接受。比如,研究两种药物对治疗同一种疾病的效果不同。这个结论就是要研究的假设,为了检验该假设,我们假设用μ表示药物对疾病的治疗效果,写出原假设H0:μ1 = μ2(相同的治疗效果);备择假设H1:μ1 ≠ μ2(不同的治疗效果)。如果得到的信息拒绝H0,则可以接受H1,即两种药物对同一疾病的治疗效果是不同的。
H1的叙述是由研究假设的性质确定的。若研究假设只是考察两个事物有差异,则备择假设H1:μ1 ≠ μ2;若考察其差值的方向,则H1或者为μ1 > μ2,或者为μ1 < μ2。
我们称形如
H0 : μ1 = μ2 , H1 : μ1 ≠ μ2
的假设检验为双边检验;
形如
H0 : μ1 ≥ μ2 , H1 : μ1 < μ2
的假设检验为左边检验;
形如
H0 : μ1 ≤ μ2 , H1 : μ1 > μ2
的假设检验为右边检验。
左边检验和右边检验统称为单边检验。
显著性水平
前面说到假设检验的依据是小概率事件原理,但是,很难发生并不等于绝不发生,因此,在得出对H0的判定时,可能会发生两类错误:第一类错误是当H0实际上为真时拒绝H0;第二类错误是当H0实际为假时接受H0。第一类错误是“以真为假”的错误,犯第一类错误的概率由α给出,α越大,H0越容易错误地被拒绝;第二类错误是“以假为真”的错误,犯第二类错误的概率通常用β表示。可以发现犯这两类错误的概率之间存在反比关系,所以,在样本量确定为n时,α减小会使β增大。若希望同时减小犯两类错误的可能性,必须增加样本数目n。
定义α:当原假设H0为真时,假设检验统计量的样本值却落在接受域之外,因而拒绝原假设H0,这类错误称为第一类错误,其发生的概率称为犯第一类错误的概率或称弃真概率,通常记为α,即
P(拒绝H0 | H0为真) = α
定义β:当原假设H0为不真时,假设检验统计量的样本值却落在接受域之内,因而接受原假设H0,这类错误称为第二类错误,其发生的概率称为犯第二类错误的概率或称存伪概率,通常记为β,即
P(接受H0 | H0不真) = β
在实际应用时,我们通常只能控制犯第一类错误的概率,也就是错误地拒绝H0的概率,这个概率就叫做显著性水平。一般检验时,取α = 0.05,α = 0.01较多。为了保证β不至于太大,样本数量不能太少在。在生物信息学里,样本量是很大的,所以β也会很小,因此重点关注α。
否定域
我们将拒绝零假设H0的区域称为拒绝域。否定域的大小与显著性水平α的选取有关。
否定域的位置(不是大小)与备择假设H1的性质有关。若H1是指出预定方向的,如H1:μ > μ0,则假设检验为单边检验;若H1未指出预定的方向,如H1:μ≠μ0,则为双边检验。图1.1是α=0.05的单边检验否定域,图1.2是α=0.05的双边检验否定域。可以看出,对于同一显著性水平α,两种否定域的位置不同,但总的大小并没有什么不同。
在进行统计检验时,若根据样本数据计算的统计量数值落入否定域,则认为零假设H0不成立,称作在显著性水平α下拒绝H0;否则认为零假设H0不成立,称作在显著性水平α下不能拒绝H0.
参考 《非参数统计》易丹辉
假设检验(Hypothesis Testing)的更多相关文章
- Hypothesis Testing
Hypothesis Testing What's Hypothesis Testing(假设检验) Hypothesis testing is the statistical assessment ...
- Critical-Value|Critical-Value Approach to Hypothesis Testing
9.2 Critical-Value Approach to Hypothesis Testing example: 对于mean 值 275 的假设: 有一个关于sample mean的distri ...
- [Math Review] Statistics Basics: Main Concepts in Hypothesis Testing
Case Study The case study Physicians' Reactions sought to determine whether physicians spend less ti ...
- The Most Simple Introduction to Hypothesis Testing
https://www.youtube.com/watch?v=UApFKiK4Hi8
- 二、MLlib统计指标之关联/抽样/汇总
汇总统计[Summary statistics]: Summary statistics提供了基于列的统计信息,包括6个统计量:均值.方差.非零统计量个数.总数.最小值.最大值. import org ...
- spark机器学习从0到1基本的统计工具之(三)
给定一个数据集,数据分析师一般会先观察一下数据集的基本情况,称之为汇总统计或者概要性统计.一般的概要性统计用于概括一系列观测值,包括位置或集中趋势(比如算术平均值.中位数.众数和四分位均值),展型 ...
- MLlib学习——基本统计
给定一个数据集,数据分析师一般会先观察一下数据集的基本情况,称之为汇总统计或者概要性统计.一般的概要性统计用于概括一系列观测值,包括位置或集中趋势(比如算术平均值.中位数.众数和四分位均值),展型(比 ...
- A/B Testing with Practice in Python (Part One)
I learned A/B testing from a Youtube vedio. The link is https://www.youtube.com/watch?v=Bu7OqjYk0jM. ...
- Null Hypotheses| Alternative Hypotheses|Hypothesis Test|Significance Level|two tailed |one tailed|
9.1 The Nature of Hypothesis Testing Over the years, however, null hypothesis has come to mean simpl ...
随机推荐
- Java和Flex整合报错(四)
1.错误描述 usage: java org.apache.catalina.startup.Catalina [ -config {pathname} ] [ -nonaming ] { -help ...
- 芝麻HTTP:python version 2. required,which was not found in the registry 解决方案
不能在注册表中识别python2.7 新建一个register.py 文件 import sys from _winreg import * # tweak as necessary version ...
- 原生态的ajax代码
<script type="text/javascript"> var xmlhttprequest; function GetXmlHttpRequest() { i ...
- halcon 模板匹配(最简单)
模板匹配是机器视觉工业现场中较为常用的一种方法,常用于定位,就是通过算法,在新的图像中找到模板图像的位置.例如以下两个图像. 这种模板匹配是最基本的模板匹配.其特点只是存在平移旋转,不存在尺度变化 ...
- UniCode 下 CString 转 char* 的方法(转)
转自:http://blog.csdn.net/neverup_/article/details/5664733 今天进行文件操作时,将CString的GetBuffer()后直接倒到char数组后写 ...
- 巨幅SQL优化(SQL Tuning)——秒杀十几个小时不出结果的SQL
今天接到用户的需求,某程序十几个小时没出结果了,很纳闷儿,于是让相关人员取了explain plan等信息,拿到explain plan后,搂一眼,就知道问题出在了哪里,explain plan跑偏了 ...
- Keras FAQ: 常见问题解答
Keras官方中文版文档 如何引用 Keras? 如何在 GPU 上运行 Keras? 如何在多 GPU 上运行 Keras 模型? "sample", "batch&q ...
- THUWC2018滚粗记
THUWC2018滚粗记 前言 又是一篇滚粗记, 不过可能还要写过很多很多篇滚粗记, 才会有一篇不是滚粗记的东西啦 总而言之,我现在还是太菜了 还要过一大段时间我才会变强啦 Day -inf 联赛考完 ...
- [Luogu4230]连体病原体
题面戳我 sol 很好想+很好写的一道题,然而比赛中我还是没有切掉qaq. LCT 枚举左端点\(i\),向右移动右端点指针\(j\)找到第一个成环的位置.此时\([i,j],[i,j+1]...[i ...
- Spring Boot初探之log4j2配置
一.背景 下面讲在使用Spring Boot搭建微服务框架时如何配置log4j2,通过log4j2输出系统中日志信息. 二.添加log4j2的配置文件 在项目的src/main/rescources目 ...