假设检验(Hypothesis Testing)

1. 什么是假设检验呢?

  假设检验又称为统计假设检验,是数理统计中根据一定假设条件由样本推断总体的一种方法。

  什么意思呢,举个生活中的例子:买橘子(借用http://www.360doc.com/content/16/0617/08/31718185_568436468.shtml

  当我们去买橘子的时候,无论甜不甜,老板都会说:“挺甜的,不信拿一个尝尝”。我们随手拿一个(这就相当于抽样),此时我们对于这些橘子甜或不甜的判断全基于这个橘子(样本),为什么不拿总体来判断呢?老板能让你把橘子都吃一遍?(大多数情况下无法直接对总体进行判断)。当我们吃到的橘子是甜的,我们会想,随便拿一个就是甜的,那么这些橘子大部分都是甜的;当我们吃到的是酸的,我们会想,随便拿一个就是酸的,我运气有那么不好吗,肯定是大部分橘子都是酸的。

  假设检验就是对总体(全部橘子)提出假设(甜或不甜),然后通过样本(随便拿一个橘子)进行统计计算,来推断假设是否成立的一种方法。

2.假设检验的依据是什么呢?

  假设检验重要的依据是人们的一条普遍经验,即小概率事件在一次实验中很难发生,如果一旦发生,就认为原来的假设不成立,从而拒绝H0

  例如, 某彩票抽奖处声称该彩票中奖概率为p(A) = 99.99%,现在我们做出如下假设

  若假设H0正确,则抽奖一次不中奖的概率为0.01%,这是一个小概率事件。那么我们通过抽奖一次,来检验该假设。

  假设检验的基本思想:先对总体的参数或分布函数的表达式作出某种假设,然后构造出一个在假设成立下出现可能性甚小的事件(即小概率事件)。如果试验或抽样的结果使该小概率事件出现了,这与小概率事件原理相违背,表明原来的假设有问题,应予以否定,即拒绝这个假设;若该小概率事件在一次试验或抽样中并未出现,就没有理由否定这个假设,表明试验或抽样结果支持这个假设,这时假设与实验结果是一致的,或者说可以接受这个假设。

  但是,我们要注意的是:在假设检验中“拒绝接受反映了决策者在所面对的样本证据下,对该命题所采取的一种态度、倾向性而不是在逻辑上“证明该命题正确与否!又回到刚开始买橘子的例子,我们在拿一个尝过后,对所有橘子下的结论(大部分是甜的或者大部分是酸的)都是我们的主观猜想,而非客观事实。

3.怎么做假设检验呢?

  假设检验的一般步骤为:

  (I)跟据实际问题提出零假设(H0)与备择假设(H1);

  (II)选择合适的检验统计量,并确定在H0为真时的分布;

  (III)给定显著性水平α,确定临界点,得到接受域和否定域;

  (IV)计算检验统计量的样本值;

  (V)做出判断,若值落在否定域,则拒绝H0;若落在接受域,则在所选择的显著性水平上,不能拒绝H0

假设

  我们将对总体提出的某种假设称为零假设(也称原假设),记为H0;将与原假设矛盾的假设称为备择假设(也称对立假设),记为H1.

  零假设是一种无差别假设,表示要被拒绝的目的。备择假设是与H0相反的结论。若H0被拒绝,H1就可能被接受。比如,研究两种药物对治疗同一种疾病的效果不同。这个结论就是要研究的假设,为了检验该假设,我们假设用μ表示药物对疾病的治疗效果,写出原假设H0:μ1 = μ2(相同的治疗效果);备择假设H1:μ1 ≠ μ2(不同的治疗效果)。如果得到的信息拒绝H0,则可以接受H1,即两种药物对同一疾病的治疗效果是不同的。

  H1的叙述是由研究假设的性质确定的。若研究假设只是考察两个事物有差异,则备择假设H1:μ1 ≠ μ2;若考察其差值的方向,则H1或者为μ1  > μ2,或者为μ1  < μ2

  我们称形如

H0 : μ1 = μ2 , H1 : μ1 ≠ μ2

的假设检验为双边检验;

形如

H0 : μ1 ≥ μ2 , H1 : μ1 < μ2

的假设检验为左边检验;

形如

H0 : μ1 ≤ μ2 , H1 : μ1 > μ2

的假设检验为右边检验。

  左边检验和右边检验统称为单边检验。

显著性水平

  前面说到假设检验的依据是小概率事件原理,但是,很难发生并不等于绝不发生,因此,在得出对H0的判定时,可能会发生两类错误:第一类错误是当H0实际上为真时拒绝H0;第二类错误是当H0实际为假时接受H0。第一类错误是“以真为假”的错误,犯第一类错误的概率由α给出,α越大,H0越容易错误地被拒绝;第二类错误是“以假为真”的错误,犯第二类错误的概率通常用β表示。可以发现犯这两类错误的概率之间存在反比关系,所以,在样本量确定为n时,α减小会使β增大。若希望同时减小犯两类错误的可能性,必须增加样本数目n。

  定义α:当原假设H0为真时,假设检验统计量的样本值却落在接受域之外,因而拒绝原假设H0,这类错误称为第一类错误,其发生的概率称为犯第一类错误的概率或称弃真概率,通常记为α,即

P(拒绝H0 | H0为真) = α

  定义β:当原假设H0为不真时,假设检验统计量的样本值却落在接受域之内,因而接受原假设H0,这类错误称为第二类错误,其发生的概率称为犯第二类错误的概率或称存伪概率,通常记为β,即

P(接受H0 | H0不真) = β

 

  在实际应用时,我们通常只能控制犯第一类错误的概率,也就是错误地拒绝H0的概率,这个概率就叫做显著性水平。一般检验时,取α = 0.05,α = 0.01较多。为了保证β不至于太大,样本数量不能太少在。在生物信息学里,样本量是很大的,所以β也会很小,因此重点关注α。

否定域

  我们将拒绝零假设H0的区域称为拒绝域。否定域的大小与显著性水平α的选取有关。

  否定域的位置(不是大小)与备择假设H1的性质有关。若H1是指出预定方向的,如H1:μ > μ0,则假设检验为单边检验;若H1未指出预定的方向,如H1:μ≠μ0,则为双边检验。图1.1是α=0.05的单边检验否定域,图1.2是α=0.05的双边检验否定域。可以看出,对于同一显著性水平α,两种否定域的位置不同,但总的大小并没有什么不同。

  在进行统计检验时,若根据样本数据计算的统计量数值落入否定域,则认为零假设H0不成立,称作在显著性水平α下拒绝H0;否则认为零假设H0不成立,称作在显著性水平α下不能拒绝H0.

参考 《非参数统计》易丹辉

假设检验(Hypothesis Testing)的更多相关文章

  1. Hypothesis Testing

    Hypothesis Testing What's Hypothesis Testing(假设检验) Hypothesis testing is the statistical assessment ...

  2. Critical-Value|Critical-Value Approach to Hypothesis Testing

    9.2 Critical-Value Approach to Hypothesis Testing example: 对于mean 值 275 的假设: 有一个关于sample mean的distri ...

  3. [Math Review] Statistics Basics: Main Concepts in Hypothesis Testing

    Case Study The case study Physicians' Reactions sought to determine whether physicians spend less ti ...

  4. The Most Simple Introduction to Hypothesis Testing

    https://www.youtube.com/watch?v=UApFKiK4Hi8

  5. 二、MLlib统计指标之关联/抽样/汇总

    汇总统计[Summary statistics]: Summary statistics提供了基于列的统计信息,包括6个统计量:均值.方差.非零统计量个数.总数.最小值.最大值. import org ...

  6. spark机器学习从0到1基本的统计工具之(三)

      给定一个数据集,数据分析师一般会先观察一下数据集的基本情况,称之为汇总统计或者概要性统计.一般的概要性统计用于概括一系列观测值,包括位置或集中趋势(比如算术平均值.中位数.众数和四分位均值),展型 ...

  7. MLlib学习——基本统计

    给定一个数据集,数据分析师一般会先观察一下数据集的基本情况,称之为汇总统计或者概要性统计.一般的概要性统计用于概括一系列观测值,包括位置或集中趋势(比如算术平均值.中位数.众数和四分位均值),展型(比 ...

  8. A/B Testing with Practice in Python (Part One)

    I learned A/B testing from a Youtube vedio. The link is https://www.youtube.com/watch?v=Bu7OqjYk0jM. ...

  9. Null Hypotheses| Alternative Hypotheses|Hypothesis Test|Significance Level|two tailed |one tailed|

    9.1 The Nature of Hypothesis Testing Over the years, however, null hypothesis has come to mean simpl ...

随机推荐

  1. Java和Flex整合报错(四)

    1.错误描述 usage: java org.apache.catalina.startup.Catalina [ -config {pathname} ] [ -nonaming ] { -help ...

  2. 芝麻HTTP:python version 2. required,which was not found in the registry 解决方案

    不能在注册表中识别python2.7 新建一个register.py 文件 import sys from _winreg import * # tweak as necessary version ...

  3. 原生态的ajax代码

    <script type="text/javascript"> var xmlhttprequest; function GetXmlHttpRequest() { i ...

  4. halcon 模板匹配(最简单)

    模板匹配是机器视觉工业现场中较为常用的一种方法,常用于定位,就是通过算法,在新的图像中找到模板图像的位置.例如以下两个图像.   这种模板匹配是最基本的模板匹配.其特点只是存在平移旋转,不存在尺度变化 ...

  5. UniCode 下 CString 转 char* 的方法(转)

    转自:http://blog.csdn.net/neverup_/article/details/5664733 今天进行文件操作时,将CString的GetBuffer()后直接倒到char数组后写 ...

  6. 巨幅SQL优化(SQL Tuning)——秒杀十几个小时不出结果的SQL

    今天接到用户的需求,某程序十几个小时没出结果了,很纳闷儿,于是让相关人员取了explain plan等信息,拿到explain plan后,搂一眼,就知道问题出在了哪里,explain plan跑偏了 ...

  7. Keras FAQ: 常见问题解答

    Keras官方中文版文档 如何引用 Keras? 如何在 GPU 上运行 Keras? 如何在多 GPU 上运行 Keras 模型? "sample", "batch&q ...

  8. THUWC2018滚粗记

    THUWC2018滚粗记 前言 又是一篇滚粗记, 不过可能还要写过很多很多篇滚粗记, 才会有一篇不是滚粗记的东西啦 总而言之,我现在还是太菜了 还要过一大段时间我才会变强啦 Day -inf 联赛考完 ...

  9. [Luogu4230]连体病原体

    题面戳我 sol 很好想+很好写的一道题,然而比赛中我还是没有切掉qaq. LCT 枚举左端点\(i\),向右移动右端点指针\(j\)找到第一个成环的位置.此时\([i,j],[i,j+1]...[i ...

  10. Spring Boot初探之log4j2配置

    一.背景 下面讲在使用Spring Boot搭建微服务框架时如何配置log4j2,通过log4j2输出系统中日志信息. 二.添加log4j2的配置文件 在项目的src/main/rescources目 ...