假设检验(Hypothesis Testing)

1. 什么是假设检验呢?

  假设检验又称为统计假设检验,是数理统计中根据一定假设条件由样本推断总体的一种方法。

  什么意思呢,举个生活中的例子:买橘子(借用http://www.360doc.com/content/16/0617/08/31718185_568436468.shtml

  当我们去买橘子的时候,无论甜不甜,老板都会说:“挺甜的,不信拿一个尝尝”。我们随手拿一个(这就相当于抽样),此时我们对于这些橘子甜或不甜的判断全基于这个橘子(样本),为什么不拿总体来判断呢?老板能让你把橘子都吃一遍?(大多数情况下无法直接对总体进行判断)。当我们吃到的橘子是甜的,我们会想,随便拿一个就是甜的,那么这些橘子大部分都是甜的;当我们吃到的是酸的,我们会想,随便拿一个就是酸的,我运气有那么不好吗,肯定是大部分橘子都是酸的。

  假设检验就是对总体(全部橘子)提出假设(甜或不甜),然后通过样本(随便拿一个橘子)进行统计计算,来推断假设是否成立的一种方法。

2.假设检验的依据是什么呢?

  假设检验重要的依据是人们的一条普遍经验,即小概率事件在一次实验中很难发生,如果一旦发生,就认为原来的假设不成立,从而拒绝H0

  例如, 某彩票抽奖处声称该彩票中奖概率为p(A) = 99.99%,现在我们做出如下假设

  若假设H0正确,则抽奖一次不中奖的概率为0.01%,这是一个小概率事件。那么我们通过抽奖一次,来检验该假设。

  假设检验的基本思想:先对总体的参数或分布函数的表达式作出某种假设,然后构造出一个在假设成立下出现可能性甚小的事件(即小概率事件)。如果试验或抽样的结果使该小概率事件出现了,这与小概率事件原理相违背,表明原来的假设有问题,应予以否定,即拒绝这个假设;若该小概率事件在一次试验或抽样中并未出现,就没有理由否定这个假设,表明试验或抽样结果支持这个假设,这时假设与实验结果是一致的,或者说可以接受这个假设。

  但是,我们要注意的是:在假设检验中“拒绝接受反映了决策者在所面对的样本证据下,对该命题所采取的一种态度、倾向性而不是在逻辑上“证明该命题正确与否!又回到刚开始买橘子的例子,我们在拿一个尝过后,对所有橘子下的结论(大部分是甜的或者大部分是酸的)都是我们的主观猜想,而非客观事实。

3.怎么做假设检验呢?

  假设检验的一般步骤为:

  (I)跟据实际问题提出零假设(H0)与备择假设(H1);

  (II)选择合适的检验统计量,并确定在H0为真时的分布;

  (III)给定显著性水平α,确定临界点,得到接受域和否定域;

  (IV)计算检验统计量的样本值;

  (V)做出判断,若值落在否定域,则拒绝H0;若落在接受域,则在所选择的显著性水平上,不能拒绝H0

假设

  我们将对总体提出的某种假设称为零假设(也称原假设),记为H0;将与原假设矛盾的假设称为备择假设(也称对立假设),记为H1.

  零假设是一种无差别假设,表示要被拒绝的目的。备择假设是与H0相反的结论。若H0被拒绝,H1就可能被接受。比如,研究两种药物对治疗同一种疾病的效果不同。这个结论就是要研究的假设,为了检验该假设,我们假设用μ表示药物对疾病的治疗效果,写出原假设H0:μ1 = μ2(相同的治疗效果);备择假设H1:μ1 ≠ μ2(不同的治疗效果)。如果得到的信息拒绝H0,则可以接受H1,即两种药物对同一疾病的治疗效果是不同的。

  H1的叙述是由研究假设的性质确定的。若研究假设只是考察两个事物有差异,则备择假设H1:μ1 ≠ μ2;若考察其差值的方向,则H1或者为μ1  > μ2,或者为μ1  < μ2

  我们称形如

H0 : μ1 = μ2 , H1 : μ1 ≠ μ2

的假设检验为双边检验;

形如

H0 : μ1 ≥ μ2 , H1 : μ1 < μ2

的假设检验为左边检验;

形如

H0 : μ1 ≤ μ2 , H1 : μ1 > μ2

的假设检验为右边检验。

  左边检验和右边检验统称为单边检验。

显著性水平

  前面说到假设检验的依据是小概率事件原理,但是,很难发生并不等于绝不发生,因此,在得出对H0的判定时,可能会发生两类错误:第一类错误是当H0实际上为真时拒绝H0;第二类错误是当H0实际为假时接受H0。第一类错误是“以真为假”的错误,犯第一类错误的概率由α给出,α越大,H0越容易错误地被拒绝;第二类错误是“以假为真”的错误,犯第二类错误的概率通常用β表示。可以发现犯这两类错误的概率之间存在反比关系,所以,在样本量确定为n时,α减小会使β增大。若希望同时减小犯两类错误的可能性,必须增加样本数目n。

  定义α:当原假设H0为真时,假设检验统计量的样本值却落在接受域之外,因而拒绝原假设H0,这类错误称为第一类错误,其发生的概率称为犯第一类错误的概率或称弃真概率,通常记为α,即

P(拒绝H0 | H0为真) = α

  定义β:当原假设H0为不真时,假设检验统计量的样本值却落在接受域之内,因而接受原假设H0,这类错误称为第二类错误,其发生的概率称为犯第二类错误的概率或称存伪概率,通常记为β,即

P(接受H0 | H0不真) = β

 

  在实际应用时,我们通常只能控制犯第一类错误的概率,也就是错误地拒绝H0的概率,这个概率就叫做显著性水平。一般检验时,取α = 0.05,α = 0.01较多。为了保证β不至于太大,样本数量不能太少在。在生物信息学里,样本量是很大的,所以β也会很小,因此重点关注α。

否定域

  我们将拒绝零假设H0的区域称为拒绝域。否定域的大小与显著性水平α的选取有关。

  否定域的位置(不是大小)与备择假设H1的性质有关。若H1是指出预定方向的,如H1:μ > μ0,则假设检验为单边检验;若H1未指出预定的方向,如H1:μ≠μ0,则为双边检验。图1.1是α=0.05的单边检验否定域,图1.2是α=0.05的双边检验否定域。可以看出,对于同一显著性水平α,两种否定域的位置不同,但总的大小并没有什么不同。

  在进行统计检验时,若根据样本数据计算的统计量数值落入否定域,则认为零假设H0不成立,称作在显著性水平α下拒绝H0;否则认为零假设H0不成立,称作在显著性水平α下不能拒绝H0.

参考 《非参数统计》易丹辉

假设检验(Hypothesis Testing)的更多相关文章

  1. Hypothesis Testing

    Hypothesis Testing What's Hypothesis Testing(假设检验) Hypothesis testing is the statistical assessment ...

  2. Critical-Value|Critical-Value Approach to Hypothesis Testing

    9.2 Critical-Value Approach to Hypothesis Testing example: 对于mean 值 275 的假设: 有一个关于sample mean的distri ...

  3. [Math Review] Statistics Basics: Main Concepts in Hypothesis Testing

    Case Study The case study Physicians' Reactions sought to determine whether physicians spend less ti ...

  4. The Most Simple Introduction to Hypothesis Testing

    https://www.youtube.com/watch?v=UApFKiK4Hi8

  5. 二、MLlib统计指标之关联/抽样/汇总

    汇总统计[Summary statistics]: Summary statistics提供了基于列的统计信息,包括6个统计量:均值.方差.非零统计量个数.总数.最小值.最大值. import org ...

  6. spark机器学习从0到1基本的统计工具之(三)

      给定一个数据集,数据分析师一般会先观察一下数据集的基本情况,称之为汇总统计或者概要性统计.一般的概要性统计用于概括一系列观测值,包括位置或集中趋势(比如算术平均值.中位数.众数和四分位均值),展型 ...

  7. MLlib学习——基本统计

    给定一个数据集,数据分析师一般会先观察一下数据集的基本情况,称之为汇总统计或者概要性统计.一般的概要性统计用于概括一系列观测值,包括位置或集中趋势(比如算术平均值.中位数.众数和四分位均值),展型(比 ...

  8. A/B Testing with Practice in Python (Part One)

    I learned A/B testing from a Youtube vedio. The link is https://www.youtube.com/watch?v=Bu7OqjYk0jM. ...

  9. Null Hypotheses| Alternative Hypotheses|Hypothesis Test|Significance Level|two tailed |one tailed|

    9.1 The Nature of Hypothesis Testing Over the years, however, null hypothesis has come to mean simpl ...

随机推荐

  1. Linux显示机器的处理器架构

    Linux显示机器的处理器架构 youhaidong@youhaidong-ThinkPad-Edge-E545:~$ arch x86_64 youhaidong@youhaidong-ThinkP ...

  2. iOS - Quartz 2D 二维绘图

    1.Quartz 2D 简介 Quartz 2D 属于 Core Graphics(所以大多数相关方法的都是以 CG 开头),是 iOS/Mac OSX 提供的在内核之上的强大的 2D 绘图引擎,并且 ...

  3. 从零一起学Spring Boot之LayIM项目长成记(三) 数据库的简单设计和JPA的简单使用。

    前言 今天是第三篇了,上一篇简单模拟了数据,实现了LayIM页面的数据加载.那么今天呢就要用数据库的数据了.闲言少叙,书归正传,让我们开始吧. 数据库 之前有好多小伙伴问我数据库是怎么设计的.我个人用 ...

  4. 利用shell脚本实现对mysql数据库的备份

    #!/bin/bash #保存备份个数 number=3 #备份保存路径 backup_dir=/root/mysqlbackup #日期 dd=`date +%Y%m%d` #备份工具 tool=m ...

  5. Spring 之BeanFactory(转)

    BeanFactory是Spring的“心脏”.它就是Spring IoC容器的真面目. Spring使用BeanFactory来实例化.配置和管理Bean.但是,在大多数情况我们并不直接使用Bean ...

  6. Bzoj4555: [Tjoi2016&Heoi2016]求和

    题面 Bzoj Sol 推柿子 因为当\(j>i\)时\(S(i, j)=0\),所以有 \[\sum_{i=0}^{n}\sum_{j=0}^{n}S(i, j)2^j(j!)\] 枚举\(j ...

  7. anaconda的fish shell支持

    最近在用fish shell,但是无法使用conda的activate命令来激活环境.官方给的有解决方案 https://github.com/conda/conda/blob/5b97a96d78e ...

  8. 【noip模拟】tree

    000 ms        Memory Limit: 128 MB [吐槽] 点分治点分治点分治 嗯..场上思考树状数组的时候好像傻掉了..反正就是挂了就是了.. [题解] 首先如果没有环的话就是一 ...

  9. js对象的合并

    问题情况:将2个或2个以上对象(object{....})中的属性进行合并,即最后合并为一个object{.....}传递给后端. 问题场景:多页表单数据的一同提交 解决办法:Object.assig ...

  10. django 下拉菜单显示为object的解决办法

    在创建完Django数据库结构之后,使用Django自带的强大的admin功能往数据库中添加数据,图形化界面如下: 但时候有下拉框选项(只要在model中有定义Charfield就会显示为下拉框),如 ...