接下来我们就对除了正态分布以外的常用参数分布族进行参数估计,具体对连续型分布有指数分布.均匀分布,对离散型分布有二项分布.泊松分布几何分布. 今天的主要内容是均匀分布的参数估计,内容比较简单,读者应尝试一边阅读,一边独立推导出本文的结论.由于本系列为我独自完成的,缺少审阅,如果有任何错误,欢迎在评论区中指出,谢谢! 目录 Part 1:均匀分布的参数估计 Part 2:次序统计量 Part 3:均匀分布次序统计量与$\beta$分布 Part 1:均匀分布的参数估计 一般说来,离散分布似乎比连续

T分布:温良宽厚 本文由“医学统计分析精粹”小编“Hiu”原创完成,文章采用知识共享Attribution-NonCommercial-NoDerivatives 4.0国际许可协议(http://creativecommons.org/licenses/by-nc-nd/4.0/)进行许可,转载署名需附带本号二维码,不可用于商业用途,不允许任何修改,任何谬误建议,请直接反馈给原作者,谢谢合作! 命名与源起 “t”,是伟大的Fisher为之取的名字.Fisher最早将这一分布命名为“Studen

数据的分布特征: 分布的集中趋势,反应各数据向其中心值靠拢或聚集的程度(平均数,中位数,四分位数,众数) 分布的离散程度,反应各数据远离其中心值的趋势(极差,四分位差,方差,标准差,离散系数) 分布的形状,反应数据分布的偏斜程度和峰度(偏态系数,峰度系数) ####################### 平均数(均值):一组数据相加后除以数据的个数而得到结果,称为平均数(mean) 中位数:一组数据排序后处于中间位置上的变量值,称为中位数(median) 四分位数:一组数据排序后处于25%(下四

生物统计学 抽样分布:n个样本会得到n个统计量,将这n个统计量作为总体,该总体的分布即是抽样分布 根据辛钦大数定律,从一个非正态分布的总体中抽取的含量主n的样本,当n充分大时,样本平均数渐近服从正态分布.因此平均数的抽样分布对正态性的要求并不是十分严格,但方差的抽样分布,对总体的正态性的要求是十分严格的. 样本平均值的分布: 基于正态总体(两个参数都知道)的抽样分布: eg':总体n=3, 因为n=2有放回抽样,有9种可能性: n=4有放回抽样,有81种可能性 统计量与总体参数不完全一样,但是满

最近又遇到了t分布及t检验方面的内容,发现有些地方自己当初没有很明白,就又查了些资料,加深了一下自己的理解,这里也将自己的一些理解记录下来. 1. 理论基础--大数定理与中心极限定理        在正式介绍t分布前,还是再强调一下数理统计学中的两大基石般的定理:大数定理与中心极限定理,后面会用到.这里我就不以数学公式的方式来说明了,直接说一下两个定理所表达的意思. 大数定理.不管是强大数定理还是弱大数定理,都表达着这样一个意思:当样本数量足够大时,这些样本的均值无限接近总体的期望. 中心极限定

今天的主角是指数分布,由此导出\(\Gamma\)分布,同样,读者应尝试一边阅读,一边独立推导出本文的结论.由于本系列为我独自完成的,缺少审阅,如果有任何错误,欢迎在评论区中指出,谢谢! 目录 Part 1:指数分布的参数估计 Part 2:独立同分布指数分布之和与$\Gamma$分布 Part 3:$\Gamma$分布与其他分布 Part 1:指数分布的参数估计 指数分布是单参数分布族,总体\(X\sim E(\lambda)\)有时也记作\(\mathrm{Exp}(\lambda)\),此

今天看到一篇不错的博文,有感,记录下来,相对来说讲到了本质,也很容易理解.https://www.cnblogs.com/think-and-do/p/6509239.html 首先,老生常谈,还是那三大分布 T,卡方,F,(正态不是三大) T是厚尾的,对小样本量做检验,对于样本难获得的领域很有用,比如医药,生物,前面写过一个关于T检验的记录. 卡方检验用来做独立性检验和符合某个标准分布(正态检验) n个相互独立的随机变量服从正态分布,他们的平方和构成一个新的随机变量,服从卡方分布,n为自由度.

2. Beta分布 2.1 Beta分布 我们将由几个问题来得引出几个分布: 问题一:1:  2:把这个  个随机变量排序后得到顺序统计量  3:问  是什么分布 首先我们尝试计算  落在一个区间  的概率,也就是如下概率值:  我们可以把  分成三段  . 我们考虑第一种情形:假设  个数中只有一个落在区间  内,则这个区间内的数  是第  大的,则  中应该有  个数,  中有  个数,我们将此描述为事件  : 则有:   是  的高阶无穷小.显然  个数落在  区间有  种取法,余下  个

什么是卡方检验 卡方检验是一种用途很广的计数资料的假设检验方法.它属于非参数检验的范畴,主要是比较两个及两个以上样本率( 构成比)以及两个分类变量的关联性分析.其根本思想就是在于比较理论频数和实际频数的吻合程度或拟合优度问题. 它在分类资料统计推断中的应用,包括:两个率或两个构成比比较的卡方检验:多个率或多个构成比比较的卡方检验以及分类资料的相关分析等. [] 卡方检验的基本原理[1] [] 卡方检验的基本思想 卡方检验是以χ2分布为基础的一种常用假设检验方法,它的无效假设H0是:观察频数与期望

特征工程之特征选择 目录 简介 1 Filter(过滤式选择) 1.1 移除低方差特征(variance threshold) 1.2 信息增益(information gain) 1.3 单变量特征选择 (Univariate feature selection) 1.3.1 卡方检验 (chi-square test) 1.3.2 Pearson 相关系数 (Pearson Correlation) 1.3.3 费雪分数(fisher score) 1.4 Relief(Relevant F

在上一篇文章的最后,我们指出,参数估计是不可能穷尽讨论的,要想对各种各样的参数作出估计,就需要一定的参数估计方法.今天我们将讨论常用的点估计方法:矩估计.极大似然估计,它们各有优劣,但都很重要.由于本系列为我独自完成的,缺少审阅,如果有任何错误,欢迎在评论区中指出,谢谢! Part 1:矩法估计 矩法估计的重点就在于"矩"字,我们知道矩是概率分布的一种数字特征,可以分为原点矩和中心矩两种.对于随机变量\(X\)而言,其\(k\)阶原点矩和\(k\)阶中心矩为 \[a_k=\mathbb

转载请标明出处: http://www.cnblogs.com/tiaozistudy/p/hypothesis_testing_based_feature_selection.html Filter特征选择方法是一种启发式方法,其基本思想是:制定一个准则,用来衡量每个特征/属性,对目标属性的重要性程度,以此来对所有特征/属性进行排序,或者进行优选操作.常用的衡量准则有假设检验的p值.相关系数.互信息.信息增益等.本文基于候选属性和目标属性间关联性的假设检验,依据p值的大小量化各候选属性的重要性

本文译自A Brief Introduction to Markovs Chains 译者按: 前面一篇文章讲的是蒙特卡洛积分,也就是通过生成符合特定分布的随机变量来近似计算积分值,例如: \(E = \int f(x)p(x)dx\) 上面的式子可以理解成求函数 \(f(x)\) 的期望,因此根据大数定理,我们生成符合 \(p(x)\) 分布的 N 个随机变量,然后用: \(E(f(x))=\frac{\sum\limits_{n=1}^N f(x_n)}{N}\) 来近似计算函数的期望,也就

连续型变量的推断性分析方法主要有t检验和方差分析两种,这两种方法可以解决一些实际的分析问题,下面我们分别来介绍一下这两种方法 一.t检验(Student's t test) t检验也称student t检验(Student's t test),由Gosset提出,主要用于样本含量较小(例如n<30),总体标准差σ未知的正态分布资料.我们在介绍连续变量分布时讲过t分布,t检验是用t分布理论来推论差异发生的概率,从而比较两个平均数的差异是否显著. 介绍t检验之前,先说一下Z检验,假设我们已知一个样本

http://blog.renren.com/share/223170925/14708690013 常用显著性检验 1.t检验 适用于计量资料.正态分布.方差具有齐性的两组间小样本比较.包括配对资料间.样本与均数间.两样本均数间比较三种,三者的计算公式不能混淆. 2.t'检验 应用条件与t检验大致相同,但t′检验用于两组间方差不齐时,t′检验的计算公式实际上是方差不齐时t检验的校正公式. 3.U检验 应用条件与t检验基本一致,只是当大样本时用U检验,而小样本时则用t检验,t检验可以代替U检验.

在上一篇博客<TensorFlow之DNN(一):构建“裸机版”全连接神经网络>中,我整理了一个用TensorFlow实现的简单全连接神经网络模型,没有运用加速技巧(小批量梯度下降不算哦)和正则化方法,通过减小batch size,也算得到了一个还可以的结果. 那个网络只有两层,而且MINIST数据集的样本量并不算太大.如果神经网络的隐藏层非常多,每层神经元的数量巨大,样本数量也巨大时,可能出现三个问题: 一是梯度消失和梯度爆炸问题,导致反向传播算法难以进行下去: 二是在如此庞大的网络中进行训

1. 控制变量 0x1:控制变量主要思想 科学中对于多因素(多变量)的问题,常常采用控制因素(变量)的方法,吧多因素的问题变成多个单因素的问题.每一次只改变其中的某一个因素,而控制其余几个因素不变,从而研究被改变的这个因素对事物的影响,分别加以研究,最后再综合解决,这种方法叫控制变量法.它是科学探索中的重要思想方法,广泛地运用在各个科学探索和科学实验研究之中. 0x2:控制变量思想在机器学习中的应用 在机器学习项目中,我们可能会将专家领域经验融合到特征工程中,即主观先验. 在设计并获得特征向量后

第三章:数字日期和时间 在Python中执行整数和浮点数的数学运算时很简单的. 尽管如此,如果你需要执行分数.数组或者是日期和时间的运算的话,就得做更多的工作了. 本章集中讨论的就是这些主题. Contents: 3.1 数字的四舍五入 3.2 执行精确的浮点数运算 3.3 数字的格式化输出 3.4 二八十六进制整数 3.5 字节到大整数的打包与解包 3.6 复数的数学运算 3.7 无穷大与NaN 3.8 分数运算 3.9 大型数组运算 3.10 矩阵与线性代数运算 3.11 随机选择 3.12

第1章 组合分析 1.1 引言 1.2 计数基本法则 1.3 排列 1.4 组合 1.5 多项式系数 *1.6 方程的整数解个数 第2章 概率论公里 2.1 引言 2.2 样本空间和事件 2.3 概率论公里 2.4 几个简单命题 2.5 等可能结果的样本空间 *2.6 概率:连续集函数 2.7 概率:确信程度的度量 第3章 条件概率和独立性 3.1 引言 3.2 条件概率 3.3 贝叶斯公式 3.4 独立事件 3.5 P(●|F)是概率 第4章 随机变量 4.1 随机变量 4.2 离散型随机变量

本文对应<R语言实战>第12章:重抽样与自助法 之前学习的基本统计分析.回归分析.方差分析,是假定观测数据抽样自正态分布或者其他性质较好的理论分布,进而进行的假设检验和总体参数的置信区间估计等方法.但在许多实际情况中统计假设并不一定满足,比如抽样于未知或混合分布.样本量过小.存在离群点.基于理论分布设计合适的统计检验过于复杂且数学上难以处理等情况,这时基于随机化和重抽样的统计方法就可派上用场. 本章探究两种应用广泛的依据随机化思想的统计方法:置换检验和自助法. ================