KS检验统计量的扩展应用(CMap)
KS检验统计量的扩展应用
KS(Kolmogorov-Smirnov)检验是比较两个经验分布之间是否存在差异。
我们设X1, X2,…, Xm, Y1, Y2,…, Ym为两个独立随机样本,分别满足假设A1和A2,分布函数分别为F, G。现在我们想知道的是X和Y的概率分布之间是否存在差异,我们建立以下假设
H0:F(t) = G(t), for every t
H1:F(t) ≠ G(t), for at least one t
接下来我们要计算双边双样本统计量J
首先我们需要获得X,Y样本的经验分布函数:
对于任意一个实数t, 有

和

称Fm(t)和Gn(t)分别为样本X和Y的经验分布函数。
使
d = greatest common divisor of m and n
则统计量J为:

为了对于给定的样本X和Y精确地计算统计量J,我们将X1, X2,…, Xm, Y1, Y2,…, Yn 共N=(m+n)个样本观察值从小到大排序,得到Z(1) ≤ … ≤ Z(N),则统计量J的计算公式可以改写为:

设显著性水平为α,则当J≥jα时拒绝H0。
我们举一个简单的例子,如下图1有两组数据,分别为有反馈和无反馈的观察值(不用弄清楚具体什么含义),两组样本量均为10.

图 1
有m = n = 10, N = (10 + 10) = 20,d = 10,如下图2我们将这20个样本值排序,计算F10(t), G10(t),以及差异的绝对值|F10(Z(i))-G10(Z(i))|

图 2
我们发现样本差异最大的点在Z(12),

在Z(12)处,观测值为2.69,在有反馈的那组,小于等于2.69的有3个观察值,无反馈的那组小于等于2.69的有9个观察值,它们之间的差异为6/10。统计量J=6.
我们发现KS检验是计算两个样本之间每个观察值的排序差异,即为一种排序相似性,CMap(生物信息常用的一种数据库)基于KS检验这样的一种性质,设计了一种基于排序的模式匹配算法。
我们通过一个例子说明这种匹配算法。现在我们有两种数据,一种是药物作用下基因的表达值,一种是疾病状态下基因的表达值,表达值都是一些实数,基因在疾病状态下,某些基因表达量增加,而某些基因可能减少表达。我们的目的是通过这两种数据来看这种药物对这种疾病有没有潜在的治疗可能,我们判断的依据:疾病状态下如果使某些基因(或某个基因)的表达值增加,即不在正常状态下,而这些基因在药物作用下,表达值在正常水平以下,即该药物会抑制这些基因的表达,那么我们可以推断,如果得这种疾病,这些基因表达值高于正常水平,我们再使用那些可以抑制这些基因表达的药物,可能就会使这些基因的表达量降下来,从而达到治病的效果。

图 3
我们来计算药物A对疾病D是否有治疗作用。如图3所示,我们将药物A作用下的表达值从小到大排序,疾病D状态下的基因表达值从大到小排序。

图 4
图4所示,我们接下来从疾病D的数据中选出前/后S个,然后再与药物A所有基因求交集,得到Num个共同基因(记该集合为B),我们再根据这些基因在药物A下的表达值从小到大排序。接下来,我们用基于ks统计量的方法,计算Num个共同基因在药物和疾病之间的排序相似性。

if a > b KSTop/Bottom = a
else KSTop/Bottom = -b
if KSTop * KSBottom < 0, score = KSTop – KSBottom
else score = 0
其中i表示集合B中的第i个基因,Num表示集合B中基因个数,i_position表示基因i在药物A数据中的排序,geneNum表示药物A的基因总数,即M。
我们先来看看图5所示top的情况。如果想让a取值大,那么i_position就应该尽可能的小,也就是说,存在一个基因G,该基因在疾病数据中为top,同时在药物数据中也在top的位置,我们称这种模式为top-top模式。如果希望b值较大,则i_position应该尽可能的大,这就说明,存在一个基因G`,它在疾病数据中为top,但在药物数据中为bottom,称这种情况为bottom-top模式。
接下来我们看看图6的bottom情况。同样的,如果想让a取值较大,那么i_position就应该尽可能的小,也就是说,存在一个基因G,该基因在疾病数据中为bottom,但是在药物数据中处于top的位置,我们称这种模式为top-bottom模式。如果希望b值较大,则i_position应该尽可能的大,这就说明,存在一个基因G`,它在疾病数据中为bottom,同时在药物数据中也为bottom,称这种情况为bottom-bottom模式。

图 5

图 6
根据上面解析,有四种模式,组合后也有四种模式,如下图7所示




图 7
其中第二和第三中模式匹配是没有意义的,比如第二种,top-bottom,bottom-bottom模式匹配,它说明有些基因在疾病状态下表达值增加,但是在药物作用下有些也会增加,有些减少,那么我们对该疾病作用该种药物,则会引起一些基因表达恢复正常,但是会使另一些基因表达量继续增加,可能会导致某些症状更严重。第一种匹配,top-top,bottom-bottom,则说明在疾病状态下表达值增加或减少的基因,在药物作用下刚好相反,那么这种药物就有治疗该疾病的潜在可能。第四种匹配:top-bottom,bottom-top,说明,在疾病状态下表达值增加或减少的基因,在该药物作用下也增加或减少,说明该药物的作用和疾病类似,即该药物绝对不能用于治疗该疾病。
我们要选出第一和第四种匹配,这就要“-b”起作用了,第一种情况下,我们的KSTop = a, KSBottom = -b,第四种情况刚好相反,它们刚好满足异号的条件,所以上面“-b”的作用是为了找出这两种匹配模式。那么我们如何知道药物A是可以治疗疾病D呢,还是加剧病情的呢?因为score=KSTop-KSBottom,所以第一种情况,即治疗疾病,score是正数,而第四种情况,加剧病情,score为负数。并且score的绝对值越大,说明作用效果越明显(明显改善或明显加剧)。
我们再来看看计算b的公式,它将i减了1,即将集合B中的基因位置向前推了一位,这是为什么呢?我们看下图8的情况。

图 8
当基因Q刚好在疾病中位于第N个,在药物数据中位于第M个,也就是说,该基因在疾病状态下被抑制,表达量非常少,而在药物作用下产生促进表达作用,表达量增加很多,很明显,该药物对该疾病的治疗效果应该很好,称为该疾病的特效药的可能性也很高,如果我们在计算b的时候,不减1,那么b=0,后面的异号条件也不满足,那么我们就漏掉了很好的这种情况,为了避免,就将集合B的基因位置向前推一个。
参考
M. Hollander, D. Wolfe, Nonparametric Statistical Methods (Wiley, ed. 2,1999), pp. 178-185.
Lamb J, Crawford E D, Peck D, et al. The Connectivity Map: Using Gene-Expression Signatures to Connect Small Molecules, Genes, and Disease[J]. Science, 2006, 313(5795):1929-1935.
KS检验统计量的扩展应用(CMap)的更多相关文章
- 优化与扩展Mybatis的SqlMapper解析
接上一篇博文,这一篇来讲述怎么实现SchemaSqlMapperParserDelegate——解析SqlMapper配置文件. 要想实现SqlMapper文件的解析,还需要仔细分析一下mybatis ...
- PHP mcrypt加密扩展使用总结
在开发中,很多时候我们在前后端交互中需要对一些敏感数据进行一定的加密.PHP中有提供了mcrypt的这样一个加密扩展实现对数据的加密解密. 一.mcrypt扩展的安装 在低版本的PHP中需要在配置文件 ...
- ks全自动安装centos
1. 全新安装centos,选择好所需定制包 2. 完成安装后会在root下面生成一个install.log(rpm包列表)anaconda-ks.cfg(下文的ks.cfg基于此文件修改) 3. 将 ...
- 深入剖析Classloader(二)--根类加载器,扩展类加载器与系统类加载器
原文地址:http://yhjhappy234.blog.163.com/blog/static/31632832201152555245584/?suggestedreading&wumii ...
- combo扩展:禁止手工改变输入框的值
<!DOCTYPE html> <html> <head> <meta http-equiv="Content-Type" content ...
- BZOJ_2142_礼物_扩展lucas+组合数取模+CRT
BZOJ_2142_礼物_扩展lucas+组合数取模 Description 一年一度的圣诞节快要来到了.每年的圣诞节小E都会收到许多礼物,当然他也会送出许多礼物.不同的人物在小E 心目中的重要性不同 ...
- [转]matplotlib - plt.rcParams、matshow/cmap/坐标轴设置
转自:https://blog.csdn.net/qq_30815237/article/details/87903024 1.plt.rcParams plt(matplotlib.pyplot)使 ...
- es6基础(6)--数组扩展
//数组扩展 { let arr=Array.of(3,4,6,7,9,11);//可以是空 console.log('arr=',arr);//[3,4,6,7,9,11] } { //Array. ...
- DataGrid 扩展
//扩展表格,支持上传附件 function extendDataGrid(){ //扩展表格方法,合并单元格 ,参数为数组 $.extend($.fn.datagrid.methods, { aut ...
随机推荐
- windows共享虚拟机ubuntu目录
1)安装 sudo apt-get install samba 2)配置文件vi /etc/samba/smb.conf 添加如下 3)启动服务 sudo service smbd start 4)w ...
- CodeM资格赛 Round A 最长树链
按照题解的做法,对于每一个质约数分别进行讨论最长链就行 对于每一个数的质约数可是比logn还要小的 比赛的时候没人写,我也没看 = =,可惜了,不过我当时对于复杂度的把握也不大啊 #include & ...
- CSS3 column属性
css3 column属性的应用 1.案例源码 <!DOCTYPE html><html lang="en"><head> <meta c ...
- 第三篇:一个Spark推荐系统引擎的实现
前言 经过2节对MovieLens数据集的学习,想必读者对MovieLens数据集认识的不错了:同时也顺带回顾了些Spark编程技巧,Python数据分析技巧. 本节将是让人兴奋的一节,它将实现一个基 ...
- XCTF(77777-2)
题目链接:http://47.52.137.90:20000 这道题目和前面的那道题目大致一样,只不过是过滤的函数不一样 检查过滤函数的方式就不写了,直接来解题 检查函数发现过滤了ord ascii ...
- Java .classpath文件Classpath entry org.maven.eclipse.MAVEN2_CLASSPATH_CONTAINER will not be exported or published异常解决办法
在实际用Maven构建Java Web项目开发过程中,有时候会出现上述情况的警告,如果不解决这个警告,就会在启动Web服务器的时候抛出无法加载Maven管理的第三方jar包的异常. 所以,要解决上面的 ...
- Web项目生成详解
action 与用户控制层相关内容,来自用户的请求和页面跳转: dao 数据库进行增删改查操作,接口定义其中: dao.impl 将上述接口进行实现 domain 数据表都映射成java中的类,实现数 ...
- oled
gnd.vcc.clk.miso.rst.mosi.cs
- Java对于特殊字符做间隔读入的处理(1.3.4)
先读进字符串,然后再用split分割,注意当默认间隔符有其他意义时,要用\转义字符转义 这道题是pat的一道题,主要读入方法看前面就行了 import java.util.Scanner; publi ...
- 【python学习笔记】10.充电时刻
[python学习笔记]10.充电时刻 任何python都可以作为模块倒入 *.pyc:平台无关的经过编译的的python文件, 模块在第一次导入到程序中时被执行,包括定义类,函数,变量,执行语句 可 ...