KS检验统计量的扩展应用

  KS(Kolmogorov-Smirnov)检验是比较两个经验分布之间是否存在差异。

  我们设X1, X2,…, Xm, Y1, Y2,…, Ym为两个独立随机样本,分别满足假设A1A2,分布函数分别为FG。现在我们想知道的是XY的概率分布之间是否存在差异,我们建立以下假设

H0F(t) = G(t),  for every t

H1F(t)  G(t),  for at least one t

  接下来我们要计算双边双样本统计量J

  首先我们需要获得X,Y样本的经验分布函数:

  对于任意一个实数t, 有

Fm(t)Gn(t)分别为样本XY的经验分布函数。

使

d = greatest common divisor of m and n

则统计量J为:

  为了对于给定的样本X和Y精确地计算统计量J,我们将X1, X2,…, Xm, Y1, Y2,…, Yn 共N=(m+n)个样本观察值从小到大排序,得到Z(1) ≤ … ≤ Z(N),则统计量J的计算公式可以改写为:

设显著性水平为α,则当J≥jα时拒绝H0

  我们举一个简单的例子,如下图1有两组数据,分别为有反馈和无反馈的观察值(不用弄清楚具体什么含义),两组样本量均为10.

图 1

m = n = 10, N = (10 + 10) = 20,d = 10,如下图2我们将这20个样本值排序,计算F10(t), G10(t),以及差异的绝对值|F10(Z(i))-G10(Z(i))|

图 2

我们发现样本差异最大的点在Z(12),

Z(12)处,观测值为2.69,在有反馈的那组,小于等于2.69的有3个观察值,无反馈的那组小于等于2.69的有9个观察值,它们之间的差异为6/10。统计量J=6.

  我们发现KS检验是计算两个样本之间每个观察值的排序差异,即为一种排序相似性,CMap(生物信息常用的一种数据库)基于KS检验这样的一种性质,设计了一种基于排序的模式匹配算法。

  我们通过一个例子说明这种匹配算法。现在我们有两种数据,一种是药物作用下基因的表达值,一种是疾病状态下基因的表达值,表达值都是一些实数,基因在疾病状态下,某些基因表达量增加,而某些基因可能减少表达。我们的目的是通过这两种数据来看这种药物对这种疾病有没有潜在的治疗可能,我们判断的依据:疾病状态下如果使某些基因(或某个基因)的表达值增加,即不在正常状态下,而这些基因在药物作用下,表达值在正常水平以下,即该药物会抑制这些基因的表达,那么我们可以推断,如果得这种疾病,这些基因表达值高于正常水平,我们再使用那些可以抑制这些基因表达的药物,可能就会使这些基因的表达量降下来,从而达到治病的效果。

图 3

  我们来计算药物A对疾病D是否有治疗作用。如图3所示,我们将药物A作用下的表达值从小到大排序,疾病D状态下的基因表达值从大到小排序。

图 4

  图4所示,我们接下来从疾病D的数据中选出前/后S个,然后再与药物A所有基因求交集,得到Num个共同基因(记该集合为B),我们再根据这些基因在药物A下的表达值从小到大排序。接下来,我们用基于ks统计量的方法,计算Num个共同基因在药物和疾病之间的排序相似性。

  if  a > b   KSTop/Bottom = a

  else       KSTop/Bottom = -b

  if  KSTop * KSBottom < 0,   score = KSTop – KSBottom

  else  score = 0

  其中i表示集合B中的第i个基因,Num表示集合B中基因个数,i_position表示基因i在药物A数据中的排序,geneNum表示药物A的基因总数,即M。

  我们先来看看图5所示top的情况。如果想让a取值大,那么i_position就应该尽可能的小,也就是说,存在一个基因G,该基因在疾病数据中为top,同时在药物数据中也在top的位置,我们称这种模式为top-top模式。如果希望b值较大,则i_position应该尽可能的大,这就说明,存在一个基因G`,它在疾病数据中为top,但在药物数据中为bottom,称这种情况为bottom-top模式。

  接下来我们看看图6的bottom情况。同样的,如果想让a取值较大,那么i_position就应该尽可能的小,也就是说,存在一个基因G,该基因在疾病数据中为bottom,但是在药物数据中处于top的位置,我们称这种模式为top-bottom模式。如果希望b值较大,则i_position应该尽可能的大,这就说明,存在一个基因G`,它在疾病数据中为bottom,同时在药物数据中也为bottom,称这种情况为bottom-bottom模式。

图 5

图 6

  根据上面解析,有四种模式,组合后也有四种模式,如下图7所示

图 7

  其中第二和第三中模式匹配是没有意义的,比如第二种,top-bottom,bottom-bottom模式匹配,它说明有些基因在疾病状态下表达值增加,但是在药物作用下有些也会增加,有些减少,那么我们对该疾病作用该种药物,则会引起一些基因表达恢复正常,但是会使另一些基因表达量继续增加,可能会导致某些症状更严重。第一种匹配,top-top,bottom-bottom,则说明在疾病状态下表达值增加或减少的基因,在药物作用下刚好相反,那么这种药物就有治疗该疾病的潜在可能。第四种匹配:top-bottom,bottom-top,说明,在疾病状态下表达值增加或减少的基因,在该药物作用下也增加或减少,说明该药物的作用和疾病类似,即该药物绝对不能用于治疗该疾病。

  我们要选出第一和第四种匹配,这就要“-b”起作用了,第一种情况下,我们的KSTop = a, KSBottom = -b,第四种情况刚好相反,它们刚好满足异号的条件,所以上面“-b”的作用是为了找出这两种匹配模式。那么我们如何知道药物A是可以治疗疾病D呢,还是加剧病情的呢?因为score=KSTop-KSBottom,所以第一种情况,即治疗疾病,score是正数,而第四种情况,加剧病情,score为负数。并且score的绝对值越大,说明作用效果越明显(明显改善或明显加剧)。

  我们再来看看计算b的公式,它将i减了1,即将集合B中的基因位置向前推了一位,这是为什么呢?我们看下图8的情况。

图 8

  当基因Q刚好在疾病中位于第N个,在药物数据中位于第M个,也就是说,该基因在疾病状态下被抑制,表达量非常少,而在药物作用下产生促进表达作用,表达量增加很多,很明显,该药物对该疾病的治疗效果应该很好,称为该疾病的特效药的可能性也很高,如果我们在计算b的时候,不减1,那么b=0,后面的异号条件也不满足,那么我们就漏掉了很好的这种情况,为了避免,就将集合B的基因位置向前推一个。

参考

M. Hollander, D. Wolfe, Nonparametric Statistical Methods (Wiley, ed. 2,1999), pp. 178-185.

Lamb J, Crawford E D, Peck D, et al. The Connectivity Map: Using Gene-Expression Signatures to Connect Small Molecules, Genes, and Disease[J]. Science, 2006, 313(5795):1929-1935.

KS检验统计量的扩展应用(CMap)的更多相关文章

  1. 优化与扩展Mybatis的SqlMapper解析

    接上一篇博文,这一篇来讲述怎么实现SchemaSqlMapperParserDelegate——解析SqlMapper配置文件. 要想实现SqlMapper文件的解析,还需要仔细分析一下mybatis ...

  2. PHP mcrypt加密扩展使用总结

    在开发中,很多时候我们在前后端交互中需要对一些敏感数据进行一定的加密.PHP中有提供了mcrypt的这样一个加密扩展实现对数据的加密解密. 一.mcrypt扩展的安装 在低版本的PHP中需要在配置文件 ...

  3. ks全自动安装centos

    1. 全新安装centos,选择好所需定制包 2. 完成安装后会在root下面生成一个install.log(rpm包列表)anaconda-ks.cfg(下文的ks.cfg基于此文件修改) 3. 将 ...

  4. 深入剖析Classloader(二)--根类加载器,扩展类加载器与系统类加载器

    原文地址:http://yhjhappy234.blog.163.com/blog/static/31632832201152555245584/?suggestedreading&wumii ...

  5. combo扩展:禁止手工改变输入框的值

    <!DOCTYPE html> <html> <head> <meta http-equiv="Content-Type" content ...

  6. BZOJ_2142_礼物_扩展lucas+组合数取模+CRT

    BZOJ_2142_礼物_扩展lucas+组合数取模 Description 一年一度的圣诞节快要来到了.每年的圣诞节小E都会收到许多礼物,当然他也会送出许多礼物.不同的人物在小E 心目中的重要性不同 ...

  7. [转]matplotlib - plt.rcParams、matshow/cmap/坐标轴设置

    转自:https://blog.csdn.net/qq_30815237/article/details/87903024 1.plt.rcParams plt(matplotlib.pyplot)使 ...

  8. es6基础(6)--数组扩展

    //数组扩展 { let arr=Array.of(3,4,6,7,9,11);//可以是空 console.log('arr=',arr);//[3,4,6,7,9,11] } { //Array. ...

  9. DataGrid 扩展

    //扩展表格,支持上传附件 function extendDataGrid(){ //扩展表格方法,合并单元格 ,参数为数组 $.extend($.fn.datagrid.methods, { aut ...

随机推荐

  1. javaWeb学习之Listener监听

    ] 一.监听器Listener javaEE包括13门规范 在课程中主要学习 servlet技术 和 jsp技术 其中 servlet规范包括三个技术点:servlet  listener  filt ...

  2. 翻译--Thinking in React

    无聊翻译篇react入门文章,去年学习react时看了一遍,很不错的一篇文章. https://reactjs.org/docs/thinking-in-react.html 部分为意译,旨在让new ...

  3. 决策树系列(四)——C4.5

    预备知识:决策树.ID3 如上一篇文章所述,ID3方法主要有几个缺点:一是采用信息增益进行数据分裂,准确性不如信息增益率:二是不能对连续数据进行处理,只能通过连续数据离散化进行处理:三是没有采用剪枝的 ...

  4. 手机端仿ios的1-n级联动脚本二

    一,图片 二,代码 2.1,html脚本 var weekdayArr=['周日','周一','周二','周三','周四','周五','周六'];var timeArr = ['08:30','09: ...

  5. ViewGroup事件分发机制解析

    最近在看View的事件分发机制,感觉比复杂的地方就是ViewGrop的dispatchTouchEvent函数,便对照着源码研究了一下.故名思意这个函数起到的作用就是分发事件,在具体分析之前还要说明几 ...

  6. C#多线程编程(2)-- async,await基本用法

    上一章我简单介绍了异步编程的基本方法,推荐使用的方式是Task.Task是对线程池的封装,并且可以对Task使用async和await关键字.这两个关键字的使用非常简单,那么这两个关键字究竟起什么作用 ...

  7. 数列分块总结——题目总版(hzwer分块九题及其他题目)(分块)

    闲话 莫队算法似乎还是需要一点分块思想的......于是我就先来搞分块啦! 膜拜hzwer学长神犇%%%Orz 这九道题,每一道都堪称经典,强力打Call!点这里进入 算法简述 每一次考试被炸得体无完 ...

  8. 【洛谷1131】【ZJOI2007】时态同步

    题面 题目描述 小Q在电子工艺实习课上学习焊接电路板.一块电路板由若干个元件组成,我们不妨称之为节点,并将其用数字1,2,3-.进行标号.电路板的各个节点由若干不相交的导线相连接,且对于电路板的任何两 ...

  9. MySQL系列-第一章节:MySQL介绍与安装

    1.数据库介绍 1.1.什么是数据库`<Database>` 简单说存放数据的仓库,这个仓库按照一定的数据结构<数据结构是指数据的组织形式或数据之间的联系>来组织.存储的,我们 ...

  10. 某厂java算法题实现及改进【有n个人成一圈,顺序排号(编号为1到n),从第一个人开始报数1到3报数】

    一.第一种实现: 实现比较简单,直接贴现成的代码了,第一种实现: /** * 总人数 * * @param d */ private static void sortQuerry1(int d) { ...