[转载]R2: 相关系数、复相关系数及半偏相关系数之间的联系

开贴举例说明相关系数、复相关系数及半偏相关系数之间的联系。

比如，我们要预测学生在高中的表现（学生成绩），一种方法是测量学习速度和难易程度的能力测验来衡量学生的学习能力。那么，假设一个学生已经做了这样的测验，在这个样本中学习能力（X₁）与学习成绩（Y）的相关系数是r₁=.4，这就表明能力可以解释学习成绩方差的.4²=.16，即16%。不过，还有84%的方差尚未得到解释（参考：已解释和未解释的方差）。

与大多数的学生表现一致，能力并不是唯一重要的因素。努力程度或学习动机等也可能很有效预测实际表现。假设我们可以准确的调查学生在同一学期的学习时间（单位：h）。在这个例子中，学习时间（X₂）和学习成绩的相关系数是r₂=.3。尽管这不如学习能力的相关程度高，但学习时间仍然可以解释.3²=.09（9%）的学习成绩方差。但是这9%的方差和被学习能力解释的16%的方差是否不同呢？我们是不是能够简单地把两个百分数加起来，然后说能力和学习时间总共解释了9%+16%=25%的学习成绩方差呢？如果学习能力和时间的相关为0，那么我们就可以这样下结论。

如图 1fig1.cdr所示，如果学习成绩的总方差以一个长方形表示，那么学习能力和学习时间可用长方形内两个独立的圆圈表示。圆圈的面积就对应于每个预测变量能解释的方差百分比。在这样的图中，图形重叠表示变量相关，而不重叠表示变量不相关。我们称这样的图为韦恩图（Venn Diagram）。在图 1的韦恩图中，两个圆圈没有重叠，说明他们代表的预测变量是相互独立的（两者的相关系数为0）。两个圆圈加起来就表示两个预测变量加在一起可以解释因变量（效标变量）的方差比例。如果我们用R²表示被解释的总方差，我们就可以看出，在这个例子中，R²=r₁²+r₂²=.4²+.3²=.25。与r²称为决定系数一致，R²称为复决定系数（Coefficient of multiple determination）。

图 1

如果不平方，则R称为复相关系数（Multiple Correlation Coefficient），它是（基于两个及其以上预测变量）对因变量（效标变量、被解释变量）做的预测值和因变量的实际值之间的相关。在本例中，R=.5，比简单把两个相关系数加起来要小，但比他们其中任何一个都大（只要当两个为正且相互独立的r合并，都会有这种情况）。

不过，你很快就会发现，在真实世界里，就连只有两个预测变量的情况，预测变量之间的相关系数r也往往并不等于0，换句话说，预测变量之间也不是完全独立的，而是相互作用的。还是回到上文的例子中，假设高学习能力的学生稍微倾向于花更多的学习时间，因此学习能力与学习时间的相关系数是r₁₂=.2。此时，两个预测变量之间的相关在韦恩图中就被表示为两个圆圈之间的重叠部分，如图 2fig2.cdr所示。一个预测变量所解释方差的一部分仍可以被另一个预测变量来解释（请注意，为了强调其中有趣的关系，图 2中的各个面积并没有按相应的比例成图）。

图 2

在图 2中，复决定系数R²是两个圆圈所覆盖的面积。由于两个圆圈有重叠，因此R²比我们上次那样简单地把两个圆圈加起来的要小。如果仍然简单相加，重叠部分就被重复计算了。所以，R²实际上是A、B和C面积之和，因此R²=.21。

那么，问题又来了。学习能力（X₁）可以解释学习成绩的方差比例为16%，其中有4%又可以被学习时间（X₂）所解释，那么剩余的12%就是学习能力“唯一”可以解释的方差比重，我们对A面积开平方得到（sqrt(.12)=）.3464，这就是学习能力（X₁）与学习成绩（Y）的半偏相关系数。这个半偏相关系数告诉我们学习时间（X₂）保持不变时，学习能力（X₁）与学习成绩（Y）之间关系的强度。同样地，B面积开平方得到学习时间与学习成绩的半偏相关系数（sqrt(.05)=）0.2236，或者R²减去学习能力相关系数的平方r₁²再开方。

互补现象

还是上文这个例子，假设聪明学生都不怎么爱学习，r₁₂就为负数。这群学生中，聪明学生比较懒，而不聪明学生却很努力弥补能力上的不足，r₁₂=-.2（在韦恩图中没办法表示这种负相关）。但是，这种负的重叠会增加R²，使得R²比r₁²+r₂²要大，用下式直接计算R²：

式中：在符号r_y(1.2)中，圆点之后的数字表示被排除在外的变量，括号表示这种排除只局限于在括号内的变量。Y不在括号里告诉我们这是半偏相关系数而不是偏相关系数。代入上式，得到此时R²=.307，X₁、X₂的半偏相关（半偏相关系数）为.4695和.3878，高于各自的效度（相关系数）.4和.3。这就是互补现象。

抑制现象

参考文献

[1] Cohen BH. Explaining psychological statistics[M]. New York, US:John Wiley & Sons, 2008. 中译本: 高定国等译, 心理统计学(第三版)[M]. 上海:华东师范大学出版社, 2011.

转自：http://blog.sciencenet.cn/blog-1148346-852597.html