线性相关分析

---

对于二元连续型⁽¹⁾总体(X，Y)^T，人们研究其两个分量之间的关系，途径之一是采用(随机)自变量X的如下线性函数作为(随机)因变量Y的模拟：

=β₀+βX (48．3．1)

线性模拟，在每一个观测单元上的取值，即总体Y的线性模拟值，与总体X在同一个观测单元上的取值X之间具有与(48．3．1)式同样的线性关系：

_x=β₀+βx (48．3．1)₁

x—y平面上用(48．3．1)₁式表示的直线称为总体Y关于总体X的一元回归直线。

为了由总体()的样本观测值()=()用最小二乘法求得截距β₀和斜率β的估计值b₀和b，从而求得线性模拟的估计值=b₀+bx，需要首先定义样本观测值与的相关矩l_yx，协方差S_yx和相关系数r：

最小二乘法是求得满足下式的b0和b的方法⁽²⁾：=min，其中：对i=1—n(48．3．3)

i=b0+bx₁，是线性模拟_i=β₀+βx_i的估计值

首先由=0推出b₀=，将其代入1=0，解出。下列简单的推导表明，这样求得Q的驻点是Q的最小值点：

以上推导过程最后一步“≥”的等号当且仅当用求得的驻点

(b₀，b)=()代入Q(b₀，b)时成立。可以把(*)式最左端与最后一个等式右端改写如下：令=b₀+

上式表明，Q=Q()在-Q空间的图形是以(，lyy-)为顶点，开口向上的椭圆抛物面，其顶点是最低点，即Q的最小值点，如图48—1所示。

图48—1

这样，就得到了(48．3．1)₁式的最小二乘估计：

，其中：(48．3．1)2直线(48．3．1)2式通过点()。又由(*)式可知：minQ=l_yy-lyy(1-r²) (48．3．5)由上式可知相关系数具有如下性质⁽³⁾：

(1)|r|≤1，这是因为minQ≥0。

(2)如果r=±1，则与完全线性相关：

由于minQ=Q(±X，±)=0，所以对i=1—n，y₁=₁=±(x_i-X)，n个点(xi，y_i)，i=1—n完全位于回归直线上。

(3)如果r=0，则与线性无关：

由于minQ=Q(，0)=l_yy，所以对i=1—n，_i≡，不随x_i改变。回归直线_x=不能表达与之间或者存在某种非线性关系或者没有关系。

(4)|r|越大，与线性相关越密切：

minQ越小，表示n个点(x_i，y1)，i=1-—n越接近回归直线。

(5)r>0称为正相关；r<0称为负相关：

b>0，_i随x_i增大而增大，表示y_i随x_i增大有增大的趋势；b<0，_i随x_i增大而减小，表示y_i随xi增大有减小的趋势。

样本观测值的相关系数r表示样本观测值]线性相关的密切程度以及正、负相关，这跟总体相关系数ρ对于总体Y与X所表示的概念是一样的。推断ρ0并且用r作为它的估计值，是以|r|>r_α(n-2)为前提。只有在这种情形，(48．3．1)1式中的斜率，才有必要用(48．3．1)₂式作为β₀、β以及(48．3．1)₁式的最小二乘估计。r_α(n-2)可以查“检验相关系数ρ=0的临界值(r_α)表”得到，n-2是自由度。相关分析的步骤如表48—1所示。

表48—1

可以使用SHARP-5002计算器的如下程序求得r与b₀、b以及ρ的置信度为1—α的置信区间：

(1)—→STAT

在上例中，r=0．87，u_5%=1．96，n=30，算得ρ的95%置信区间是(0．7424，0．9367)。置信度1-α表示可靠性。u_α可以查“标准正态分布的双侧分位数(u_α)表”得到，一般常用u_5%=1．96。

对于三元连续型总体(X₁，X₂，Y)^T，如果研究工作需要以X1和X₂为(随机)自变量，而以Y为(随机)因变量，则类似于(48．3．1)式和(48．3．1)₁式，有：

=β0+β₁X₁+β₂X₂ (48．3．7)

x=β0+β₁x₁+β₂x₂ (48．3．7)1

x₁x₂-y立体空间中的平面(48．3．7)1式称为总体Y关于总体X₁、X₂的二元回归平面。它的最小二乘估计是：

x=b₀+b₁X₁+b₂X₂，其中：b₀=-b₁1—b2X2(48．3．7)2

以上求b1和b2的公式右端各量的足码1与2分别是总体X₁的取值x1与总体X2的取值x2的代号。这里假设行列式=l₁₁l₂₂-l>0。计算，₁，₂；l₁₁，l₁₂=l₂₁，l₂₂；l_y1，l_y2是使用总体的样本观测值=。

线性相关的密切程度用下列复相关系数表示：

上式中的b₁和b₂是β1和β2的最小二乘估计值，由(48．3．7)₂式求出。r_y1．2和r_y2．1称为偏相关系数：r_y1．2从r_y1中消除了的影响；r_y2．1从r_y2中消除了的影响。上述的“影响”来自与的(线性)相关系数r₁₂。

(编者：刘长安 审者：孙尽善)