高斯-马尔可夫定理
该定理的一般叙述为:对于线性回归模型 Y=Xβ+u 假定E(u)=0,E(uu′)=σ2Ω,其中σ2为常数,Ω为n阶对称正定矩阵,X为非随机变量矩阵,且rank(X)=k+1<n,那么β的广义最小二乘估计式 β=(X′Ω-1X)-1X′Ω-1Y 是最优线性无偏估计式。 当Ω=I(单位矩阵)时,一般线性回归模型变成经典线性回归模型,广义最小二乘估计式变成普通最小二乘估计式,所以上述定理包括了对于经典线性回归模型应用普通最小二乘法的情况。 高斯-马尔可夫定理保证,对于符合定理条件的回归模型进行最小二乘估计将会得到最优线性无偏估计式(简称BLUE)。这里“无偏”的意义不必多说,“最优”是指估计式具有最小方差,“线性”指估计式表达为Y的线性组合,好处是对扰动项作正态假定后,估计式的分布可随即导出,从而可以很方便地构造[置信区间]。 |