线性回归模型

---

回归模型的一种。

用于描述相关变量之间的线性关系。一般形式是Y=β₀+β₁X₁+…+β_pX_p+ε。应用时通常作如下假设：Y是可观测的随机变量，X₁，…，X_p是可观测的普通变量，β₀，β₁，…，β_p是未知参数，ε是不可观测的随机变量，ε～N(0，σ²)，其中Var(ε)=σ²是未知参数。如，Y=β₀+β₁lnX+ε、Y=β₀+β₁X+β₂X²+ε都是线性回归模型。

对于后一个模型，只要引进新自变量X₁=X，X₂=X²便成为常见的线性回归模型。设样本含n组观测值Y_i，X_i1，…，X_ip，i=1，2，…，n，则有Y_i=β₀+β₁X_i1+…+β_pX_ip+ε_i(i=1，2，…，n)这一样本模型，可写成矩阵形式为Y=Xβ+ε。由于它是有了样本数据后回归分析的出发点，故称。通常作如下假设：X是列满秩矩阵(即X的秩与列数相同)；ε₁，…，ε_n独立同分布，即E(ε)=0，Cov(ε)=σ²I_n，I_n为n阶单位阵。

后一个假设称“高斯－马尔科夫假设”。

通常用最小二乘法估计回归参数。若高斯－马尔科夫假设不成立，考虑用广义最小二乘估计。