多元回归系数方差证明：Var(β̂_k)=s^2/(n−1)var(x_k)∙1/(1−R_k^2)

首先，我们可以将多元回归模型写成矩阵形式：

Y = Xβ + u，

其中Y是n×1的因变量向量，X是n×(k+1)的自变量矩阵，β是(k+1)×1的系数向量，u是n×1的误差向量。

我们知道，最小二乘估计量β̂=(X^TX)^−1X^TY，因此，

β̂_k=[(X^TX)^−1X^TY]_k=[(X^TX)^−1X^T(Xβ+u)]_k=[(X^TX)^−1X^TXβ]_k+[(X^TX)^−1X^Tu]_k=β_k+[(X^TX)^−1X^Tu]_k。

因此，

Var(β̂_k)=Var([(X^TX)^−1X^Tu]_k)=E{[(X^TX)^−1X^Tu]_k[(X^TX)^−1X^Tu]_k^T}

= [(X^TX)^−1X^TE(uu^T)X(X^TX)^−1]_k

= [(X^TX)^−1X^Tσ^2I_nX(X^TX)^−1]_k

其中，E(uu^T)=σ^2I_n是误差项的协方差矩阵。

因此，

Var(β̂_k)=σ^2[(X^TX)^−1]_kk=σ^2/(n−k−1)[(X^TX)^−1]_kk

又由于

(X^TX)^−1=[1/(1−R^2)diag(1/(1−R^2_1),…,1/(1−R^2_k),0)]

其中R^2_k是多元回归x_k=α_0+α_1x_1+α_2x_2+⋯+α_k−1x_k−1+v的R^2。

因此，

Var(β̂_k)=σ^2/(n−k−1)∙1/(1−R^2_k)∙[(X^TX)^−1]_kk

= σ^2/(n−1)∙var(x_k)∙1/(1−R^2_k)。

证毕。