Gauss–Markov の定理

定義 2.1 の仮定（誤差は無相関・等分散；正規性は不要）のもとで、次が成り立つ。

1. $E\hat\beta=\beta$、$\mathrm{Cov}(\hat\beta)=\sigma^2(X^{\mathsf T}X)^{-1}$。
2. 任意の $a\in\mathbb R^p$ について、$a^{\mathsf T}\beta$ の線形不偏推定量（$y$ の線形関数 $c^{\mathsf T}y$ で $E[c^{\mathsf T}y]=a^{\mathsf T}\beta$ がすべての $\beta$ で成り立つもの）のうち、$a^{\mathsf T}\hat\beta$ の分散が最小で、等号は $c^{\mathsf T}y=a^{\mathsf T}\hat\beta$ のときに限る（BLUE）。
3. $s^2=\mathrm{RSS}/(n-p)$ は $\sigma^2$ の不偏推定量である。