情報科学 › 機械学習の数学 › 線形回帰と最小二乗法

ムーア・ペンローズ擬似逆行列

定義 8.6(「線形回帰と最小二乗法」§8)

X∈Rn×pX\in\mathbb{R}^{n\times p} の特異値分解を X=UΣVTX = U\Sigma V^{\mathsf{T}}(U,VU, V は直交行列、Σ\Sigma の対角成分が特異値 σ1≥⋯≥σr>0\sigma_1\ge\cdots\ge\sigma_r > 0、それ以外は 00)とする。Σ+\Sigma^{+} を、Σ\Sigma の 00 でない対角成分を逆数に置き換えて転置した行列とし、

X+=VΣ+UT∈Rp×nX^{+} = V\Sigma^{+}U^{\mathsf{T}} \in \mathbb{R}^{p\times n}

を XX の擬似逆行列という。rank⁡X=p\operatorname{rank}X = p のときは X+=(XTX)−1XTX^{+} = (X^{\mathsf{T}}X)^{-1}X^{\mathsf{T}} と一致する。

本文で読む(前後の説明と例)→

閉包の状態

定義

定義は閉包の起点です(証明を要しません)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

これを使っている定理

証明で明示的に参照している定理は、まだありません。