情報科学 › 機械学習の数学 › 主成分分析

SVD と PCA の対応

命題 8.4(「主成分分析」§8) ・ ✓公理まで証明済み

X∈Rn×pX \in \mathbb{R}^{n\times p} を 定義 2.1 の中心化データ行列、r=rank⁡Xr = \operatorname{rank}X とし、その簡約特異値分解を

X=UΣVT,U∈Rn×r,  Σ=diag⁡(σ1≥⋯≥σr>0),  V∈Rp×rX = U \Sigma V^{\mathsf{T}}, \qquad U \in \mathbb{R}^{n\times r},\ \ \Sigma = \operatorname{diag}(\sigma_1 \ge \cdots \ge \sigma_r > 0),\ \ V \in \mathbb{R}^{p \times r}

(UTU=VTV=IrU^{\mathsf{T}}U = V^{\mathsf{T}}V = I_r)とする。このとき VV の第 jj 列は S=1nXTXS = \frac{1}{n}X^{\mathsf{T}}X の固有ベクトルであり、対応する固有値は λj=σj2/n\lambda_j = \sigma_j^2/n(1≤j≤r1 \le j \le r)である。残る p−rp - r 個の固有値は 00 である。さらに第 jj 主成分得点は zij=σjuijz_{ij} = \sigma_j u_{ij} で与えられる。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義

証明は Rikai の他の定理を参照していません(定義と論理だけで示されています)。

これを使っている定理

証明で明示的に参照している定理は、まだありません。