最小二乗解の閉じた式

系 3.4（「なぜ機械学習に数学が必要か」§3）・ ✓公理まで証明済み

$X\in\mathbb{R}^{n\times d}$ の列ベクトルが線形独立（すなわち $\operatorname{rank}X=d$ 、とくに $n\ge d$ ）ならば、 $L(\boldsymbol{w})=\frac{1}{2n}\|X\boldsymbol{w}-\boldsymbol{y}\|^2$ の最小点はただ一つ存在し、

\boldsymbol{w}^{\star} = (X^{\mathsf{T}}X)^{-1}X^{\mathsf{T}}\boldsymbol{y}

で与えられる。

本文で読む（証明と前後の説明）→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を前提としてたどると、Rikai の中の証明だけで定義・公理（物理では基本仮定）までつながっています（前提の定理類 12 件、定義なども含めて 12 件）。

印の意味: ✓公理まで証明済み・ △証明あり（閉包未完）・ ※主張のみ。テーマごとの集計は閉包の状況。

前提をたどる証明が使う定理・定義（直接 2 件）

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

グラム行列の核✓補題 3.3・なぜ機械学習に数学が必要か
- 次元定理✓定理 7.3・ベクトル空間と線形変換
  - 核と像の基本性質✓命題 7.2・ベクトル空間と線形変換
    部分空間の判定条件✓命題 4.2・ベクトル空間と線形変換この先をたどる →
    ベクトル空間の初等的性質✓命題 3.2・ベクトル空間と線形変換
  - 有限次元空間の基本性質✓命題 5.7・ベクトル空間と線形変換
    取り替え補題✓補題 5.4・ベクトル空間と線形変換この先をたどる →
    次元の一意性✓定理 5.5・ベクトル空間と線形変換（上で展開済み）
  - 次元の一意性✓定理 5.5・ベクトル空間と線形変換
    取り替え補題✓補題 5.4・ベクトル空間と線形変換この先をたどる →
正規方程式✓定理 3.2・なぜ機械学習に数学が必要か
- 二乗損失の二次展開✓補題 3.1・なぜ機械学習に数学が必要か
  - コーシー・シュワルツの不等式✓定理 4.2・内積空間とグラム・シュミット直交化

これを使っている定理

証明で明示的に参照している定理は、まだありません。

最小二乗解の閉じた式

閉包の状態

前提をたどる 証明が使う定理・定義（直接 2 件）

これを使っている定理

関連するノック 1 問

前提をたどる証明が使う定理・定義（直接 2 件）