情報科学 › 機械学習の数学 › なぜ機械学習に数学が必要か

二乗損失の二次展開

補題 3.1（「なぜ機械学習に数学が必要か」§3） ・ ✓公理まで証明済み

X∈Rn×dX\in\mathbb{R}^{n\times d}、y∈Rn\boldsymbol{y}\in\mathbb{R}^n とし、L(w)=12n∥Xw−y∥2L(\boldsymbol{w})=\dfrac{1}{2n}\|X\boldsymbol{w}-\boldsymbol{y}\|^2 とおく。任意の w,u∈Rd\boldsymbol{w},\boldsymbol{u}\in\mathbb{R}^d に対して

L(w+u)=L(w)+1n⟨u, XT(Xw−y)⟩+12n∥Xu∥2L(\boldsymbol{w}+\boldsymbol{u}) = L(\boldsymbol{w}) + \frac{1}{n}\bigl\langle \boldsymbol{u},\, X^{\mathsf{T}}(X\boldsymbol{w}-\boldsymbol{y})\bigr\rangle + \frac{1}{2n}\|X\boldsymbol{u}\|^2

が成り立つ。とくに LL は Rd\mathbb{R}^d 上で全微分可能で、その勾配は ∇L(w)=1nXT(Xw−y)\nabla L(\boldsymbol{w}) = \dfrac{1}{n}X^{\mathsf{T}}(X\boldsymbol{w}-\boldsymbol{y}) である。

本文で読む（証明と前後の説明）→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理（物理では基本仮定）までつながっています（前提の定理類 1 件、定義なども含めて 1 件）。

印の意味: ✓公理まで証明済み ・ △証明あり（閉包未完）・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義（直接 1 件）

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理 証明で参照している 2 件

関連するノック 3 問