情報科学 › 機械学習の数学 › 線形回帰と最小二乗法

二次形式の勾配

補題 3.2(「線形回帰と最小二乗法」§3) ・ ✓公理まで証明済み

A∈Rp×pA \in \mathbb{R}^{p \times p} を対称行列(AT=AA^{\mathsf{T}} = A)、b∈Rp\boldsymbol{b} \in \mathbb{R}^p、c∈Rc \in \mathbb{R} とし、関数 f ⁣:Rp→Rf \colon \mathbb{R}^p \to \mathbb{R} を

f(w)=wTAw−2bTw+cf(\boldsymbol{w}) = \boldsymbol{w}^{\mathsf{T}} A \boldsymbol{w} - 2\boldsymbol{b}^{\mathsf{T}}\boldsymbol{w} + c

で定める。このとき ff は C∞C^{\infty} 級であり、勾配とヘッセ行列は

∇f(w)=2Aw−2b,∇2f(w)=2A\nabla f(\boldsymbol{w}) = 2A\boldsymbol{w} - 2\boldsymbol{b}, \qquad \nabla^2 f(\boldsymbol{w}) = 2A

で与えられる。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義

証明は Rikai の他の定理を参照していません(定義と論理だけで示されています)。

これを使っている定理

証明で明示的に参照している定理は、まだありません。