情報科学 › AI時代の生存戦略 › 数学を学び直す意義

勾配降下法の収束(凸・L-平滑の場合)

定理 4.3(「数学を学び直す意義」§4) ・ ✓公理まで証明済み

f:Rn→Rf:\mathbb{R}^n\to\mathbb{R} は微分可能な凸関数で LL-平滑とし、最小値 f∗=f(x∗)f^{*} = f(\boldsymbol{x}^{*}) を達成する点 x∗\boldsymbol{x}^{*} が存在するとする。学習率 η=1/L\eta = 1/L で xk+1=xk−η∇f(xk)\boldsymbol{x}_{k+1} = \boldsymbol{x}_k - \eta\nabla f(\boldsymbol{x}_k) と定めると、すべての K≥1K \ge 1 に対し

f(xK)−f∗≤L∥x0−x∗∥22Kf(\boldsymbol{x}_K) - f^{*} \le \frac{L\|\boldsymbol{x}_0 - \boldsymbol{x}^{*}\|^2}{2K}

が成り立つ。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 1 件、定義なども含めて 2 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 1 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理

証明で明示的に参照している定理は、まだありません。

関連するノック 1 問