情報科学 › 機械学習の数学 › ロジスティック回帰

最尤推定と交差エントロピー最小化の同値性

命題 4.2（「ロジスティック回帰」§4） ・ ✓公理まで証明済み

L\mathcal{L} を上の尤度、LL を 定義 4.1 の交差エントロピー誤差とする。任意の w∈Rd\boldsymbol{w} \in \mathbb{R}^{d} について L(w)=−log⁡L(w)L(\boldsymbol{w}) = -\log\mathcal{L}(\boldsymbol{w}) が成り立ち、したがって集合として

arg max⁡w∈RdL(w)=arg min⁡w∈RdL(w)\operatorname*{arg\,max}_{\boldsymbol{w}\in\mathbb{R}^{d}} \mathcal{L}(\boldsymbol{w}) = \operatorname*{arg\,min}_{\boldsymbol{w}\in\mathbb{R}^{d}} L(\boldsymbol{w})

である（両辺が空集合になることも含めて等号が成り立つ）。

本文で読む（証明と前後の説明）→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理（物理では基本仮定）までつながっています（前提の定理類 1 件、定義なども含めて 1 件）。

印の意味: ✓公理まで証明済み ・ △証明あり（閉包未完）・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義（直接 1 件）

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理 証明で参照している 1 件