情報科学 › 機械学習の数学 › 確率論とベイズ統計

ベイズ線形回帰の事後予測分布

定理 6.4(「確率論とベイズ統計」§6) ・ ✓公理まで証明済み

定理 6.1 の設定の下で、新しい入力 x∗\boldsymbol{x}_{*} の特徴ベクトルを ϕ∗=ϕ(x∗)\boldsymbol{\phi}_{*} = \boldsymbol{\phi}(\boldsymbol{x}_{*}) とし、y∗=wTϕ∗+ε∗y_{*} = \boldsymbol{w}^{\mathsf{T}}\boldsymbol{\phi}_{*} + \varepsilon_{*}、ε∗∼N(0,σ2)\varepsilon_{*}\sim\mathcal{N}(0,\sigma^{2}) は w\boldsymbol{w} および既存の雑音と独立とする。このとき

p(y∗∣x∗,D)=N(y∗ ∣ mNTϕ∗,  σ2+ϕ∗TSNϕ∗)p(y_{*}\mid\boldsymbol{x}_{*},\mathcal{D}) = \mathcal{N}\bigl(y_{*} \,\big|\, \boldsymbol{m}_N^{\mathsf{T}}\boldsymbol{\phi}_{*},\; \sigma^{2} + \boldsymbol{\phi}_{*}^{\mathsf{T}}S_N\boldsymbol{\phi}_{*}\bigr)

である。すなわち予測分散は

σ2⏟観測ノイズ(偶然的不確実性)  +  ϕ∗TSNϕ∗⏟パラメータの不確実性(認識的不確実性)\underbrace{\sigma^{2}}_{\text{観測ノイズ(偶然的不確実性)}} \;+\; \underbrace{\boldsymbol{\phi}_{*}^{\mathsf{T}}S_N\boldsymbol{\phi}_{*}}_{\text{パラメータの不確実性(認識的不確実性)}}

と分解される。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 3 件、定義なども含めて 5 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 2 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理

証明で明示的に参照している定理は、まだありません。

関連するノック 1 問