情報科学 › 機械学習の数学 › 確率論とベイズ統計

ベイズ線形回帰の事後分布

定理 6.1(「確率論とベイズ統計」§6) ・ ✓公理まで証明済み

命題 3.3 の雑音モデル(入力は固定、Φ∈RN×M\Phi\in\mathbb{R}^{N\times M}、σ2>0\sigma^{2}>0 は既知)の下で、w\boldsymbol{w} の事前分布を N(m0,S0)\mathcal{N}(\boldsymbol{m}_0, S_0)(S0S_0 は MM 次の対称正定値行列、m0∈RM\boldsymbol{m}_0\in\mathbb{R}^M)とし、w\boldsymbol{w} と雑音は独立とする。このとき事後分布は再びガウス分布

p(w∣y)=N(w∣mN,SN)p(\boldsymbol{w}\mid\boldsymbol{y}) = \mathcal{N}(\boldsymbol{w} \mid \boldsymbol{m}_N, S_N)

であり、

SN=(S0−1+1σ2ΦTΦ)−1,mN=SN(S0−1m0+1σ2ΦTy)S_N = \left( S_0^{-1} + \frac{1}{\sigma^{2}}\Phi^{\mathsf{T}}\Phi \right)^{-1}, \qquad \boldsymbol{m}_N = S_N\left( S_0^{-1}\boldsymbol{m}_0 + \frac{1}{\sigma^{2}}\Phi^{\mathsf{T}}\boldsymbol{y} \right)

で与えられる。とくにガウス分布は共役事前分布である(定義 4.3)。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 2 件、定義なども含めて 3 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 2 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理 証明で参照している 1 件

関連するノック 1 問