条件付き期待値：σ-加法族で条件づけ、ラドン・ニコディムで存在を保証する

0. この記事の要点

• 条件付き期待値 $E[X \mid \mathcal{G}]$ は「事象で割り算した平均」ではなく、部分 $\sigma$-加法族 $\mathcal{G}$ に対して定義される確率変数です。$\mathcal{G}$ が「利用できる情報」を表し、$E[X \mid \mathcal{G}]$ はその情報だけを使った $X$ の最良の見積もりを表します。
• 定義は「$\mathcal{G}$-可測であり、かつ $\mathcal{G}$ に属するすべての事象の上で $X$ と同じ積分値をもつ」という 2 条件です。この 2 条件を満たす確率変数の存在はラドン・ニコディムの定理から従い、一意性はほとんど確実の意味（版の違いを除いて一意）で成り立ちます。
• 基本性質のうち最も使われるのはタワー・プロパティ $E\bigl[E[X \mid \mathcal{G}_2] \mid \mathcal{G}_1\bigr] = E[X \mid \mathcal{G}_1]$（$\mathcal{G}_1 \subset \mathcal{G}_2$）と既知量の取り出し $E[ZX \mid \mathcal{G}] = Z\,E[X \mid \mathcal{G}]$（$Z$ は $\mathcal{G}$-可測）です。
• $X \in L^2$ のとき $E[X \mid \mathcal{G}]$ は $L^2(\Omega,\mathcal{G},P)$ への直交射影であり、平均二乗誤差を最小にする予測子です。回帰分析や機械学習で「条件付き期待値を推定する」という言い方をするのはこの意味です。
• $P(Y = y) = 0$ のような零確率事象での条件づけは、素朴な割り算では定義できません。$\sigma$-加法族による定式化はこの困難を、値ごとではなく関数として一気に定めることで回避します。

1. 動機

1.1. 割り算から始まる素朴な定義

確率論の入門では、条件付き確率を

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)} \qquad (P(B) > 0)$$

で定義します。確率変数 $X$ の条件付き期待値も同じ流儀で

$$E[X \mid B] = \frac{E[X \mathbf{1}_B]}{P(B)} \qquad (P(B) > 0)$$

と定めます。これは「事象 $B$ が起きたと分かった世界に確率を制限し直して平均を取る」という操作で、直観にもよく合います。

ところがこの定義は $P(B) = 0$ のとき意味を失います。そして応用で本当に知りたいのは、まさにそういう場合であることが多いのです。たとえば $(X, Y)$ が同時密度をもつ連続型確率変数で、$Y$ の観測値が $y$ だったときの $X$ の平均、すなわち「$E[X \mid Y = y]$」を求めたいとします。しかし連続分布では任意の $y$ に対して $P(Y = y) = 0$ ですから、割り算の定義は一歩も進みません。

1.2. 「値ごと」をやめて「関数として」定める

打開策は、条件を 1 つの値 $y$ に固定するのをやめることです。統計学の教科書では条件付き密度

$$f_{X \mid Y}(x \mid y) = \frac{f_{X,Y}(x,y)}{f_Y(y)}, \qquad g(y) = \int_{\mathbb{R}} x\, f_{X \mid Y}(x \mid y)\, dx$$

を経由して $E[X \mid Y] = g(Y)$ と定めますが、この $g$ は $f_Y(y) = 0$ となる $y$ では定義されず、また $f_Y(y) > 0$ の範囲でも「$y$ ごとの値」には本質的な意味がありません。意味があるのは、$g$ が満たす次の関係式のほうです。任意のボレル集合 $B \subset \mathbb{R}$ に対して

$$\int_{\{Y \in B\}} g(Y)\, dP = \int_B g(y) f_Y(y)\, dy = \int_B \int_{\mathbb{R}} x f_{X,Y}(x,y)\, dx\, dy = E\bigl[X \mathbf{1}_B(Y)\bigr].$$

つまり $g(Y)$ は、「$Y$ から作られるどの事象の上でも、$X$ と同じだけの積分を稼ぐ」という性質で特徴づけられます。密度は計算手段にすぎず、条件付き期待値の本質はこの積分等式なのです。

1.3. 情報を $\sigma$-加法族で表す

上の等式に現れた事象 $\{Y \in B\}$ の全体は、$Y$ が生成する $\sigma$-加法族

$$\sigma(Y) = \bigl\{\, \{Y \in B\} : B \in \mathcal{B}(\mathbb{R}) \,\bigr\} \subset \mathcal{F}$$

にほかなりません。$\sigma(Y)$ は「$Y$ の値を知っている観測者に判定できる事象の全体」であり、$\sigma$-加法族はこの意味で情報の量を表します。粗い $\sigma$-加法族は少ない情報、細かい $\sigma$-加法族は多くの情報に対応します。

そこで発想を逆転させます。特定の確率変数 $Y$ に固執せず、はじめから部分 $\sigma$-加法族 $\mathcal{G} \subset \mathcal{F}$ を「与えられた情報」とみなし、$E[X \mid \mathcal{G}]$ を定義してしまえばよい。これがコルモゴロフが 1933 年の『確率論の基礎概念』で採用した定式化です。この抽象化は単に一般的というだけでなく、時間とともに増えていく情報の列（フィルトレーション）を扱えるという決定的な利点をもち、マルチンゲール理論と確率積分の土台になります。

flowchart LR
A["自明な σ-加法族<br/>情報なし"] --> B["粗い情報 G1"]
B --> C["細かい情報 G2"]
C --> D["全情報 F"]
A -.-> A2["定数 E[X]"]
B -.-> B2["E[X∣G1]"]
C -.-> C2["E[X∣G2]"]
D -.-> D2["X 自身"]

情報の粗視化としての条件付き期待値。σ-加法族が細かいほど多くの情報を使える

ここから先は Pro プランの内容です。

この章の続き（定義・定理・証明・例・演習）をすべて読むには Pro プランにご登録ください。無料の章は最後まで読めます。

プランを見る ログイン