条件付き期待値

同義語：conditional expectation条件付き平均

概要

条件付き期待値（conditional expectation）とは、確率空間上の可積分な確率変数 $X$ と部分 σ-代数 $\mathcal G$ について、$\mathcal G$-可測かつ可積分で、$\mathcal G$ のすべての事象の上での積分が $X$ と等しくなる確率変数 $E[X\mid\mathcal G]$ であり、ほとんど確実に一意に存在する。2 乗可積分な $X$ では、$\mathcal G$-可測な確率変数のなす閉部分空間への直交射影、すなわち 2 乗平均で最良の予測になる。線形性・単調性・塔の性質・$\mathcal G$-可測な因子のくくり出し・独立性による簡約をもち、正の確率をもつ事象への条件付き確率を一般化して、マルチンゲールの理論の基礎になる。確率 $0$ の事象を単独で条件にすると、同じ事象でも条件の付け方で値が変わることがある。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 確率空間, 期待値, 条件付き確率, Lebesgue積分, Lp空間

さいころを振って出た目を $X$ とし、「偶数か奇数か」だけを教えてもらうとする。偶数と分かれば $X$ の予想値は $(2+4+6)/3=4$、奇数と分かれば $(1+3+5)/3=3$ である。この予想値は、教えてもらう答えに応じて変わる確率変数であり、偶数のとき $4$、奇数のとき $3$ をとる。このように、与えられた情報のもとでの $X$ の平均を、情報に応じて値の変わる確率変数として表したものが条件付き期待値である。
条件付き確率 $P(A\mid B)$ は $P(B)>0$ となる 1 つの事象 $B$ を条件にする。連続な確率変数 $Y$ の値を知ったときのように、個々の値 $\{Y=y\}$ の確率がすべて $0$ である場合にはこの定義が使えない。そこで「どの事象が起こったかを知っている」という情報を σ-代数 $\mathcal G$ で表し、$\mathcal G$ の各事象の上での積分が $X$ と一致するという性質で条件付き期待値を定める。この記事では、その存在と一意性を Hilbert 空間の直交射影から証明し、基本性質、分割と密度による計算、確率 $0$ の事象を条件にしたときに起こる食い違いを扱う。

定義

以下、確率空間 $(\Omega,\mathcal F,P)$ を固定し、$\mathcal G\subset\mathcal F$ を部分 σ-代数とする。確率変数 $X$ と事象 $A$ について $E[X;A]:=E[X1_A]$ と書く。

条件付き期待値

$X$ を可積分な確率変数（$E|X|<\infty$）とする。確率変数 $Y$ が次の 2 条件を満たすとき、$Y$ を $\mathcal G$ に関する $X$ の 条件付き期待値（conditional expectation）の 版（version）といい、$E[X\mid\mathcal G]$ と書く。

  1. $Y$ は $\mathcal G$-可測で可積分である。
  2. すべての $A\in\mathcal G$ について $E[Y;A]=E[X;A]$ である。
    確率変数 $Z$ が生成する σ-代数 $\sigma(Z)$ について $E[X\mid Z]:=E[X\mid\sigma(Z)]$ と書き、事象 $A\in\mathcal F$ について $P(A\mid\mathcal G):=E[1_A\mid\mathcal G]$ を 条件付き確率 という。

条件 1 は「$Y$ の値は $\mathcal G$ の情報だけで決まる」こと、条件 2 は「$\mathcal G$ で区別できるどの事象の上でも、平均は $X$ と変わらない」ことを表す。$X$ 自身は一般に $\mathcal G$-可測でないので、$Y=X$ とはとれない。版は次の定理によりほとんど確実に一意なので、等式 $Y=E[X\mid\mathcal G]$ は「確率 $1$ で等しい」という意味で読む。

存在と一意性

条件付き期待値の比較

可積分な $X\le X'$（ほとんど確実に）と、$X,X'$ の条件付き期待値の版 $Y,Y'$ について、$Y\le Y'$ がほとんど確実に成り立つ。とくに同じ $X$ の 2 つの版はほとんど確実に等しく、$X\ge0$ なら $E[X\mid\mathcal G]\ge0$ である。

$A:=\{Y>Y'\}$ は $\mathcal G$ に属する。定義の条件 2 から $E[Y-Y';A]=E[X-X';A]\le0$ であり、$A$ の上では $Y-Y'>0$ なので $P(A)=0$ である。$X=X'$ の場合を 2 通りの順で使えば一意性を、$X'=X\ge0$ と $X=0$（版 $Y=0$）の場合を使えば非負性を得る。$\square$

条件付き期待値の存在と一意性

可積分な確率変数 $X$ と部分 σ-代数 $\mathcal G$ について、$E[X\mid\mathcal G]$ の版が存在し、2 つの版はほとんど確実に等しい。さらに $E[X^2]<\infty$ なら、$E[X\mid\mathcal G]$ は $L^2(\Omega,\mathcal F,P)$ の閉部分空間
$$ L^2(\mathcal G):=\{V\in L^2(\Omega,\mathcal F,P)\mid V\ \text{は}\ \mathcal G\text{-可測な代表をもつ}\} $$
への $X$ の直交射影であり、$Z\in L^2(\mathcal G)$ のうち $E[(X-Z)^2]$ を最小にするただ 1 つの元である。

$L^2$ では「$\mathcal G$ の情報だけで作れる確率変数のうち、$X$ に 2 乗平均で最も近いもの」として条件付き期待値が得られる。一般の可積分な $X$ は、切り落として $L^2$ に入れ、単調な極限をとって扱う。

一意性は lem-ce-compare である。存在を 3 段で示す。
段 1（$E[X^2]<\infty$ の場合）． $H:=L^2(\Omega,\mathcal F,P)$ は内積 $\langle U,V\rangle=E[UV]$ による実 Hilbert空間 である。$L^2(\mathcal G)$ は部分空間であり、閉である。実際、$V_n\in L^2(\mathcal G)$ が $H$ で $V$ に収束するとき、$\mathcal G$-可測な代表 $W_n$ をとると $(W_n)$ は $L^2(\Omega,\mathcal G,P|_{\mathcal G})$ の Cauchy 列であり、この空間は完備なので（Riesz–Fischerの定理）$\mathcal G$-可測な $W$ に $L^2$ で収束する。$W_n=V_n$ はほとんど確実に成り立つので $V=W$ がほとんど確実に成り立ち、$V\in L^2(\mathcal G)$ である。直交射影 の定理「Hilbert 空間での存在」により $X$ の直交射影 $Y\in L^2(\mathcal G)$ があり、$X-Y$ は $L^2(\mathcal G)$ と直交し、$Y$ は $L^2(\mathcal G)$ の中で $X$ に最も近いただ 1 つの元である。$Y$ を $\mathcal G$-可測な代表にとる。$A\in\mathcal G$ なら $1_A\in L^2(\mathcal G)$ なので $E[(X-Y)1_A]=0$、すなわち $E[Y;A]=E[X;A]$ である。確率空間では $E|Y|\le E[Y^2]^{1/2}<\infty$ なので、$Y$ は条件 1・2 を満たす。
段 2（$X\ge0$ の場合）． $X_n:=\min(X,n)$ は有界なので $L^2$ に属し、段 1 により版 $Y_n$ がある。$X_n\le X_{n+1}$ と lem-ce-compare から $0\le Y_n\le Y_{n+1}$ がほとんど確実に成り立つ。例外集合は $\mathcal G$ に属するので、その上で $Y_n$ を $0$ に取り替えて、すべての点で $0\le Y_n\le Y_{n+1}$ としてよい。$Y_\infty:=\lim_nY_n\in[0,\infty]$ は $\mathcal G$-可測であり、$A\in\mathcal G$ について 単調収束定理 を両辺に使うと
$$ E[Y_\infty;A]=\lim_{n\to\infty}E[Y_n;A]=\lim_{n\to\infty}E[X_n;A]=E[X;A] $$
である。$A=\Omega$ とすると $E[Y_\infty]=E[X]<\infty$ なので $Y_\infty<\infty$ がほとんど確実に成り立つ。$Y:=Y_\infty1_{\{Y_\infty<\infty\}}$ が版である。
段 3（一般の場合）． $X=X^+-X^-$（$X^\pm\ge0$ は可積分）と分け、段 2 の版 $Y^\pm$ をとると、$Y^+-Y^-$ は $\mathcal G$-可測で可積分であり、$E[Y^+-Y^-;A]=E[X^+;A]-E[X^-;A]=E[X;A]$ を満たす。
$L^2$ の主張． $E[X^2]<\infty$ なら、段 1 の直交射影 $Y$ は版であり、一意性からどの版もほとんど確実に $Y$ に等しい。$\square$

存在は Radon–Nikodymの定理 からも従う。$X\ge0$ なら $\nu(A):=E[X;A]$（$A\in\mathcal G$）は $(\Omega,\mathcal G)$ 上で $P|_{\mathcal G}$ に絶対連続な有限測度であり、その密度が版になる（同記事の系「条件付き期待値の存在」、Dur19 §4.1、pp. 206–207）。上の証明の段 1 は、Radon–Nikodym の定理の von Neumann による証明と同じく、Hilbert 空間の幾何に頼っている。

分割による条件付け

可算な分割が生成する σ-代数

$B_1,B_2,\dots\in\mathcal F$ が $\Omega$ の有限または可算な分割で、各 $P(B_i)>0$ とし、$\mathcal G:=\sigma(B_1,B_2,\dots)$ とする。可積分な $X$ について
$$ E[X\mid\mathcal G]=\sum_i\frac{E[X;B_i]}{P(B_i)}\,1_{B_i} $$
である。とくに $P(A\mid\mathcal G)=\sum_iP(A\mid B_i)1_{B_i}$ であり、$B_i$ の上では 条件付き確率 $P(A\mid B_i)$ に一致する。

添字の集合 $J$ ごとの和 $\bigcup_{i\in J}B_i$ の全体は、補集合と可算和で閉じた σ-代数で、各 $B_i$ を含み、$\mathcal G$ に含まれる。よってこれが $\mathcal G$ である。右辺を $Y$ とすると、$Y$ は各 $B_i$ の上で定数なので $\mathcal G$-可測であり、$E|Y|\le\sum_i|E[X;B_i]|\le E|X|$ である。$A=\bigcup_{i\in J}B_i$ について、$X$ の可積分性から積分は可算和で分けられるので
$$ E[Y;A]=\sum_{i\in J}\frac{E[X;B_i]}{P(B_i)}P(B_i)=\sum_{i\in J}E[X;B_i]=E[X;A] $$
である。$X=1_A$ とすれば後半を得る。$\square$

導入のさいころでは、$B_1=\{2,4,6\}$、$B_2=\{1,3,5\}$ として $E[X\mid\mathcal G]=4\cdot1_{B_1}+3\cdot1_{B_2}$ である。期待値をとると $E\bigl[P(A\mid\mathcal G)\bigr]=\sum_iP(A\mid B_i)P(B_i)=P(A)$ となり、これは 条件付き確率 の定理「全確率の公式」にあたる。一般には次の性質の 3 である。分割による条件付けの公式は Dur19 Example 4.1.5（p. 208）にもある。

基本性質

条件付き期待値の基本性質

$X,X'$ を可積分な確率変数、$a,b\in\mathbb R$ とする。以下の等式・不等式はほとんど確実に成り立つ。

  1. （線形性）$E[aX+bX'\mid\mathcal G]=aE[X\mid\mathcal G]+bE[X'\mid\mathcal G]$。
  2. （単調性）$X\le X'$ なら $E[X\mid\mathcal G]\le E[X'\mid\mathcal G]$。また $|E[X\mid\mathcal G]|\le E[|X|\mid\mathcal G]$ であり、$E|E[X\mid\mathcal G]|\le E|X|$。
  3. $E\bigl[E[X\mid\mathcal G]\bigr]=E[X]$。
  4. $X$ が $\mathcal G$-可測なら $E[X\mid\mathcal G]=X$。
  5. （塔の性質）部分 σ-代数 $\mathcal H\subset\mathcal G$ について $E\bigl[E[X\mid\mathcal G]\bigm|\mathcal H\bigr]=E[X\mid\mathcal H]=E\bigl[E[X\mid\mathcal H]\bigm|\mathcal G\bigr]$。
  6. （既知のものをくくり出す）$Z$ が $\mathcal G$-可測で $ZX$ が可積分なら $E[ZX\mid\mathcal G]=Z\,E[X\mid\mathcal G]$。
  7. （独立性）$\sigma(X)$ と $\mathcal G$ が独立なら $E[X\mid\mathcal G]=E[X]$。

要点：どれも、右辺が条件 1・2 を満たすことを確かめ、一意性（lem-ce-compare）を使う。6 は指示関数から始めて単調収束で広げる。

詳細

1. 右辺は $\mathcal G$-可測で可積分であり、$A\in\mathcal G$ について積分の線形性から $E[\text{右辺};A]=aE[X;A]+bE[X';A]=E[aX+bX';A]$ である。

2. 前半は lem-ce-compare。$-|X|\le X\le|X|$ に前半と 1 を使うと後半の最初の不等式を得て、期待値をとり 3 を使うと最後の不等式を得る。

3. 定義の条件 2 で $A=\Omega$ とする。

4. $X$ 自身が条件 1・2 を満たす。

5. $E[X\mid\mathcal H]$ は $\mathcal H\subset\mathcal G$ により $\mathcal G$-可測なので、2 つ目の等号は 4 である。1 つ目：$A\in\mathcal H$ なら $A\in\mathcal G$ なので $E\bigl[E[X\mid\mathcal G];A\bigr]=E[X;A]=E\bigl[E[X\mid\mathcal H];A\bigr]$ であり、$E[X\mid\mathcal H]$ は $E[X\mid\mathcal G]$ の $\mathcal H$ に関する条件付き期待値の条件 1・2 を満たす。

6. $Y:=E[X\mid\mathcal G]$ とする。$Z=1_B$（$B\in\mathcal G$）なら $A\in\mathcal G$ について $E[1_BY;A]=E[Y;A\cap B]=E[X;A\cap B]=E[1_BX;A]$ である。線形性から $Z$ が $\mathcal G$-可測な単関数でも成り立つ。$Z,X\ge0$ なら $Y\ge0$ であり、$\mathcal G$-可測な単関数 $Z_n\uparrow Z$ をとって両辺に 単調収束定理 を使うと $E[ZY;A]=E[ZX;A]$ を得る。$A=\Omega$ とすると $E[ZY]=E[ZX]<\infty$ なので $ZY$ は可積分で、版の条件を満たす。一般には $Z=Z^+-Z^-$、$X=X^+-X^-$ と分け、$|Z^\pm X^\pm|\le|ZX|$ に注意して 4 つの組に正の場合を当て、1 で足し合わせる。

7. 定数 $E[X]$ は $\mathcal G$-可測である。$A\in\mathcal G$ なら $X$ と $1_A$ は独立なので、独立な可積分確率変数の積の期待値の公式（Dur19 Theorem 2.1.13、p. 49）から $E[X;A]=E[X]P(A)=E\bigl[E[X];A\bigr]$ である。

5 は「情報の少ない側が勝つ」と覚えられる。粗い情報 $\mathcal H$ で予想するには、細かい情報 $\mathcal G$ での予想をさらに $\mathcal H$ で平均すればよい。6 は、$\mathcal G$ の情報で値が分かる $Z$ は条件付き期待値の中では定数のようにふるまうことを表す。凸関数 $\phi\colon\mathbb R\to\mathbb R$ について、$\phi(X)$ も可積分なら $\phi(E[X\mid\mathcal G])\le E[\phi(X)\mid\mathcal G]$（条件付き Jensen の不等式）も成り立つ（Dur19 Theorem 4.1.10、p. 211。この記事では証明しない）。

密度による計算

同時密度からの計算

実数値の確率変数 $X,Y$ が同時密度 $f(x,y)$ をもち（すなわち $\mathbb R^2$ の Borel 集合 $B$ について $P((X,Y)\in B)=\iint_Bf\,dx\,dy$）、$g$ を $E|g(X)|<\infty$ となる Borel 関数とする。$f_Y(y):=\int f(x,y)\,dx$ とし、
$$ h(y):=\frac{\int g(x)f(x,y)\,dx}{f_Y(y)} $$
を $0< f_Y(y)<\infty$ かつ $\int|g(x)|f(x,y)\,dx<\infty$ となる $y$ で定め、それ以外の $y$ では $h(y):=0$ とする。このとき $E[g(X)\mid Y]=h(Y)$ である。

要点：$\sigma(Y)$ の事象は $\{Y\in B\}$ の形なので、$E[h(Y);Y\in B]$ を Fubiniの定理 で $E[g(X);Y\in B]$ に書き直す。

詳細

Fubiniの定理 により $f_Y$ と $y\mapsto\int g(x)f(x,y)\,dx$ は Borel 可測で、$h$ も Borel 可測である。$\int f_Y\,dy=1$ と $\iint|g(x)|f(x,y)\,dx\,dy=E|g(X)|<\infty$ から、$f_Y(y)=\infty$ または $\int|g|f\,dx=\infty$ となる $y$ の集合 $N_1$ は Lebesgue 測度 $0$ である。$f_Y(y)=0$ となる $y$ では $f(\cdot,y)=0$ がほとんどいたるところ成り立つので $\int g(x)f(x,y)\,dx=0$ である。$Y$ の密度は $f_Y$ なので、Borel 集合 $B$ について

$$E[h(Y);Y\in B]=\int_Bh(y)f_Y(y)\,dy=\int_{B\setminus N_1}\int g(x)f(x,y)\,dx\,dy=\iint g(x)1_B(y)f(x,y)\,dx\,dy=E[g(X);Y\in B]$$

である（2 つ目の等号では $f_Y=0$ の点で両辺の被積分関数が $0$ であることを使い、最後は同時密度の定義を $g(x)1_B(y)$ に広げたもの）。同じ計算で $E|h(Y)|\le E|g(X)|$ も分かる。$h(Y)$ は $\sigma(Y)$-可測なので、版の条件を満たす。

$f(x,y)/f_Y(y)$ は「$Y=y$ のときの $X$ の条件付き密度」と呼ばれ、$h(y)$ はそれによる平均である（Dur19 Example 4.1.6、p. 209）。ただし $h$ は $Y$ の分布についてほとんどいたるところでしか決まらない。確率 $0$ の 1 点 $y$ での値には意味がないことを、次の例で見る。

反例：同じ確率0の事象を条件にして答えが変わる

$(U,V)$ を正方形 $(0,1)^2$ 上の一様分布に従う確率変数とし、$D:=V-U$、$R:=V/U$ とおく。事象 $\{D=0\}$ と $\{R=1\}$ はどちらも対角線 $\{U=V\}$ で、確率は $0$ である。prop-ce-density から
$$ E[U\mid D]=\frac{1-D}{2},\qquad E[U\mid R]=\frac23\min\Bigl(1,\frac1R\Bigr) $$
であり、「$D=0$ のとき」の値は $\frac12$、「$R=1$ のとき」の値は $\frac23$ になる。

詳細

$u$ を固定して $v=u+d$、$v=ru$ と置き換えると、$(U,D)$ は $\{0< u< 1,\ 0< u+d< 1\}$ の上で密度 $1$ をもち、$(U,R)$ は $\{0< u< 1,\ r>0,\ ru< 1\}$ の上で密度 $u$ をもつ。$D=d$（$|d|< 1$）では $u$ の範囲は長さ $1-|d|$ の区間 $(\max(0,-d),\min(1,1-d))$ で、密度が一定なので平均は中点 $(1-d)/2$ である。$R=r$ では $u$ の範囲は $(0,m)$、$m:=\min(1,1/r)$ で、密度が $u$ に比例するので平均は $\int_0^mu^2\,du\big/\int_0^mu\,du=2m/3$ である。

$\sigma(D)$ と $\sigma(R)$ は異なる情報であり、$E[U\mid D]$ と $E[U\mid R]$ はそれぞれ正しく定まる。食い違うのは、確率 $0$ の事象 $\{U=V\}$ を単独で条件にしようとしたときだけである。$\{U=V\}$ に近づく仕方（$|V-U|$ が小さい帯か、$V/U$ が $1$ に近い扇形か）で答えが変わる。これは Borel の逆説と呼ばれる現象である（球面上の例は Dur19 Example 4.1.8、p. 210）。条件付き期待値を事象ではなく σ-代数に対して定めるのは、このためである。

条件を外した反例

外す条件反例成り立たなくなること
$X$ の可積分性（def-ce）$\Omega=(0,1)$ に Lebesgue 測度、$X(\omega)=1/\omega$、$\mathcal G=\{\emptyset,\Omega\}$$\mathcal G$-可測な $Y$ は定数 $c$ で、条件 2 は $c=E[X]=\infty$ を要求するので、版が存在しない
塔の性質の $\mathcal H\subset\mathcal G$$\Omega=\{1,2,3\}$ に一様な確率、$\mathcal G=\sigma(\{1\})$、$\mathcal H=\sigma(\{3\})$、$X=1_{\{2\}}$$E[E[X\mid\mathcal G]\mid\mathcal H]$ は $\{1,2\}$ で $\frac14$、$\{3\}$ で $\frac12$ だが、$E[X\mid\mathcal H]$ は $\{1,2\}$ で $\frac12$、$\{3\}$ で $0$
6 の $Z$ の $\mathcal G$-可測性公平な硬貨で $\pm1$ をとる $X$、$Z=X$、$\mathcal G=\{\emptyset,\Omega\}$$E[X^2\mid\mathcal G]=1$ だが $X\,E[X\mid\mathcal G]=0$
7 の独立性$X=1_B$、$B\in\mathcal G$、$0< P(B)< 1$$E[X\mid\mathcal G]=1_B$ で定数 $P(B)$ にならない
情報を σ-代数で与えることex-ce-borel確率 $0$ の同じ事象 $\{U=V\}$ での値が $\frac12$ と $\frac23$ に分かれる

2 行目の計算：$E[X\mid\mathcal G]$ は $\{1\}$ で $0$、$\{2,3\}$ で $\frac12$ である（prop-ce-partition）。これを $\mathcal H$ で平均すると、$\{1,2\}$ では $(0+\frac12)/2=\frac14$、$\{3\}$ では $\frac12$ である。

補足

  • 増えていく σ-代数の列 $\mathcal F_1\subset\mathcal F_2\subset\cdots$ に対し、各 $X_n$ が $\mathcal F_n$-可測かつ可積分で $E[X_{n+1}\mid\mathcal F_n]=X_n$ を満たす確率変数の列をマルチンゲールといい、条件付き期待値はその理論の基礎である（Dur19 Chapter 4）。
  • 値域が $\mathbb R$ のような良い空間なら、$A\mapsto P(X\in A\mid\mathcal G)(\omega)$ がほとんどすべての $\omega$ で確率測度になるように版をそろえて選べる（正則条件付き分布。Dur19 Theorem 4.1.17、p. 215。この記事では証明しない）。prop-ce-density の $f(x,y)/f_Y(y)$ はその具体例である。

関連項目

参考文献

Mathpediaは寄付と、参考文献の書籍リンク（Amazonアソシエイト）の紹介料で運営されています。 支援について ／ 寄付する

Mathpediaを支援する
条件付き期待値