条件付き確率(conditional probability)とは、事象 $B$ が起こったと分かったときに事象 $A$ が起こる確率で、$P(B)>0$ のとき $P(A\mid B)=P(A\cap B)/P(B)$ と定める。$A\mapsto P(A\mid B)$ はそれ自体が確率である。全確率の公式 $P(A)=\sum_iP(A\mid B_i)P(B_i)$($B_i$ は確率が正の事象による分割)と、向きを入れ替える Bayes の定理が基本の公式で、$P(A\mid B)$ と $P(B\mid A)$ は一般に異なる。Monty Hall 問題の答えは司会者のふるまいの前提で決まり、車の位置が等確率、司会者は必ず挑戦者が選ばなかった扉のうちヤギの扉を開け、開けられる扉が 2 つなら等確率で選ぶという前提では、扉を変えると当たる確率は $2/3$ である。
区別のつくさいころ 2 個(赤と青)を目を閉じて振ったところ、友人が「少なくとも一方は 4 だ」と教えてくれた。目の和が 7 である確率はいくらか。36 通りの目の組のうち、少なくとも一方が 4 のものは $6+6-1=11$ 通りで、そのうち和が 7 なのは $(3,4)$ と $(4,3)$ の 2 通りである。すべての組が同じ確率なら、答えは $2/11$ になる。情報がないときの確率 $6/36=1/6$ とは異なる。ところが友人が「赤いさいころは 4 だ」と教えてくれた場合は、残りの青が 3 であればよいので答えは $1/6$ である(Lev §3.7.4 Example 3.7.15、p. 284)。
このように、ある出来事 $B$ が起こったと分かったときに別の出来事 $A$ が起こる確率を、$B$ の中での $A$ の割合として測ったものが条件付き確率(conditional probability)である。どういう情報を得たか(「少なくとも一方が 4」か「赤が 4」か)によって答えが変わるので、条件にする事象を正確に決めることが大切である。
以下、確率空間 $(\Omega,\mathcal{F},P)$ を 1 つ固定する(有限または可算の標本空間で、すべての部分集合を事象とする離散確率空間の場合を念頭に置いてよい)。
事象 $B$ が $P(B)>0$ を満たすとき、事象 $A$ について
$$
P(A\mid B):=\frac{P(A\cap B)}{P(B)}
$$
を、$B$ が与えられたときの $A$ の条件付き確率という。$P(B)=0$ のときは、この式では定義しない。
確率空間が有限で一様な(すべての結果が同じ確率の)場合、$P(A\mid B)=\frac{|A\cap B|/|\Omega|}{|B|/|\Omega|}=\frac{|A\cap B|}{|B|}$ であり、冒頭の計算と一致する。一般に、条件付き確率は「標本空間を $B$ に絞り、確率を $P(B)$ で割って全体を $1$ にし直す」ことにあたる。この定義は KT17 §10.2(p. 216)、Sho08 §8.2(pp. 213–214)、Lev Definition 3.7.14(p. 283)にある。
$P(A\mid B)$ は、$B$ が起こったという部分的な情報を得たあとで、$A$ の起こりやすさを見直した値である。$B$ の外の結果は起こらなかったと分かったので確率を $0$ にし、$B$ の中の結果どうしの確率の比は変えずに、合計が $1$ になるよう拡大する。
条件付き確率の向きは入れ替えられない。$P(A\mid B)$ と $P(B\mid A)$ は一般に異なり、その関係を与えるのが Bayes の定理(thm-condprob-bayes)である。「検査で陽性の人が病気である確率」と「病気の人が検査で陽性になる確率」を混同すると、大きく誤った結論になる(ex-condprob-medical-test)。
$P(B)>0$ とする。$A\mapsto P(A\mid B)$ は $(\Omega,\mathcal{F})$ 上の確率測度であり、$P(B\mid B)=1$、$P(\Omega\setminus B\mid B)=0$ を満たす。
$0\leq P(A\cap B)\leq P(B)$ なので $P(A\mid B)\in[0,1]$ であり、$P(\Omega\mid B)=P(B)/P(B)=1$ である。$A_1,A_2,\ldots$ が互いに交わらなければ $A_n\cap B$ も互いに交わらず、$\bigl(\bigcup_nA_n\bigr)\cap B=\bigcup_n(A_n\cap B)$ なので、$P$ の可算加法性により
$$
P\Bigl(\bigcup_nA_n\Bigm|B\Bigr)=\frac{\sum_nP(A_n\cap B)}{P(B)}=\sum_nP(A_n\mid B)
$$
である。$P(B\mid B)=1$ は定義から、$P(\Omega\setminus B\mid B)=P(\emptyset)/P(B)=0$ である。
したがって、確率について成り立つ公式(余事象の確率 $P(\Omega\setminus A\mid B)=1-P(A\mid B)$、和の公式など)は、条件付き確率についてもそのまま成り立つ。
事象 $A_1,\dots,A_n$($n\geq2$)が $P(A_1\cap\cdots\cap A_{n-1})>0$ を満たすならば
$$
P(A_1\cap\cdots\cap A_n)=P(A_1)\,P(A_2\mid A_1)\,P(A_3\mid A_1\cap A_2)\cdots P(A_n\mid A_1\cap\cdots\cap A_{n-1})
$$
である。特に $n=2$ では $P(A_1\cap A_2)=P(A_1)\,P(A_2\mid A_1)$ である。
$A_1\cap\cdots\cap A_{k}\supset A_1\cap\cdots\cap A_{n-1}$($k\leq n-1$)なので、右辺に現れる条件の事象の確率はすべて正であり、右辺は定義されている。$n$ についての帰納法で示す。$n=2$ は定義 $P(A_2\mid A_1)=P(A_1\cap A_2)/P(A_1)$ の分母を払ったものである。$n-1$ で成り立つとすると、$C:=A_1\cap\cdots\cap A_{n-1}$ について $P(C\cap A_n)=P(C)\,P(A_n\mid C)$ であり、$P(C)$ に帰納法の仮定を使えばよい。
袋に赤 6 個・青 9 個・緑 5 個の計 20 個の玉が入っている。区別のつく 2 個を順に取り出す(戻さない)試行を、20 個から相異なる 2 個を順に選ぶ $20\cdot19=380$ 通りの一様な確率空間で表す。2 個目が青である事象を $B$、1 個目が赤である事象を $A$ とすると、$P(B)=9/20$、$P(A\cap B)=6\cdot9/380$ なので
$$
P(A\mid B)=\frac{54/380}{9/20}=\frac6{19}
$$
であり、何も知らないときの $P(A)=6/20$ より少し大きい(KT17 Discussion 10.8、p. 216。同書は左右のポケットに入れた玉として述べている)。青が 1 個取り出されたと分かれば、残り 19 個の中の赤の割合が問題になるからである。乗法公式で書けば $P(A\cap B)=P(B)\,P(A\mid B)=\frac9{20}\cdot\frac6{19}$ である。
誕生日のパラドックス の記事の、$n$ 人の誕生日がすべて異なる確率 $\prod_{k=0}^{n-1}\frac{365-k}{365}$ は、「$k+1$ 人目の誕生日が最初の $k$ 人と異なる」という事象を順に条件にしていく乗法公式の形に読める。
有限個または可算個の事象 $B_1,B_2,\ldots$ が互いに交わらず、和集合が $\Omega$ であるとき、$\{B_i\}$ を $\Omega$ の分割という。
$\{B_i\}_{i\in I}$($I$ は有限集合または可算集合)を $\Omega$ の分割とし、すべての $i$ で $P(B_i)>0$ とする。このとき、すべての事象 $A$ について
$$
P(A)=\sum_{i\in I}P(A\mid B_i)\,P(B_i)
$$
である。
$A=\bigcup_{i\in I}(A\cap B_i)$ であり、$A\cap B_i$ は互いに交わらない。有限加法性または可算加法性により $P(A)=\sum_iP(A\cap B_i)$ で、各項は定義により $P(A\mid B_i)P(B_i)$ に等しい。
thm-condprob-total と同じ仮定のもとで、$P(A)>0$ ならば、各 $j\in I$ について
$$
P(B_j\mid A)=\frac{P(A\mid B_j)\,P(B_j)}{\sum_{i\in I}P(A\mid B_i)\,P(B_i)}
$$
である。特に、$0< P(B)<1$ を満たす事象 $B$ と $P(A)>0$ を満たす事象 $A$ について
$$
P(B\mid A)=\frac{P(A\mid B)\,P(B)}{P(A\mid B)\,P(B)+P(A\mid\Omega\setminus B)\,P(\Omega\setminus B)}
$$
である。
prop-condprob-chain の $n=2$ の場合を 2 通りに使うと $P(A\cap B_j)=P(B_j\mid A)P(A)=P(A\mid B_j)P(B_j)$ である。$P(A)>0$ で割り、分母の $P(A)$ に thm-condprob-total を使えば前半を得る。後半は分割 $\{B,\Omega\setminus B\}$ に前半を使ったものである($0< P(B)<1$ により 2 つの事象の確率はどちらも正である)。
これらは Sho08 §8.2 の式 (8.9)–(8.11)(p. 215)にある。Bayes の定理は、原因 $B_j$ から結果 $A$ が起こる確率 $P(A\mid B_j)$ を知っているとき、結果 $A$ を見て原因 $B_j$ の確率を見直す式である。$P(B_j)$ を事前の確率、$P(B_j\mid A)$ を事後の確率とよぶことがある。
袋 1 には赤 6・青 9・緑 5 の 20 個、袋 2 には赤 9・青 5・緑 4 の 18 個の玉が入っている。袋を等確率で選び、その袋から 2 個を同時に取り出す。両方とも緑である事象を $G$、袋 $i$ を選ぶ事象を $J_i$ とすると、$P(G\mid J_1)=\binom52/\binom{20}2=\frac1{19}$、$P(G\mid J_2)=\binom42/\binom{18}2=\frac2{51}$ なので、全確率の公式により
$$
P(G)=\frac12\cdot\frac1{19}+\frac12\cdot\frac2{51}=\frac{89}{1938}=0.0459\ldots
$$
である(KT17 Example 10.9、pp. 216–217)。さらに Bayes の定理により、2 個とも緑だったときに袋 1 を選んでいた確率は $P(J_1\mid G)=\frac{1/38}{89/1938}=\frac{51}{89}=0.573\ldots$ で、はじめの $1/2$ より大きい。緑の割合が大きい袋 1 のほうが、この結果を起こしやすいからである。
ある病気にかかっている人の割合が $1\%$ で、検査は病気の人の $98\%$ を陽性と判定し、病気でない人の $5\%$ も誤って陽性と判定するとする。無作為に選んだ人が陽性だったとき、その人が病気である確率を求める。病気である事象を $B$、陽性である事象を $A$ とすると、$P(B)=0.01$、$P(A\mid B)=0.98$、$P(A\mid\Omega\setminus B)=0.05$ である。Bayes の定理により
$$
P(B\mid A)=\frac{0.98\cdot0.01}{0.98\cdot0.01+0.05\cdot0.99}=\frac{0.0098}{0.0593}=\frac{98}{593}=0.165\ldots
$$
であり、陽性でも病気である確率は約 $17\%$ にすぎない(Sho08 Example 8.13、p. 216)。病気でない人がはるかに多いので、偽の陽性の数が真の陽性の数を上回るからである。$P(A\mid B)=0.98$ と $P(B\mid A)=0.165\ldots$ はまったく異なる。この計算は「無作為に選んだ人」という前提によるもので、症状があって検査を受けた人のように事前の確率 $P(B)$ が違えば、答えも変わる。
3 つの扉のうち 1 つの後ろに車、残り 2 つの後ろにヤギがいる。挑戦者が扉を 1 つ選ぶと、司会者が残りの扉のうちヤギのいる扉を 1 つ開けて見せ、「選んだ扉を変えてもよい」と言う。変えるべきだろうか(Lev §3.7.4、p. 283)。答えは司会者のふるまいについての前提で決まるので、前提を明示して計算する。
次を仮定する。(i) 車は 3 つの扉のどれかに等確率で置かれる。(ii) 挑戦者は扉 1 を選ぶ(扉の番号は付け替えればよい)。(iii) 司会者は車の位置を知っていて、必ず、挑戦者の選ばなかった扉のうちヤギのいる扉を開け、交換を申し出る。(iv) ヤギのいる扉が 2 つあるとき(車が扉 1 のとき)、司会者はどちらを開けるかを等確率で選ぶ。
結果を(車の扉, 開けられた扉)の組で表すと、起こりうる結果とその確率は $(1,2)$:$\frac16$、$(1,3)$:$\frac16$、$(2,3)$:$\frac13$、$(3,2)$:$\frac13$ である(車が扉 2 なら司会者は扉 3 を開けるしかない)。司会者が扉 3 を開けた事象を $O_3$ とすると $P(O_3)=\frac16+\frac13=\frac12$ で、
$$
P(\text{車が扉 1}\mid O_3)=\frac{1/6}{1/2}=\frac13,\qquad P(\text{車が扉 2}\mid O_3)=\frac{1/3}{1/2}=\frac23
$$
である。扉 2 を開けた場合も対称である。したがって、交換すれば確率 $2/3$ で車が当たり、交換しなければ $1/3$ である。全確率の公式で見れば、はじめの選択が正しい確率は $1/3$ で、そのとき交換すると必ず外れ、正しくない(確率 $2/3$)とき交換すると必ず当たる、と言っても同じである(Sho08 Example 8.14、p. 217)。
(iv) を「車が扉 1 のとき、司会者は確率 $q$ で扉 3 を、確率 $1-q$ で扉 2 を開ける」($0\leq q\leq1$)に変えると、$P(O_3)=\frac q3+\frac13$ で
$$
P(\text{車が扉 1}\mid O_3)=\frac{q/3}{q/3+1/3}=\frac q{1+q}
$$
となる。$q=1/2$ なら $1/3$ で上の計算に戻り、$q=1$ なら $1/2$、$q=0$ なら $0$(扉 3 が開いたら車は必ず扉 2)である。どの $q$ でも $\frac q{1+q}\leq\frac12$ なので、交換して損をすることはないが、交換で当たる確率は $2/3$ とは限らない。
(iii) を「司会者は車の位置を知らず、残りの 2 つの扉から等確率で 1 つを開ける」に変え、扉 3 が開いてヤギが見えた事象 $G_3$ を条件にすると、$P(G_3)=\frac13\cdot\frac12+\frac13\cdot\frac12=\frac13$(車が扉 1 または扉 2 で、司会者が扉 3 を開ける)で、$P(\text{車が扉 1}\mid G_3)=\frac{1/6}{1/3}=\frac12$ となり、交換しても当たる確率は変わらない。同じ「扉 3 にヤギがいた」という観察でも、それを生んだ仕組みが違えば条件付き確率は違う。司会者が、挑戦者の最初の選択が正しいときだけ扉を開けて交換を勧めるなら、交換は必ず外れる(Sho08 p. 217 の注意)。
事象 $A,B$ が $P(A\cap B)=P(A)\,P(B)$ を満たすとき、$A$ と $B$ は独立であるという(独立性(確率論))。事象の族 $\{A_i\}_{i\in I}$($I$ は有限集合)が、空でないすべての $J\subset I$ について $P\bigl(\bigcap_{j\in J}A_j\bigr)=\prod_{j\in J}P(A_j)$ を満たすとき、互いに独立であるという。2 つずつ独立($|J|=2$ の場合だけ成り立つ)であることは、互いに独立であることより弱い。
$P(B)>0$ のとき、$A$ と $B$ が独立であることと $P(A\mid B)=P(A)$ は同値である。また $A$ と $B$ が独立ならば、$A$ と $\Omega\setminus B$ も独立である。
前半は $P(A\mid B)=P(A)$ の両辺に $P(B)>0$ を掛ければ $P(A\cap B)=P(A)P(B)$ になることによる。後半は、$A=(A\cap B)\cup(A\setminus B)$ が互いに交わらない和であることから
$$
P(A\cap(\Omega\setminus B))=P(A)-P(A\cap B)=P(A)-P(A)P(B)=P(A)\bigl(1-P(B)\bigr)=P(A)\,P(\Omega\setminus B)
$$
となることによる(Sho08 Theorem 8.2、pp. 218–219)。
独立性は、$B$ が起こったと知っても $A$ の確率が変わらないことを意味する。確率空間 の記事の命題「離散確率空間の積」は、互いに影響しない 2 つの試行を表す積の確率空間では、それぞれの試行だけに関する事象が独立になることを示している。冒頭の例で、「赤が 4」と「和が 7」は独立である($P=\frac1{36}=\frac16\cdot\frac16$)が、「少なくとも一方が 4」と「和が 7」は独立でない($\frac2{36}\ne\frac{11}{36}\cdot\frac16$)。
公平な硬貨を 3 回投げる(8 通りが一様)。1 回目と 2 回目が一致する事象を $B_{12}$、1 回目と 3 回目が一致する事象を $B_{13}$、2 回目と 3 回目が一致する事象を $B_{23}$ とする。各事象の確率は $\frac12$、どの 2 つの共通部分の確率も $\frac14$ なので、2 つずつ独立である。しかし 2 つが起これば 3 つ目も起こるので $P(B_{12}\cap B_{13}\cap B_{23})=\frac14\ne\frac18$ であり、互いに独立ではない(Sho08 Example 8.15、p. 218)。$B_{12}$ と $B_{13}$ が起こったと知れば $B_{23}$ の条件付き確率は $1$ になる。「2 つずつ独立 $\Rightarrow$ 互いに独立」は成り立たない。
ある病気の 2 つの治療法 X、Y を、仮に次の 200 人の記録で比べる。軽症の人では X が 20 人中 19 人、Y が 80 人中 72 人回復し、重症の人では X が 80 人中 30 人、Y が 20 人中 5 人回復した。200 人から 1 人を一様に選ぶ確率空間で、回復する事象を $R$ とすると
$$
P(R\mid X\cap\text{軽症})=0.95>0.9=P(R\mid Y\cap\text{軽症}),\qquad P(R\mid X\cap\text{重症})=0.375>0.25=P(R\mid Y\cap\text{重症})
$$
で、どちらの群でも X のほうが回復しやすい。ところが全体では $P(R\mid X)=\frac{49}{100}<\frac{77}{100}=P(R\mid Y)$ である。全確率の公式(条件付き確率 $P(\cdot\mid X)$ に使ったもの)$P(R\mid X)=P(R\mid X\cap\text{軽症})P(\text{軽症}\mid X)+P(R\mid X\cap\text{重症})P(\text{重症}\mid X)$ で、重みが X では $0.2,0.8$、Y では $0.8,0.2$ と大きく違うためである。「すべての群で $P(R\mid X\cap C)>P(R\mid Y\cap C)$ $\Rightarrow$ $P(R\mid X)>P(R\mid Y)$」は、群の割合 $P(C\mid X)$ と $P(C\mid Y)$ が等しいという仮定を外すと成り立たない。
def-condprob は $P(B)>0$ を要する。区間から一様に点を選ぶ場合のように、1 点 $\{x\}$ の確率が $0$ の確率空間で「$X=x$ が与えられたとき」の確率を考えるには、条件付き確率を個々の事象ではなく、情報全体(σ-代数)に対して定める条件付き期待値の理論が必要になり、極限のとり方によって答えが変わりうることに注意を要する(Bil95)。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する