Monte Carlo法

同義語:モンテカルロ法Monte Carlo method

概要

Monte Carlo法(Monte Carlo method)とは、求めたい量を確率変数の期待値 $I=E[f(X)]$ の形に書き、$X$ と同じ分布に従う独立な標本 $X_1,\dots,X_n$ を乱数で作って、標本平均 $\frac1n\sum_if(X_i)$ で $I$ を見積もる方法である。推定量は不偏で、$f(X)$ の分散 $\sigma^2$ が有限なら誤差の標準偏差は $\sigma/\sqrt n$ であり、次元にも被積分関数のなめらかさにもよらないので、高次元の積分や式では計算できない確率の計算に使われる。標本分散と中心極限定理から近似的な信頼区間が作れ、重点サンプリング・制御変量・対称変量によって分散を減らせる。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 大数の法則, Chebyshevの不等式, 中心極限定理, 確率密度関数

Monte Carlo 法は、求めたい量を確率変数の期待値 $I=E[f(X)]$ の形に書き直し、$X$ と同じ分布に従う独立な標本 $X_1,\dots,X_n$ を乱数で作って、平均 $\frac1n\sum_if(X_i)$ で $I$ を見積もる方法である。積分 $\int_{[0,1]^d}g(x)\,dx$ は一様分布に従う $X$ について $E[g(X)]$ なので、高次元の積分や、式では計算できない確率の計算に使われる。
誤差は標準偏差 $\sigma/\sqrt n$ の程度で($\sigma^2$ は $f(X)$ の分散)、その減り方 $n^{-1/2}$ は次元 $d$ にも被積分関数のなめらかさにもよらない。一方、精度を 1 桁上げるには標本を 100 倍にしなければならない。この記事では、推定量の不偏性と誤差の評価(主定理 1)、標本から誤差を見積もる信頼区間(主定理 2)、標本の取り方を変えて分散を減らす重点サンプリング(主定理 3)を証明し、制御変量と対称変量による分散の減らし方を述べる。高校数学の範囲での導入(乱数による円周率の見積もり)は 乱数とシミュレーション にある。

定義と計算の手順

以下、確率空間 $(\Omega,\mathcal{F},P)$ の上で考える。$X$ は $\mathbb{R}^d$ に値をとる確率変数、$f\colon\mathbb{R}^d\to\mathbb{R}$ は Borel 可測関数で、$E\lvert f(X)\rvert< \infty$ とする。$I:=E[f(X)]$ を求めたい量とする。$X$ が密度 $p$ をもつなら $I=\int f(x)p(x)\,dx$ である(確率密度関数 の定理「密度による期待値の公式」は $\mathbb{R}$ 値で述べているが、指示関数・単関数・単調収束の順に広げる同じ証明が $\mathbb{R}^d$ でも通る)。

Monte Carlo 推定量

$X_1,X_2,\dots$ を独立で、どれも $X$ と同じ分布に従う確率変数とする。
$$ \hat I_n:=\frac1n\sum_{i=1}^nf(X_i),\qquad s_n^2:=\frac1{n-1}\sum_{i=1}^n\bigl(f(X_i)-\hat I_n\bigr)^2\quad(n\ge2) $$
をそれぞれ $I$ の Monte Carlo 推定量、標本分散という。$I$ をこのような標本平均で見積もる方法を Monte Carlo 法(Monte Carlo method)という。$\sigma^2:=\mathrm{Var}(f(X))=E[(f(X)-I)^2]\in[0,\infty]$ を被積分関数の分散という。

計算は次の手順で行う。

  1. 求めたい量を $I=E[f(X)]$ の形に書く(積分なら、積分範囲の上の一様分布や、被積分関数の一部を密度とみる)。
  2. $X$ と同じ分布に従う独立な標本 $X_1,\dots,X_n$ を作る(一様乱数からの変換は 一様分布と指数分布 の定理「一様な乱数から指数分布を作る」など)。
  3. $\hat I_n$ と $s_n$ を計算する。
  4. $\hat I_n\pm1.96\,s_n/\sqrt n$ を、信頼係数約 $95\%$ の区間として報告する(主定理 2)。
    計算機で作る乱数は決まった規則で作られる擬似乱数であり、厳密には独立な一様分布ではない。以下の定理はすべて、独立な標本が得られることを仮定している。

主定理 1:不偏性と誤差の大きさ

推定量の基本性質

def-mc の記号で、次が成り立つ。

  1. 不偏性:$E[\hat I_n]=I$。
  2. 一致性:確率 1 で $\hat I_n\to I$($n\to\infty$)。
  3. $\sigma^2< \infty$ ならば $\mathrm{Var}(\hat I_n)=E[(\hat I_n-I)^2]=\sigma^2/n$ であり、すべての $\varepsilon>0$ について
    $$ P\bigl(\lvert\hat I_n-I\rvert\ge\varepsilon\bigr)\le\frac{\sigma^2}{n\varepsilon^2} $$
    である。
  4. $\sigma^2< \infty$、$n\ge2$ ならば $E[s_n^2]=\sigma^2$ である。

$Y_i:=f(X_i)$ とおく。$Y_1,Y_2,\dots$ は独立な確率変数の関数なので独立で、どれも $f(X)$ と同じ分布をもつ。
1。 期待値の線形性により $E[\hat I_n]=\frac1n\sum_iE[Y_i]=I$。
2。 大数の強法則(Dur19 Theorem 2.4.1、p. 76。$E\lvert Y_1\rvert< \infty$ だけを仮定する)による。この記事では証明しない。
3。 独立で 2 乗可積分な確率変数は無相関であり(Dur19 Theorem 2.1.13、p. 49)、無相関な確率変数の分散は足し合わせられるので(Dur19 Theorem 2.2.1、p. 56。離散の場合は 分散 の定理「独立な確率変数の和の分散」)、$\mathrm{Var}(\hat I_n)=\frac1{n^2}\sum_i\mathrm{Var}(Y_i)=\sigma^2/n$ である。1 により $E[\hat I_n]=I$ なので $\mathrm{Var}(\hat I_n)=E[(\hat I_n-I)^2]$ である。不等式は Chebyshevの不等式 の定理「Chebyshev の不等式」を $\hat I_n$ に使ったものである。
4。 $\sum_i(Y_i-\hat I_n)^2=\sum_i(Y_i-I)^2-n(\hat I_n-I)^2$ である(右辺の第 1 項を $(Y_i-\hat I_n)+(\hat I_n-I)$ の 2 乗に展開し、$\sum_i(Y_i-\hat I_n)=0$ を使う)。期待値をとると、$E[(Y_i-I)^2]=\sigma^2$ と 3 により $n\sigma^2-n\cdot\sigma^2/n=(n-1)\sigma^2$ であり、$n-1$ で割ればよい。$\square$

3 から、誤差の 2 乗平均の平方根は $\sigma/\sqrt n$ である。この式には次元 $d$ も $f$ のなめらかさも現れない。$[0,1]^d$ で各辺を $k$ 等分した格子点で積分を近似すると点は $k^d$ 個必要になるが、Monte Carlo 法の誤差の速さ $n^{-1/2}$ は次元によらない。逆に、誤差を $1/10$ にするには $n$ を $100$ 倍にしなければならず、低次元のなめらかな関数の積分では台形公式などのほうがずっと速い。同じ $n$ でも $\sigma^2$ を半分にできれば $n$ を 2 倍にしたのと同じ効果があり、これが後で述べる分散を減らす工夫の動機である。

主定理 2:標本から作る信頼区間

$\sigma$ は通常わからないので、誤差の大きさも標本から見積もる。標準正規分布の分布関数を $\Phi(z):=\int_{-\infty}^z\frac1{\sqrt{2\pi}}e^{-u^2/2}\,du$ とする。
まず、分布の収束についての補題を準備する。

分布の収束と確率 1 の収束の組み合わせ

確率変数 $Z_n$ がすべての実数 $x$ で $P(Z_n\le x)\to\Phi(x)$ を満たし、値が $0$ 以上の確率変数 $R_n$ が確率 1 で $R_n\to1$ を満たすなら、すべての $z>0$ について $P(\lvert Z_n\rvert\le zR_n)\to2\Phi(z)-1$ である。

要点:$R_n$ が $1\pm\delta$ の中にある事象に分け、$\Phi$ の連続性で $\delta\to0$ とする。

詳しい証明を開く

$0< \delta< 1$ をとり、$B_n:=\{\lvert R_n-1\rvert\le\delta\}$ とおく。確率 1 の収束から $P(B_n^c)\to0$ である($\lvert R_m-1\rvert>\delta$ となる $m\ge n$ がある事象は $n$ について減少し、その共通部分は確率 $0$ なので、確率の連続性による)。$B_n$ の上では $\{\lvert Z_n\rvert\le z(1-\delta)\}\subset\{\lvert Z_n\rvert\le zR_n\}\subset\{\lvert Z_n\rvert\le z(1+\delta)\}$ なので$$P(\lvert Z_n\rvert\le z(1-\delta))-P(B_n^c)\le P(\lvert Z_n\rvert\le zR_n)\le P(\lvert Z_n\rvert\le z(1+\delta))+P(B_n^c)$$である。$c>0$ について $P(\lvert Z_n\rvert\le c)=P(Z_n\le c)-P(Z_n< -c)$ であり、$P(Z_n< -c)$ は $P(Z_n\le-c-\eta)$ と $P(Z_n\le-c)$ のあいだにあるので、$n\to\infty$ のあと $\eta\downarrow0$ として $\Phi$ の連続性から $P(Z_n< -c)\to\Phi(-c)$、よって $P(\lvert Z_n\rvert\le c)\to\Phi(c)-\Phi(-c)=2\Phi(c)-1$ である。上の不等式で $n\to\infty$ とすると、$\liminf$ と $\limsup$ は $2\Phi(z(1-\delta))-1$ と $2\Phi(z(1+\delta))-1$ のあいだにあり、$\delta\downarrow0$ として $\Phi$ の連続性から結論を得る。$\square$

漸近的な信頼区間

$0< \sigma^2< \infty$ とする。すべての $z>0$ について
$$ \lim_{n\to\infty}P\Bigl(\lvert\hat I_n-I\rvert\le z\frac{s_n}{\sqrt n}\Bigr)=2\Phi(z)-1 $$
である。とくに $z=1.96$ とすると右辺は約 $0.95$ であり、区間 $\hat I_n\pm1.96\,s_n/\sqrt n$ が $I$ を含む確率は、$n\to\infty$ で約 $0.95$ に近づく。

$Y_i:=f(X_i)$、$Z_n:=\sqrt n(\hat I_n-I)/\sigma$ とおく。中心極限定理 の定理「中心極限定理」(Dur19 Theorem 3.4.1、p. 144。この記事では証明しない)により、すべての $x$ で $P(Z_n\le x)\to\Phi(x)$ である。
次に $s_n\to\sigma$ を確率 1 で示す。$E[Y_1^2]< \infty$ なので、大数の強法則(Dur19 Theorem 2.4.1)を $Y_i$ と $Y_i^2$ に使うと、確率 1 で $\hat I_n\to I$、$\frac1n\sum_iY_i^2\to E[Y_1^2]$ である。展開すると $\sum_i(Y_i-\hat I_n)^2=\sum_iY_i^2-n\hat I_n^2$ なので、等式
$$ s_n^2=\frac n{n-1}\Bigl(\frac1n\sum_{i=1}^nY_i^2-\hat I_n^2\Bigr) $$
により、確率 1 で $s_n^2\to E[Y_1^2]-I^2=\sigma^2$ である。
$\lvert\hat I_n-I\rvert\le zs_n/\sqrt n$ は $\lvert Z_n\rvert\le zR_n$($R_n:=s_n/\sigma\ge0$)と同値であり、確率 1 で $R_n\to1$ なので、lem-mc-slutsky により結論を得る。$\square$

区間の幅は $s_n/\sqrt n$ に比例するので、標本を増やすと $n^{-1/2}$ の速さで狭くなる。この定理は極限についての主張であり、有限の $n$ で被覆確率が $0.95$ 以上になることは保証しない。有限の $n$ で確実に成り立つのは主定理 1 の 3 の評価($\sigma$ が分かっているか上から押さえられるとき)である。

主定理 3:重点サンプリング

$X$ が密度 $p$ をもつとき、別の密度 $q$ に従う標本で重みを付けて平均をとっても $I$ を見積もれる。$q$ をうまく選ぶと、分散を大きく減らせる。

重点サンプリング

$X$ は $\mathbb{R}^d$ 上の密度 $p$ をもち、$I=\int f(x)p(x)\,dx$($\int\lvert f\rvert p< \infty$)とする。$q$ を $\mathbb{R}^d$ 上の確率密度関数で、$f(x)p(x)\ne0$ となるすべての $x$ で $q(x)>0$ を満たすものとし、$Y_1,Y_2,\dots$ を独立で、どれも密度 $q$ に従う確率変数とする。$w(x):=p(x)/q(x)$($q(x)>0$ のとき)、$0$($q(x)=0$ のとき)とおき、
$$ \hat I_n^{(q)}:=\frac1n\sum_{i=1}^nf(Y_i)w(Y_i) $$
とする。

  1. $E[\hat I_n^{(q)}]=I$ であり、$\mathrm{Var}(\hat I_n^{(q)})=\sigma_q^2/n$ である。ここで $\sigma_q^2:=\int_{\{q>0\}}\frac{f(x)^2p(x)^2}{q(x)}\,dx-I^2\in[0,\infty]$。
  2. $\int\lvert f\rvert p>0$ とする。どの $q$ についても $\sigma_q^2\ge\bigl(\int\lvert f\rvert p\bigr)^2-I^2$ であり、等号は
    $$ q^*(x):=\frac{\lvert f(x)\rvert p(x)}{\int\lvert f\rvert p} $$
    のとき成り立つ。とくに $f\ge0$ なら $\sigma_{q^*}^2=0$ である。

1。 $Q:=\{q>0\}$ とおく。仮定により $Q$ の外では $fp=0$ である。密度 $q$ に従う $Y$ について、確率密度関数 の定理「密度による期待値の公式」により
$$ E[f(Y)w(Y)]=\int_Qf(x)\frac{p(x)}{q(x)}q(x)\,dx=\int_Qf(x)p(x)\,dx=\int f(x)p(x)\,dx=I $$
である($\int\lvert fw\rvert q=\int_Q\lvert f\rvert p< \infty$ なので積分は定まる)。同様に $E[(f(Y)w(Y))^2]=\int_Qf^2p^2/q$ なので $\mathrm{Var}(f(Y)w(Y))=\sigma_q^2$ である。$\hat I_n^{(q)}$ は独立で同じ分布に従う $f(Y_i)w(Y_i)$ の平均なので、thm-mc-basic の 1・3 と同じ計算で主張を得る。
2。 $\sigma_q^2=\infty$ なら明らかなので、有限とする。Cauchy–Schwarz の不等式と $\int_Qq\le1$ により
$$ \Bigl(\int\lvert f\rvert p\Bigr)^2=\Bigl(\int_Q\frac{\lvert f\rvert p}{\sqrt q}\cdot\sqrt q\Bigr)^2\le\int_Q\frac{f^2p^2}{q}\cdot\int_Qq\le\int_Q\frac{f^2p^2}{q} $$
である。両辺から $I^2$ を引くと不等式を得る。$q=q^*$ なら $Q$ の上で $\lvert f\rvert p/q^*=\int\lvert f\rvert p$ は定数なので、$\int_Qf^2p^2/q^*=\bigl(\int\lvert f\rvert p\bigr)\int_Q\lvert f\rvert p=\bigl(\int\lvert f\rvert p\bigr)^2$ となり等号が成り立つ。$f\ge0$ なら $\int\lvert f\rvert p=I$ なので $\sigma_{q^*}^2=0$ である。$\square$

最適な $q^*$ には求めたい $\int\lvert f\rvert p$ そのものが含まれるので、実際には使えない。定理の意味は、$\lvert f\rvert p$ の形に近い($\lvert f\rvert p$ が大きいところに多く標本を置く)$q$ を選べば分散が減る、という指針にある。また、$\sigma^2< \infty$ で重みが有界($p/q\le M$)なら、$\int_Qf^2p^2/q\le M\int f^2p$ なので $\sigma_q^2$ は有限である。逆に、$q$ が $p$ より速く $0$ に近づく所があると、重み $p/q$ が大きくなり $\sigma_q^2=\infty$ にもなり得る(反例の表の 5 行目)。

分散を減らすほかの方法

制御変量

$h\colon\mathbb{R}^d\to\mathbb{R}$ を、$\mu_h:=E[h(X)]$ が分かっていて $0< \sigma_h^2:=\mathrm{Var}(h(X))< \infty$ となる関数とし、$\sigma^2< \infty$、$c:=\mathrm{Cov}(f(X),h(X))$ とする。$\beta\in\mathbb{R}$ について $\hat I_n^{\beta}:=\frac1n\sum_i\bigl(f(X_i)-\beta(h(X_i)-\mu_h)\bigr)$ は $I$ の不偏推定量で、その分散 $\frac1n(\sigma^2-2\beta c+\beta^2\sigma_h^2)$ は $\beta^*:=c/\sigma_h^2$ で最小値 $\frac{\sigma^2}n(1-\rho^2)$ をとる。ここで $\rho:=c/(\sigma\sigma_h)$ は $f(X)$ と $h(X)$ の相関係数である($\sigma>0$ のとき)。

要点:$\beta$ の 2 次式の最小化。

詳しい証明を開く

$E[h(X_i)-\mu_h]=0$ なので不偏である。$V_i:=f(X_i)-\beta(h(X_i)-\mu_h)$ は独立で同じ分布に従い、$\mathrm{Var}(V_i)=\sigma^2-2\beta c+\beta^2\sigma_h^2$(分散の双線形性)なので、$\hat I_n^\beta$ の分散はその $1/n$ である。$\beta$ の 2 次式 $\sigma_h^2\beta^2-2c\beta+\sigma^2=\sigma_h^2(\beta-c/\sigma_h^2)^2+\sigma^2-c^2/\sigma_h^2$ は $\beta=c/\sigma_h^2$ で最小値 $\sigma^2-c^2/\sigma_h^2=\sigma^2(1-\rho^2)$ をとる。$\square$

対称変量

$U$ を $[0,1]$ の一様分布に従う確率変数、$g\colon[0,1]\to\mathbb{R}$ を単調で $E[g(U)^2]< \infty$ な関数とする。このとき $\mathrm{Cov}(g(U),g(1-U))\le0$ であり、$\sigma_g^2:=\mathrm{Var}(g(U))$ とすると
$$ \mathrm{Var}\Bigl(\frac{g(U)+g(1-U)}2\Bigr)\le\frac{\sigma_g^2}2 $$
である。したがって、独立な一様乱数 $U_1,\dots,U_n$ による $\frac1n\sum_i\frac{g(U_i)+g(1-U_i)}2$ は $\int_0^1g$ の不偏推定量で、その分散は独立な $2n$ 個の標本による推定量の分散 $\sigma_g^2/(2n)$ 以下である。

要点:2 つの独立な一様乱数 $U,V$ について、$g(U)-g(V)$ と $g(1-U)-g(1-V)$ の符号が逆になることを使う。

詳しい証明を開く

$V$ を $U$ と独立な $[0,1]$ の一様分布に従う確率変数とする。$g$ が単調なら、$u< v$ のとき $1-u>1-v$ なので、$g(u)-g(v)$ と $g(1-u)-g(1-v)$ は $0$ をはさんで逆の側にあり(片方が $0$ でもよい)、積は $0$ 以下である。よって $E[(g(U)-g(V))(g(1-U)-g(1-V))]\le0$ である。左辺を展開し、$U,V$ が独立で同じ分布に従うこと、$1-U$ も一様分布に従うので $E[g(1-U)]=E[g(U)]$ であることを使うと、左辺は $2\bigl(E[g(U)g(1-U)]-E[g(U)]E[g(1-U)]\bigr)=2\,\mathrm{Cov}(g(U),g(1-U))$ に等しい(積の期待値はどれも Cauchy–Schwarz により有限)。$\mathrm{Var}(g(1-U))=\sigma_g^2$ なので、$\mathrm{Var}\bigl(\frac{g(U)+g(1-U)}2\bigr)=\frac14(2\sigma_g^2+2\,\mathrm{Cov})\le\frac{\sigma_g^2}2$ である。後半は、独立な対の平均の分散がこれの $1/n$ であることによる。$\square$

推定量標本不偏になる条件分散
単純な Monte Carlo(thm-mc-basic)$X_i\sim p$$E\lvert f(X)\rvert< \infty$$\sigma^2/n$
重点サンプリング(thm-mc-is)$Y_i\sim q$$fp\ne0$ の所で $q>0$$\sigma_q^2/n$
制御変量(prop-mc-control)$X_i\sim p$$E[h(X)]$ が既知最小で $\sigma^2(1-\rho^2)/n$
対称変量(prop-mc-antithetic)$U_i$ 一様$g$ が $[0,1]$ 上で可積分$g$ 単調なら $\sigma_g^2/(2n)$ 以下

例

円周率の見積もり

$(X,Y)$ を $[0,1]^2$ の一様分布、$f:=4\cdot\mathbf 1\{X^2+Y^2\le1\}$ とすると $I=4\cdot\frac\pi4=\pi$ である。$f$ は $4$ を確率 $\pi/4$ でとるので $\sigma^2=16\cdot\frac\pi4(1-\frac\pi4)=4\pi-\pi^2\approx2.697$、$\sigma\approx1.642$ である。$n=10^6$ なら誤差の標準偏差は $\sigma/\sqrt n\approx0.0016$、$95\%$ の区間の半幅は約 $0.0032$ で、小数点以下 2 桁がようやく信頼できる程度である。Buffonの針 による見積もりも同じ $n^{-1/2}$ の速さである。

10 次元の積分

$I=\int_{[0,1]^{10}}(x_1+\cdots+x_{10})^2\,dx$ は、一様乱数の和 $S$ について $E[S^2]=\mathrm{Var}(S)+(E S)^2=\frac{10}{12}+25\approx25.833$ である。4 次の積率まで計算すると $\sigma^2=\mathrm{Var}(S^2)\approx84.64$ なので、$n=10^4$ 個の標本(乱数 $10^5$ 個)で誤差の標準偏差は約 $0.092$、相対誤差は $0.4\%$ 程度である。各辺を $10$ 等分する格子でさえ $10^{10}$ 点が要るのと比べると、高次元での利点がわかる。

まれな事象と重点サンプリング

$Z$ を標準正規分布に従う確率変数として $p_0:=P(Z>4)\approx3.17\times10^{-5}$ を見積もる。単純な Monte Carlo では $f=\mathbf 1\{Z>4\}$、$\sigma^2=p_0(1-p_0)$ なので、相対誤差の標準偏差は $\sqrt{(1-p_0)/(np_0)}\approx178/\sqrt n$ で、$n=10^4$ では約 $178\%$ と使い物にならない。
重点サンプリングで $q$ を平均 $4$、分散 $1$ の正規分布の密度にとると、$w(y)=e^{-4y+8}$ であり、$\int_4^\infty p(y)^2/q(y)\,dy=e^{16}P(Z>8)\approx5.53\times10^{-9}$(指数の平方完成による)から $\sigma_q^2\approx4.53\times10^{-9}$、相対誤差の標準偏差は $\sigma_q/(p_0\sqrt n)\approx2.12/\sqrt n$ になる。$n=10^4$ で約 $2\%$ であり、単純な方法で同じ精度を得るには約 $7\times10^7$ 個の標本が要る。

指数関数の積分と分散の減らし方

$I=\int_0^1e^x\,dx=e-1$ を $g(u)=e^u$ で見積もる。$\sigma_g^2=\frac{e^2-1}2-(e-1)^2\approx0.2420$ である。

  • 対称変量:$\mathrm{Cov}(e^U,e^{1-U})=e-(e-1)^2\approx-0.2342$ なので、対 $\frac{e^U+e^{1-U}}2$ の分散は $\frac{0.2420-0.2342}2\approx0.0039$ で、独立な 2 個の平均の分散 $0.1210$ の約 $1/31$ である。
  • 制御変量:$h(u)=u$($\mu_h=\frac12$、$\sigma_h^2=\frac1{12}$)とすると $c=E[Ue^U]-\frac{e-1}2=1-\frac{e-1}2\approx0.1409$、$\rho^2\approx0.984$ で、分散は $0.2420\times(1-0.984)\approx0.0039$ に減る。$\beta^*=12c\approx1.69$ である。

適用の条件と反例

よくある誤りは次のとおりである。

誤り正しくは
誤差は $1/n$ で減る標準偏差は $\sigma/\sqrt n$。桁を 1 つ増やすには $100$ 倍の標本
$s_n/\sqrt n$ はいつも誤差の目安になる$\sigma^2=\infty$ では主定理 2 の仮定が満たされず、誤差の 2 乗平均 $E[(\hat I_n-I)^2]$ も無限になる(下の表の 1 行目)
重点サンプリングの $q$ は何でもよい$fp\ne0$ の所で $q>0$ が必要で、$q$ の裾が軽すぎると分散が無限になる
外す条件反例
:--:--
thm-mc-basic の 3 の、$\sigma^2< \infty$$X$ を $(0,1]$ の一様分布、$f(x)=x^{-1/2}$($I=2$、$E[f(X)^2]=\int_0^1x^{-1}dx=\infty$)
def-mc の、$E\lvert f(X)\rvert< \infty$$X$ を Cauchy 分布(密度 $\frac1{\pi(1+x^2)}$)、$f(x)=x$
def-mc の、標本が独立であること$X_1=X_2=\cdots$(同じ乱数を使い回す)
thm-mc-is の、$fp\ne0$ の所で $q>0$$p$ を $[0,1]$ の一様分布、$f\equiv1$($I=1$)、$q$ を $[0,\frac12]$ の一様分布の密度 $2\cdot\mathbf 1_{[0,1/2]}$
thm-mc-is の後の注意の、重み $p/q$ が有界であること$p(y)=e^{-y}$、$q(y)=2e^{-2y}$($y>0$)、$f\equiv1$(重みは $e^y/2$)
prop-mc-antithetic の、$g$ が単調$g(u)=(u-\frac12)^2$
反例の確かめ

1 行目:$E[f(X)]=\int_0^1x^{-1/2}dx=2$ は有限なので thm-mc-basic の 2 は使えるが、$\int_0^1x^{-1}dx=\infty$。$Y_i:=f(X_i)\ge0$ なので $(\sum_iY_i-nI)^2\ge\frac12Y_1^2-n^2I^2$ であり、$E[Y_1^2]=\infty$ から $E[(\hat I_n-I)^2]=\infty$ がすべての $n$ で成り立つ。6 行目:$\mathrm{Var}((U-\frac12)^2)=E[(U-\frac12)^4]-(E[(U-\frac12)^2])^2=\frac1{80}-\frac1{144}=\frac1{180}$ である。

補足

関連する方法
  • 準 Monte Carlo 法:乱数の代わりに、空間に一様に散らばるよう決定的に作った点列を使う方法。なめらかさなどの条件のもとで、誤差が $n^{-1/2}$ より速く減ることがある。
  • Markov 連鎖 Monte Carlo 法:独立な標本を作るのが難しい分布について、その分布を定常分布にもつ Markov連鎖 を走らせ、その軌道の平均で期待値を見積もる方法。標本は独立でないので、上の定理はそのままでは使えない。
  • 来客や故障の起こる時刻を Poisson過程 で作り、待ち行列の長さの平均を見積もるのも、Monte Carlo 法の典型的な使い方である。

関連項目

参考文献

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する