Ornstein–Uhlenbeck過程(Ornstein–Uhlenbeck process)とは、確率微分方程式 $dX_t=-\theta X_t\,dt+\sigma\,dB_t$($\theta,\sigma>0$)の解である。解は $X_t=e^{-\theta t}X_0+\sigma\int_0^te^{-\theta(t-s)}\,dB_s$ と明示でき、Gauss 過程で Markov 過程で、不変分布 $N(0,\sigma^2/2\theta)$ をもつ。定常なものの共分散は $(\sigma^2/2\theta)e^{-\theta\lvert t-s\rvert}$ である。その半群の核は Mehler の公式で与えられ、固有関数は Hermite 多項式で、固有値は $-n\theta$ である。
前提知識: 確率微分方程式, Brown運動, Hermite多項式, 多変量正規分布
Ornstein–Uhlenbeck 過程(Ornstein–Uhlenbeck process)は、$\theta,\sigma>0$ を定数とする確率微分方程式
$$
dX_t=-\theta X_t\,dt+\sigma\,dB_t
$$
の解である。原点へ引き戻す線形の力と Brown 運動の雑音がつり合い、正規分布 $N(0,\sigma^2/2\theta)$ を不変分布にもつ。液体の中の粒子の速度のモデルとして導入された。
Brown 運動の分散が時間とともに増えるのに対し、この過程の分散は有界にとどまる。この過程は Gauss 過程で、Markov 過程で、定常にできる。この 3 つの性質でほぼ特徴づけられる(thm-ou-doob)。
この記事の内容は次のとおりである。
$(\mathcal{F}_t)$ をフィルトレーション、$(B_t)_{t\ge0}$ をこれについての 1 次元の Brown 運動($B_t$ は $\mathcal{F}_t$ 可測で、$t\ge s$ なら $B_t-B_s$ は $\mathcal{F}_s$ と独立)とする。
$\theta,\sigma>0$ とし、$X_0$ を $\mathcal{F}_0$ 可測な確率変数とする。道が連続で適合した過程 $(X_t)$ で
$$
X_t=X_0-\theta\int_0^tX_s\,ds+\sigma B_t\qquad(t\ge0)
$$
を確率 $1$ で満たすものを、$X_0$ から出発する Ornstein–Uhlenbeck 過程 という。
拡散係数が定数なので、この方程式は確率積分を使わずに書ける。確率微分方程式 の例「Ornstein–Uhlenbeck 過程の解」と同じ方程式である。
解は確率 $1$ で一意に定まり、
$$
X_t=e^{-\theta t}X_0+\sigma\Bigl(B_t-\theta\int_0^te^{-\theta(t-s)}B_s\,ds\Bigr)=e^{-\theta t}X_0+\sigma\int_0^te^{-\theta(t-s)}\,dB_s
$$
である。
$Y_t:=X_t-\sigma B_t$ とおく。解の式から $Y$ は $C^1$ 級で、$Y'=-\theta X=-\theta Y-\theta\sigma B$、$Y_0=X_0$ である。すなわち道ごとの線形常微分方程式で、$(e^{\theta t}Y_t)'=-\theta\sigma e^{\theta t}B_t$ である。積分すると
$$
Y_t=e^{-\theta t}X_0-\theta\sigma\int_0^te^{-\theta(t-s)}B_s\,ds
$$
となる。これで一意性と 1 つ目の等号を得た。逆に、この式で定めた $X$ は連続で適合し、微分すれば方程式を満たす。
2 つ目の等号は、確率微分方程式 の補題「確定的な被積分関数の部分積分」の $\int_0^tg\,dB=g(t)B_t-\int_0^tg'(s)B_s\,ds$ を $g(s)=e^{-\theta(t-s)}$ に当てたものである。$\square$
解は Brown 運動の道の連続な線形の像である。$x$ から出発する解を $X^x$ と書く。
$(X^x_t)$ は Gauss 過程で、
$$
E[X^x_t]=e^{-\theta t}x,\qquad\operatorname{Cov}(X^x_s,X^x_t)=\frac{\sigma^2}{2\theta}\bigl(e^{-\theta\lvert t-s\rvert}-e^{-\theta(s+t)}\bigr)
$$
である。特に $X^x_t$ は $N\bigl(e^{-\theta t}x,\,\frac{\sigma^2}{2\theta}(1-e^{-2\theta t})\bigr)$ に従う。
$s\le t$ とする。時刻の組 $(t_1,\dots,t_k)$ について、$(X^x_{t_1},\dots,X^x_{t_k})$ は Brown 運動の増分の線形結合(Riemann 和)の $L^2$ 極限なので、多変量正規分布 に従う。平均は明らかである。伊藤積分の等長性から
$$
\operatorname{Cov}(X^x_s,X^x_t)=\sigma^2\int_0^se^{-\theta(s-r)}e^{-\theta(t-r)}\,dr=\sigma^2e^{-\theta(s+t)}\frac{e^{2\theta s}-1}{2\theta}
$$
である。これは主張の式である。$\square$
$s< t$ について、明示式から
$$
X_t=e^{-\theta(t-s)}X_s+\sigma\int_s^te^{-\theta(t-r)}\,dB_r
$$
である。第 2 項は $\mathcal{F}_s$ と独立である。よって $(X_t)$ は Markov 過程で、推移の確率は $x$ から時間 $t$ で $N\bigl(e^{-\theta t}x,\frac{\sigma^2}{2\theta}(1-e^{-2\theta t})\bigr)$ である。
$v:=\sigma^2/(2\theta)$ とおく。
$(W_s)_{s\ge0}$ を Brown 運動とする。$U_t:=\sqrt v\,e^{-\theta t}W(e^{2\theta t})$($t\in\mathbb{R}$)とおくと、$(U_t)_{t\ge0}$ は thm-ou-stationary の (3) の定常過程と同じ法則をもつ。
$(U_t)$ は平均 $0$ の連続な Gauss 過程で、$s\le t$ について $E[U_sU_t]=ve^{-\theta(s+t)}e^{2\theta s}=ve^{-\theta(t-s)}$ である。$\square$
この表示から、Brown 運動の性質が移る。道はいたるところ微分不可能で、重複対数の法則を $s=e^{2\theta t}$ で読み替えると、確率 $1$ で $\limsup_{t\to\infty}U_t/\sqrt{2v\log t}=1$ である。
| Brown 運動 | Ornstein–Uhlenbeck 過程 | |
|---|---|---|
| 方程式 | $dX=\sigma\,dB$ | $dX=-\theta X\,dt+\sigma\,dB$ |
| $X_0=0$ の分散 | $\sigma^2t$ | $v(1-e^{-2\theta t})$ |
| 不変確率測度 | なし | $N(0,v)$ |
| 生成作用素 | $\frac{\sigma^2}{2}\partial_x^2$ | $\frac{\sigma^2}{2}\partial_x^2-\theta x\partial_x$ |
| スペクトル | $(-\infty,0]$($L^2(dx)$) | $\{-n\theta\mid n\ge0\}$($L^2(N(0,v))$) |
$(X_t)_{t\in\mathbb{R}}$ を、平均 $0$、分散 $v>0$ の定常な Gauss 過程で、共分散 $c(t):=E[X_sX_{s+t}]$ が $t$ について連続なものとする。$(X_t)$ が Markov 過程なら、ある $\theta\ge0$ について $c(t)=ve^{-\theta\lvert t\rvert}$ である。
$r(t):=c(t)/v$ とおく。Gauss 変数の条件付き期待値は線形なので、$s,t\ge0$ について $E[X_{s+t}\mid X_s]=r(t)X_s$ である。Markov 性から $E[X_{s+t}\mid\sigma(X_u\mid u\le s)]=r(t)X_s$ である。両辺に $X_0$ を掛けて期待値をとると $r(s+t)=r(t)r(s)$ である。
$r$ は連続で $r(0)=1$ で、$\lvert r\rvert\le1$ である。$r(t)=r(t/2)^2\ge0$ で、$r(t_0)=0$ なら $r(t_0/2^k)=0$ となり、連続性に反する。よって $r>0$ で、$\log r$ は連続な加法的関数で $0$ 以下なので、$r(t)=e^{-\theta t}$($\theta\ge0$)である。$\square$
$\theta>0$ なら法則は定常な Ornstein–Uhlenbeck 過程の法則である。$\theta=0$ なら、各 $t$ について確率 $1$ で $X_t=X_0$ である。
パラメータを $\theta=1$、$\sigma=\sqrt2$ に正規化する。不変分布は標準正規分布 $\gamma$ である。一般の場合はこれに帰着する。$X$ が正規化した方程式の解なら、$\sqrt vX_{\theta t}$ は Brown 運動 $\theta^{-1/2}B_{\theta t}$ についての一般の方程式の解である。
有界な Borel 関数 $f$ と $t>0$ について、$\rho:=e^{-t}$ として
$$
P_tf(x):=E[f(X^x_t)]=\int f\bigl(\rho x+\sqrt{1-\rho^2}\,y\bigr)\,d\gamma(y)
$$
である。$\mathit{He}_n$ を確率論の規約の Hermite多項式 とする。
$0< \rho< 1$ について
$$
M_\rho(x,y):=\frac1{\sqrt{1-\rho^2}}\exp\Bigl(\frac{2\rho xy-\rho^2(x^2+y^2)}{2(1-\rho^2)}\Bigr)
$$
とおくと、$P_tf(x)=\int M_\rho(x,y)f(y)\,d\gamma(y)$ である。さらに、すべての $x,y\in\mathbb{R}$ について級数は絶対収束して
$$
M_\rho(x,y)=\sum_{n=0}^\infty\frac{\rho^n}{n!}\mathit{He}_n(x)\mathit{He}_n(y)
$$
である。
核の形。 $P_tf(x)$ は、$f$ を $N(\rho x,1-\rho^2)$ で積分したものである。その密度を $\gamma$ の密度 $(2\pi)^{-1/2}e^{-y^2/2}$ で割ると
$$
\frac1{\sqrt{1-\rho^2}}\exp\Bigl(-\frac{(y-\rho x)^2}{2(1-\rho^2)}+\frac{y^2}2\Bigr)=M_\rho(x,y)
$$
である。指数の分子は $-y^2+2\rho xy-\rho^2x^2+(1-\rho^2)y^2=2\rho xy-\rho^2(x^2+y^2)$ である。
積分表示。 $Z$ を標準正規分布に従う確率変数とする。$s\in\mathbb{R}$ について $E[e^{s(x+iZ)}]=e^{sx-s^2/2}=\sum_n\mathit{He}_n(x)s^n/n!$ である(右の等式は Hermite多項式 の表の母関数)。左辺は $E[e^{\lvert s\rvert(\lvert x\rvert+\lvert Z\rvert)}]< \infty$ なので項別に期待値をとれる。$s^n$ の係数を比べると
$$
\mathit{He}_n(x)=E[(x+iZ)^n]
$$
である。
級数の和。 $Z,Z'$ を独立な標準正規変数とすると、$\mathit{He}_n(x)\mathit{He}_n(y)=E[(x+iZ)^n(y+iZ')^n]$ である。$\lvert x+iZ\rvert\lvert y+iZ'\rvert\le(\lvert x\rvert+\lvert Z\rvert)(\lvert y\rvert+\lvert Z'\rvert)$ と、$\lvert ZZ'\rvert\le(Z^2+Z'^2)/2$、$\rho< 1$ から
$$
E\bigl[\exp\bigl(\rho\lvert x+iZ\rvert\lvert y+iZ'\rvert\bigr)\bigr]< \infty
$$
である。よって級数は絶対収束し、和と期待値を交換できて
$$
\sum_n\frac{\rho^n}{n!}\mathit{He}_n(x)\mathit{He}_n(y)=E\bigl[\exp\bigl(\rho(x+iZ)(y+iZ')\bigr)\bigr]
$$
である。
計算。 $Z$ についての期待値を先にとる。$a\in\mathbb{C}$ について $E[e^{aZ}]=e^{a^2/2}$ なので、$a=i\rho y-\rho Z'$ として
$$
E\bigl[\exp(\rho(x+iZ)(y+iZ'))\mid Z'\bigr]=\exp\Bigl(\rho xy+i\rho xZ'+\frac{(i\rho y-\rho Z')^2}{2}\Bigr)
$$
である。指数は $\rho xy-\frac12\rho^2y^2+i\rho(x-\rho y)Z'+\frac12\rho^2Z'^2$ である。$b< 1$、$c\in\mathbb{C}$ について $E[e^{cZ'+bZ'^2/2}]=(1-b)^{-1/2}e^{c^2/(2(1-b))}$ なので、$b=\rho^2$、$c=i\rho(x-\rho y)$ として
$$
\frac1{\sqrt{1-\rho^2}}\exp\Bigl(\rho xy-\frac{\rho^2y^2}{2}-\frac{\rho^2(x-\rho y)^2}{2(1-\rho^2)}\Bigr)
$$
を得る。指数を分母 $2(1-\rho^2)$ で通分すると、分子は $2\rho xy(1-\rho^2)-\rho^2y^2(1-\rho^2)-\rho^2x^2+2\rho^3xy-\rho^4y^2=2\rho xy-\rho^2(x^2+y^2)$ である。これは $M_\rho(x,y)$ である。$\square$
thm-ou-mehler の核は $x,y$ について対称なので、$\int gP_tf\,d\gamma=\int fP_tg\,d\gamma$ である。すなわち過程は可逆である。$P_t$ は Jensenの不等式 と不変性により $L^p(\gamma)$ の縮小に延びる。
級数の和は計算できても、項は符号を変える。核 $M_\rho$ が正であること($P_t$ が正の関数を正の関数へ移すこと)は、指数の形を見て初めて分かる。
$h_n:=\mathit{He}_n/\sqrt{n!}$ とおく。
$f\in C^1(\mathbb{R})$ が $f,f'\in L^2(\gamma)$ を満たすなら、$\mathrm{Var}_\gamma(f)\le\int f'^2\,d\gamma$ である。等号は $f$ が 1 次以下の多項式のときに限る。
$\mathit{He}_n'=n\mathit{He}_{n-1}$ と 3 項漸化式から、$xh_{n-1}-h_{n-1}'=\sqrt n\,h_n$ である。$w$ を $\gamma$ の密度とする。$fh_{n-1}w$ とその導関数は積分できるので、無限遠の境界項は消え、部分積分で $\langle f',h_{n-1}\rangle=\sqrt n\,a_n$ を得る。よって $\int f'^2\,d\gamma=\sum_{n\ge1}na_n^2\ge\sum_{n\ge1}a_n^2=\mathrm{Var}_\gamma(f)$ で、等号は $n\ge2$ で $a_n=0$ のときに限る。$\square$
核 $M_\rho$ は $\iint M_\rho^2\,d\gamma\,d\gamma=\sum_n\rho^{2n}=(1-\rho^2)^{-1}$ を満たすので、$P_t$($t>0$)は Hilbert–Schmidt 作用素である。
$\phi(x):=(2\pi)^{-1/4}e^{-x^2/4}$ とおくと、$f\mapsto f\phi$ は $L^2(\gamma)$ から $L^2(\mathbb{R})$ へのユニタリ写像である。$\psi=f\phi$ について直接の計算で
$$
-\psi''+\Bigl(\frac{x^2}{4}-\frac12\Bigr)\psi=(-Lf)\phi
$$
である。すなわち $-L$ は調和振動子 $-\partial_x^2+x^2/4$ の最低の固有値を $0$ にずらしたものと同値で、$P_t$ はその熱半群にあたる。$x=\sqrt2u$ とおくと $-\partial_x^2+x^2/4=\frac12(-\partial_u^2+u^2)$ なので、Hermite多項式 の命題「調和振動子の固有関数」のエネルギー準位の間隔 $2$ の半分が、ここのスペクトルのギャップ $1$ である。
$\mathbb{R}^d$ では成分ごとの独立な過程を考える。$L=\Delta-x\cdot\nabla$ で、$\gamma_d$ の $L^2$ の正規直交基底は $h_{n_1}(x_1)\cdots h_{n_d}(x_d)$ である。固有値 $-k$ の重複度は $\binom{k+d-1}{d-1}$ である。ギャップは次元によらず $1$ である。対数Sobolev不等式 はこの次元によらない性質を強めたものである。
$h>0$ とし、$Y_k:=X_{kh}$ とおく。thm-ou-gauss の後の式から、$\phi:=e^{-\theta h}$ として
$$
Y_{k+1}=\phi Y_k+\varepsilon_k,\qquad\varepsilon_k\sim N\bigl(0,v(1-\phi^2)\bigr)
$$
で、$\varepsilon_k$ は独立である。すなわち時間 $h$ ごとに見た過程は 1 次の自己回帰過程(ARMAモデル)に正確に一致する。不変分散は $v(1-\phi^2)/(1-\phi^2)=v$ である。
一方、Euler–Maruyama 法 $\tilde Y_{k+1}=(1-\theta h)\tilde Y_k+\sigma\sqrt h\,\xi_k$($\xi_k\sim N(0,1)$)の不変分散は、$0< \theta h< 2$ のとき
$$
\frac{\sigma^2h}{1-(1-\theta h)^2}=\frac{\sigma^2}{\theta(2-\theta h)}
$$
で、$v$ より大きい。$\theta h\ge2$ なら分散は発散する。
$\beta>0$ とし、$V$ を $dV=-\beta V\,dt+\sigma\,dB$ の定常解、$v=\sigma^2/(2\beta)$ とする。$V$ を粒子の速度と見て、位置を $x_t:=x_0+\int_0^tV_s\,ds$ とおく。$D:=v/\beta$ とすると
$$
\mathrm{Var}(x_t-x_0)=\int_0^t\!\!\int_0^tve^{-\beta\lvert r-s\rvert}\,dr\,ds=2D\Bigl(t-\frac{1-e^{-\beta t}}{\beta}\Bigr)
$$
である。$t$ が小さいときは $vt^2$ の程度で、粒子は等速に近い。$t$ が大きいときは $2Dt$ の程度で、Brown 運動と同じ拡散になる。位置の過程は $C^1$ 級で、$\beta,\sigma\to\infty$($D$ は固定)で分布の意味で $\sqrt{2D}$ 倍の Brown 運動に近づく(Nel67 Theorem 9.5。この記事では証明しない)。
$A,\Sigma$ を行列とする。$dX=AX\,dt+\Sigma\,dB$ の解は $X_t=e^{tA}x+\int_0^te^{(t-s)A}\Sigma\,dB_s$ である(Nel67 Theorem 8.2)。$A$ の固有値の実部がすべて負なら、$Q:=\int_0^\infty e^{sA}\Sigma\Sigma^{\mathsf T}e^{sA^{\mathsf T}}\,ds$ は収束し、$N(0,Q)$ は不変分布である。被積分関数の $s$ についての導関数を積分すると、$AQ+QA^{\mathsf T}+\Sigma\Sigma^{\mathsf T}=0$ である(Lyapunov 方程式)。
| 主張 | 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|---|
| thm-ou-stationary | $\theta>0$ | $\theta=0$(Brown 運動)、$\theta< 0$ | 分散が発散し、不変確率測度がない |
| Gauss 型の不変分布 | ドリフトの線形性 | $dX=-X^3\,dt+\sqrt2\,dB$ | 不変分布は $e^{-x^4/4}$ に比例する |
| thm-ou-doob | Gauss 過程であること | $X_t=\xi(-1)^{N_t}$($\xi=\pm1$、$N$ は Poisson 過程) | Markov で定常で共分散は指数関数だが、Gauss でない |
| thm-ou-doob | Markov 性 | 共分散 $(1+\lvert t\rvert)e^{-\lvert t\rvert}$ の定常 Gauss 過程 | 共分散が指数関数でない |
| thm-ou-doob | 共分散の連続性 | 独立な $N(0,1)$ の族 $(X_t)$ | 定常 Gauss で Markov だが、$c(t)=\mathbf{1}_{\{t=0\}}$ |
| thm-ou-spectrum の収束 | $L^2$ から一様ノルムへ | $f=\operatorname{sgn}x$ | $\sup_x\lvert P_tf(x)-\int f\,d\gamma\rvert=1$(すべての $t$) |
| thm-ou-mehler の収束 | $\rho< 1$ | $\rho\to1$ | $M_\rho(x,x)\to\infty$(核は $\delta$ に近づく) |
非線形のドリフト:Fokker–Planck方程式 の定理「流束が消える密度」を $U=x^4/4$、$\nu=1$ に当てる。
電信過程:$N$ を強度 $\lambda$ の Poisson過程 とし、$\xi$ は $N$ と独立で一様に $\pm1$ の値をとるとする。$E[X_sX_t]=E[(-1)^{N_{\lvert t-s\rvert}}]=e^{-2\lambda\lvert t-s\rvert}$ である。値は $\pm1$ だけである。
Markov 性:$\int(1+\lvert t\rvert)e^{-\lvert t\rvert}e^{-i\xi t}\,dt=4/(1+\xi^2)^2>0$ なので、Bochnerの定理 からこの関数は定常過程の共分散である。$r(t):=(1+\lvert t\rvert)e^{-\lvert t\rvert}$ は $r(1)^2\ne r(2)$ を満たすので、prf-ou-doob から Markov でない。
一様ノルム:$P_tf(x)=P(\rho x+\sqrt{1-\rho^2}Z>0)-P(\rho x+\sqrt{1-\rho^2}Z< 0)\to1$($x\to\infty$)で、$\int f\,d\gamma=0$ である。各点の収束は $x$ について一様でなく、$x$ の遠くから出発すると $\log\lvert x\rvert$ の程度の時間がかかる。
核:$M_\rho(x,x)=(1-\rho^2)^{-1/2}\exp(\rho x^2/(1+\rho))$ である。
Langevin方程式から始まる理論が、1930 年の Ornstein と Uhlenbeck の Brown 運動の理論に至った(Nel67 第 9 章)。その本来の対象は ex-ou-position の速度と位置の組で、文献によっては位置のほうをこの名で呼ぶ。thm-ou-doob は Doob の定理の名で知られる。
thm-ou-solution、thm-ou-gauss の式は Nel67 Theorem 8.2、9.1(速度の場合、$\sigma^2=2\beta^2D$ の記法)にある。半群の積分表示は Led99 (1.12)(時間の正規化が 2 倍違う)を見よ。この記事の thm-ou-mehler の証明は、積分表示 $\mathit{He}_n(x)=E[(x+iZ)^n]$ から直接に和を求めるものとしてここに書いた。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する