von Mises分布

同義語:フォン・ミーゼス分布von Mises distributioncircular normal distribution

概要

von Mises分布(von Mises distribution)とは、円周上の角度 $\theta$ の分布で、平均の向き $\mu$ と集中度 $\kappa\ge0$ について密度が $e^{\kappa\cos(\theta-\mu)}/(2\pi I_0(\kappa))$ で与えられるもの($I_0$ は変形 Bessel 関数)であり、円周上の正規分布の類似である。$\kappa=0$ で一様分布、$\kappa\to\infty$ で $N(\mu,1/\kappa)$ に近づき、1 次の三角積率を固定した円周上の密度の中でエントロピーを最大にする。平均合成長 $\bar R$ が $0$ と $1$ の間なら最尤推定量はただ 1 つあり、平均の向きは単位円上の点の平均の向き、集中度は $I_1/I_0$ の逆関数で $\bar R$ から定まる。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 正規分布, 最尤推定, 指数型分布族

風向き、1 日の中の時刻、動物の移動の向きのように、角度で測る量がある。角度は $0$ と $2\pi$ が同じ点を表すので、原点の選び方によって算術平均が大きく変わってしまう。たとえば $1^\circ$ と $359^\circ$ の算術平均は $180^\circ$ だが、原点を $180^\circ$ に移して測り直すと平均は $0^\circ$ になる(Bis06 p. 105)。このような量に使う、円周上の正規分布の類似が von Mises 分布 である。
この記事では、定義と正規化定数、三角積率、平均の向きと集中度、集中度が大きいときの正規分布への近づき方、円周上の最大エントロピーによる特徴づけ、最尤推定の存在と一意性を証明し、球面への一般化(von Mises–Fisher 分布)に触れる。記法は 正規分布 と 最尤推定 にそろえる。

定義と使える条件

角度 $\theta$ は円周 $\mathbb T:=\mathbb R/2\pi\mathbb Z$ の点とし、必要に応じて区間 $[-\pi,\pi)$ の代表で表す。$\mathbb T$ 上の密度は、$\int_{-\pi}^{\pi}f(\theta)\,d\theta=1$ を満たす周期 $2\pi$ の非負関数である。整数 $p\ge0$ と $\kappa\ge0$ について
$$ I_p(\kappa):=\frac1{2\pi}\int_{-\pi}^{\pi}e^{\kappa\cos\theta}\cos p\theta\,d\theta $$
とおく(prop-vm-bessel により第 1 種の変形 Bessel関数 に一致する)。

von Mises 分布

$\mu\in\mathbb T$、$\kappa\ge0$ とする。$\mathbb T$ 上の密度
$$ f(\theta;\mu,\kappa)=\frac{1}{2\pi I_0(\kappa)}\exp\bigl(\kappa\cos(\theta-\mu)\bigr) $$
をもつ分布を von Mises 分布 $\mathrm{VM}(\mu,\kappa)$ という。$\mu$ を 平均の向き、$\kappa$ を 集中度 という。

$\kappa=0$ なら一様分布である。$\kappa>0$ なら密度は $\theta=\mu$ で最大、$\theta=\mu+\pi$ で最小になり、$\mu$ について対称な山を 1 つもつ。この分布は 円周正規分布(circular normal distribution)ともよばれる(Bis06 p. 108)。使える条件は次のとおりである。

  • (i) 向きのある量:$\theta$ と $\theta+2\pi$ を同じとみなす量に使う。$\theta$ と $\theta+\pi$ も同じとみなす量(向きのない線の傾き)には、角度を 2 倍してから使う。
  • (ii) 山が 1 つで左右対称:山が 2 つある、あるいは非対称なデータには、混合分布など別のモデルを使う。
  • (iii) 角度の単位:式はすべて弧度法による。度で測ったデータは $\pi/180$ を掛けてから使う。

円周上の平均と三角積率

円周上の確率変数 $\theta$ について、複素数 $E[e^{i\theta}]=E[\cos\theta]+iE[\sin\theta]$ を 1 次の三角積率 という。これを $\rho e^{i\mu_0}$($\rho\ge0$)と極形式で書き、$\rho$ を 平均合成長、$\rho>0$ のとき $\mu_0$ を 平均の向き という。$\theta$ を $\theta+\alpha$ にずらすと $E[e^{i\theta}]$ は $e^{i\alpha}$ 倍になるので、平均の向きは原点の選び方に応じて正しくずれ、$\rho$ は変わらない。$1-\rho$ を 円周分散 という。標本 $\theta_1,\dots,\theta_n$ では
$$ \bar C:=\frac1n\sum_j\cos\theta_j,\qquad \bar S:=\frac1n\sum_j\sin\theta_j,\qquad \bar R:=\sqrt{\bar C^2+\bar S^2} $$
とおき、$\bar R>0$ なら $\bar C+i\bar S=\bar Re^{i\bar\theta}$ で標本の平均の向き $\bar\theta$ を定める(Bis06 p. 106)。これは角度を単位円上の点とみなして平均をとり、その向きを読むことである。

正規化定数と三角積率
  1. $I_p(\kappa)=\displaystyle\sum_{k=0}^\infty\frac{(\kappa/2)^{2k+p}}{k!\,(k+p)!}$ である。特に $I_0(0)=1$、$p\ge1$ で $I_p(0)=0$ で、$I_p$ は $\kappa$ について微分でき $I_0'=I_1$ である。
  2. $\theta\sim\mathrm{VM}(\mu,\kappa)$ なら、整数 $p\ge1$ について
    $$ E[\cos p(\theta-\mu)]=\frac{I_p(\kappa)}{I_0(\kappa)},\qquad E[\sin p(\theta-\mu)]=0,\qquad E[e^{ip\theta}]=\frac{I_p(\kappa)}{I_0(\kappa)}e^{ip\mu} $$
    である。特に平均合成長は $A(\kappa):=I_1(\kappa)/I_0(\kappa)$ で、$\kappa>0$ なら平均の向きは $\mu$ である。
指数関数を展開して項別に積分する
  1. 級数の計算は折りたたむ。
    1 の計算を開く

    $e^{\kappa\cos\theta}=\sum_n\kappa^n\cos^n\theta/n!$ は $\theta$ について一様に収束するので項別に積分できる。$\cos^n\theta=2^{-n}\sum_{j=0}^n\binom nje^{i(n-2j)\theta}$ で、$\frac1{2\pi}\int_{-\pi}^{\pi}e^{im\theta}\cos p\theta\,d\theta$ は $m=\pm p$ のとき($p\ge1$ なら各 $\frac12$、$p=0$ なら $1$)以外は $0$ である。$n-2j=\pm p$ となる $j$ は $n-p$ が非負の偶数のときに限り、二項係数は $\binom n{(n-p)/2}$ で共通なので、$n=p+2k$ のとき $\frac1{2\pi}\int_{-\pi}^{\pi}\cos^n\theta\cos p\theta\,d\theta=2^{-n}\binom{n}{(n-p)/2}$ である。$\frac{\kappa^n}{n!}2^{-n}\frac{n!}{k!(k+p)!}=\frac{(\kappa/2)^{2k+p}}{k!(k+p)!}$ から級数を得る。収束半径は無限大なので項別に微分でき、$I_0'(\kappa)=\sum_{k\ge1}\frac{2k(\kappa/2)^{2k-1}}{2(k!)^2}=\sum_{k\ge0}\frac{(\kappa/2)^{2k+1}}{k!(k+1)!}=I_1(\kappa)$ である。

  2. $\phi=\theta-\mu$ と置換すると、密度の周期性から $E[\cos p\phi]=\frac1{2\pi I_0(\kappa)}\int_{-\pi}^{\pi}e^{\kappa\cos\phi}\cos p\phi\,d\phi=\frac{I_p(\kappa)}{I_0(\kappa)}$ である。$e^{\kappa\cos\phi}\sin p\phi$ は奇関数なので $E[\sin p\phi]=0$ である。$e^{ip\theta}=e^{ip\mu}(\cos p\phi+i\sin p\phi)$ から最後の式を得る。$\kappa>0$ なら級数から $I_1(\kappa)>0$ なので $A(\kappa)>0$ である。$\square$

公式の表

$\theta\sim\mathrm{VM}(\mu,\kappa)$、$A(\kappa)=I_1(\kappa)/I_0(\kappa)$ とする。

量式使える条件根拠
正規化定数$2\pi I_0(\kappa)$、$I_0(\kappa)=\sum_k\frac{(\kappa/2)^{2k}}{(k!)^2}$—prop-vm-bessel
$p$ 次の三角積率$E[e^{ip\theta}]=\frac{I_p(\kappa)}{I_0(\kappa)}e^{ip\mu}$整数 $p\ge1$prop-vm-bessel
平均合成長・円周分散$A(\kappa)$、$1-A(\kappa)$—prop-vm-bessel
$A$ の性質$A=(\log I_0)'$、$A'=\mathrm{Var}(\cos(\theta-\mu))>0$、$A(0)=0$、$A(\infty)=1$—thm-vm-resultant
集中度が大きいとき$\sqrt\kappa(\theta-\mu)\to N(0,1)$、$I_0(\kappa)\sim e^\kappa/\sqrt{2\pi\kappa}$$\kappa\to\infty$thm-vm-normal
最大エントロピー1 次の三角積率を固定した密度の中でエントロピーが最大平均合成長 $< 1$thm-vm-maxent
最尤推定量$\hat\mu=\bar\theta$、$\hat\kappa=A^{-1}(\bar R)$$0< \bar R< 1$thm-vm-mle
正規分布の条件付け2 次元正規分布 $N(r_0e^{i\mu},\sigma^2I)$ を半径 $r$ の円に制限すると $\mathrm{VM}(\mu,rr_0/\sigma^2)$共分散が $\sigma^2I$prop-vm-gauss
球面版($\mathbb R^3$)密度 $\frac{\kappa}{4\pi\sinh\kappa}e^{\kappa\,\mu\cdot x}$、$E[\mu\cdot x]=\coth\kappa-\frac1\kappa$$\kappa>0$prop-vm-fisher

主定理

集中度が大きいときの正規近似

正規分布への近づき方

$\theta\sim\mathrm{VM}(\mu,\kappa)$ とし、$\theta-\mu$ を $[-\pi,\pi)$ の代表で表して $\phi_\kappa:=\sqrt\kappa(\theta-\mu)$ とおく。$\kappa\to\infty$ のとき

  1. $\sqrt{2\pi\kappa}\,e^{-\kappa}I_0(\kappa)\to1$ である。
  2. $\phi_\kappa$ の密度は標準正規分布の密度 $\varphi$ に $L^1$ で収束する。特に $\phi_\kappa$ は $N(0,1)$ に全変動距離で(したがって分布で)収束する。
  3. $E[\phi_\kappa^2]\to1$ であり、$1-A(\kappa)=E[1-\cos(\theta-\mu)]\le\frac{E[\phi_\kappa^2]}{2\kappa}\to0$ である。
    $\kappa\to0$ のときは密度が一様に $\frac1{2\pi}$ に収束する。
優関数 $e^{-2\phi^2/\pi^2}$ による

$h_\kappa(\phi):=\exp\bigl(-\kappa(1-\cos(\phi/\sqrt\kappa))\bigr)1_{\{\lvert\phi\rvert< \pi\sqrt\kappa\}}$ とおく。$\phi_\kappa$ の密度は $g_\kappa:=h_\kappa/Z_\kappa$、$Z_\kappa:=\int h_\kappa$ である。
各点の収束と優関数。 $\cos u=1-\frac{u^2}2+O(u^4)$ から、各 $\phi$ で $h_\kappa(\phi)\to e^{-\phi^2/2}$ である。$\lvert u\rvert\le\pi$ では $\lvert\sin(u/2)\rvert\ge\lvert u\rvert/\pi$($\sin$ の $[0,\pi/2]$ での凹性)なので $1-\cos u=2\sin^2(u/2)\ge2u^2/\pi^2$ であり、$u=\phi/\sqrt\kappa$ として $h_\kappa(\phi)\le e^{-2\phi^2/\pi^2}$ を得る。右辺は $\phi^2$ を掛けても可積分である。
1。 優収束定理 により $Z_\kappa\to\int e^{-\phi^2/2}d\phi=\sqrt{2\pi}$ である。$\theta-\mu=\phi/\sqrt\kappa$ と置換すると $2\pi I_0(\kappa)=\int_{-\pi}^{\pi}e^{\kappa\cos u}du=\frac{e^\kappa}{\sqrt\kappa}Z_\kappa$ なので、$\sqrt{2\pi\kappa}e^{-\kappa}I_0(\kappa)=Z_\kappa/\sqrt{2\pi}\to1$ である。
2。 $g_\kappa\to\varphi$ が各点で成り立つ。$\int\lvert g_\kappa-\varphi\rvert=2\int(\varphi-g_\kappa)^+$(両方とも全積分が $1$)で、$(\varphi-g_\kappa)^+\le\varphi$ なので、優収束定理により $0$ に収束する。
3。 $\phi^2g_\kappa\le\phi^2e^{-2\phi^2/\pi^2}/Z_\kappa$ で $Z_\kappa$ は正の値に収束するので、優収束定理により $E[\phi_\kappa^2]\to\int\phi^2\varphi=1$ である。$1-\cos u\le u^2/2$ から不等式を得る。$\kappa\to0$ については、$\lvert e^{\kappa\cos\theta}-1\rvert\le e^\kappa-1$ と $I_0(\kappa)\to1$ による。$\square$

2 から、$\kappa$ が大きいとき $\mathrm{VM}(\mu,\kappa)$ はおよそ $N(\mu,1/\kappa)$ で、集中度 $\kappa$ は正規分布の分散の逆数(精度)の役割を果たす(Bis06 p. 108)。$\kappa$ が小さいときはこの対応は成り立たず、分布は一様分布に近い。

平均合成長と集中度の対応

集中度の関数としての平均合成長

$A(\kappa)=I_1(\kappa)/I_0(\kappa)$ について次が成り立つ。

  1. $A(\kappa)=\dfrac{d}{d\kappa}\log I_0(\kappa)$ である。
  2. $\theta\sim\mathrm{VM}(\mu,\kappa)$ とすると $A'(\kappa)=\mathrm{Var}\bigl(\cos(\theta-\mu)\bigr)>0$ である。
  3. $A(0)=0$、$\lim_{\kappa\to\infty}A(\kappa)=1$ である。
    したがって $A$ は $[0,\infty)$ から $[0,1)$ への狭義増加な連続の全単射で、逆関数 $A^{-1}\colon[0,1)\to[0,\infty)$ がある。
正規化定数の対数を 2 回微分する

1 は prop-vm-bessel の $I_0'=I_1$ による。2:積分記号の下で微分して(被積分関数とその $\kappa$ 微分は有界な範囲の $\kappa$ で一様に有界)
$$ \frac{d^2}{d\kappa^2}\log I_0=\frac{I_0''}{I_0}-\Bigl(\frac{I_0'}{I_0}\Bigr)^2,\qquad \frac{I_0''(\kappa)}{I_0(\kappa)}=\frac{\int\cos^2u\,e^{\kappa\cos u}du}{\int e^{\kappa\cos u}du}=E[\cos^2(\theta-\mu)] $$
で、$I_0'/I_0=E[\cos(\theta-\mu)]$ なので、$A'$ は $\cos(\theta-\mu)$ の分散である。密度はいたるところ正なので $\cos(\theta-\mu)$ は定数でなく、分散は正である。3:$A(0)=I_1(0)/I_0(0)=0$ は prop-vm-bessel の 1 による。極限は thm-vm-normal の 3 による。連続性と狭義増加から全単射である。$\square$

$A$ は 指数型分布族 の対数分配関数の導関数で、2 はその 2 階導関数が十分統計量の分散になるという一般の事実の具体形である。$\theta$ の密度は
$$ f(\theta)=\frac1{2\pi}\exp\bigl(\eta_1\cos\theta+\eta_2\sin\theta-\log I_0(\lvert\eta\rvert)\bigr),\qquad \eta=\kappa(\cos\mu,\sin\mu) $$
と書けるので、十分統計量 $(\cos\theta,\sin\theta)$ と自然母数 $\eta\in\mathbb R^2$ をもつ指数型分布族である。

最大エントロピーによる特徴づけ

$\mathbb T$ 上の密度 $g$ の(微分)エントロピー を $h(g):=-\int_{-\pi}^{\pi}g\log g\,d\theta$ とする($0\log0=0$。値は $-\infty$ でもよい)。

1 次の三角積率を固定したときの最大エントロピー

$m\in\mathbb C$、$\lvert m\rvert< 1$ とし、$\mathcal G_m$ を $\int g(\theta)e^{i\theta}d\theta=m$ を満たす $\mathbb T$ 上の密度 $g$ の全体とする。$\kappa:=A^{-1}(\lvert m\rvert)$、$\mu:=\arg m$($m=0$ なら任意)とおくと、$f=f(\cdot;\mu,\kappa)$ は $\mathcal G_m$ に属し、すべての $g\in\mathcal G_m$ について $h(g)\le h(f)$ である。等号は $g=f$(ほとんどいたるところ)のときに限る。

Kullback–Leibler 情報量の非負性

thm-vm-resultant により $\kappa$ が定まり、prop-vm-bessel の 2 から $f$ の 1 次の三角積率は $A(\kappa)e^{i\mu}=m$ なので $f\in\mathcal G_m$ である。$\log f(\theta)=-\log(2\pi I_0(\kappa))+\kappa\cos(\theta-\mu)$ で、$\cos(\theta-\mu)=\mathrm{Re}(e^{i\theta}e^{-i\mu})$ だから、$g\in\mathcal G_m$ なら
$$ \int g\log f\,d\theta=-\log(2\pi I_0(\kappa))+\kappa\,\mathrm{Re}(me^{-i\mu})=-\log(2\pi I_0(\kappa))+\kappa\lvert m\rvert $$
で、$g$ によらない。$g=f$ とおけば右辺は $-h(f)$ に等しい。よって
$$ h(g)=-\int g\log f\,d\theta-\int g\log\frac gf\,d\theta=h(f)-D(g\Vert f) $$
である($h(g)=-\infty$ の場合も含む)。Kullback–Leibler情報量 $D(g\Vert f)$ は非負で、$0$ になるのは $g=f$ がほとんどいたるところ成り立つときに限るので、主張を得る。$\square$

$m=0$ の場合は $\kappa=0$ で、一様分布がエントロピー最大になる。実数直線上で平均と分散を固定したときの最大エントロピーの分布が正規分布であることの、円周上の類似である。

最尤推定

最尤推定量の存在と一意性

$\theta_1,\dots,\theta_n$ を $\mathrm{VM}(\mu,\kappa)$ からの独立な標本とし、$\bar R$ と $\bar\theta$ を上のとおりとする。

  1. $0< \bar R< 1$ なら、最尤推定量はただ 1 つあり、$\hat\mu=\bar\theta$、$\hat\kappa=A^{-1}(\bar R)>0$ である。
  2. $\bar R=0$ なら、尤度は $\kappa=0$ のとき($\mu$ は任意)に限り最大になる。
  3. $\bar R=1$(すべての $\theta_j$ が等しい)なら、最尤推定量は存在しない。
$\kappa$ の関数として凹

$\bar R>0$ なら $\sum_j\cos(\theta_j-\mu)=n\,\mathrm{Re}(\bar Re^{i\bar\theta}e^{-i\mu})=n\bar R\cos(\bar\theta-\mu)$ である($\bar R=0$ ならこの和は $0$)。よって対数尤度は
$$ \ell(\mu,\kappa)=n\bigl(\kappa\bar R\cos(\bar\theta-\mu)-\log I_0(\kappa)-\log2\pi\bigr) $$
である。$\kappa>0$ を固定すると $\mu=\bar\theta$ のときに限り最大で、値は $n\,q(\kappa)$、$q(\kappa):=\kappa\bar R-\log I_0(\kappa)-\log2\pi$ である。$\kappa=0$ では $\ell$ は $\mu$ によらず $n\,q(0)$ である。thm-vm-resultant から $q'(\kappa)=\bar R-A(\kappa)$ は狭義減少である。

  1. $q'(0)=\bar R>0$、$q'(\kappa)\to\bar R-1< 0$ なので、$q'$ はただ 1 点 $\hat\kappa=A^{-1}(\bar R)>0$ で $0$ になり、$q$ はそこで最大になる。$\ell(\mu,\kappa)\le nq(\kappa)\le nq(\hat\kappa)$ で、等号は $\kappa=\hat\kappa$ かつ $\mu=\bar\theta$ のときに限る。
  2. $\ell=n(-\log I_0(\kappa)-\log2\pi)$ で、$q'(\kappa)=-A(\kappa)< 0$($\kappa>0$)なので $\kappa=0$ に限り最大である。
  3. $q'(\kappa)=1-A(\kappa)>0$ なので $q$ は狭義増加である。任意の $(\mu,\kappa)$ について $\ell(\mu,\kappa)\le nq(\kappa)< nq(\kappa+1)=\ell(\bar\theta,\kappa+1)$ で、最大値をとる点はない。$\square$

$\hat\mu$ と $\hat\kappa$ を決める式($\sum_j\sin(\theta_j-\hat\mu)=0$ と $A(\hat\kappa)=\frac1n\sum_j\cos(\theta_j-\hat\mu)$)は Bis06 pp. 108–109 にある。$A^{-1}$ は初等関数で書けないので、数値的に解く。$\bar R$ が $1$ に近いと $\hat\kappa$ は大きい。$\frac{u^2}2-\frac{u^4}{24}\le1-\cos u\le\frac{u^2}2$ と、thm-vm-normal の証明と同じ優関数による $E[\phi_\kappa^2]\to1$、$E[\phi_\kappa^4]\to3$ から $\kappa(1-A(\kappa))\to\frac12$ なので、$\hat\kappa\approx\frac1{2(1-\bar R)}$ が目安になる(精度は下の例題)。

正規分布からの導出と球面版

2 次元正規分布の円への条件付け

$(X_1,X_2)$ が平均 $(r_0\cos\mu,r_0\sin\mu)$($r_0\ge0$)、共分散 $\sigma^2I_2$ の 2 次元 正規分布 に従うとし、極座標 $X_1+iX_2=Re^{i\Theta}$ で表す。$R=r>0$ を与えたもとでの $\Theta$ の条件付き分布は $\mathrm{VM}(\mu,rr_0/\sigma^2)$ である。

証明を開く

極座標の変換の Jacobi 行列式は $r$ なので、$(R,\Theta)$ の同時密度は $\frac{r}{2\pi\sigma^2}\exp\bigl(-\frac{r^2+r_0^2-2rr_0\cos(\theta-\mu)}{2\sigma^2}\bigr)$ である。$r$ を固定すると $\theta$ についての因子は $\exp\bigl(\frac{rr_0}{\sigma^2}\cos(\theta-\mu)\bigr)$ だけで、正規化すれば $\mathrm{VM}(\mu,rr_0/\sigma^2)$ の密度である。$\square$

$r=1$ の場合が Bis06 pp. 107–108 の導出である。共分散が $\sigma^2I_2$ でないと、条件付き分布は von Mises 分布にならない(反例の表の 3 行目)。

球面上の版

$S^2\subset\mathbb R^3$ を単位球面、$d\sigma$ をその面積要素、$\mu\in S^2$、$\kappa>0$ とする。
$$ \int_{S^2}e^{\kappa\,\mu\cdot x}\,d\sigma(x)=\frac{4\pi\sinh\kappa}{\kappa} $$
であり、密度 $\frac{\kappa}{4\pi\sinh\kappa}e^{\kappa\,\mu\cdot x}$ に従う $x$ について $E[\mu\cdot x]=\coth\kappa-\frac1\kappa$ である。

証明を開く

回転で $\mu=(0,0,1)$ としてよい。球面座標 $x=(\sin\varphi\cos\psi,\sin\varphi\sin\psi,\cos\varphi)$ で $d\sigma=\sin\varphi\,d\varphi\,d\psi$ であり、$t=\cos\varphi$ と置換すると $\int_{S^2}e^{\kappa x_3}d\sigma=2\pi\int_{-1}^1e^{\kappa t}dt=\frac{2\pi(e^\kappa-e^{-\kappa})}{\kappa}$ である。$E[x_3]$ は正規化定数の対数の $\kappa$ 微分で、$\frac{d}{d\kappa}\log\frac{\sinh\kappa}\kappa=\coth\kappa-\frac1\kappa$ である。$\square$

この分布を Fisher 分布(Fis53)または von Mises–Fisher 分布 という。一般の $S^{q-1}\subset\mathbb R^q$ でも密度 $e^{\kappa\,\mu\cdot x}$ に比例する分布が同じように定義され、$q=2$ がこの記事の von Mises 分布である。

計算の手順

角度のデータ $\theta_1,\dots,\theta_n$ に von Mises 分布を当てはめる手順は次のとおり。

  1. 単位円上で平均する。 弧度に直し(向きのない量なら角度を 2 倍し)、$\bar C$、$\bar S$、$\bar R$、$\bar\theta$ を計算する。
  2. 推定する。 $\hat\mu=\bar\theta$、$\hat\kappa=A^{-1}(\bar R)$ を数値的に解く(thm-vm-mle)。
  3. 確率を計算する。 $\hat\kappa$ が大きければ $N(\hat\mu,1/\hat\kappa)$ で近似し(thm-vm-normal)、小さければ密度を数値積分する。

例題

風向きの平均と集中度

風向き $350^\circ,\ 10^\circ,\ 20^\circ,\ 340^\circ,\ 5^\circ,\ 15^\circ$ の平均の向き、平均合成長、集中度の最尤推定値を求め、算術平均と比べよ。
使う公式:節「円周上の平均と三角積率」、thm-vm-mle。
答え:$\bar C\approx0.968520$、$\bar S\approx0.0576625$、$\bar R\approx0.970235$、$\bar\theta\approx3.41^\circ$、$\hat\kappa\approx17.06$(目安の $1/(2(1-\bar R))\approx16.80$)。算術平均は $123.3^\circ$ で、北寄りの風を南東向きと読み誤る。$1^\circ$ と $359^\circ$ の 2 点なら $\bar\theta=0^\circ$、$\bar R=\cos1^\circ\approx0.999848$ である。

正規近似の精度

$\theta\sim\mathrm{VM}(0,\kappa)$ について、$P(\lvert\theta\rvert\le\pi/4)$ を、$\kappa=2$ と $\kappa=10$ で、正規近似 $N(0,1/\kappa)$ の値と比べよ。
使う公式:def-vm-main、thm-vm-normal。
答え:$\kappa=2$ では $A(2)\approx0.697775$、$P\approx0.673845$ に対し正規近似は $0.733311$ で、差が大きい。$\kappa=10$ では $P\approx0.982957$ に対し正規近似は $0.986996$ である。

同じ平均合成長の別の分布

$\kappa=1.5$ の von Mises 分布と、1 次の三角積率が等しい巻き込み正規分布($N(0,s^2)$ を $2\pi$ ごとに巻き込んだもの、$e^{-s^2/2}=A(1.5)$)のエントロピーを比べよ。
使う公式:thm-vm-maxent。
答え:von Mises 分布は $h=\log(2\pi I_0(1.5))-1.5A(1.5)\approx1.44246$、巻き込み正規分布は $h\approx1.43018$ で、thm-vm-maxent のとおり von Mises 分布のほうが大きい。

使える条件と反例

各行は、対応する主張の条件を 1 つだけ外したものである。

外す条件反例成り立たなくなること
thm-vm-mle の 1 の $\bar R< 1$すべての観測が等しい($\theta_1=\dots=\theta_n$)最尤推定量が存在しない
thm-vm-maxent の $\lvert m\rvert< 1$$m=1$$\mathcal G_m$ は空で($\theta=0$ に集中した分布だけが条件を満たし、密度をもたない)、最大値をとる密度がない
prop-vm-gauss の共分散が $\sigma^2I_2$平均 $0$、共分散 $\mathrm{diag}(1,\frac12)$ を単位円に制限する条件付き密度は $e^{\frac14\cos2\theta}$ に比例し、$\theta=0,\pi$ に山が 2 つあって von Mises 分布でない
thm-vm-maxent で固定するのが 1 次の三角積率であること2 次の三角積率 $E[e^{2i\theta}]$ を固定する最大エントロピーの密度は $e^{\kappa\cos2(\theta-\mu)}$ に比例し、山が 2 つで von Mises 分布でない
反例の確かめ
確かめを開く

1 行目は thm-vm-mle の 3 である。

2 行目:$\mathrm{Re}\int g(\theta)(1-e^{i\theta})\,d\theta=\int g(\theta)(1-\cos\theta)\,d\theta=0$ で、$1-\cos\theta>0$($\theta\ne0$)なので、$g$ は $\theta\ne0$ でほとんどいたるところ $0$ になり、全積分が $1$ になれない。

3 行目:$(\cos\theta,\sin\theta)$ での密度は $\exp\bigl(-\frac12(\cos^2\theta+2\sin^2\theta)\bigr)=e^{-3/4}e^{\frac14\cos2\theta}$。von Mises 分布は $\kappa>0$ なら山が 1 つ、$\kappa=0$ なら一様なので一致しない。

4 行目:prf-vm-maxent と同じ議論を $(\cos2\theta,\sin2\theta)$ で行えばよい。$\cos2(\theta-\mu)$ は $\theta=\mu$ と $\mu+\pi$ で等しく最大になる。

よくある誤り

誤り正しくはなぜ
角度の算術平均を平均の向きとする単位円上の点の平均の向き $\bar\theta$ を使う原点の選び方で算術平均が変わる(ex-vm-wind)
$\bar R$ をそのまま集中度とする$\hat\kappa=A^{-1}(\bar R)$thm-vm-resultant、thm-vm-mle
$\kappa$ が小さいときも $N(\mu,1/\kappa)$ で近似する正規近似は $\kappa$ が大きいときだけthm-vm-normal、ex-vm-normal
向きのない量($\theta$ と $\theta+\pi$ が同じ)にそのまま当てはめる角度を 2 倍してから当てはめる2 方向に分かれたデータでは $\bar R\approx0$ となり $\hat\kappa\approx0$ になる
観測がすべて等しいときも最尤推定値を報告する最尤推定量は存在しないthm-vm-mle の 3

補足

関連する分布と使われ方

名前。 名は R. von Mises による。Bernstein–von Misesの定理・Cramér–von Mises検定 は同じ名を冠した別の結果で、この分布とは関係しない。巻き込み正規分布との違い。 実数直線上の 正規分布 $N(\mu,s^2)$ に従う $X$ を円周に巻き込んだ分布は、$E[e^{ipX}]=e^{ip\mu-p^2s^2/2}$ から $p$ 次の三角積率が $e^{-p^2s^2/2}e^{ip\mu}$ である。von Mises 分布とは一般に異なる(ex-vm-entropy では 1 次の三角積率が等しいのにエントロピーが異なる)。混合と回帰。 山が 1 つしかないので、山が複数のデータには von Mises 分布の混合を使う(Bis06 p. 110)。球面。 地磁気の向きなど 3 次元の向きのデータには prop-vm-fisher の Fisher 分布を使う。

関連項目

参考文献

[1]
Christopher M. Bishop, Pattern Recognition and Machine Learning, Springer, 2006, §2.3.8 Periodic variables(pp. 105–110):p. 105(1° と 359° の例)、p. 106(式 (2.167)–(2.169)、円周上の平均)、pp. 107–108(式 (2.173)–(2.180)、2 次元正規分布の条件付けによる導出、circular normal の名)、pp. 108–109(式 (2.181)–(2.187)、最尤推定の式)、p. 110(混合分布)
[2]
R. A. Fisher, Dispersion on a Sphere, Proceedings of the Royal Society of London, Series A 217 (1953), no. 1130, 295–305, 1953

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する