標本平均の分散

表なら $1$、裏なら $0$ をとる確率変数を $X_1,X_2$ とし、2 枚の公正な硬貨を独立に投げる。1 枚について $E[X_i]=\frac12$、$V(X_i)=\frac12\cdot\bigl(\frac12\bigr)^2+\frac12\cdot\bigl(\frac12\bigr)^2=\frac14$ である。
平均 $M=\frac{X_1+X_2}2$ は、$0,\frac12,1$ をそれぞれ確率 $\frac14,\frac12,\frac14$ でとる。

• $E[M]=0\cdot\frac14+\frac12\cdot\frac12+1\cdot\frac14=\frac12$。
• $E[M^2]=0+\frac14\cdot\frac12+1\cdot\frac14=\frac38$ なので、$V(M)=\frac38-\frac14=\frac18$。
  1 枚の分散 $\frac14$ の半分になった。

公正なさいころの目 $X$ は $E[X]=\frac72$、$V(X)=\frac{35}{12}$ である。2 個を独立に振り、目の平均 $M$ の分布を 36 通りから数えると次のようになる（確率は $\frac1{36}$ を単位とする）。

$E[M]=\frac72$ で、分散は左右対称に組にして
$$ V(M)=\frac{2(6.25\cdot1+4\cdot2+2.25\cdot3+1\cdot4+0.25\cdot5)}{36}=\frac{2\cdot26.25}{36}=\frac{35}{24} $$
である。これも 1 個の分散 $\frac{35}{12}$ の半分である。

$X$ を公正な硬貨（表 $1$、裏 $0$）とする。$V(X)=\frac14$ である。

• $\mathrm{Cov}(X,X)=V(X)=\frac14$。
• $\mathrm{Cov}(1-X,X)$：(4) で $c=-1$、$Z=0$、$d=1$ とすると $-\mathrm{Cov}(X,X)=-\frac14$。直接でも、$X(1-X)$ はつねに $0$ なので $E[X(1-X)]-E[X]E[1-X]=0-\frac12\cdot\frac12=-\frac14$。
• 独立な 2 枚 $X,Y$：$XY=1$ となるのは 2 枚とも表のときで確率 $\frac14$ なので、$E[XY]=\frac14$ である。(3) より $\mathrm{Cov}(X,Y)=\frac14-\frac12\cdot\frac12=0$。

さいころの目 $X$（$V(X)=\frac{35}{12}$）について 3 つの場合を比べる。

• 独立なもう 1 個 $Y$ と足す：$\mathrm{Cov}=0$ なので $V(X+Y)=\frac{35}{12}+\frac{35}{12}=\frac{35}6$。
• 同じ $X$ と足す：$V(X+X)=V(2X)=4\cdot\frac{35}{12}=\frac{35}3$。補題の式でも $\frac{35}{12}+\frac{35}{12}+2\cdot\frac{35}{12}=\frac{35}3$。
• 裏の目 $7-X$ と足す：$X+(7-X)=7$ は定数なので分散は $0$。補題の式でも $\mathrm{Cov}(X,7-X)=-\frac{35}{12}$ から $\frac{35}{12}+\frac{35}{12}-2\cdot\frac{35}{12}=0$。

さいころ（$\sigma^2=\frac{35}{12}$）を独立に $n$ 個振った目の平均について、定理は $V(\bar X)=\frac{35}{12n}$ を主張する。

• $n=2$：$\frac{35}{24}$。ex-vsm-dice2 で 36 通りを数えた値と一致する。
• $n=3$：$\frac{35}{36}$。216 通りを数え上げても同じ値になる。
• $n=4$：$\frac{35}{48}$、標準偏差は $\sqrt{35/48}=0.85\ldots$ で、1 個のときの $\sqrt{35/12}=1.70\ldots$（約 $1.71$）のちょうど半分である。

1 回の測定の誤差の標準偏差が $\sigma=10$ の測定器で、独立に $n$ 回測って平均する。

• $n=25$：平均の標準偏差は $\frac{10}{\sqrt{25}}=2$。
• $n=100$：$\frac{10}{\sqrt{100}}=1$。
  標準偏差を半分にするには、回数を 4 倍にしなければならない。$\frac{\sigma}n$ ではなく $\frac{\sigma}{\sqrt n}$ でしか減らないからである。

$X$ を分散 $\sigma^2>0$ の確率変数とし、$X_1=X_2=\cdots=X_n=X$ とする。どれも期待値と分散は同じだが、$\mathrm{Cov}(X_i,X_j)=\sigma^2\ne0$ で無相関ではない。このとき $\bar X=X$ なので $V(\bar X)=\sigma^2$ であり、$\frac{\sigma^2}n$ にはならない。同じ測定器の同じ癖を $n$ 回拾っても、精度は上がらない。

さいころの目 $X$ と、その裏の目 $X_2:=7-X$ を考える。どちらも期待値 $\frac72$、分散 $\frac{35}{12}$ である。$\mathrm{Cov}(X,7-X)=-\frac{35}{12}$（ex-vsm-sum）で、無相関ではない。平均 $\frac{X+(7-X)}2=\frac72$ はつねに一定なので、分散は $0$ であり、定理の $\frac{35}{24}$ より小さい。無相関の仮定を外すと、分散は $\frac{\sigma^2}n$ より大きくも小さくもなりうる。

密度関数 $w(t)=\frac1{\pi(1+t^2)}$ の Cauchy 分布に従う確率変数は、$E|X|=\infty$ で期待値も分散ももたない（確率分布の中央値、GS06 Example 6.28）。この分布に従う独立な $n$ 個の確率変数の平均は、$n$ によらず再び同じ Cauchy 分布に従うことが知られている（GS06 §10.3、p. 401。ここでは証明しない）。つまり、何個平均しても分布の広がりは変わらない。「平均をとればばらつきは $\frac1{\sqrt n}$ で減る」という主張は、分散が有限という仮定を外すと成り立たない。

$X$ が $-1,0,1$ を確率 $\frac13$ ずつとり、$Y:=X^2$ とする。$E[X]=0$、$E[XY]=E[X^3]=\frac{-1+0+1}3=0$ なので、$\mathrm{Cov}(X,Y)=0-0\cdot E[Y]=0$ で無相関である。しかし $P(X=0,\,Y=0)=\frac13$ に対し $P(X=0)P(Y=0)=\frac13\cdot\frac13=\frac19$ なので、独立ではない。prop-vsm-independent の逆「無相関ならば独立」はこの例で破れる。thm-vsm-main は独立性ではなく無相関だけを仮定しているので、独立でない確率変数の組でも、どの 2 つも無相関で期待値と分散がそろっていれば使える（この $X,Y$ は期待値も分散も違うので、定理の仮定は満たさない）。