二項分布から正規分布へ

$1\le k\le n$ のとき $k\binom nk=n\binom{n-1}{k-1}$ であり、$2\le k\le n$ のとき $k(k-1)\binom nk=n(n-1)\binom{n-2}{k-2}$ である（どちらも階乗で書けば確かめられる）。$k=0$ の項は $0$ なので、二項定理により
$$ E[S_n]=\sum_{k=1}^nk\binom nkp^kq^{n-k}=np\sum_{k=1}^{n}\binom{n-1}{k-1}p^{k-1}q^{n-k}=np\,(p+q)^{n-1}=np $$
である。同様に $n\ge2$ なら $E[S_n(S_n-1)]=n(n-1)p^2(p+q)^{n-2}=n(n-1)p^2$ であり、$n=1$ なら両辺とも $0$ である。したがって
$$ V[S_n]=E[S_n^2]-E[S_n]^2=E[S_n(S_n-1)]+E[S_n]-E[S_n]^2=n(n-1)p^2+np-n^2p^2=np(1-p)=npq $$
である。$\square$

$f(t):=(1+t)\log(1+t)$ は $t>-1$ で何回でも微分でき、$f'(t)=\log(1+t)+1$、$f''(t)=\frac1{1+t}$、$f'''(t)=-\frac1{(1+t)^2}$ である。$f(0)=0$、$f'(0)=1$、$f''(0)=1$ なので、Taylorの定理（Lagrange の剰余）により、$0$ と $t$ の間の $\xi$ があって $f(t)=t+\frac{t^2}2+\frac{f'''(\xi)}6t^3$ となる。$|\xi|\le\frac12$ なので $|f'''(\xi)|=\frac1{(1+\xi)^2}\le4$ であり、$|R(t)|\le\frac46|t|^3=\frac23|t|^3$ である。$\square$

$x:=x_{n,k}$ と書き、$|x|\le A$ とする。$k=np+x\sigma_n$、$n-k=nq-x\sigma_n$ なので
$$ u:=\frac{x\sigma_n}{np}=x\sqrt{\frac q{np}},\qquad v:=-\frac{x\sigma_n}{nq}=-x\sqrt{\frac p{nq}} $$
とおくと $k=np(1+u)$、$n-k=nq(1+v)$ であり、
$$ np\,u+nq\,v=0,\qquad np\,u^2+nq\,v^2=x^2\sigma_n^2\Bigl(\frac1{np}+\frac1{nq}\Bigr)=x^2\sigma_n^2\cdot\frac1{npq}=x^2 $$
が成り立つ（以下、この 2 つの等式を (1) と呼ぶ）。$n\ge 4A^2\max\bigl(\frac qp,\frac pq\bigr)$ とすると $|u|,|v|\le\frac12$ であり、したがって $k\ge\frac{np}2>0$、$n-k\ge\frac{nq}2>0$ なので $1\le k\le n-1$ である。以下この $n$ で考える。
thm-btn-stirling を $n!$、$k!$、$(n-k)!$ に使うと
$$ P(S_n=k)=\frac{n!}{k!\,(n-k)!}p^kq^{n-k} =\sqrt{\frac{n}{2\pi k(n-k)}}\Bigl(\frac{np}k\Bigr)^k\Bigl(\frac{nq}{n-k}\Bigr)^{n-k}e^{\theta_n-\theta_k-\theta_{n-k}} $$
となる（$n^n=n^kn^{n-k}$ と $e^{-n}=e^{-k}e^{-(n-k)}$ を使った）。3 つの因子を順に調べる。
平方根の因子：$\frac n{k(n-k)}=\frac n{np(1+u)\,nq(1+v)}=\frac1{\sigma_n^2(1+u)(1+v)}$ なので、
$$ \sigma_n\sqrt{\frac{n}{2\pi k(n-k)}}=\frac1{\sqrt{2\pi}}\cdot\frac1{\sqrt{(1+u)(1+v)}} $$
である。
冪の因子の対数は
$$ -k\log(1+u)-(n-k)\log(1+v)=-np(1+u)\log(1+u)-nq(1+v)\log(1+v) $$
である。lem-btn-log と (1) により、これは
$$ -(npu+nqv)-\frac{npu^2+nqv^2}2-\rho=-\frac{x^2}2-\rho,\qquad \rho:=np\,R(u)+nq\,R(v) $$
に等しく、
$$ |\rho|\le\frac23\bigl(np|u|^3+nq|v|^3\bigr)=\frac23|x|^3\sigma_n^3\Bigl(\frac1{(np)^2}+\frac1{(nq)^2}\Bigr)=\frac23|x|^3\,\frac{p^2+q^2}{\sqrt{npq}}\le\frac{2A^3}{3\sigma_n} $$
である（$\sigma_n^3=(npq)^{3/2}$ と $p^2+q^2\le1$ を使った）。
誤差の因子：$0<\theta_m<\frac1{12m}$ と $k\ge\frac{np}2$、$n-k\ge\frac{nq}2$ から
$$ |\theta_n-\theta_k-\theta_{n-k}|\le\frac1{12}\Bigl(\frac1n+\frac2{np}+\frac2{nq}\Bigr)\le\frac1{12}\cdot\frac{3}{npq}=\frac1{4\sigma_n^2} $$
である（$\frac1n\le\frac1{npq}$、$\frac1{np}+\frac1{nq}=\frac1{npq}$ を使った）。
以上から
$$ \frac{\sigma_n\,P(S_n=k)}{\varphi(x)}=\frac1{\sqrt{(1+u)(1+v)}}\exp\bigl(-\rho+\theta_n-\theta_k-\theta_{n-k}\bigr) $$
である。$|u|\le A\sqrt{q/(np)}$、$|v|\le A\sqrt{p/(nq)}$、$|\rho|\le\frac{2A^3}{3\sigma_n}$、$|\theta_n-\theta_k-\theta_{n-k}|\le\frac1{4\sigma_n^2}$ はどれも $k$ によらない量で抑えられ、$n\to\infty$ で $0$ に近づく。よって右辺は $|x|\le A$ を満たす $k$ について一様に $1$ に近づく。$\square$

$M:=\max_{[a-1,b+1]}|g|$ とし、$\omega(h):=\max\{|g(s)-g(t)| : s,t\in[a-1,b+1],\ |s-t|\le h\}$ とおく。閉区間上の連続関数は一様連続なので $\omega(h)\to0$ である（この事実は証明しない）。$0< h<\min(1,b-a)$ とし、$[a,b]$ に属する格子点を $t_1< t_2<\cdots< t_r$ とする（$r\ge1$ であり、$t_1< a+h$、$t_r>b-h$）。
$$ T(h,c)-\int_{t_1}^{t_r+h}g(x)\,dx=\sum_{i=1}^r\int_{t_i}^{t_i+h}\bigl(g(t_i)-g(x)\bigr)\,dx $$
の絶対値は $rh\,\omega(h)\le(b-a+h)\,\omega(h)$ 以下である。また区間 $[t_1,t_r+h]$ と $[a,b]$ は両端でそれぞれ長さ $h$ 以下しか違わないので、$\bigl|\int_{t_1}^{t_r+h}g-\int_a^bg\bigr|\le2hM$ である。どちらの評価も $c$ によらず、$h\to0$ で $0$ に近づく。$\square$

prop-btn-mean-variance により
$$ \sigma_n^2=\sum_{k=0}^n(k-np)^2P(S_n=k)\ge\sum_{k:\ |k-np|\ge A\sigma_n}(k-np)^2P(S_n=k)\ge A^2\sigma_n^2\,P\bigl(|S_n-np|\ge A\sigma_n\bigr) $$
である。両辺を $A^2\sigma_n^2>0$ で割ればよい。$\square$

$p=\frac12$ として $S_n$ を $B(n,\frac12)$ に従う確率変数とする（どの $0< p<1$ でも同じ議論ができる）。$A>0$ を固定し、
$$ P\bigl(|Z_n|\le A\bigr)=\sum_{k:\ |x_{n,k}|\le A}P(S_n=k)=\sum_{k:\ |x_{n,k}|\le A}\frac1{\sigma_n}\varphi(x_{n,k})\bigl(1+\varepsilon_{n,k}\bigr) $$
と書く。thm-btn-local により $\varepsilon_n:=\max_{|x_{n,k}|\le A}|\varepsilon_{n,k}|\to0$ である。点 $x_{n,k}$ は格子 $-\frac{np}{\sigma_n}+\frac1{\sigma_n}\mathbb{Z}$ の点なので、lem-btn-riemann（$h=\frac1{\sigma_n}\to0$）により $J_n:=\sum_{|x_{n,k}|\le A}\frac1{\sigma_n}\varphi(x_{n,k})\to\int_{-A}^A\varphi(x)\,dx$ である。ここで、$|x_{n,k}|\le A$ を満たす格子点は $n$ が大きければすべて $0\le k\le n$ の範囲にあることに注意する（$A\sigma_n< np$ かつ $A\sigma_n< nq$ となるため）。$|P(|Z_n|\le A)-J_n|\le\varepsilon_nJ_n\to0$ なので
$$ \lim_{n\to\infty}P\bigl(|Z_n|\le A\bigr)=\int_{-A}^A\varphi(x)\,dx $$
である。一方、確率の和は $1$ なので $P(|Z_n|\le A)\le1$ であり、lem-btn-chebyshev により $P(|Z_n|\le A)\ge1-\frac1{A^2}$ である。極限をとって
$$ 1-\frac1{A^2}\le\int_{-A}^A\varphi(x)\,dx\le1 $$
を得る。$A\to\infty$ とすると $\int_{-\infty}^\infty\varphi(x)\,dx=1$ である。$\varphi$ の定義から $\int_{-\infty}^\infty e^{-x^2/2}\,dx=\sqrt{2\pi}$ である。$\square$

前半は、thm-btn-gauss の証明の前半で区間 $[-A,A]$ を $[a,b]$ に置き換えた議論そのものである（$A:=\max(|a|,|b|)$ として thm-btn-local を使い、lem-btn-riemann を $[a,b]$ に使う）。
後半を示す。$\varepsilon>0$ をとり、$A>|z|$ を $\frac1{A^2}<\varepsilon$ かつ $\Phi(-A)<\varepsilon$ となるように選ぶ（thm-btn-gauss により $\Phi(-A)\to0$ である）。
$$ P(Z_n\le z)=P(-A\le Z_n\le z)+P(Z_n<-A) $$
の第 2 項は lem-btn-chebyshev により $\frac1{A^2}<\varepsilon$ 以下であり、第 1 項は前半により $\Phi(z)-\Phi(-A)$ に近づく。よって十分大きな $n$ で $|P(Z_n\le z)-\Phi(z)|<3\varepsilon$ である。$\square$

$|x|^j\varphi(x)$（$j=1,2$）は $e^{-|x|/2}$ の定数倍で抑えられる（$|x|^je^{-x^2/2}\le C_je^{-|x|/2}$）ので、広義積分は収束する。$x\varphi(x)$ は奇関数なので積分は $0$ である。$\varphi'(x)=-x\varphi(x)$ なので、部分積分により
$$ \int_{-R}^Rx^2\varphi(x)\,dx=\int_{-R}^Rx\cdot\bigl(-\varphi'(x)\bigr)\,dx=\Bigl[-x\varphi(x)\Bigr]_{-R}^R+\int_{-R}^R\varphi(x)\,dx $$
であり、$R\to\infty$ で $R\varphi(R)\to0$ と thm-btn-gauss から $V[Z]=1$ を得る。$\mu+\sigma Z$ の平均は $\mu$、分散は $\sigma^2V[Z]=\sigma^2$ である。$\square$

$n>k$ のとき
$$ P(S_n=k)=\binom nk\Bigl(\frac\lambda n\Bigr)^k\Bigl(1-\frac\lambda n\Bigr)^{n-k}=\frac{\lambda^k}{k!}\cdot\frac{n(n-1)\cdots(n-k+1)}{n^k}\cdot\Bigl(1-\frac\lambda n\Bigr)^n\cdot\Bigl(1-\frac\lambda n\Bigr)^{-k} $$
である。第 2 因子は $\prod_{i=0}^{k-1}\bigl(1-\frac in\bigr)\to1$、第 4 因子は $\to1$ である。第 3 因子は、ネイピア数の性質 $\lim_{n\to\infty}\bigl(1+\frac an\bigr)^n=e^a$（$a=-\lambda$）により $e^{-\lambda}$ に近づく。$\square$