積率母関数

1：$s< v< u$ で $s,u\in D_X$ とする。$x\ge0$ なら $e^{vx}\le e^{ux}$、$x< 0$ なら $e^{vx}\le e^{sx}$ なので、すべての $x$ で $e^{vx}\le e^{sx}+e^{ux}$ である。期待値をとれば $M_X(v)\le M_X(s)+M_X(u)< \infty$ である。$0\in D_X$ と合わせて 1 を得る。
2：$e^{t(aX+b)}=e^{bt}e^{(at)X}$ の期待値をとればよい。
3：$p:=1/\lambda$、$p':=1/(1-\lambda)$ とすると $\frac1p+\frac1{p'}=1$ である。$f:=e^{\lambda sX}$、$g:=e^{(1-\lambda)uX}$ に Hölderの不等式 の定理「Hölderの不等式（積分）」を使うと
$$ E\bigl[e^{(\lambda s+(1-\lambda)u)X}\bigr]=E[fg]\le E[f^p]^{1/p}E[g^{p'}]^{1/p'}=M_X(s)^\lambda M_X(u)^{1-\lambda} $$
である。両辺の対数をとれば $\log M_X$ の凸性である。$\blacksquare$

$f_i$ がすべて Borel 集合 $B_i$ の指示関数なら、両辺は $P(X_1\in B_1,\dots,X_n\in B_n)$ と $\prod_iP(X_i\in B_i)$ で、独立性の定義から等しい。
$j=1,\dots,n$ の順に、「$f_1,\dots,f_j$ は $0$ 以上の Borel 可測関数、$f_{j+1},\dots,f_n$ は指示関数」のとき等式が成り立つことを示す。$j-1$ の段階まで示したとし、$f_j$ 以外を固定する。両辺は $f_j$ について、$0$ 以上の係数での 1 次結合を保つので、$f_j$ が $0$ 以上の値の単関数（指示関数の $0$ 以上の係数の 1 次結合）でも成り立つ。一般の $f_j$ は、$0$ 以上の値の単関数の単調増加列 $\varphi_m\uparrow f_j$ の極限である（Lebesgue積分 の補題「単関数による近似」）。$f_j$ を $\varphi_m$ に替えた等式の両辺で $m\to\infty$ とすると、Lebesgue積分 の定理「単調収束定理」により左辺は左辺に、右辺の因子 $E[\varphi_m(X_j)]$ は $E[f_j(X_j)]$ に単調に近づき、等式は極限でも成り立つ（$[0,\infty]$ の単調な列の積の極限は極限の積である。いずれかの因子が $0$ のときは、両辺がつねに $0$）。$j=n$ で主張を得る。$\blacksquare$

$e^{tS}=\prod_ie^{tX_i}$ であり、$f_i(x):=e^{tx}$ は $0$ 以上の連続関数なので、lem-mgf-indep から従う。各因子は正なので、右辺が有限であることと各因子が有限であることは同値である。$\blacksquare$

$\lvert t\rvert< \delta$ とする。$e^{\lvert t\rvert\lvert x\rvert}\le e^{\lvert t\rvert x}+e^{-\lvert t\rvert x}$ なので
$$ E\bigl[e^{\lvert t\rvert\lvert X\rvert}\bigr]\le M_X(\lvert t\rvert)+M_X(-\lvert t\rvert)< \infty\qquad(1) $$
である。
1：$r:=\delta/2$ とおく。$e^{r\lvert x\rvert}\ge\frac{r^k\lvert x\rvert^k}{k!}$ なので $E[\lvert X\rvert^k]\le\frac{k!}{r^k}E[e^{r\lvert X\rvert}]< \infty$ である。
2：部分和 $S_N:=\sum_{k=0}^N\frac{(tX)^k}{k!}$ は $e^{tX}$ に各点で収束し、$\lvert S_N\rvert\le\sum_{k\le N}\frac{\lvert tX\rvert^k}{k!}\le e^{\lvert t\rvert\lvert X\rvert}$ で、右辺は (1) により可積分である。Lebesgue積分 の定理「優収束定理」と積分の線形性により $M_X(t)=\lim_NE[S_N]=\sum_k\frac{E[X^k]}{k!}t^k$ である。絶対収束は、Lebesgue積分 の定理「単調収束定理」により $\sum_k\frac{E[\lvert X\rvert^k]}{k!}\lvert t\rvert^k=E[e^{\lvert t\rvert\lvert X\rvert}]< \infty$ となることから従う。
3：2 により $M_X$ は $(-\delta,\delta)$ の上で、収束半径が $\delta$ 以上の冪級数の和に等しいので、冪級数 の系「何回でも微分できることと係数の公式」による。$\blacksquare$

段 1（積率の一致）：thm-mgf-series の 2 により、$M_X$ と $M_Y$ は $(-\delta,\delta)$ で係数 $E[X^k]/k!$、$E[Y^k]/k!$ の冪級数の和に等しい。冪級数 の系「何回でも微分できることと係数の公式」により、すべての $k$ で $E[X^k]=E[Y^k]$ である。
段 2（特性関数の局所展開）：実数 $a$ と $\lvert h\rvert< \delta$ について、$c_k(a):=E\bigl[(iX)^ke^{iaX}\bigr]/k!$ とおくと
$$ \varphi_X(a+h)=\sum_{k=0}^\infty c_k(a)\,h^k\qquad(2) $$
であり、右辺は絶対収束する。実際、$e^{iaX}\sum_{k\le N}\frac{(ihX)^k}{k!}$ は $e^{i(a+h)X}$ に各点で収束し、絶対値は $e^{\lvert h\rvert\lvert X\rvert}$ 以下で、これは prf-mgf-series の (1) により可積分である。実部と虚部に Lebesgue積分 の定理「優収束定理」を使えば (2) を得る。絶対収束は $\lvert c_k(a)\rvert\le E[\lvert X\rvert^k]/k!$ と (1) による。$Y$ についても同じである。
段 3（局所的な一致は $\delta$ の幅に広がる）：$\varphi_X$ と $\varphi_Y$ が $a$ を含むある開区間で一致すれば、(2) の両辺の実部と虚部は $h$ の実係数の冪級数で、$0$ の近くで一致するので、冪級数 の系「何回でも微分できることと係数の公式」により $c_k(a)$ は $X$ と $Y$ で等しい。よって (2) により、$\varphi_X=\varphi_Y$ は $(a-\delta,a+\delta)$ の全体で成り立つ。
段 4（全体へ）：$a=0$ では $c_k(0)=i^kE[X^k]/k!$ なので、段 1 と (2) により $\varphi_X=\varphi_Y$ が $(-\delta,\delta)$ で成り立つ。$m\ge2$ について $(-\frac{m\delta}2,\frac{m\delta}2)$ で一致するとすると、$a=\pm\frac{(m-1)\delta}2$ はこの開区間の点なので、段 3 により $(a-\delta,a+\delta)$ でも一致し、$(-\frac{(m+1)\delta}2,\frac{(m+1)\delta}2)$ で一致する。帰納法によりすべての実数で $\varphi_X=\varphi_Y$ であり、特性関数(確率論) の系「特性関数は分布を決める」により $X$ と $Y$ は同じ分布に従う。$\blacksquare$

$t\ge0$ なら、$X\ge a$ のとき $e^{t(X-a)}\ge1$ で、ほかでは $e^{t(X-a)}>0$ なので、指示関数について $\mathbf 1_{\{X\ge a\}}\le e^{t(X-a)}$ である。期待値をとれば $P(X\ge a)\le e^{-ta}M_X(t)$ を得る。$t\le0$ も同様である。後半は、$S_n$ に前半を使い、thm-mgf-sum で $M_{S_n}(t)=M_X(t)^n$ とすれば、すべての $t\ge0$ で $P(S_n\ge na)\le\bigl(e^{-ta}M_X(t)\bigr)^n=\exp(-n(ta-\log M_X(t)))$ となり、右辺の下限をとればよい。$\blacksquare$