Fenchel–Moreauの定理

1：$\varphi$ が凸とし、$(x,\lambda),(y,\mu)\in\operatorname{epi}\varphi$、$0< t< 1$ とする。$\varphi(x)\le\lambda$、$\varphi(y)\le\mu$ はどちらも有限なので、$\varphi((1-t)x+ty)\le(1-t)\varphi(x)+t\varphi(y)\le(1-t)\lambda+t\mu$ であり、$(1-t)(x,\lambda)+t(y,\mu)\in\operatorname{epi}\varphi$ である（$t=0,1$ は自明）。逆にエピグラフが凸とし、$x,y\in E$、$0< t< 1$ をとる。$\varphi(x)$、$\varphi(y)$ の一方が $+\infty$ なら凸不等式の右辺は $+\infty$ で、不等式は自明である。両方が有限なら、$(x,\varphi(x))$、$(y,\varphi(y))$ の凸結合がエピグラフに入ることが凸不等式そのものである。
2：$\varphi$ が $-\infty$ をとらない拡大実数値関数の場合を含めて、半連続 の命題「エピグラフとハイポグラフの閉性」である。
3：$f(x):=\Phi(x,0)$、$k:=\Phi(0,1)$ とおく。$f$ は線形で、$|f(x)|\le\|\Phi\|\,\|(x,0)\|=\|\Phi\|\,\|x\|$ なので連続である。線形性から $\Phi(x,\lambda)=\Phi(x,0)+\lambda\Phi(0,1)=\langle f,x\rangle+k\lambda$ である。$\square$

$x_0\in D(\varphi)$ と実数 $\lambda_0< \varphi(x_0)$ をとる。prop-fm-epigraph の 1・2 により $A:=\operatorname{epi}\varphi$ は $E\times\mathbb{R}$ の閉凸集合で、$(x_0,\varphi(x_0))\in A$ なので空でない。$(x_0,\lambda_0)\notin A$ である。thm-fm-separation を $X=E\times\mathbb{R}$ に当て、prop-fm-epigraph の 3 で汎関数を書き直すと、$g\in E^*$、$k\in\mathbb{R}$、$\alpha\in\mathbb{R}$ で
$$ \langle g,x\rangle+k\lambda>\alpha\quad((x,\lambda)\in\operatorname{epi}\varphi),\qquad\langle g,x_0\rangle+k\lambda_0< \alpha $$
となるものがある。1 つ目に $(x_0,\varphi(x_0))$ を代入して 2 つ目と比べると $k(\varphi(x_0)-\lambda_0)>0$ であり、$\varphi(x_0)-\lambda_0>0$ なので $k>0$ である。$x\in D(\varphi)$ について $(x,\varphi(x))\in\operatorname{epi}\varphi$ だから $\langle g,x\rangle+k\varphi(x)>\alpha$、すなわち
$$ \varphi(x)>\Bigl\langle-\frac gk,x\Bigr\rangle+\frac\alpha k $$
である。$x\notin D(\varphi)$ では左辺が $+\infty$ なので、この不等式はすべての $x$ で成り立つ。$f:=-g/k$、$\beta:=\alpha/k$ とおけばよい。このとき $\langle f,x\rangle-\varphi(x)\le-\beta$ がすべての $x$ で成り立つので $\varphi^*(f)\le-\beta< +\infty$ である。$\square$

1 ⇒ 2：$\varphi^*$ が真なら、$\varphi^{**}$ は凸で下半連続である（Fenchel共役 の定理「共役の基本性質」の 4）。それが $\varphi$ に等しいので、$\varphi$ も凸で下半連続である。
2 ⇒ 1：lem-fm-affine-minorant により $\varphi^*$ は真であり、Fenchel共役 の定理「共役の基本性質」の 4 により $\varphi^{**}\le\varphi$ である。逆向きの不等式を 2 段階で示す。
段 1（$\varphi\ge0$ の場合）。$\varphi\ge0$ と仮定する。$y\in D(\varphi)$ をとると $\varphi^*(0)=\sup_x(-\varphi(x))=-\inf_x\varphi(x)$ は $-\varphi(y)$ 以上 $0$ 以下の実数である。ある $x_0$ で $\varphi^{**}(x_0)< \varphi(x_0)$ となったとして矛盾を導く。$\varphi^{**}(x_0)\ge\langle0,x_0\rangle-\varphi^*(0)=\inf\varphi\ge0$ なので、$s:=\varphi^{**}(x_0)$ は実数である（$\varphi(x_0)=+\infty$ でもよい）。$(x_0,s)\notin\operatorname{epi}\varphi$ なので、lem-fm-affine-minorant の証明と同じく thm-fm-separation と prop-fm-epigraph により、$f\in E^*$、$k\in\mathbb{R}$、$\alpha\in\mathbb{R}$ で
$$ \langle f,x\rangle+k\lambda>\alpha\quad((x,\lambda)\in\operatorname{epi}\varphi),\qquad\langle f,x_0\rangle+ks< \alpha $$
となるものがある。$x\in D(\varphi)$ を 1 つ固定して $\lambda\to+\infty$ とすると、1 つ目の不等式が保たれることから $k\ge0$ である。ただし今度は $k=0$（垂直な超平面）の可能性を除けない。
そこで $\varepsilon>0$ をとる。$x\in D(\varphi)$ について、$\varphi(x)\ge0$ なので
$$ \langle f,x\rangle+(k+\varepsilon)\varphi(x)\ge\langle f,x\rangle+k\varphi(x)>\alpha $$
である。両辺を $k+\varepsilon>0$ で割って整理すると、$h_\varepsilon:=-f/(k+\varepsilon)$ について
$$ \langle h_\varepsilon,x\rangle-\varphi(x)< -\frac{\alpha}{k+\varepsilon}\qquad(x\in D(\varphi)) $$
であり、$\varphi^*(h_\varepsilon)\le-\alpha/(k+\varepsilon)$ である。二重共役の定義から
$$ s=\varphi^{**}(x_0)\ge\langle h_\varepsilon,x_0\rangle-\varphi^*(h_\varepsilon)\ge\frac{-\langle f,x_0\rangle+\alpha}{k+\varepsilon} $$
であり、$k+\varepsilon$ を掛けて $\langle f,x_0\rangle+(k+\varepsilon)s\ge\alpha$ を得る。$s$ は実数なので、$\varepsilon\downarrow0$ として $\langle f,x_0\rangle+ks\ge\alpha$ となり、分離の 2 つ目の不等式に反する。よって $\varphi^{**}=\varphi$ である。
段 2（一般の場合）。$\varphi^*$ は真なので、$f_0\in D(\varphi^*)$ をとり、$c:=\varphi^*(f_0)\in\mathbb{R}$ とおく。
$$ \psi(x):=\varphi(x)-\langle f_0,x\rangle+c $$
と定める。Fenchel–Young の不等式（Fenchel共役 の定理「共役の基本性質」の 2）$\langle f_0,x\rangle\le\varphi(x)+\varphi^*(f_0)$ により $\psi\ge0$ である。$\psi$ は凸関数 $\varphi$ にアフィン関数を足したものなので凸であり、下半連続関数 $\varphi$ と連続関数 $x\mapsto-\langle f_0,x\rangle+c$ の和なので下半連続である（半連続 の命題「上限・下限と安全な加法」の 3）。$D(\psi)=D(\varphi)$ なので真である。段 1 により $\psi^{**}=\psi$ である。
$\psi$ の共役を計算する。Fenchel共役 の命題「共役の計算規則」の 1・4 により $\psi^*(f)=\varphi^*(f+f_0)-c$ である。よって $D(\psi^*)=D(\varphi^*)-f_0$ で、$g=f+f_0$ と置きかえると
$$ \psi^{**}(x)=\sup_{f\in E^*}\bigl(\langle f,x\rangle-\varphi^*(f+f_0)+c\bigr)=\sup_{g\in E^*}\bigl(\langle g,x\rangle-\varphi^*(g)\bigr)-\langle f_0,x\rangle+c=\varphi^{**}(x)-\langle f_0,x\rangle+c $$
である（$g$ が $E^*$ 全体を動くとき $f=g-f_0$ も $E^*$ 全体を動く）。有限の数 $-\langle f_0,x\rangle+c$ を足し引きしただけなので、$+\infty$ どうしの差は現れない。$\psi^{**}=\psi$ に代入すると $\varphi^{**}(x)-\langle f_0,x\rangle+c=\varphi(x)-\langle f_0,x\rangle+c$ となり、$\varphi^{**}=\varphi$ を得る。$\square$

$\varphi^{**}$ が凸で下半連続で $\varphi$ 以下であることは Fenchel共役 の定理「共役の基本性質」の 4 である。$\gamma$ を凸で下半連続で $\gamma\le\varphi$ とする。$\gamma$ は $D(\gamma)\supset D(\varphi)\neq\emptyset$ なので真であり、thm-fm-main により $\gamma^*$ は真で $\gamma=\gamma^{**}$ である。$\gamma\le\varphi$ から $\varphi^*\le\gamma^*$（Fenchel共役 の定理「共役の基本性質」の 3）なので、各 $f$ で $\langle f,x\rangle-\gamma^*(f)\le\langle f,x\rangle-\varphi^*(f)$ であり、$f$ について上限をとると $\gamma^{**}\le\varphi^{**}$ である。よって $\gamma=\gamma^{**}\le\varphi^{**}$ である。$\square$

右辺が $K$ を含むことは $h_K$ の定義から明らかである。$K$ の指示関数 $I_K$（$K$ 上で $0$、外で $+\infty$）は真である。$K$ が凸なので $I_K$ は凸であり（凸不等式は両端が $K$ にあれば $0\le0$、一方が外にあれば右辺が $+\infty$）、$\{I_K\le c\}$ は $c< 0$ なら空集合、$c\ge0$ なら $K$ で、どちらも閉なので $I_K$ は下半連続である。$I_K^*=h_K$ である（Fenchel共役 の例「指示関数と支持関数」）。thm-fm-main により
$$ I_K(x)=\sup_{f\in E^*}\bigl(\langle f,x\rangle-h_K(f)\bigr) $$
である。$x\notin K$ なら左辺は $+\infty$ なので、右辺の項のどれかが正になる。その $f$ では $h_K(f)$ は有限で $\langle f,x\rangle>h_K(f)$ であり、$x$ は右辺の共通部分に属さない。$\square$

thm-fm-main により $\varphi=\sup_{f\in D(\varphi^*)}\bigl(\langle f,\cdot\rangle-\varphi^*(f)\bigr)$ であり、各項は弱位相の定義により弱位相で連続である。下半連続関数の族の上限は下半連続なので（半連続 の命題「上限・下限と安全な加法」の 1）、$\varphi$ は弱位相で下半連続である。閉凸集合 $K$ については、空集合なら自明であり、空でなければ指示関数 $I_K$（prf-cor-fm-halfspaces で見たとおり凸で下半連続な真の関数）に当てると、$K=\{I_K\le0\}$ が弱位相で閉である。$\square$