Ekelandの変分原理

同義語:Ekeland's variational principleEkeland variational principle

概要

Ekelandの変分原理(Ekeland's variational principle)とは、完備距離空間 $X$ 上の下に有界で下半連続な関数 $f$($+\infty$ も値に許すが恒等的に $+\infty$ でない)について、$f(x_0)\le\inf f+\varepsilon$ と $\lambda>0$ を与えると、$f(\bar x)\le f(x_0)$、$d(\bar x,x_0)\le\lambda$ で、$\bar x$ 以外の点で $f(x)>f(\bar x)-\frac{\varepsilon}{\lambda}d(x,\bar x)$ となる点 $\bar x$ が存在するという定理で、コンパクト性を使わない。Palais–Smale 条件の下での最小値の存在や Caristi の不動点定理が従い、この原理は完備性を特徴づける。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 完備距離空間, 下半連続, Cantorの共通部分定理

Ekelandの変分原理(Ekeland's variational principle)とは、完備距離空間 $(X,d)$ 上の下に有界な下半連続関数 $f$ について、どんな $\varepsilon>0$ に対しても、値が下限から $\varepsilon$ 以内にあり、しかも少し傾けた関数
$$ x\longmapsto f(x)+\varepsilon\,d(x,\bar x) $$
のただ 1 つの最小点になっている点 $\bar x$ が存在する、という定理である。
下に有界な関数は最小値をとるとは限らない。$\mathbb{R}$ 上の $e^x$ は下限 $0$ をとらない。最小値の存在を示す標準的な方法は、コンパクト性を使って最小化列の収束する部分列をとることであるが(直接法(変分法))、無限次元の空間ではコンパクト性が使えないことが多い。Ekeland の変分原理はコンパクト性を使わず、完備性だけから「ほとんど最小で、摂動すれば厳密な最小」の点を作る。そこから、勾配がほとんど $0$ の最小化列の存在、Palais–Smale 条件の下での最小値の存在、写像の連続性を仮定しない Caristi の不動点定理、Banach 空間の凸集合の支持点の稠密性などが導かれる。逆に、この原理が成り立つことは空間の完備性を特徴づける。

主張

この記事を通して、$(X,d)$ は距離空間、$f\colon X\to(-\infty,+\infty]$ は関数とし、次の 3 条件を考える。

  • (E1) $(X,d)$ は完備である。
  • (E2) $f$ は下半連続である(各実数 $c$ について $\{f\le c\}$ が閉集合。下半連続)。
  • (E3) $f$ は下に有界で、恒等的に $+\infty$ ではない。
Ekeland の変分原理

(E1)〜(E3) を仮定する。$\varepsilon>0$、$\lambda>0$ とし、$x_0\in X$ は $f(x_0)\le\inf_Xf+\varepsilon$ を満たすとする。このとき、次の 3 つを満たす $\bar x\in X$ が存在する。

  1. $f(\bar x)\le f(x_0)$。
  2. $d(\bar x,x_0)\le\lambda$。
  3. $\bar x$ と異なるすべての $x\in X$ について $f(x)>f(\bar x)-\dfrac\varepsilon\lambda\,d(x,\bar x)$。

3 は、$\bar x$ が関数 $x\mapsto f(x)+\frac\varepsilon\lambda d(x,\bar x)$ のただ 1 つの最小点であることを言っている。グラフで見ると、点 $(\bar x,f(\bar x))$ を頂点とし傾き $\varepsilon/\lambda$ で下に開く「錐」$t=f(\bar x)-\frac\varepsilon\lambda d(x,\bar x)$ が、$f$ のグラフの下にあり、頂点だけでグラフに触れている。$\lambda$ を大きくとると傾きは小さくなるが、$\bar x$ は $x_0$ から遠くにあるかもしれない。$\lambda$ を小さくとると $\bar x$ は $x_0$ の近くにとれるが、傾きは大きくなる。

$c:=\varepsilon/\lambda$ とおき、$x\in X$ について
$$ S(x):=\{y\in X\mid f(y)+c\,d(x,y)\le f(x)\} $$
と定める。$f(x)< +\infty$ のとき、次が成り立つ。

  • (a) $x\in S(x)$ である。
  • (b) $y\in S(x)$ なら $f(y)\le f(x)$ であり、$S(y)\subset S(x)$ である。実際、$z\in S(y)$ なら、三角不等式から $f(z)+c\,d(x,z)\le f(z)+c\,d(y,z)+c\,d(x,y)\le f(y)+c\,d(x,y)\le f(x)$ である。
  • (c) $S(x)$ は閉集合である。$y\mapsto f(y)+c\,d(x,y)$ は下半連続関数と連続関数の和で下半連続なので、その下位集合は閉じている。

列を作る。 $f(x_0)\le\inf f+\varepsilon< +\infty$ である。$x_n$($f(x_n)< +\infty$)まで決まったとき、$S(x_n)$ は $x_n$ を含み空でなく、$f$ は下に有界なので $\mu_n:=\inf_{S(x_n)}f$ は実数である。
$$ x_{n+1}\in S(x_n),\qquad f(x_{n+1})\le\mu_n+2^{-n} $$
を満たす $x_{n+1}$ を選ぶ(従属選択公理)。(b) から $f(x_{n+1})\le f(x_n)< +\infty$ であり、$S(x_{n+1})\subset S(x_n)$ である。
直径が $0$ に近づく。 $y\in S(x_{n+1})$ とすると、$y\in S(x_n)$ なので $f(y)\ge\mu_n$ であり、
$$ c\,d(x_{n+1},y)\le f(x_{n+1})-f(y)\le\mu_n+2^{-n}-\mu_n=2^{-n} $$
である。よって $S(x_{n+1})$ は中心 $x_{n+1}$、半径 $2^{-n}/c$ の閉球に含まれ、直径は $2^{1-n}/c$ 以下である。
1 点に絞る。 $S(x_1)\supset S(x_2)\supset\cdots$ は空でない閉集合の減少列で直径が $0$ に近づくので、(E1) と Cantorの共通部分定理 の定理「完備距離空間での閉集合の減少列」により、$\bigcap_{n\ge1}S(x_n)$ はただ 1 点 $\bar x$ からなる。
$\bar x$ の性質。 $\bar x\in S(x_1)\subset S(x_0)$ なので $f(\bar x)+c\,d(x_0,\bar x)\le f(x_0)$ であり、1 が従う。さらに
$$ c\,d(x_0,\bar x)\le f(x_0)-f(\bar x)\le f(x_0)-\inf f\le\varepsilon $$
なので $d(x_0,\bar x)\le\varepsilon/c=\lambda$ であり、2 が従う。3 を示す。$x\ne\bar x$ で $f(x)\le f(\bar x)-c\,d(x,\bar x)$ と仮定すると $x\in S(\bar x)$ である。各 $n$ で $\bar x\in S(x_n)$ なので (b) から $S(\bar x)\subset S(x_n)$ であり、$x\in\bigcap_nS(x_n)=\{\bar x\}$ となって矛盾する。$\square$

証明の各段で何が使われたかを見ておく。下半連続性は $S(x)$ が閉じていること、完備性は閉集合の減少列が 1 点で交わること、下に有界であることは $\mu_n$ が実数であることと 2 の距離の評価に使われた。どれか 1 つが欠けると結論が成り立たない例は、後の表で挙げる。
$\lambda=1$ とすると、よく使う簡単な形になる。

弱い形

(E1)〜(E3) の下で、任意の $\varepsilon>0$ について、$f(\bar x)\le\inf_Xf+\varepsilon$ かつ
$$ f(x)\ge f(\bar x)-\varepsilon\,d(x,\bar x)\qquad(x\in X) $$
を満たす $\bar x\in X$ が存在する。

$f(x_0)\le\inf f+\varepsilon$ となる $x_0$ をとり($\inf f$ は実数なので存在する)、thm-ekv-main を $\lambda=1$ で使う。1 から $f(\bar x)\le f(x_0)\le\inf f+\varepsilon$ であり、3 から不等式が従う($x=\bar x$ では等号)。$\square$

指数関数

$X=\mathbb{R}$、$f(x)=e^x$ とする。$\inf f=0$ はとられない。$c>0$ について、$\bar x$ が thm-ekv-main の 3 を傾き $c$ で満たすのは、$e^{\bar x}\le c$、すなわち $\bar x\le\log c$ のとき、そのときに限る。
実際、$x>\bar x$ なら $f(x)>f(\bar x)$ なので 3 の不等式は成り立つ。$x< \bar x$ では、3 の不等式は弦の傾きについての条件 $\frac{e^{\bar x}-e^x}{\bar x-x}< c$ と同値である。$e^x$ は狭義凸なので、この弦の傾きは $\bar x$ での微分係数 $e^{\bar x}$ より小さく、$x\to\bar x$ で $e^{\bar x}$ に近づく。よって、すべての $x< \bar x$ で条件が成り立つことは $e^{\bar x}\le c$ と同値である。
こうして得られる点では $f(\bar x)\le c$ かつ $f'(\bar x)=e^{\bar x}\le c$ であり、値も傾きも小さい。$\varepsilon=\lambda=\delta$($0< \delta< 1$)、$x_0:=\log\delta$ とすると $c=1$ で、1 の条件 $\bar x\le\log\delta$(3 の条件 $\bar x\le0$ はこれから従う)を 2 の条件 $|\bar x-\log\delta|\le\delta$ と合わせて $\bar x\in[\log\delta-\delta,\log\delta]$ が 1〜3 を満たす点の全体である。

応用

ほとんど臨界点である最小化列

以下、$E$ を Banach 空間、$E^*$ をその 連続双対空間 とする。$f\colon E\to\mathbb{R}$ が点 $x$ で Gâteaux 微分可能であるとは、$\ell\in E^*$ があって、すべての $h\in E$ について
$$ \lim_{t\to0}\frac{f(x+th)-f(x)}{t}=\ell(h) $$
となることをいい、$\ell$ を $f'(x)$ と書く。

ほとんど臨界点

$f\colon E\to\mathbb{R}$ は下半連続で下に有界で、各点で Gâteaux 微分可能とする。このとき任意の $\varepsilon>0$ について
$$ f(\bar x)\le\inf_Ef+\varepsilon^2,\qquad\|f'(\bar x)\|_{E^*}\le\varepsilon $$
を満たす $\bar x\in E$ が存在する。とくに、$f(x_n)\to\inf f$ かつ $\|f'(x_n)\|_{E^*}\to0$ となる列 $(x_n)$ が存在する。

$f(x_0)\le\inf f+\varepsilon^2$ となる $x_0$ をとり、thm-ekv-main を、その定理の $\varepsilon$ を $\varepsilon^2$、$\lambda$ を $\varepsilon$ として使う。傾きは $\varepsilon^2/\varepsilon=\varepsilon$ であり、得られる $\bar x$ について $f(\bar x)\le f(x_0)\le\inf f+\varepsilon^2$ である。$\|h\|=1$、$t>0$ として 3 を $x=\bar x+th$ に使うと
$$ f(\bar x+th)-f(\bar x)>-\varepsilon t $$
である。$t$ で割って $t\to+0$ とすると $f'(\bar x)(h)\ge-\varepsilon$ を得る。$h$ を $-h$ に替えると $f'(\bar x)(h)\le\varepsilon$ であり、$\|h\|=1$ の $h$ についての上限をとって $\|f'(\bar x)\|_{E^*}\le\varepsilon$ を得る。後半は $\varepsilon=1/n$ として得た点を $x_n$ とすればよい。$\square$

$\lambda$ を $\sqrt{\text{(値の誤差)}}$ にとるのが要点である。値の誤差を $\varepsilon^2$ と小さくしておけば、距離と傾きの両方を $\varepsilon$ にそろえられる。ex-ekv-exp では、$x_n:=-n$ が $e^{x_n}\to0$、$f'(x_n)\to0$ を満たす。

Palais–Smale 条件と最小値の存在

$f\colon E\to\mathbb{R}$ が各点で Gâteaux 微分可能であるとき、$f$ が Palais–Smale 条件を満たすとは、$(f(x_n))$ が有界で $\|f'(x_n)\|_{E^*}\to0$ となる列 $(x_n)$ は、必ず収束する部分列をもつことをいう。

最小値の存在

$f\colon E\to\mathbb{R}$ が下半連続で下に有界で、各点で Gâteaux 微分可能であり、Palais–Smale 条件を満たすならば、$f$ は最小値をとる。

thm-ekv-almost-critical の列 $(x_n)$ は、$f(x_n)\to\inf f$ なので $(f(x_n))$ は有界であり、$\|f'(x_n)\|\to0$ である。Palais–Smale 条件から部分列 $x_{n_k}\to x^*$ がある。下半連続性から $f(x^*)\le\liminf_kf(x_{n_k})=\inf f$ なので、$f(x^*)=\inf f$ である。$\square$

最小点では、どの方向 $h$ についても $t\mapsto f(x^*+th)$ が $t=0$ で最小なので $f'(x^*)=0$ であり、$x^*$ は 臨界点 である。$e^x$ は Palais–Smale 条件を満たさない。列 $x_n=-n$ は値が有界で $f'(x_n)\to0$ だが、収束する部分列をもたない。

Caristi の不動点定理

Caristi の不動点定理

$(X,d)$ を完備距離空間、$\varphi\colon X\to[0,+\infty)$ を下半連続関数とする。写像 $T\colon X\to X$ がすべての $x\in X$ について
$$ d(x,Tx)\le\varphi(x)-\varphi(Tx) $$
を満たすならば、$T$ は不動点をもつ。

$\varphi$ は (E2)・(E3) を満たす。$\varphi(x_0)\le\inf\varphi+1$ となる $x_0$ をとり、thm-ekv-main を $\varepsilon=\lambda=1$ で使うと、$x\ne\bar x$ なら $\varphi(x)>\varphi(\bar x)-d(x,\bar x)$ となる $\bar x$ がある。$T\bar x\ne\bar x$ と仮定すると、これを $x=T\bar x$ に使って
$$ \varphi(T\bar x)>\varphi(\bar x)-d(\bar x,T\bar x)\ge\varphi(\bar x)-\bigl(\varphi(\bar x)-\varphi(T\bar x)\bigr)=\varphi(T\bar x) $$
となり矛盾する。よって $T\bar x=\bar x$ である。$\square$

$T$ には連続性を何も仮定していない。条件は「$x$ から $Tx$ へ移ると、移った距離以上に $\varphi$ が減る」ということで、$\varphi$ が下に有界なので無限には減り続けられない、というのが直観である。

縮小写像の不動点定理

$T\colon X\to X$ が定数 $0\le k< 1$ の縮小写像($d(Tx,Ty)\le k\,d(x,y)$)なら、$\varphi(x):=d(x,Tx)/(1-k)$ は連続で $0$ 以上であり、
$$ \varphi(x)-\varphi(Tx)=\frac{d(x,Tx)-d(Tx,T^2x)}{1-k}\ge\frac{d(x,Tx)-k\,d(x,Tx)}{1-k}=d(x,Tx) $$
である。thm-ekv-caristi から $T$ は不動点をもつ。不動点が 2 つあれば $d(p,q)=d(Tp,Tq)\le k\,d(p,q)$ から $p=q$ なので、不動点はただ 1 つである。これは Banachの不動点定理 の存在と一意性の部分である。

逆に、Caristi の不動点定理から thm-ekv-main の 3 を満たす点の存在が出る。

証明を開く

(E1)〜(E3) の下で $c>0$ と $x_0$($f(x_0)< +\infty$)をとり、$Y:=\{x\mid f(x)\le f(x_0)\}$ とおく。$Y$ は閉集合なので完備である。$Y$ のどの点 $x$ についても、$y\ne x$ かつ $f(y)\le f(x)-c\,d(x,y)$ となる $y$ があると仮定し、そのような $y$ を 1 つ選んで $Tx:=y$ とする(選択公理)。$f(y)\le f(x)$ なので $Tx\in Y$ である。$\varphi:=(f-\inf f)/c$ は $Y$ 上で $0$ 以上の有限な下半連続関数で、$d(x,Tx)\le\varphi(x)-\varphi(Tx)$ を満たすので、Caristi の不動点定理から $T$ は不動点をもつが、これは $Tx\ne x$ に反する。よって、ある $\bar x\in Y$ について、$x\ne\bar x$ なら $f(x)>f(\bar x)-c\,d(x,\bar x)$ である($Y$ の外の $x$ では $f(x)>f(x_0)\ge f(\bar x)$ なので明らか)。

完備性の特徴づけ

変分原理による完備性の判定

距離空間 $(X,d)$ について、次は同値である。

  1. $(X,d)$ は完備である。
  2. $X$ 上の下に有界な Lipschitz連続 関数 $f\colon X\to\mathbb{R}$ と $\varepsilon>0$ のどれについても、すべての $x\in X$ で $f(x)\ge f(\bar x)-\varepsilon\,d(x,\bar x)$ となる $\bar x\in X$ が存在する。

1 から 2 は cor-ekv-weak である。2 から 1 を示す。$X$ が完備でないとし、収束しない Cauchy列 $(x_n)$ をとる。$x\in X$ について $|d(x,x_n)-d(x,x_m)|\le d(x_n,x_m)$ なので $(d(x,x_n))_n$ は Cauchy 列であり、$f(x):=\lim_nd(x,x_n)$ が定まる。$|f(x)-f(y)|\le d(x,y)$ なので $f$ は Lipschitz 連続で、$f\ge0$ である。$f(x)=0$ なら $x_n\to x$ となるので、すべての $x$ で $f(x)>0$ である。また $f(x_m)=\lim_nd(x_m,x_n)$ は、$(x_n)$ が Cauchy 列なので $m\to\infty$ で $0$ に近づく。
2 を $\varepsilon=\frac12$ で使って $\bar x$ をとり、不等式を $x=x_m$ に使うと $f(x_m)\ge f(\bar x)-\frac12d(x_m,\bar x)$ である。$m\to\infty$ とすると $f(x_m)\to0$、$d(x_m,\bar x)\to f(\bar x)$ なので、$0\ge f(\bar x)-\frac12f(\bar x)=\frac12f(\bar x)$ となり、$f(\bar x)>0$ に反する。$\square$

Cantorの共通部分定理 の定理「閉集合の減少列による完備性の判定」と同じく、完備性はこの種の「極限点の存在」の性質で特徴づけられる。

反例:仮定を外すと成り立たないこと

次の表の各行は (E1)〜(E3) のうち 1 つだけを外し、どの点 $\bar x$ についても thm-ekv-main の 3 が傾き $c=\frac12$(たとえば $\varepsilon=\frac12$、$\lambda=1$)で成り立たない例である。

外す仮定例3 が成り立たない理由
(E1) 完備性$X=(0,1]$(通常の距離)、$f(x)=x$$x< \bar x$ で $f(x)=f(\bar x)-d(x,\bar x)$
(E2) 下半連続性$X=[0,1]$、$f(0)=1$、$x>0$ で $f(x)=x$$\bar x>0$ は左と同じ、$\bar x=0$ は小さい $x>0$ で $f(x)< 1-\frac x2$
(E3) 下に有界$X=\mathbb{R}$、$f(x)=-x$$x>\bar x$ で $f(x)=f(\bar x)-d(x,\bar x)$
反例の確かめ

1 行目:$(0,1]$ は完備でない($1/n$ が収束しない Cauchy 列)。$f$ は連続で下に有界である。どの $\bar x\in(0,1]$ にも $x< \bar x$ となる $x\in(0,1]$ があり、$f(x)=f(\bar x)-(\bar x-x)< f(\bar x)-\frac12(\bar x-x)$ なので、3 の不等式は傾き $\frac12$ で成り立たない。下限 $0$ は「欠けた点」$0$ でしかとられない。
2 行目:$[0,1]$ は完備で $f\ge0$ だが、$f$ は $0$ で下半連続でない($\{f\le\frac12\}=(0,\frac12]$ は閉じていない)。$\bar x>0$ では 1 行目と同じく左側の点で成り立たない。$\bar x=0$ では、$0< x< \frac23$ なら $f(x)=x< 1-\frac x2=f(0)-\frac12d(x,0)$ で成り立たない。
3 行目:$\mathbb{R}$ は完備で $f$ は連続だが、下に有界でない。$x>\bar x$ なら $f(x)=f(\bar x)-(x-\bar x)< f(\bar x)-\frac12(x-\bar x)$ で成り立たない。$\square$

結論の 3 から摂動の項 $\frac\varepsilon\lambda d(x,\bar x)$ を取り除くこと、すなわち「$\bar x$ は $f$ の最小点」に強めることはできない。ex-ekv-exp の $e^x$ は (E1)〜(E3) を満たすが最小値をとらない。

補足

凸解析への応用

$E$ を Banach 空間とする。変分原理を、下半連続な凸関数 $\psi$ から作った関数に当てはめると、次が得られる(Bre11 Problem 3(pp. 438–440)に、演習として証明の筋が与えられている)。

  1. (Brøndsted–Rockafellar)$\psi$ の $\varepsilon$ 劣微分の元は、近くの点での 劣微分 の元で近似できる。とくに劣微分をもつ点の集合は $\psi$ の定義域で稠密である。
  2. (Bishop–Phelps)空でない有界閉凸集合 $C\subset E$ について、$C$ 上で上限をとる $E^*$ の元の全体は $E^*$ で稠密である。また、支持超平面をもつ $C$ の点の集合は $C$ の境界で稠密である($C$ は空でない閉凸集合でよい)。
    この記事ではこれらを証明しない。
名前と文献

thm-ekv-main の証明で使った集合 $S(x)$ と列の作り方は、Bre11 Problem 3 の A(pp. 438–439)と同じである。同書は $\varepsilon=\lambda=1$ に当たる形($\psi(x)-\psi(a)+d(x,a)\ge0$ を満たす $a$ の存在)を扱い、題に Ekeland の名を挙げている。この記事の thm-ekv-almost-critical、thm-ekv-completeness、ex-ekv-banach の証明は、変分原理から直接に書き下したものである。

変分原理の位置

直接法(変分法) が弱位相でのコンパクト性と下半連続性で最小点そのものを作るのに対し、変分原理は完備性だけでほとんど最小の点を作る。両者は互いに補い合う。

関連項目

参考文献

[1]
Haim Brezis, Functional Analysis, Sobolev Spaces and Partial Differential Equations, Universitext, Springer, 2011, Problem 3「The theorems of Ekeland, Brønsted–Rockafellar, and Bishop–Phelps; the ε-subdifferential」(A は pp. 438–439、B は pp. 439–440、C は p. 440)

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する