Moreau–吉田正則化

同義語:Moreau–Yosida正則化Moreau–Yosida regularizationMoreau包絡Moreau envelope

概要

Moreau–吉田正則化(Moreau–Yosida regularization)とは、実 Hilbert 空間上の凸で下半連続な真の関数 $\varphi$ と $\lambda>0$ に対し、$e_\lambda\varphi(x)=\inf_y\bigl(\varphi(y)+\frac1{2\lambda}\|x-y\|^2\bigr)$ で定まる関数であり、Moreau 包絡とも呼ばれる。下限をとる点を与える近接写像は堅非拡大である。正則化は全空間で微分可能な凸関数で、勾配は劣微分の吉田近似と同じ式で Lipschitz 連続であり、最小値と最小点は元の関数と同じで、$\lambda\to0$ で元の関数に下から単調に収束する。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: Hilbert空間, 劣微分, inf畳み込み, 凸関数

絶対値関数 $|x|$ は原点で微分できない。そこで、各点 $x$ で「$|y|$ の値と、$y$ が $x$ から離れることへの罰金 $\frac1{2\lambda}(x-y)^2$ の和」を $y$ について最小化してみる。計算すると、最小値は $|x|\le\lambda$ で $\frac{x^2}{2\lambda}$、$|x|>\lambda$ で $|x|-\frac\lambda2$ となり、原点の角が放物線で丸められた微分可能な関数(Huber 関数)が得られる。最小にする $y$ は、$x$ を $0$ の方向に $\lambda$ だけ縮め、$|x|\le\lambda$ なら $0$ にしたもの(軟しきい値)である。
一般に、Hilbert 空間上の凸で下半連続な真の関数 $\varphi$(値 $+\infty$ を許す)に対し
$$ e_\lambda\varphi(x)=\inf_y\Bigl(\varphi(y)+\frac1{2\lambda}\|x-y\|^2\Bigr) $$
を Moreau–吉田正則化(Moreau 包絡)という。$\varphi$ が不連続で $+\infty$ をとっても、$e_\lambda\varphi$ は全空間で有限な微分可能な凸関数で、勾配は Lipschitz 連続になる。しかも最小値と最小点は $\varphi$ と変わらず、$\lambda\to0$ で $e_\lambda\varphi$ は下から $\varphi$ に近づく。最小にする点を与える写像は 近接写像 と呼ばれ、閉凸集合への射影の一般化である。勾配 $\nabla e_\lambda\varphi$ は、線形作用素の半群の理論の吉田近似(吉田耕作、Kôsaku Yosida の名による)と同じ式で、劣微分 $\partial\varphi$ から作られる。
この記事では、Moreau–吉田正則化と近接写像を定義し、近接写像の劣微分による特徴づけと非拡大性を示す。主定理として、正則化が微分可能でその勾配が $\frac1\lambda$-Lipschitz であること、$\lambda\to0$ で $\varphi$ に単調に収束すること、最小値と最小点が保たれることを証明する。共役関数の近接写像との関係(Moreau の分解)を示し、射影・軟しきい値・2 次形式の例を計算して、仮定を外した反例を挙げる。

定義

以下、$H$ を実 Hilbert 空間とし、内積を $(\cdot,\cdot)$、ノルムを $\|\cdot\|$ と書く。Hilbert空間 の定理「Rieszの表現定理」により連続双対 $H^*$ を $H$ と同一視し、劣微分 $\partial\varphi(x)$(劣微分 の定義「劣勾配と劣微分」)を $H$ の部分集合とみなす。すなわち $v\in\partial\varphi(x)$ は $\varphi(y)\ge\varphi(x)+(v,y-x)$($y\in H$)のことである。関数は値 $+\infty$ を許し $-\infty$ を許さない $\varphi\colon H\to(-\infty,+\infty]$ とし、$D(\varphi)=\{x\mid\varphi(x)< +\infty\}$ が空でないものを 真 という。空でない集合 $K\subset H$ の指示関数 $I_K$ を、$K$ 上で $0$、外で $+\infty$ と定める($K$ が閉凸なら凸で下半連続な真の関数である)。以下、$\varphi$ を凸で下半連続な真の関数とし、$\lambda>0$ とする。

Moreau–吉田正則化と近接写像

$$ e_\lambda\varphi(x):=\inf_{y\in H}\Bigl(\varphi(y)+\frac1{2\lambda}\|x-y\|^2\Bigr)\qquad(x\in H) $$
を $\varphi$ の Moreau–吉田正則化(Moreau–Yosida regularization)または Moreau 包絡(Moreau envelope)という。右辺の下限をとる点はただ 1 つ存在し、それを $J_\lambda x$ と書く。写像 $J_\lambda\colon H\to H$ を $\varphi$ の 近接写像(proximal map)といい、$\operatorname{prox}_{\lambda\varphi}$ とも書く。

下限が実数でただ 1 つの点で達成されることは、inf畳み込み の節「Moreau 包絡」で証明されている(中線定理による Cauchy 列の議論。Bre11 Problem 26 の 1・3、p. 474 に問題として挙げられている)。同じ記事の命題「Moreau 包絡の共役」により、$e_\lambda\varphi$ は $H$ 全体で有限な凸関数で $e_\lambda\varphi\le\varphi$ である。定義から
$$ e_\lambda\varphi(x)=\varphi(J_\lambda x)+\frac1{2\lambda}\|x-J_\lambda x\|^2 $$
であり、とくに $J_\lambda x\in D(\varphi)$ である。$e_\lambda\varphi$ は $\varphi$ と $\frac1{2\lambda}\|\cdot\|^2$ の inf畳み込み である。

近接写像の性質

近接写像の特徴づけ

$x,p\in H$ について、$p=J_\lambda x$ であることと
$$ \frac{x-p}\lambda\in\partial\varphi(p) $$
であることは同値である。とくに、すべての $x\in H$ に対して $x\in p+\lambda\,\partial\varphi(p)$ を満たす $p$ がただ 1 つ存在し、それが $J_\lambda x$ である。

$F(y):=\varphi(y)+\frac1{2\lambda}\|x-y\|^2$ とおく。内積の展開から、すべての $y,p$ について
$$ \|x-y\|^2=\|x-p\|^2-2(x-p,y-p)+\|y-p\|^2\qquad(\ast) $$
である。
$v:=\frac{x-p}\lambda\in\partial\varphi(p)$ とする。$p\in D(\varphi)$ であり、劣勾配の不等式と $(\ast)$ から
$$ F(y)-F(p)\ge(v,y-p)+\frac1{2\lambda}\bigl(-2(x-p,y-p)+\|y-p\|^2\bigr)=\frac1{2\lambda}\|y-p\|^2\ge0 $$
である。よって $p$ は $F$ の最小点であり、最小点の一意性から $p=J_\lambda x$ である。
逆に $p=J_\lambda x$ とすると、$F(p)=e_\lambda\varphi(x)$ は実数なので $\varphi(p)$ は有限である。$y\in D(\varphi)$ と $0< t< 1$ について $p_t:=p+t(y-p)$ とおく。$\varphi$ の凸性から $\varphi(p_t)\le\varphi(p)+t(\varphi(y)-\varphi(p))$ であり、$(\ast)$ で $y$ を $p_t$ に替えると $\|x-p_t\|^2=\|x-p\|^2-2t(x-p,y-p)+t^2\|y-p\|^2$ である。$F(p)\le F(p_t)$ に代入して整理すると
$$ 0\le t\bigl(\varphi(y)-\varphi(p)\bigr)-\frac t\lambda(x-p,y-p)+\frac{t^2}{2\lambda}\|y-p\|^2 $$
である。$t$ で割って $t\downarrow0$ とすると $\varphi(y)\ge\varphi(p)+\bigl(\frac{x-p}\lambda,y-p\bigr)$ を得る。$y\notin D(\varphi)$ ではこの不等式は自明なので、$\frac{x-p}\lambda\in\partial\varphi(p)$ である。
最後の主張は、$x\in p+\lambda\partial\varphi(p)$ が $\frac{x-p}\lambda\in\partial\varphi(p)$ の言いかえであることと、$J_\lambda x$ がただ 1 つであることによる。$\square$

この定理は Bre11 Problem 26 の 2(p. 474)の変分不等式 $(u,v-u)+\varphi(v)-\varphi(u)\ge(f,v-u)$($\lambda=1$)と同じ内容である。集合値写像の記法では $J_\lambda=(I+\lambda\,\partial\varphi)^{-1}$ であり、近接写像は劣微分の レゾルベント である。

近接写像の非拡大性

すべての $x,y\in H$ について
$$ \|J_\lambda x-J_\lambda y\|^2\le(J_\lambda x-J_\lambda y,\ x-y) $$
が成り立つ。とくに $\|J_\lambda x-J_\lambda y\|\le\|x-y\|$ であり、さらに $\|(x-J_\lambda x)-(y-J_\lambda y)\|\le\|x-y\|$ である。

thm-my-prox-char で得た 2 つの劣勾配に、劣微分の単調性を当てる。

詳細

$p:=J_\lambda x$、$q:=J_\lambda y$ とおく。thm-my-prox-char により $\frac{x-p}\lambda\in\partial\varphi(p)$、$\frac{y-q}\lambda\in\partial\varphi(q)$ であり、劣微分の単調性(劣微分 の命題「劣微分の基本性質」の 3)から $\bigl(\frac{x-p}\lambda-\frac{y-q}\lambda,\ p-q\bigr)\ge0$ である。$\lambda$ を掛けて整理すると $(x-y,p-q)\ge\|p-q\|^2$ であり、最初の不等式を得る。Cauchy–Schwarz の不等式から $\|p-q\|^2\le\|x-y\|\,\|p-q\|$ なので $\|p-q\|\le\|x-y\|$ である。最後に$$\|(x-p)-(y-q)\|^2=\|x-y\|^2-2(x-y,p-q)+\|p-q\|^2\le\|x-y\|^2-\|p-q\|^2\le\|x-y\|^2$$である。$\square$

最初の不等式を満たす写像を 堅非拡大 という。Bre11 Problem 26 の 3(p. 474)は、2 つ目の不等式 $\|J_\lambda x-J_\lambda y\|\le\|x-y\|$ を示して解の一意性を導く問題である。

微分可能性

正則化の微分可能性

$e_\lambda\varphi$ は $H$ 上で Fréchet 微分可能であり、その勾配は
$$ \nabla e_\lambda\varphi(x)=\frac{x-J_\lambda x}\lambda\in\partial\varphi(J_\lambda x) $$
である。より詳しく、すべての $x,y\in H$ について
$$ \Bigl|e_\lambda\varphi(y)-e_\lambda\varphi(x)-\Bigl(\frac{x-J_\lambda x}\lambda,\ y-x\Bigr)\Bigr|\le\frac1{2\lambda}\|y-x\|^2 $$
が成り立ち、勾配は $\|\nabla e_\lambda\varphi(x)-\nabla e_\lambda\varphi(y)\|\le\frac1\lambda\|x-y\|$ を満たす。

$p:=J_\lambda x$、$q:=J_\lambda y$、$h:=y-x$、$L:=\frac1\lambda(x-p,h)$ とおく。
上からの評価:$e_\lambda\varphi(y)$ の定義の下限で点 $p$ をとると $e_\lambda\varphi(y)\le\varphi(p)+\frac1{2\lambda}\|y-p\|^2$ である。$e_\lambda\varphi(x)=\varphi(p)+\frac1{2\lambda}\|x-p\|^2$ を引き、$\|y-p\|^2=\|x-p\|^2+2(x-p,h)+\|h\|^2$ を使うと
$$ e_\lambda\varphi(y)-e_\lambda\varphi(x)\le L+\frac1{2\lambda}\|h\|^2 $$
である。
下からの評価:$x$ と $y$ の役割を入れかえると $e_\lambda\varphi(x)-e_\lambda\varphi(y)\le\frac1\lambda(y-q,-h)+\frac1{2\lambda}\|h\|^2$ であり、
$$ e_\lambda\varphi(y)-e_\lambda\varphi(x)\ge\frac1\lambda(y-q,h)-\frac1{2\lambda}\|h\|^2=L+\frac1\lambda\bigl((y-q)-(x-p),h\bigr)-\frac1{2\lambda}\|h\|^2 $$
である。$(y-q)-(x-p)=h-(q-p)$ であり、thm-my-firm により $(q-p,h)\le\|h\|^2$ なので $\bigl(h-(q-p),h\bigr)\ge0$ である。よって $e_\lambda\varphi(y)-e_\lambda\varphi(x)\ge L-\frac1{2\lambda}\|h\|^2$ である。
2 つを合わせて主張の評価を得る。右辺は $\|h\|\to0$ で $o(\|h\|)$ なので、$e_\lambda\varphi$ は $x$ で Fréchet 微分可能で勾配は $\frac{x-p}\lambda$ である。これが $\partial\varphi(p)$ に入ることは thm-my-prox-char である。勾配の Lipschitz 性は thm-my-firm の最後の不等式を $\lambda$ で割ったものである。$\square$

$A:=\partial\varphi$ と書くと、勾配は $A_\lambda:=\frac1\lambda(I-J_\lambda)$、$J_\lambda=(I+\lambda A)^{-1}$ という形をしている。これは、Hilbert 空間の線形な極大単調作用素 $A$ に対して Bre11 §7.1(p. 182)が定める吉田近似 $A_\lambda=\frac1\lambda(I-J_\lambda)$ と同じ式であり、Hille–吉田の定理 の節「吉田近似」の $A_\lambda$ とは生成作用素の符号と助変数の取り方($\lambda$ と $1/\lambda$)の違いを除いて同じものである。$\nabla e_\lambda\varphi(x)\in\partial\varphi(J_\lambda x)$ は「$x$ での勾配の代わりに、少しずらした点 $J_\lambda x$ での劣勾配を 1 つ選ぶ」ことを表している。

極限と最小点

正則化の極限と最小点
  1. $0< \mu< \lambda$ なら $e_\lambda\varphi\le e_\mu\varphi\le\varphi$ であり、各 $x\in H$ で $\lambda\downarrow0$ のとき $e_\lambda\varphi(x)\uparrow\varphi(x)$ である。$x\notin D(\varphi)$ では $e_\lambda\varphi(x)\to+\infty$ である。
  2. $x\in H$ について、$\lambda\downarrow0$ で $J_\lambda x\to x$ となることと、$x$ が $D(\varphi)$ の閉包に属することは同値である。
  3. $\inf_He_\lambda\varphi=\inf_H\varphi$ であり、$e_\lambda\varphi$ の最小点の集合は $\varphi$ の最小点の集合に等しく、さらに $\{x\mid J_\lambda x=x\}$ に等しい。

1:下限の中身 $\varphi(y)+\frac1{2\lambda}\|x-y\|^2$ は $\lambda$ について減少するので、$\mu< \lambda$ なら $e_\lambda\varphi\le e_\mu\varphi$ である。$y=x$ とおけば $e_\mu\varphi\le\varphi$ である。$L:=\lim_{\lambda\downarrow0}e_\lambda\varphi(x)=\sup_{\lambda>0}e_\lambda\varphi(x)\le\varphi(x)$ とおく。$L< +\infty$ と仮定し、$p_\lambda:=J_\lambda x$、$r_\lambda:=\|x-p_\lambda\|$ とおく。Fenchel–Moreauの定理 の補題「連続アフィン下界の存在」により、$g\in H$、$c\in\mathbb{R}$ で $\varphi(y)\ge(g,y)+c$($y\in H$)となるものがある。$(g,p_\lambda)\ge(g,x)-\|g\|r_\lambda$ なので
$$ L\ge e_\lambda\varphi(x)=\varphi(p_\lambda)+\frac{r_\lambda^2}{2\lambda}\ge(g,x)+c-\|g\|r_\lambda+\frac{r_\lambda^2}{2\lambda} $$
である。$M:=\max\{L-(g,x)-c,\ 0\}$ とおくと $r_\lambda^2\le2\lambda\|g\|r_\lambda+2\lambda M$ であり、$r_\lambda\le4\lambda\|g\|$ または $r_\lambda^2< 4\lambda M$ が成り立つ($r_\lambda>4\lambda\|g\|$ なら $2\lambda\|g\|r_\lambda< \frac12r_\lambda^2$ なので $r_\lambda^2< \frac12r_\lambda^2+2\lambda M$ となり、$r_\lambda^2< 4\lambda M$ を得る)。どちらにしても $\lambda\to0$ で $r_\lambda\to0$、すなわち $p_\lambda\to x$ である。$\varphi(p_\lambda)\le e_\lambda\varphi(x)\le L$ と $\varphi$ の下半連続性から $\varphi(x)\le\liminf_{\lambda\downarrow0}\varphi(p_\lambda)\le L$ であり、$L=\varphi(x)$ である。$L=+\infty$ なら $\varphi(x)=+\infty=L$ である。$x\notin D(\varphi)$ で $L< +\infty$ とすると $\varphi(x)\le L< +\infty$ となって矛盾するので、$e_\lambda\varphi(x)\to+\infty$ である。
2:$J_\lambda x\in D(\varphi)$ なので、$J_\lambda x\to x$ なら $x\in\overline{D(\varphi)}$ である。逆に、$z\in D(\varphi)$ では 1 の証明で $L=\varphi(z)< +\infty$ なので $J_\lambda z\to z$ である。$x\in\overline{D(\varphi)}$ と $\varepsilon>0$ について $\|x-z\|< \varepsilon$ となる $z\in D(\varphi)$ をとると、thm-my-firm から
$$ \|J_\lambda x-x\|\le\|J_\lambda x-J_\lambda z\|+\|J_\lambda z-z\|+\|z-x\|\le2\varepsilon+\|J_\lambda z-z\| $$
であり、$\limsup_{\lambda\downarrow0}\|J_\lambda x-x\|\le2\varepsilon$ である。$\varepsilon$ は任意なので $J_\lambda x\to x$ である。
3:$e_\lambda\varphi\le\varphi$ から $\inf e_\lambda\varphi\le\inf\varphi$ であり、$e_\lambda\varphi(x)\ge\varphi(J_\lambda x)\ge\inf\varphi$ から逆の不等号を得る。劣微分 の命題「劣微分の基本性質」の 2(Fermat の規則)により、$x$ が $\varphi$ の最小点であることは $0\in\partial\varphi(x)$ と同値であり、thm-my-prox-char で $p=x$ とおくとこれは $J_\lambda x=x$ と同値である。一方 $e_\lambda\varphi$ は凸で微分可能なので、$x$ がその最小点であることは $\nabla e_\lambda\varphi(x)=0$ と同値である(劣微分 の系「微分可能性と劣微分」の 1 により $\partial e_\lambda\varphi(x)=\{\nabla e_\lambda\varphi(x)\}$ で、Fermat の規則を当てる)。thm-my-gradient の式から、これは $J_\lambda x=x$ と同値である。$\square$

1 は、不連続で $+\infty$ をとる凸関数が、微分可能で勾配が Lipschitz 連続な凸関数の増加族の極限であることを示している。$\|\cdot\|^2$ の代わりにノルム $n\|\cdot\|$ との inf畳み込み をとる正則化(inf畳み込み の定理「inf 畳み込みによる正則化」)は一般のノルム空間で使えるが、得られる関数は Lipschitz 連続にとどまり、微分可能とは限らない($\varphi$ が $\{0\}$ の指示関数なら $n\|x\|$ である)。3 は、$\varphi$ の最小化を、滑らかな $e_\lambda\varphi$ の最小化や、近接写像の不動点を求める問題に置きかえられることを意味する。不動点の反復 $x_{n+1}=J_\lambda x_n$ は、$e_\lambda\varphi$ に刻み幅 $\lambda$ の勾配降下法 $x_{n+1}=x_n-\lambda\nabla e_\lambda\varphi(x_n)$ を当てたものと同じである。

共役との関係:Moreau の分解

$H^*=H$ と同一視しているので、Fenchel共役 $\varphi^*(v)=\sup_y\bigl((v,y)-\varphi(y)\bigr)$ も $H$ 上の関数であり、凸で下半連続な真の関数である(Fenchel共役 の定理「共役の基本性質」の 1 と、Fenchel–Moreauの定理 の補題「連続アフィン下界の存在」)。$\varphi^*$ の近接写像を $J^*_\lambda$ と書く。

Moreau の分解

すべての $x\in H$ について
$$ x=J_1x+J^*_1x,\qquad e_1\varphi(x)+e_1\varphi^*(x)=\frac12\|x\|^2 $$
が成り立つ。

$v:=x-J_1x$ が $\varphi$ の $J_1x$ での劣勾配であることを、共役の側で $J_1x$ が $\varphi^*$ の $v$ での劣勾配であることと読みかえる。

詳細

$p:=J_1x$、$v:=x-p$ とおく。thm-my-prox-char により $v\in\partial\varphi(p)$ である。劣微分 の命題「劣微分の基本性質」の 5 により、これは「すべての $w$ で $\varphi^*(w)\ge\varphi^*(v)+(w-v,p)$」、すなわち $p\in\partial\varphi^*(v)$ と同値である。$x-v=p\in\partial\varphi^*(v)$ なので、thm-my-prox-char を $\varphi^*$ に当てて $v=J^*_1x$ を得る。値については、同じ命題の 4(Fenchel–Youngの不等式 の等号条件)から $\varphi(p)+\varphi^*(v)=(v,p)$ であり、$$e_1\varphi(x)+e_1\varphi^*(x)=\varphi(p)+\frac12\|v\|^2+\varphi^*(v)+\frac12\|p\|^2=\frac12\|v+p\|^2=\frac12\|x\|^2$$である。$\square$

これは Bre11 Problem 26 の 5(pp. 474–475)に問題として挙げられている。$\varphi=I_M$($M$ は閉部分空間)なら $\varphi^*=I_{M^\perp}$ であり(Fenchel共役 の例「指示関数と支持関数」の零化空間を内積で $M^\perp$ と読む)、近接写像は次の例の 1 により射影なので、分解は直交分解 $x=P_Mx+P_{M^\perp}x$(Hilbert空間 の定理「直交射影と直交分解」)になる。Moreau の分解はその非線形版である。

例

閉凸集合への射影

$K\subset H$ を空でない閉凸集合とし、$\varphi=I_K$ とする。$e_\lambda I_K(x)=\frac1{2\lambda}\inf_{y\in K}\|x-y\|^2=\frac1{2\lambda}d_K(x)^2$($d_K$ は $K$ への距離)であり、下限をとる点は $K$ の中で $x$ に最も近い点なので、$J_\lambda=P_K$(Hilbert空間 の定理「閉凸集合への最短点の存在と一意性」の射影)は $\lambda$ によらない。thm-my-gradient から $\frac12d_K^2$ は微分可能で $\nabla\bigl(\tfrac12d_K^2\bigr)(x)=x-P_Kx$ であり、thm-my-firm から $P_K$ は堅非拡大である(Bre11 Problem 27、p. 475 の冒頭の不等式)。thm-my-prox-char は、$p=P_Kx$ が「$p\in K$ かつ $(x-p,y-p)\le0$($y\in K$)」で特徴づけられることを述べている。

絶対値と軟しきい値

$H=\mathbb{R}$、$\varphi(x)=|x|$ とする。$\partial\varphi(p)$ は $p>0$ で $\{1\}$、$p< 0$ で $\{-1\}$、$p=0$ で $[-1,1]$ である(劣微分 の命題「1 変数の凸関数の劣微分」)。thm-my-prox-char の条件 $\frac{x-p}\lambda\in\partial\varphi(p)$ を解くと
$$ J_\lambda x=\operatorname{sgn}(x)\max\{|x|-\lambda,0\} $$
(軟しきい値)であり、$e_\lambda\varphi(x)$ は $|x|\le\lambda$ で $\frac{x^2}{2\lambda}$、$|x|>\lambda$ で $|x|-\frac\lambda2$ である。$\lambda=1$ の場合が inf畳み込み の例「Huber 関数」である。$\nabla e_\lambda\varphi(x)=\max\{-1,\min\{x/\lambda,1\}\}$ は傾き $\frac1\lambda$ で $-1$ と $1$ を結ぶ折れ線で、$\lambda\to0$ で $\operatorname{sgn}x$ に近づく。

正値な 2 次形式

$B\colon H\to H$ を有界な自己共役作用素で $(Bx,x)\ge0$($x\in H$)を満たすものとし、$\varphi(x)=\frac12(Bx,x)$ とする。$\varphi$ は連続な凸関数で($(1-t)\varphi(x)+t\varphi(y)-\varphi((1-t)x+ty)=\frac{t(1-t)}2(B(x-y),x-y)\ge0$)、方向微分は $(Bx,y)$ なので $\partial\varphi(p)=\{Bp\}$ である(劣微分 の系「微分可能性と劣微分」)。thm-my-prox-char の条件は $x=(I+\lambda B)p$ であり、$J_\lambda x$ がすべての $x$ についてただ 1 つ存在することから、$I+\lambda B$ は全単射で
$$ J_\lambda=(I+\lambda B)^{-1},\qquad\nabla e_\lambda\varphi=\frac1\lambda\bigl(I-(I+\lambda B)^{-1}\bigr)=B(I+\lambda B)^{-1} $$
である。$\nabla e_\lambda\varphi$ は、$B$ の吉田近似(thm-my-gradient の後の注意)そのものである。

条件を外した反例

thm-my-gradient と thm-my-limit の仮定を 1 つずつ外すと、次のように結論が崩れる。表の各行は 1 つの条件だけを外している。

外す条件反例成り立たなくなること
下半連続性$H=\mathbb{R}$、$\varphi=I_{(0,1)}$$x=0$ で $\inf_{0< y< 1}\frac{y^2}{2\lambda}=0$ が達成されず $J_\lambda0$ が定まらない。$e_\lambda\varphi(0)=0$ は $\varphi(0)=+\infty$ に収束しない
凸性$H=\mathbb{R}$、$\varphi(y)=(\lvert y\rvert-1)^2$$x=0$ で下限をとる点が $\pm\frac{2\lambda}{1+2\lambda}$ の 2 つあり、$e_\lambda\varphi(x)=\frac{(\lvert x\rvert-1)^2}{1+2\lambda}$ は $x=0$ で微分できない
ノルムが内積から来ること$\mathbb{R}^2$ に $\|x\|_\infty=\max\{\lvert x_1\rvert,\lvert x_2\rvert\}$、$\varphi=I_C$、$C=\{(s,0)\mid\lvert s\rvert\le1\}$$x=(0,2)$ で下限をとる点が $C$ 全体になり、近接写像がただ 1 つに定まらない
表の反例の確かめ

各行で下限を直接計算する。

詳細

1 行目:$\varphi$ は凸で真だが、$\{\varphi\le0\}=(0,1)$ が閉でないので下半連続でない。$e_\lambda\varphi(x)=\frac1{2\lambda}\inf_{0< y< 1}(x-y)^2$ であり、$x=0$ では下限 $0$ は $y\downarrow0$ の極限としてしか近づけない。すべての $\lambda$ で $e_\lambda\varphi(0)=0$ なので、極限は $0\neq+\infty$ である。

2 行目:$\varphi$ は連続な真の関数だが凸でない($\varphi(0)=1>0$)。$\varphi=\min\{q_+,q_-\}$、$q_\pm(y)=(y\mp1)^2$ と書くと、下限の順序を入れかえて $e_\lambda\varphi=\min\{e_\lambda q_+,e_\lambda q_-\}$ である。$\inf_y\bigl((y-a)^2+\frac1{2\lambda}(x-y)^2\bigr)$ は $y=\frac{2\lambda a+x}{2\lambda+1}$ でとられ、値は $\frac{(x-a)^2}{1+2\lambda}$ である($y$ の 2 次式を平方完成する)。よって $e_\lambda\varphi(x)=\frac{\min\{(x-1)^2,(x+1)^2\}}{1+2\lambda}=\frac{(|x|-1)^2}{1+2\lambda}$ であり、$x=0$ での右微分係数は $-\frac2{1+2\lambda}$、左微分係数は $\frac2{1+2\lambda}$ で一致しない。$x=0$ で下限をとる点は $a=\pm1$ に対応する $y=\pm\frac{2\lambda}{2\lambda+1}$ の 2 つで、どちらも値 $\frac1{1+2\lambda}$ を与える。

3 行目:このノルムは完備だが平行四辺形の等式を満たさない(Hilbert空間 の例「反例:内積から来ないノルムでの最短点」)。$\varphi=I_C$ は凸で下半連続な真の関数であり、$\varphi(y)+\frac1{2\lambda}\|x-y\|_\infty^2$ の下限をとる点は $C$ の中で $x$ に最も近い点である。同じ例により、$x=(0,2)$ からの距離 $2$ を実現する点は $C$ 全体である。

1 行目で $\varphi$ を下半連続包 $I_{[0,1]}$ に替えると $J_\lambda0=0$ となり、thm-my-limit の 1 のとおり $e_\lambda I_{[0,1]}(0)=0=I_{[0,1]}(0)$ である。

関連項目

参考文献

[1]
Haim Brezis, Functional Analysis, Sobolev Spaces and Partial Differential Equations, Springer, 2011, §7.1(p. 182、レゾルベントと吉田近似の定義)、Problem 26(pp. 474–475、Moreau の近接写像)、Problem 27(p. 475、射影の堅非拡大性)

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する