Sobolev空間の延長作用素

$\eta\in C^\infty(\mathbb R)$ を、$t\le\frac12$ で $\eta(t)=0$、$t\ge1$ で $\eta(t)=1$ となるものとし、$\eta_k(t):=\eta(kt)$ とおく。$\varphi\in C_c^1(D)$ を任意にとる。
接線方向（$i\le N-1$）．$\psi(x',x_N):=\varphi(x',x_N)+\varphi(x',-x_N)$ を $D_+$ 上で考える。変数 $x_N\mapsto-x_N$ を替えれば $\int_Du^\ast\partial_i\varphi=\int_{D_+}u\,\partial_i\psi$ である。$\psi$ は $x_N=0$ の近くで $0$ とは限らないので、そのままでは弱微分の定義に使えない。そこで $\eta_k(x_N)\psi$ を考えると、これは $C^1_c(D_+)$ に属し、$\partial_i(\eta_k\psi)=\eta_k\partial_i\psi$ なので
$$ \int_{D_+}u\,\eta_k\,\partial_i\psi=-\int_{D_+}\partial_iu\,\eta_k\,\psi $$
である。$0\le\eta_k\le1$、$\eta_k\to1$（$x_N>0$ で各点）なので、優収束定理 で $k\to\infty$ とすると $\int_{D_+}u\,\partial_i\psi=-\int_{D_+}\partial_iu\,\psi=-\int_D(\partial_iu)^\ast\varphi$ を得る。
法線方向（$i=N$）．$\chi(x',x_N):=\varphi(x',x_N)-\varphi(x',-x_N)$ とおくと $\int_Du^\ast\partial_N\varphi=\int_{D_+}u\,\partial_N\chi$ である。$\chi(x',0)=0$ なので、平均値の定理から $|\chi(x',x_N)|\le M|x_N|$（$M:=2\sup|\partial_N\varphi|$）である。$\eta_k\chi\in C_c^1(D_+)$ に弱微分の定義を当てると
$$ \int_{D_+}u\,\eta_k\,\partial_N\chi+\int_{D_+}u\,k\eta'(kx_N)\,\chi=-\int_{D_+}\partial_Nu\,\eta_k\,\chi $$
である。第 2 項は、$\eta'(kx_N)$ が $\frac1{2k}< x_N< \frac1k$ でしか $0$ でないので、$L:=\sup|\eta'|$ として
$$ \Bigl|\int_{D_+}u\,k\eta'(kx_N)\chi\Bigr|\le kLM\int_{K\cap\{0< x_N< 1/k\}}|u|\,x_N\,dx\le LM\int_{K\cap\{0< x_N< 1/k\}}|u|\,dx\to0 $$
となる。ここで $K$ は $\varphi$ の台を $x_N\mapsto|x_N|$ で折り返した有界集合で、$u\in L^1(K\cap D_+)$ である（$|K|<\infty$ と Hölder の不等式による）。残りの 2 項で $k\to\infty$ とすると $\int_{D_+}u\,\partial_N\chi=-\int_{D_+}\partial_Nu\,\chi=-\int_D(\partial_Nu)^\square\varphi$ を得る。
以上で弱微分の式が示された。$|f^\ast|=|f^\square|=|f|^\ast$ なので、$p<\infty$ では $\|f^\ast\|_{L^p(D)}=2^{1/p}\|f\|_{L^p(D_+)}\le2\|f\|_{L^p(D_+)}$、$p=\infty$ では等しい。これを $u$ と各 $\partial_iu$ に当てればノルムの評価が従う。$\square$

lem-ext-reflection を $D'=\mathbb R^{N-1}$、$c=\infty$ で使えばよい。線形性と $Pu|_{\mathbb R^N_+}=u$ は定義から明らかである。$\square$

要点：$H^{-1}$ の Jacobi 行列式が有界なので、合成は零集合を保ち $L^p$ ノルムを定数倍しか増やさない。連鎖律は、テスト関数の台の近くで $u$ を軟化した滑らかな関数について成り立つ式の極限として得る。

半空間は cor-ext-halfspace である。$\Gamma=\emptyset$ なら $\Omega=\mathbb R^N$ か $\emptyset$ で、恒等写像でよい。以下 $\Gamma\ne\emptyset$ とする。
被覆．$\Gamma$ は有界な閉集合なのでコンパクトである。局所座標 $H\colon Q\to U$ は $H\in C^1(\overline Q)$、$H^{-1}\in C^1(\overline U)$ なので、$H$ と $H^{-1}$ の微分は有界で、$DH^{-1}(H(y))\,DH(y)=I$ から Jacobi 行列式の逆数も有界である。有限個の局所座標 $H_i\colon Q\to U_i$（$1\le i\le k$）で $\Gamma\subset U_1\cup\dots\cup U_k$ となるものをとる。1の分割 により、$C^\infty$ 級の関数 $\theta_0,\theta_1,\dots,\theta_k$ で、$0\le\theta_i\le1$、$\sum_{i=0}^k\theta_i=1$（$\mathbb R^N$ 上）、$\theta_i$（$i\ge1$）の台は $U_i$ に含まれるコンパクト集合、$\theta_0$ の台は $\Gamma$ と交わらないものがとれる（各 $x\in\Gamma$ について、$x$ を含むある $U_i$ に閉包が含まれる $x$ 中心の開球をとり、その有限個で $\Gamma$ を覆う。$U_i$ に割り当てた球の和を $V_i$ とし、開被覆 $V_1,\dots,V_k,\ \mathbb R^N\setminus\Gamma$ に従属する滑らかな 1 の分割を 1の分割 の定理「滑らかな 1 の分割の存在」でとれば、$\operatorname{supp}\theta_i\subset V_i\subset\overline{V_i}\subset U_i$ で $\overline{V_i}$ はコンパクトである。主張は Bre11 Lemma 9.3、p. 276 にもある）。$\nabla\theta_0=-\sum_{i\ge1}\nabla\theta_i$ は有界である。
$u\in W^{1,p}(\Omega)$ を $u=\sum_{i=0}^k\theta_iu$ と分け、各項を別々に延ばす。
内側の項．$\theta_0u\in W^{1,p}(\Omega)$ である（lem-ext-cutoff の 1）。$\theta_0$ の台 $F_0$ は $\Gamma$ と交わらない閉集合なので $F_0\cap\overline\Omega=F_0\cap\Omega$ は $\mathbb R^N$ の閉集合で $\Omega$ に含まれ、その外で $\theta_0u=0$ である。lem-ext-cutoff の 2 により、$0$ で延ばした $\overline{\theta_0u}$ は $W^{1,p}(\mathbb R^N)$ に属し、ノルムは $C\|u\|_{W^{1,p}(\Omega)}$ 以下である。
境界の近くの項．$1\le i\le k$ について $v_i:=u\circ H_i$ を $Q_+$ 上で考えると、$H_i(Q_+)=U_i\cap\Omega$ なので、prop-ext-change-of-variables を $H_i$ の $Q_+$ への制限 $Q_+\to U_i\cap\Omega$ に当てて $v_i\in W^{1,p}(Q_+)$ を得る。lem-ext-reflection（$D'=\{|x'|<1\}$、$c=1$）で偶反射 $v_i^\ast\in W^{1,p}(Q)$ を作り、$w_i:=v_i^\ast\circ H_i^{-1}$ とおくと、prop-ext-change-of-variables を $H_i^{-1}\colon U_i\to Q$ に当てて $w_i\in W^{1,p}(U_i)$、$U_i\cap\Omega$ の上で $w_i=u$、$\|w_i\|_{W^{1,p}(U_i)}\le C\|u\|_{W^{1,p}(U_i\cap\Omega)}$ である。$\theta_iw_i\in W^{1,p}(U_i)$ は $\theta_i$ のコンパクトな台の外で $0$ なので、lem-ext-cutoff の 2 によって $0$ で延ばした $\hat u_i$ は $W^{1,p}(\mathbb R^N)$ に属し、$\Omega$ の上で $\hat u_i=\theta_iu$ である。
貼り合わせ．$Pu:=\overline{\theta_0u}+\sum_{i=1}^k\hat u_i$ とおく。各操作は線形で、$\Omega$ の上では $\sum_i\theta_iu=u$ に戻る。$W^{1,p}$ ノルムの評価は各項の評価を足せばよい。$L^p$ ノルムの評価も、各操作（$\theta_i$ を掛ける、座標変換、反射、$0$ で延ばす）が $L^p$ ノルムを定数倍以下にしかしないことから同様に従う。定数に現れるのは、$\theta_i$ とその微分の上限、$H_i$・$H_i^{-1}$ の微分と Jacobi 行列式の上限（$p$ 乗根をとっても $\max(1,\cdot)$ 以下）、反射の $2$、項の個数 $k$ だけで、どれも $p$ によらない。$\square$

$u\in W^{1,p}(\Omega)$ について $Pu\in W^{1,p}(\mathbb R^N)$ である。$C_c^\infty(\mathbb R^N)$ は $W^{1,p}(\mathbb R^N)$ で稠密なので（Bre11 Theorem 9.2、p. 265。軟化子 による平滑化と切り落としで示される）、$\varphi_n\to Pu$ となる $\varphi_n\in C_c^\infty(\mathbb R^N)$ がある。制限は $W^{1,p}$ ノルムを増やさないので $\varphi_n|_\Omega\to Pu|_\Omega=u$ である。$\square$

要点：$\zeta(x/R)$ を掛けて遠方を切り落とすと、関数は大きな球の外で $0$ になる。その球の近くの境界はコンパクトなので、thm-ext-c1 の証明と同じ局所座標・反射・1 の分割で全空間へ延ばせる。あとは全空間で滑らかな関数に近づける。

$u\in W^{1,p}(\Omega)$ を、まず直線 $x_2=0$ で偶反射して $(0,1)\times(-1,1)$ へ、次に $x_1=0$ で反射して $(-1,1)^2$ へ、$x_2=1$ で反射して $(-1,1)\times(-1,3)$ へ、$x_1=1$ で反射して $\tilde\Omega:=(-1,3)^2$ へ延ばす。各段は座標を平行移動・入れ替えれば lem-ext-reflection（$D'$ を開区間、$c$ を区間の長さ以下にとる）の形なので、$\tilde u\in W^{1,p}(\tilde\Omega)$、$\|\tilde u\|_{W^{1,p}(\tilde\Omega)}\le16\|u\|_{W^{1,p}(\Omega)}$（$L^p$ ノルムも同じ）である。$\psi\in C_c^\infty(\tilde\Omega)$ を $\overline\Omega$ の近傍で $1$ となるようにとり、$Pu$ を $\psi\tilde u$ を $\tilde\Omega$ の外で $0$ と延ばしたものとすれば、lem-ext-cutoff により $P$ は延長作用素である。
$C^1$ 級でないこと：角 $(0,0)$ での局所座標 $H$ があれば、$H(Q_0)$ は $(0,0)$ を通る $C^1$ 級の正則な曲線を含み、$(0,0)$ での接線は 1 本だけである。ところが境界の 2 辺から $(0,0)$ に近づく弦の向きは、それぞれ $x_1$ 軸と $x_2$ 軸の向きに限られ、どちらも $H(Q_0)$ の接線の向きでなければならないので矛盾する。$\square$

$u\in W^{1,p}(\Omega)$．$\Omega$ のうち $x_1=0$ を満たす点は $x_2<0$ にあり、その近くでは $x_2<\frac14$ なので $u=0$ である。それ以外の点の近くでは $\operatorname{sgn}(x_1)$ は定数である。よって $u\in C^\infty(\Omega)$ で、$u$ と勾配 $\nabla u=h'(x_2)\operatorname{sgn}(x_1)e_2$ は有界、$\Omega$ は有界なので、$u\in W^{1,p}(\Omega)$ である。
延長できないこと．$v\in W^{1,p}(\mathbb R^N)$ が $\Omega$ の上で $u$ に一致するとする。$B:=(-1,1)\times(\frac12,1)\times(0,1)^{N-2}$ とおくと、$v\in W^{1,1}(B)$ である（$B$ は有界なので Hölder の不等式による）。$B$ の点を $(t,y)$（$t\in(-1,1)$、$y\in B':=(\frac12,1)\times(0,1)^{N-2}$）と書く。
$\phi\in C^\infty(\mathbb R^N)$ について、$0< s< 1$ と $y\in B'$ で 微積分学の基本定理 から $|\phi(s,y)-\phi(-s,y)|\le\int_{-1}^1|\partial_1\phi(t,y)|\,dt$ である。$s$ と $y$ について積分すると
$$ \int_{B'}\int_0^1|\phi(s,y)-\phi(-s,y)|\,ds\,dy\le\int_B|\partial_1\phi|\,dx $$
を得る（これを $(\ast)$ と呼ぶ）。両辺は $W^{1,1}(B)$ のノルムについて連続である（左辺は $\phi$ の差の $L^1(B)$ ノルムの $2$ 倍で押さえられる）。$v$ の 軟化子 による平滑化 $\rho_\varepsilon*v$ は $\overline B$ の近傍の上で $C^\infty$ 級で、$\varepsilon\to0$ のとき $W^{1,1}(B)$ で $v$ に収束する（弱微分と畳み込みが交換し、軟化子 の定理「軟化による近似」の 3 を $v$ と $\partial_1v$ に当てる）。よって $(\ast)$ は $v$ についても成り立つ。
$B\cap\Omega=B\setminus\{x_1=0\}$ で、$x_1>0$ では $v=u=1$、$x_1<0$ では $v=u=-1$ である。よって $(\ast)$ の左辺は $\int_{B'}\int_0^1|1-(-1)|\,ds\,dy=2|B'|>0$ である。一方、$\{x_1=0\}$ は測度 $0$ で、開集合 $B\cap\Omega$ の上では $\partial_1v=\partial_1u=0$ なので、右辺は $0$ である。これは矛盾である。$\square$