方向微分

同義語:方向微分係数directional derivative

概要

方向微分(directional derivative)とは、開集合 $U\subset\mathbb{R}^n$ 上の関数 $f$、点 $p\in U$、ベクトル $v$ について、直線 $t\mapsto p+tv$ に沿った差分商の極限 $D_vf(p)=\lim_{t\to0}(f(p+tv)-f(p))/t$ のことであり、$v$ が標準基底ベクトルなら偏微分係数になる。$f$ が $p$ で全微分可能なら、すべての方向微分が存在して $D_vf(p)=Df(p)v$ となるが、すべての方向微分が存在しても、$f$ は一般に連続とも $v$ について線形とも限らない。線分の各点でその方向の方向微分が存在すれば、実数値の関数はその線分に沿って平均値の定理を満たし、凸関数では右からの極限で定める片側方向微分がつねに実数として存在する。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 偏微分, 全微分

方向微分(directional derivative)とは、多変数の関数を、点 $p$ を通り方向 $v$ に進む直線 $t\mapsto p+tv$ の上に制限し、その 1 変数の関数を $t=0$ で微分した値 $D_vf(p)$ である。たとえば $f(x,y)=x^2+3xy$ を点 $p=(1,1)$ から $v=(2,-1)$ の方向に動かすと $f(p+tv)=(1+2t)^2+3(1+2t)(1-t)=4+7t-2t^2$ なので、$D_vf(p)=7$ である。偏微分 は、$v$ を座標軸の方向の単位ベクトル $e_j$ にとった特別な場合にあたる。
全微分可能な関数では、方向微分は全微分を $v$ に当てたもの $Df(p)v$ であり、実数値なら勾配との内積 $\nabla f(p)\cdot v$ になる(prop-dd-differentiable)。上の例でも $\nabla f(1,1)=(5,3)$ で、$(5,3)\cdot(2,-1)=7$ である。逆に、すべての方向の方向微分が存在しても、関数が連続とも、$v$ について線形とも限らない(ex-dd-table)。方向微分は 1 方向ずつの情報なので、全微分可能でない関数にも使える。直線に沿った平均値の定理(thm-dd-mvt)や、凸関数の片側方向微分(prop-dd-convex)がその例である。

定義

以下、$\mathbb{R}^n$ のノルムを Euclid ノルム $\|x\|$、内積を $x\cdot y$、第 $j$ 成分だけが $1$ の標準基底ベクトルを $e_j$ と書く。

方向微分と片側方向微分

$U\subset\mathbb{R}^n$ を開集合、$f\colon U\to\mathbb{R}^m$、$p\in U$、$v\in\mathbb{R}^n$ とする。極限
$$ D_vf(p):=\lim_{t\to0}\frac{f(p+tv)-f(p)}{t} $$
が $\mathbb{R}^m$ の中に存在するとき、これを $f$ の $p$ での $v$ 方向の 方向微分(方向微分係数)という。$t\to0$ を右からの極限 $t\downarrow0$ に替えたもの
$$ D_v^+f(p):=\lim_{t\downarrow0}\frac{f(p+tv)-f(p)}{t} $$
を 片側方向微分 という。

$U$ は開集合なので、$\lvert t\rvert$ が十分小さければ $p+tv\in U$ であり、差分商は意味をもつ。$\varphi(t):=f(p+tv)$ とおくと、$D_vf(p)$ が存在することは $\varphi$ が $t=0$ で微分可能であることと同じで、$D_vf(p)=\varphi'(0)$ である。$v=e_j$ なら $D_{e_j}f(p)=\frac{\partial f}{\partial x_j}(p)$ は偏微分係数である。値が $\mathbb{R}^m$ のときは、成分ごとの方向微分が存在することと同値で、成分ごとに計算すればよい。
$D_vf(p)$ を $\partial_vf(p)$ や $\nabla_vf(p)$ と書くこともある。$v$ の長さは限らない。Rud76 pp. 217–218 の (39) は $v$ を単位ベクトルに限って方向微分と呼び、LS90 §3.7(p. 147)と Lee13 p. 52 の (3.1)・p. 647 の (C.6) は長さを限らない。長さを限らないとき、同じ向きのベクトルでも長さが違えば値は一般に違う(prop-dd-basic の 2)ので、「方向」という言葉は厳密には向きと長さの組を指す(LS90 p. 147 にも同じ注意がある)。凸解析では片側方向微分を $f'(p;v)$ と書くことが多い。

方向微分の基本性質

$U\subset\mathbb{R}^n$ を開集合、$f,g\colon U\to\mathbb{R}$、$p\in U$、$v\in\mathbb{R}^n$ とする。

  1. $D_0f(p)=0$ である。
  2. $D_vf(p)$ が存在すれば、すべての $c\in\mathbb{R}$ について $D_{cv}f(p)$ が存在して $D_{cv}f(p)=c\,D_vf(p)$ である。
  3. $D_vf(p)$ が存在することと、$D_v^+f(p)$ と $D_{-v}^+f(p)$ がともに存在して $D_{-v}^+f(p)=-D_v^+f(p)$ となることは同値である。このとき $D_vf(p)=D_v^+f(p)$ である。
  4. $D_vf(p)$ と $D_vg(p)$ が存在すれば、実数 $a,b$ について $D_v(af+bg)(p)=aD_vf(p)+bD_vg(p)$、および $D_v(fg)(p)=f(p)\,D_vg(p)+g(p)\,D_vf(p)$ が成り立つ。
直線に制限して 1 変数の微分に直す

1 は差分商がつねに $0$ だからである。
2:$c=0$ なら 1 による。$c\ne0$ なら、$t\ne0$ について $s:=ct$ とおくと
$$ \frac{f(p+tcv)-f(p)}{t}=c\cdot\frac{f(p+sv)-f(p)}{s} $$
であり、$t\to0$ のとき $s\to0$($s\ne0$)なので右辺は $c\,D_vf(p)$ に近づく。
3:$t>0$ について $s:=-t$ とおくと
$$ \frac{f(p+t(-v))-f(p)}{t}=-\frac{f(p+sv)-f(p)}{s} $$
である。よって $D_{-v}^+f(p)$ が存在することは、$\varphi(t)=f(p+tv)$ の差分商の左極限 $\lim_{s\uparrow0}$ が存在することと同じで、その値は左極限の $-1$ 倍である。両側の極限が存在することは、右極限と左極限がともに存在して等しいことと同値なので、主張を得る。
4:$\varphi(t):=f(p+tv)$、$\psi(t):=g(p+tv)$ は $t=0$ で微分可能であり、$D_v(af+bg)(p)=(a\varphi+b\psi)'(0)$、$D_v(fg)(p)=(\varphi\psi)'(0)$ である。1 変数の和と積の微分法(導関数 の定理「和・積・商の微分法」)により、$(\varphi\psi)'(0)=\varphi(0)\psi'(0)+\psi(0)\varphi'(0)$ などとなる。$\square$

2 は $c=-1$ を含むので、方向微分 $D_vf(p)$ は $v$ について奇関数である。しかし $v$ について和を保つ($D_{v+w}f(p)=D_vf(p)+D_wf(p)$)とは限らない(ex-dd-table の 2 行目)。

全微分との関係

$f\colon U\to\mathbb{R}^m$ が $p$ で全微分可能であるとは、線形写像 $A\colon\mathbb{R}^n\to\mathbb{R}^m$ があって
$$ \lim_{h\to0}\frac{\|f(p+h)-f(p)-Ah\|}{\|h\|}=0 $$
が成り立つことをいい、$A$ を $Df(p)$ と書く。実数値の場合、すべての偏微分係数が存在するとき $\nabla f(p):=\bigl(\frac{\partial f}{\partial x_1}(p),\dots,\frac{\partial f}{\partial x_n}(p)\bigr)$ を $p$ での 勾配 という。

全微分可能な関数の方向微分の公式

$f\colon U\to\mathbb{R}^m$ が $p$ で全微分可能なら、すべての $v\in\mathbb{R}^n$ について $D_vf(p)$ が存在して
$$ D_vf(p)=Df(p)\,v $$
が成り立つ。とくに $v\mapsto D_vf(p)$ は線形であり、$f$ が実数値なら $Df(p)v=\nabla f(p)\cdot v=\sum_jv_j\frac{\partial f}{\partial x_j}(p)$ である。

誤差項を直線の上で評価する

$r(h):=f(p+h)-f(p)-Df(p)h$ とおくと、仮定は $\|r(h)\|/\|h\|\to0$($h\to0$)である。$v=0$ なら両辺は $0$ である。$v\ne0$ とすると、$\lvert t\rvert$ が十分小さい $t\ne0$ について
$$ \Bigl\|\frac{f(p+tv)-f(p)}{t}-Df(p)v\Bigr\|=\frac{\|r(tv)\|}{\lvert t\rvert}=\|v\|\cdot\frac{\|r(tv)\|}{\|tv\|} $$
であり、$t\to0$ のとき $tv\to0$ なので右辺は $0$ に近づく。実数値の場合、$v=e_j$ とすると $\frac{\partial f}{\partial x_j}(p)=Df(p)e_j$ なので、$Df(p)$ は行ベクトル $\nabla f(p)$ を掛ける写像であり、$Df(p)v=\nabla f(p)\cdot v$ となる。$\square$

これは LS90 Theorem 7.2(p. 148)の直線の場合であり、Rud76 pp. 217–218 の (39)・(40) は単位ベクトル $u$ について $(D_uf)(x)=(\nabla f)(x)\cdot u=\sum_iu_i(D_if)(x)$ と書いている。対偶をとると、ある方向の方向微分が存在しない関数や、$v\mapsto D_vf(p)$ が線形でない関数は、$p$ で全微分可能でない。

勾配は最も急な増加の方向

$f$ が $p$ で全微分可能で実数値なら、Cauchy–Schwarzの不等式 により、長さ $1$ の $u$ について $\lvert D_uf(p)\rvert=\lvert\nabla f(p)\cdot u\rvert\le\|\nabla f(p)\|$ である。$\nabla f(p)\ne0$ なら、等号は $u=\pm\nabla f(p)/\|\nabla f(p)\|$ で成り立ち、$+$ の側で $D_uf(p)=\|\nabla f(p)\|$ となる。勾配は $f$ が最も速く増える向きを指し、その長さが増える速さである(Rud76 p. 218)。また $u\cdot\nabla f(p)=0$ となる方向、つまり勾配に直交する方向の方向微分は $0$ である。冒頭の $f(x,y)=x^2+3xy$ では、点 $(1,1)$ で最も速く増える向きは $(5,3)/\sqrt{34}$ で、その速さは $\sqrt{34}\approx5.83$ である。

直線に沿った平均値の定理

方向微分が 1 つの方向にしか存在しなくても、その方向の線分の上では 1 変数の平均値の定理が使える。全微分可能性は要らない。

方向微分による平均値の定理

$U\subset\mathbb{R}^n$ を開集合、$f\colon U\to\mathbb{R}$、$p\in U$、$v\in\mathbb{R}^n$ とし、線分 $\{p+tv\mid0\le t\le1\}$ が $U$ に含まれ、その各点 $q$ で $D_vf(q)$ が存在するとする。このとき $0< \theta< 1$ で
$$ f(p+v)-f(p)=D_vf(p+\theta v) $$
を満たすものがある。

線分上の 1 変数関数に平均値の定理を使う

$U$ は開集合で線分はコンパクトなので、$[0,1]$ を含むある開区間のすべての $t$ で $p+tv\in U$ である。この開区間の上で $\varphi(t):=f(p+tv)$ とおく。$t\in[0,1]$ と小さい $s\ne0$ について
$$ \frac{\varphi(t+s)-\varphi(t)}{s}=\frac{f\bigl((p+tv)+sv\bigr)-f(p+tv)}{s}\to D_vf(p+tv)\qquad(s\to0) $$
である。よって $\varphi$ は $[0,1]$ の各点で微分可能で $\varphi'(t)=D_vf(p+tv)$ であり、とくに $[0,1]$ 上で連続である。平均値の定理 により $0< \theta< 1$ で $\varphi(1)-\varphi(0)=\varphi'(\theta)$ を満たすものがあり、これが主張である。$\square$

すべての方向微分が 0 の関数

$U\subset\mathbb{R}^n$ を凸集合である開集合、$f\colon U\to\mathbb{R}$ とし、すべての $q\in U$ とすべての $v\in\mathbb{R}^n$ について $D_vf(q)=0$ であるとする。このとき $f$ は $U$ 上で定数である。

$p,q\in U$ をとり $v:=q-p$ とおく。凸性から線分 $\{p+tv\mid0\le t\le1\}$ は $U$ に含まれるので、thm-dd-mvt により $f(q)-f(p)=D_vf(p+\theta v)=0$ である。$\square$

$U$ が連結な開集合(連結空間)なら、2 点は $U$ に含まれる折れ線で結べるので、線分ごとに thm-dd-mvt を使って同じ結論が成り立つ。この系では $f$ の全微分可能性も偏導関数の連続性も仮定していない。

方向微分と全微分可能性の差

偏微分係数 → 方向微分 → 方向微分の線形性 → 全微分可能性、と条件は強くなっていくが、どの段も 1 つ前の段からは従わない。

Gâteaux 微分可能性

$f\colon U\to\mathbb{R}^m$ と $p\in U$ について、すべての $v\in\mathbb{R}^n$ で $D_vf(p)$ が存在し、写像 $v\mapsto D_vf(p)$ が線形であるとき、$f$ は $p$ で Gâteaux 微分可能 であるという。

prop-dd-differentiable により、全微分可能なら Gâteaux 微分可能である。Banach 空間の間の写像についても同じ式で定義し、そのときは $v\mapsto D_vf(p)$ が連続線形であることを課すことが多い。片側方向微分だけで定める本もあり、流儀は一定しない。全微分の無限次元版(Fréchet 微分)との関係は 全微分 の記事の補足にある。
次の表の各行は、左の列の含意が成り立たないことを示す例である。1〜4 行目の関数は、原点の外では表の式、原点では $0$ と定める。

成り立たない含意・外す条件反例成り立たなくなること
すべての偏微分係数が存在 ⇒ すべての方向微分が存在$\dfrac{xy}{x^2+y^2}$原点で $D_{(1,1)}$ が存在しない
連続ですべての方向微分が存在 ⇒ $v\mapsto D_vf(p)$ が線形$m(x,y)=\dfrac{x^2y}{x^2+y^2}$$D_{(1,1)}m(0,0)=\frac12\ne D_{e_1}m(0,0)+D_{e_2}m(0,0)=0$
すべての方向微分が存在 ⇒ 連続$g(x,y)=\dfrac{x^2y}{x^4+y^2}$放物線 $y=x^2$ の上で $g=\frac12$
Gâteaux 微分可能で連続 ⇒ 全微分可能$\dfrac{x^3y}{x^4+y^2}$原点で全微分可能でない
すべての片側方向微分が存在 ⇒ 方向微分が存在$\mathbb{R}^n$ の Euclid ノルム $\|x\|$($n\ge1$)原点で $D_v^+=\|v\|=D_{-v}^+$
thm-dd-mvt の「$f$ が実数値」($\mathbb{R}^2$ 値にする)$\mathbb{R}$ 上の $f(t)=(\cos t,\sin t)$、$p=0$、$v=2\pi$$f(p+v)-f(p)=D_vf(p+\theta v)$ となる $\theta$
表の反例の確かめ

1 行目:$t\ne0$ で $f(t,0)=f(0,t)=0$ なので両方の偏微分係数は $0$ である。一方 $f(t,t)=\frac12$ なので差分商 $\frac{1}{2t}$ は $t\to0$ で収束しない。この関数は原点で連続でもない(偏微分 の記事の例「反例:偏微分係数があっても連続でない関数」)。
2 行目:$x^2\le x^2+y^2$ から $\lvert m(x,y)\rvert\le\lvert y\rvert$ なので、$m$ は原点で連続である。$v=(a,b)\ne0$、$t\ne0$ について $\frac{m(ta,tb)}{t}=\frac{a^2b}{a^2+b^2}$ なので $D_vm(0,0)=\frac{a^2b}{a^2+b^2}$ はすべて存在する($v=0$ では $0$)。$v=e_1,e_2$ では $0$、$v=(1,1)$ では $\frac12$ なので、$v$ について和を保たない。prop-dd-differentiable の対偶により、$m$ は原点で全微分可能でない。
3 行目:$v=(a,b)$、$t\ne0$ について、$b\ne0$ なら
$$ \frac{g(ta,tb)}{t}=\frac{a^2b}{t^2a^4+b^2}\to\frac{a^2}{b}\qquad(t\to0) $$
であり、$b=0$ なら $g(ta,0)=0$ である。よって原点ですべての方向微分が存在する。しかし $t\ne0$ で $g(t,t^2)=\frac{t^4}{2t^4}=\frac12$ なので、$g$ は原点で連続でない。$v\mapsto D_vg(0,0)$ も線形でない($D_{(1,1)}g=1$、$D_{e_1}g=D_{e_2}g=0$)。
4 行目:連続であること、すべての方向微分が $0$ であること、放物線 $h=(t,t^2)$ に沿って $\lvert f(h)\rvert/\|h\|\to\frac12$ となり全微分可能でないことは、全微分 の記事の例「表の 2 行目の確かめ」で確かめてある。方向微分がすべて $0$ なので $v\mapsto D_vf(0,0)$ は線形である。
5 行目:$t>0$ なら $\frac{\|tv\|-\|0\|}{t}=\|v\|$ なので $D_v^+\|\cdot\|(0)=\|v\|$ であり、$-v$ についても $\|v\|$ である。$v\ne0$ なら $D_{-v}^+=\|v\|\ne-\|v\|$ なので、prop-dd-basic の 3 により $D_v$ は存在しない。
6 行目:$f(2\pi)-f(0)=0$ だが、$D_vf(s)=2\pi(-\sin s,\cos s)$ は長さ $2\pi$ のベクトルで $0$ にならない。成分ごとには平均値の定理が使えるが、成分ごとに $\theta$ が違ってよいので、1 つの $\theta$ にはそろわない。

凸関数の片側方向微分

凸関数は全微分可能とは限らないが、片側方向微分はつねに存在する。

凸関数の片側方向微分の存在と劣線形性

$U\subset\mathbb{R}^n$ を凸な開集合、$f\colon U\to\mathbb{R}$ を凸関数、$p\in U$ とし、$v\in\mathbb{R}^n$ について $q_v(t):=\frac{f(p+tv)-f(p)}{t}$($t>0$、$p+tv\in U$)とおく。

  1. $q_v$ は単調増加であり、$D_v^+f(p)=\inf_tq_v(t)$ は実数として存在する。さらに $-D_{-v}^+f(p)\le D_v^+f(p)$ である。
  2. $c\ge0$ について $D_{cv}^+f(p)=c\,D_v^+f(p)$、$v,w\in\mathbb{R}^n$ について $D_{v+w}^+f(p)\le D_v^+f(p)+D_w^+f(p)$ である。
  3. $D_vf(p)$ が存在することと $D_{-v}^+f(p)=-D_v^+f(p)$ は同値である。
凸結合で差分商を比べる

1:$0< s< t$ とすると $p+sv=(1-\frac st)p+\frac st(p+tv)$ なので、凸性から $f(p+sv)\le(1-\frac st)f(p)+\frac stf(p+tv)$ であり、$f(p)$ を引いて $s$ で割ると $q_v(s)\le q_v(t)$ を得る。単調増加な関数の $t\downarrow0$ での極限は下限に等しいので、$D_v^+f(p)$ は $[-\infty,\infty)$ の中に存在する。次に $p=\frac12(p+tv)+\frac12(p-tv)$ から $2f(p)\le f(p+tv)+f(p-tv)$、すなわち $q_v(t)\ge-q_{-v}(t)$ である。$t$ を小さくすると $q_{-v}(t)$ は増えないので、ある $t_0>0$ を固定すると $t\le t_0$ で $q_v(t)\ge-q_{-v}(t_0)$ であり、$D_v^+f(p)$ は有限である。$t\downarrow0$ として $D_v^+f(p)\ge-D_{-v}^+f(p)$ を得る。
2:$c=0$ では両辺は $0$ である。$c>0$ なら $q_{cv}(t)=c\,q_v(ct)$ で、$t\downarrow0$ とすればよい。和については、$p+t(v+w)=\frac12(p+2tv)+\frac12(p+2tw)$ と凸性から $f(p+t(v+w))\le\frac12f(p+2tv)+\frac12f(p+2tw)$ であり、$f(p)$ を引いて $t$ で割ると $q_{v+w}(t)\le q_v(2t)+q_w(2t)$ となる。$t\downarrow0$ とすればよい。
3 は prop-dd-basic の 3 である。$\square$

1 の単調性は、ノルム空間の上で値 $+\infty$ も許す凸関数について 劣微分 の補題「凸関数の方向微分」にあり、そこでは片側方向微分と劣勾配の関係(劣勾配がただ 1 つであることと片側方向微分が線形であることの関係)も扱う。ノルムの 2 乗の半分の片側方向微分は 半内積(ノルムの方向微分) として別に調べられている。

最大値関数の片側方向微分

$f(x_1,x_2):=\max\{x_1,x_2\}$ は凸関数である。原点では $t>0$ について $f(tv)=t\max\{v_1,v_2\}$ なので $D_v^+f(0)=\max\{v_1,v_2\}$ である。これは $v$ について劣線形だが線形でない。$D_{-v}^+f(0)=\max\{-v_1,-v_2\}=-\min\{v_1,v_2\}$ なので、prop-dd-convex の 3 により、方向微分 $D_vf(0)$ が存在するのは $v_1=v_2$ のとき、つまり $f$ が折れ曲がる直線 $x_1=x_2$ に沿った方向だけである。

接ベクトルとしての方向微分

$\mathbb{R}^n$ の点 $a$ とベクトル $v$ を固定すると、滑らかな関数 $f$ に $D_vf(a)$ を対応させる写像は線形で、prop-dd-basic の 4 の積の規則 $D_v(fg)(a)=f(a)D_vg(a)+g(a)D_vf(a)$ を満たす。Lee13 pp. 52–54 は、この 2 つの性質をもつ写像(点 $a$ での導分)を接ベクトルの定義にとり、多様体の上でも同じ形で接ベクトルを定める。$\mathbb{R}^n$ では直線 $t\mapsto a+tv$ の速度ベクトルが $v$ 方向の方向微分そのものであることは 接ベクトル の例「Euclid 空間の接ベクトルと方向微分」にある。ベクトル場 $X$ による関数の Lie 微分も、各点で $X$ の値の方向に方向微分をとったものである(Lie微分 の命題「スカラー場の Lie 微分は方向微分」)。

関連項目

参考文献

[1]
John M. Lee, Introduction to Smooth Manifolds, Graduate Texts in Mathematics 218, Springer, 2013, Chapter 3:(3.1)・(3.2)(方向微分と積の規則、p. 52)、導分による接ベクトル((3.3)・(3.4)、pp. 52–54)。Appendix C:(C.6)(方向微分の定義、p. 647)
[2]
Lynn H. Loomis, Shlomo Sternberg, Advanced Calculus, Revised ed., Jones and Bartlett, 1990, Chapter 3 §7:directional derivative D_ξF(α) の定義と「方向」という語の注意(p. 147)、Theorem 7.2(全微分可能なら方向微分が存在して D_ξF(α)=dF_α(ξ)、p. 148)
[3]
Walter Rudin, Principles of Mathematical Analysis, 3rd ed., McGraw-Hill, 1976, Chapter 9:(39)・(40)(単位ベクトル方向の方向微分、勾配による表示と最大の増加の方向、pp. 217–218)

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する