条件数

同義語:行列の条件数condition number

概要

条件数(condition number)とは、正則な正方行列 $A$ に対し、ベクトルのノルムを 1 つ決めてその作用素ノルムで $\kappa(A)=\|A\|\,\|A^{-1}\|$ と定める量である。連立 1 次方程式 $Ax=b$($b\ne0$)の右辺の相対誤差が解の相対誤差に拡大される倍率の最悪値に等しく、$A$ から特異な行列までの距離を $\|A\|$ で割ったものの逆数にも等しい。Euclid ノルムでは最大特異値と最小特異値の比になる。Hermite でない行列では、固有値の絶対値の比とは一般には一致しない。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 作用素ノルム, 特異値分解, 連立1次方程式

条件数(condition number)とは、正則な正方行列 $A$ について、ベクトルのノルムを 1 つ決めてその作用素ノルムで
$$ \kappa(A)=\|A\|\,\|A^{-1}\| $$
と定める量である。連立 1 次方程式 $Ax=b$($b\ne0$)の右辺 $b$ を少し変えたとき、解 $x$ の相対的な変化が右辺の相対的な変化の何倍になりうるか、その最悪の倍率にちょうど等しい。また、$A$ から最も近い特異な行列までの距離を $\|A\|$ で割ったものの逆数にも等しい。Euclid ノルムでは、最大の特異値と最小の特異値の比 $\sigma_1/\sigma_n$ になる。
条件数はつねに $1$ 以上で、行列を定数倍しても変わらない。$\kappa(A)$ が $1$ に近い行列は 条件がよい、非常に大きい行列は 条件が悪い という。データに相対誤差 $10^{-16}$ 程度の丸めが入る計算で $\kappa(A)\approx10^{k}$ なら、解の相対誤差は最悪で $10^{k-16}$ 程度まで拡大されうる。条件数は行列(問題)そのものの性質であり、どの方法で解くかにはよらない。一方で、行列式の大きさや固有値の大小からは、一般には読み取れない。
この記事では、条件数を定義して基本性質を示し、誤差の拡大率としての意味(上界がちょうど達成されること)と、特異な行列までの距離としての意味を証明する。Hilbert 行列などの例と、仮定を外した反例も挙げる。行列そのものに誤差がある場合の評価は 数値線形代数 の定理「連立1次方程式の摂動定理」にあり、一般の問題の条件数(スカラー値の写像の相対条件数)は 誤差(数値解析) の定義「スカラー問題の相対条件数」にある。

定義

以下、$\mathbb{K}$ は $\mathbb{R}$ または $\mathbb{C}$ とし、$n\ge1$ とする。$\mathbb{K}^n$ にノルム $\|\cdot\|$ を 1 つ固定し、$A\in M_n(\mathbb{K})$ を線形写像 $x\mapsto Ax$ とみて、定義域と終域に同じノルムを入れたときの作用素ノルム(作用素ノルム の定義「作用素ノルム」)を $\|A\|$ と書く。有限次元なのでこれは有限の値である。$\|\cdot\|_p$($p=1,2,\infty$)から定まる作用素ノルムを $\|A\|_p$ と書く。$\|A\|_1$ は列の絶対値の和の最大値、$\|A\|_\infty$ は行の絶対値の和の最大値、$\|A\|_2$ は最大の特異値である(作用素ノルム の定理「行列の作用素ノルムの公式」)。

行列の条件数

正則な $A\in M_n(\mathbb{K})$ のノルム $\|\cdot\|$ に関する 条件数 を
$$ \kappa(A):=\|A\|\,\|A^{-1}\| $$
と定める。正則でない $A$ では $\kappa(A):=\infty$ とする。ノルムを明示するときは $\kappa_p(A):=\|A\|_p\,\|A^{-1}\|_p$ のように書く。

この定義と記号は Saa03 §1.13.2(p. 41)、Euclid ノルムの場合は BV04 §A.5.4(p. 649)による。$\mathbb{K}^n$ のどの 2 つのノルムも互いに定数倍で抑えられるので、ノルムを取り替えても条件数は $n$ とノルムだけで決まる定数倍の範囲でしか変わらない。

条件数の基本性質

$A,B\in M_n(\mathbb{K})$ を正則、$c\in\mathbb{K}$ を $0$ でない数とする。

  1. $\kappa(A)\ge1=\kappa(I_n)$。
  2. $\kappa(cA)=\kappa(A)$、$\kappa(A^{-1})=\kappa(A)$。
  3. $\kappa(AB)\le\kappa(A)\,\kappa(B)$。
  4. $M(A):=\max_{\|x\|=1}\|Ax\|$、$m(A):=\min_{\|x\|=1}\|Ax\|$ とおくと、どちらも存在して $m(A)>0$ であり、
    $$ \kappa(A)=\frac{M(A)}{m(A)} $$
    である。
逆行列のノルムは最小の伸び率の逆数

1:作用素ノルム の定理「作用素ノルムの基本性質」の 2(劣乗法性)と 3($\|I_n\|=1$)により、$1=\|I_n\|=\|AA^{-1}\|\le\|A\|\,\|A^{-1}\|$ である。$\kappa(I_n)=\|I_n\|^2=1$ である。
2:$(cA)^{-1}=c^{-1}A^{-1}$ で、作用素ノルムは $\|cA\|=\lvert c\rvert\,\|A\|$ を満たすので、$\kappa(cA)=\lvert c\rvert\,\|A\|\cdot\lvert c\rvert^{-1}\|A^{-1}\|=\kappa(A)$ である。$\kappa(A^{-1})=\|A^{-1}\|\,\|A\|$ は定義の積の順を入れ替えたものである。
3:$(AB)^{-1}=B^{-1}A^{-1}$ と劣乗法性から、$\|AB\|\,\|B^{-1}A^{-1}\|\le\|A\|\,\|B\|\,\|B^{-1}\|\,\|A^{-1}\|$ である。
4:単位球面 $\{\|x\|=1\}$ は有界閉集合でコンパクトであり、$x\mapsto\|Ax\|$ は連続なので、最大値 $M(A)$ と最小値 $m(A)$ がある。$A$ は単射なので、単位球面の上で $\|Ax\|>0$ であり $m(A)>0$ である。作用素ノルム の命題「作用素ノルムの言い換え」の 1 により $\|A\|=M(A)$ である。$y=Ax$ は $0$ でない $x$ と $0$ でない $y$ の全単射を与え、比 $\|x\|/\|Ax\|$ は $x$ の定数倍で変わらないので
$$ \|A^{-1}\|=\sup_{y\ne0}\frac{\|A^{-1}y\|}{\|y\|}=\sup_{x\ne0}\frac{\|x\|}{\|Ax\|}=\frac1{\min_{\|x\|=1}\|Ax\|}=\frac1{m(A)} $$
である(同じ命題の 3 による)。よって $\kappa(A)=M(A)/m(A)$ である。$\square$

4 は、単位球面の像 $\{Ax\mid\|x\|=1\}$ の中で、原点から最も遠い点までの距離と最も近い点までの距離の比が条件数であることを述べている。Euclid ノルムでは単位球面の像は楕円面で、条件数はその最長の軸と最短の軸の比である。

Euclid ノルムでの条件数

特異値による表示

$A\in M_n(\mathbb{K})$ を正則とし、その特異値を $\sigma_1\ge\cdots\ge\sigma_n>0$ とする(特異値分解 の定義「特異値と特異値分解」)。

  1. $\kappa_2(A)=\sigma_1/\sigma_n$ である。
  2. $\kappa_2(A)=1$ となるのは、$c>0$ とユニタリ行列($\mathbb{K}=\mathbb{R}$ では直交行列)$U$ によって $A=cU$ と書けるときに限る。
  3. $A$ が Hermite 行列($\mathbb{K}=\mathbb{R}$ では対称行列)なら、$A$ の固有値 $\lambda_1,\dots,\lambda_n$ について $\kappa_2(A)=\max_i\lvert\lambda_i\rvert/\min_i\lvert\lambda_i\rvert$ である。とくに $A$ が正定値なら $\kappa_2(A)=\lambda_{\max}/\lambda_{\min}$ である。
特異値を固有値から読む

1:特異値分解 の定理「特異値とノルム・行列式・固有値」の 1 と 2 により、$\|A\|_2=\sigma_1$、$\|A^{-1}\|_2=1/\sigma_n$ である。
2:1 により $\kappa_2(A)=1$ は $\sigma_1=\sigma_n$、すなわち特異値がすべて等しいことと同値である。その値を $c>0$ とすると、$A^*A$ は固有値がすべて $c^2$ の Hermite 行列なので、Hermite行列 の定理「ユニタリ対角化できる行列」により $A^*A=V(c^2I_n)V^*=c^2I_n$ である。よって $U:=c^{-1}A$ は $U^*U=I_n$ を満たす。$A$ が実行列なら $U$ も実行列で、直交行列である。逆に $A=cU$ なら $A^*A=c^2I_n$ で、特異値はすべて $c$ である。
3:同じ定理により、ユニタリ行列 $U$ と実対角行列 $D=\operatorname{diag}(\lambda_1,\dots,\lambda_n)$ で $A=UDU^*$ と書ける。$A^*A=UD^2U^*$ なので、$A^*A$ の固有値は $\lambda_i^2$ であり、特異値は $\lvert\lambda_i\rvert$ を大きい順に並べたものである。1 から主張を得る。正定値なら固有値はすべて正である。$\square$

3 の仮定は外せない。Hermite でない行列では、固有値の絶対値がすべて $1$ でも条件数がいくらでも大きくなりうる(ex-cn-triangular)。正方でない行列 $A$ で列が 1 次独立なものにも、同じ比 $\sigma_{\max}/\sigma_{\min}$ で条件数を定めることがあり、最小二乗問題の正規方程式ではそれが 2 乗になる(最小二乗法 の命題「正規方程式の条件数」)。

誤差の拡大率

右辺の誤差の拡大率

$A\in M_n(\mathbb{K})$ を正則とし、$b\ne0$、$x:=A^{-1}b$ とする。$\delta b\in\mathbb{K}^n$ に対して $\delta x:=A^{-1}\delta b$(すなわち $A(x+\delta x)=b+\delta b$)とおくと
$$ \frac{\|\delta x\|}{\|x\|}\le\kappa(A)\,\frac{\|\delta b\|}{\|b\|} $$
が成り立つ。さらに、等号が成り立つ $b\ne0$ と $\delta b\ne0$ の組がある。したがって
$$ \kappa(A)=\max_{b\ne0,\ \delta b\ne0}\ \frac{\|\delta x\|/\|x\|}{\|\delta b\|/\|b\|} $$
である。

2 つの不等式を同時に等号にする

$b\ne0$ なので $x\ne0$ である。作用素ノルムの性質(作用素ノルム の命題「作用素ノルムの言い換え」の最後の不等式)から
$$ \|\delta x\|=\|A^{-1}\delta b\|\le\|A^{-1}\|\,\|\delta b\|,\qquad \|b\|=\|Ax\|\le\|A\|\,\|x\| $$
である。2 つを掛けて $\|x\|\,\|b\|$ で割ると、主張の不等式を得る。
等号の組を作る。有限次元では作用素ノルムの上限が達成される(作用素ノルム の命題「有限次元では上限が達成される」)ので、$\|x_0\|=1$ で $\|Ax_0\|=\|A\|$ となる $x_0$ と、$\|y_0\|=1$ で $\|A^{-1}y_0\|=\|A^{-1}\|$ となる $y_0$ がある。$b:=Ax_0$、$\delta b:=y_0$ とおくと、$x=x_0$、$\delta x=A^{-1}y_0$ で、上の 2 つの不等式がどちらも等号になる。よって比は $\kappa(A)$ に等しい。前半と合わせて最後の式を得る。$\square$

上界 $\kappa(A)$ は「最悪の場合」の値で、等号は解 $x$ が $A$ によって最も伸ばされる方向にあり、右辺の誤差 $\delta b$ が $A^{-1}$ によって最も伸ばされる方向にあるときに起こる。誤差の方向がそろわなければ、実際の拡大率はずっと小さいことも多い。この定理は「データの相対誤差が $\varepsilon$ なら、解の相対誤差は $\kappa(A)\,\varepsilon$ 程度まで悪くなりうる」と読む。$\kappa(A)\approx10^k$ なら、10 進でおよそ $k$ 桁を失う覚悟が要る。
行列 $A$ そのものも $E$ だけずれる場合は、$\|A^{-1}\|\,\|E\|< 1$ のもとで、解の相対誤差が $\frac{\kappa(A)}{1-\kappa(A)\|E\|/\|A\|}\bigl(\frac{\|E\|}{\|A\|}+\frac{\|\delta b\|}{\|b\|}\bigr)$ 以下になる(数値線形代数 の定理「連立1次方程式の摂動定理」)。ずれが小さい極限では倍率はやはり $\kappa(A)$ である(Saa03 (1.76)、p. 41)。近似解 $\hat x$ の残差 $r=b-A\hat x$ から誤差を見積もる $\frac{\|\hat x-x\|}{\|x\|}\le\kappa(A)\frac{\|r\|}{\|b\|}$ も、$\delta b=-r$ とした thm-cn-amplification である。

特異な行列までの距離

条件数の大きい行列は、特異な行列に「相対的に近い」行列である。このことは次の等式で正確に言える。

特異な行列までの距離

$A\in M_n(\mathbb{K})$ を正則とする。
$$ \min\{\|E\|\mid E\in M_n(\mathbb{K}),\ A+E\text{ は正則でない}\}=\frac1{\|A^{-1}\|} $$
であり、最小値は階数 $1$ の $E$ で達成される。したがって
$$ \min\Bigl\{\frac{\|E\|}{\|A\|}\ \Bigm|\ A+E\text{ は正則でない}\Bigr\}=\frac1{\kappa(A)} $$
である。

小さいずれは正則性を壊さず、最も縮む方向をつぶせば壊れる

段 1($\|E\|< 1/\|A^{-1}\|$ なら $A+E$ は正則)。$(A+E)x=0$ とすると $x=-A^{-1}Ex$ なので、$\|x\|\le\|A^{-1}\|\,\|E\|\,\|x\|$ である。$\|A^{-1}\|\,\|E\|< 1$ だから $\|x\|=0$ であり、$A+E$ は単射、したがって正則である。
段 2(ちょうど $\|E\|=1/\|A^{-1}\|$ で正則でなくなる $E$ を作る)。$\|y_0\|=1$ で $\|A^{-1}y_0\|=\|A^{-1}\|$ となる $y_0$ をとり(作用素ノルム の命題「有限次元では上限が達成される」)、$x_0:=A^{-1}y_0/\|A^{-1}\|$ とおく。$\|x_0\|=1$ で $Ax_0=y_0/\|A^{-1}\|$ である。Hahn–Banachの定理 の系「閉部分空間の外の点を検出する汎関数」を $\mathbb{K}^n$、閉部分空間 $\{0\}$、点 $x_0$ に使うと、線形汎関数 $f\colon\mathbb{K}^n\to\mathbb{K}$ で $f(x_0)=1$、かつすべての $z$ で $\lvert f(z)\rvert\le\|z\|$ となるものがある。
$$ Ez:=-f(z)\,Ax_0\qquad(z\in\mathbb{K}^n) $$
と定めると、$E$ は階数 $1$ の線形写像で、$(A+E)x_0=Ax_0-Ax_0=0$ だから $A+E$ は正則でない。また $\|Ez\|=\lvert f(z)\rvert\,\|Ax_0\|\le\|z\|/\|A^{-1}\|$ なので $\|E\|\le1/\|A^{-1}\|$ である。段 1 により $\|E\|< 1/\|A^{-1}\|$ ではありえないので、$\|E\|=1/\|A^{-1}\|$ であり、これが最小値である。最後の式は両辺を $\|A\|$ で割ったものである。$\square$

Euclid ノルムでは $f(z):=x_0^*z$ がとれる(Cauchy–Schwarzの不等式 により $\lvert x_0^*z\rvert\le\|z\|_2$)ので、$E=-(Ax_0)x_0^*$ は具体的な階数 $1$ の行列である。このとき距離は $1/\|A^{-1}\|_2=\sigma_n$ で、これは 特異値分解 の定理「作用素ノルムでの最良の低階数近似」の $k=n-1$ の場合と一致する。
この定理から、行列式の大きさが特異性への近さの目安にならない理由も分かる。$\det(\alpha I_n)=\alpha^n$ は $\lvert\alpha\rvert< 1$ なら $n$ とともにいくらでも小さくなるが、$\kappa(\alpha I_n)=1$ で、$\alpha I_n$ は $\|\alpha I_n\|$ と比べて特異な行列から最も遠い(Saa03 pp. 41–42)。

例

2 次の行列

$A=\begin{pmatrix}1&2\\3&4\end{pmatrix}$ とする。$A^{-1}=\begin{pmatrix}-2&1\\\frac32&-\frac12\end{pmatrix}$ である。
$\infty$ ノルム:$\|A\|_\infty=7$、$\|A^{-1}\|_\infty=3$ なので $\kappa_\infty(A)=21$ である。$x=(1,1)^{\mathsf T}$ では $b=Ax=(3,7)^{\mathsf T}$ で $\|b\|_\infty=7\|x\|_\infty$、$\delta b=s(-1,1)^{\mathsf T}$ では $\delta x=A^{-1}\delta b=s(3,-2)^{\mathsf T}$ で $\|\delta x\|_\infty=3\|\delta b\|_\infty$ であり、拡大率 $\frac{3s/1}{s/7}=21$ が thm-cn-amplification の上界を達成する。特異な行列までの距離は $1/\|A^{-1}\|_\infty=\frac13$ で、thm-cn-distance の証明の段 2 の作り方で $y_0=(-1,1)^{\mathsf T}$、$x_0=(1,-\frac23)^{\mathsf T}$、$f(z)=z_1$ とすると
$$ E=\begin{pmatrix}\frac13&0\\-\frac13&0\end{pmatrix},\qquad A+E=\begin{pmatrix}\frac43&2\\\frac83&4\end{pmatrix} $$
となり、$\|E\|_\infty=\frac13$、$\det(A+E)=\frac{16}3-\frac{16}3=0$ である。
1 ノルム:$\|A\|_1=6$、$\|A^{-1}\|_1=\frac72$ で $\kappa_1(A)=21$ である。
2 ノルム:$A^{\mathsf T}A=\begin{pmatrix}10&14\\14&20\end{pmatrix}$ の固有値は $15\pm\sqrt{221}$ で(作用素ノルム の例「3 つの作用素ノルムが異なる行列」)、$\sigma_1\sigma_2=\lvert\det A\rvert=2$ なので $\kappa_2(A)=\sigma_1/\sigma_2=\sigma_1^2/2=\frac{15+\sqrt{221}}2\approx14.93$ である。ノルムによって値は違うが、どれも同じ程度の大きさである。

Hilbert 行列の条件数

$H_n:=\bigl(\frac1{i+j-1}\bigr)_{i,j=1}^n$ は正定値行列である(正定値行列 の例「Gram 行列と Hilbert 行列」)。thm-cn-two の 3 により $\kappa_2(H_n)=\lambda_{\max}/\lambda_{\min}$ である。たとえば $H_3^{-1}=\begin{pmatrix}9&-36&30\\-36&192&-180\\30&-180&180\end{pmatrix}$ なので、$\|H_3\|_\infty=1+\frac12+\frac13=\frac{11}6$、$\|H_3^{-1}\|_\infty=36+192+180=408$ で、$\kappa_\infty(H_3)=748$ である。数値で計算すると次のようになる。

$n$$\kappa_2(H_n)$$\kappa_\infty(H_n)$
$2$$19.28$$27$
$3$$524.1$$748$
$4$$1.551\times10^4$$28375$
$5$$4.766\times10^5$$943656$
$6$$1.495\times10^7$$29070279$
$8$$1.526\times10^{10}$$3.387\times10^{10}$
$10$$1.603\times10^{13}$$3.536\times10^{13}$
$12$$1.713\times10^{16}$$4.115\times10^{16}$

$n$ が $1$ 増えるごとに条件数はおよそ $30$ 倍になる。成分は $1$ 以下のふつうの大きさで、行列式も $0$ ではないが、$n=12$ ではデータの相対誤差 $10^{-16}$ が解の相対誤差 $1$ 程度にまで拡大されうる。多項式 $\sum_jc_jt^{j-1}$ で区間 $[0,1]$ 上の関数を近似する正規方程式の係数行列が $H_n$ なので、この悪条件は単項式の基底 $1,t,t^2,\dots$ が互いに近いことの現れである。

固有値がすべて 1 で条件の悪い行列

$n\ge2$、$\alpha\in\mathbb{K}$ とし、$A_n:=I_n+\alpha e_1e_n^{\mathsf T}$($(1,n)$ 成分だけが $\alpha$ の単位行列)とおく。$A_n$ は対角成分がすべて $1$ の上三角行列なので、固有値はすべて $1$ である。$e_n^{\mathsf T}e_1=0$ から $(e_1e_n^{\mathsf T})^2=0$ なので、$A_n^{-1}=I_n-\alpha e_1e_n^{\mathsf T}$ である。第 1 行の絶対値の和がどちらも $1+\lvert\alpha\rvert$ で最大なので
$$ \kappa_\infty(A_n)=(1+\lvert\alpha\rvert)^2 $$
である(Saa03 Example 1.5、p. 42)。$n=2$、$\alpha=10$ では $\kappa_\infty=121$、$\kappa_2\approx102.0$ である。

仮定を外すと成り立たなくなること

各行で外す条件は 1 つだけである。

外す条件反例成り立たなくなること
thm-cn-two の 3 で $A$ が Hermite$A=\begin{pmatrix}1&10\\0&1\end{pmatrix}$固有値の絶対値の比は $1$ だが $\kappa_2(A)\approx102.0$
thm-cn-amplification で誤差を相対誤差で測る$A=10^{-3}I_n$$\kappa(A)=1$ だが $\|\delta x\|=1000\|\delta b\|$ で、$\|\delta x\|\le\kappa(A)\|\delta b\|$ は成り立たない
thm-cn-amplification でベクトルと行列に同じノルムを使う45° の回転 $R$、ベクトルは $\|\cdot\|_\infty$ で測り、倍率に $\kappa_2(R)=1$ を使う$x=(1,1)^{\mathsf T}$、$\delta b=R(1,0)^{\mathsf T}$ で拡大率は $2$
thm-cn-distance で $\|E\|$ が作用素ノルム$A=I_2$、$\|E\|_{\max}:=\max_{i,j}\lvert e_{ij}\rvert$特異にする $E$ の $\|E\|_{\max}$ の最小値は $\frac12$ で、$1/\|I_2^{-1}\|_{\max}=1$ と一致しない
表の反例の確かめ

各行の計算と、外した条件以外が成り立っていることを確かめる。

各行の確かめを開く

1 行目:ex-cn-triangular の $n=2$、$\alpha=10$ である。$A$ は正則で、上三角なので固有値は $1,1$ である。$A^{\mathsf T}A=\begin{pmatrix}1&10\\10&101\end{pmatrix}$ の固有値は $\frac{102\pm\sqrt{102^2-4}}2$ で、その比が $\kappa_2(A)^2$ である。$\sigma_1\sigma_2=\lvert\det A\rvert=1$ なので $\kappa_2(A)=\sigma_1^2=\frac{102+\sqrt{10400}}2\approx101.99$ である。$A$ は Hermite でない($A^{\mathsf T}\ne A$)ことだけが thm-cn-two の 3 の仮定から外れている。

2 行目:$\|A\|=10^{-3}$、$\|A^{-1}\|=10^3$ で $\kappa(A)=1$ である。$\delta x=A^{-1}\delta b=10^3\delta b$ なので絶対誤差は $1000$ 倍になる。相対誤差では $x=10^3b$ も $1000$ 倍なので、$\frac{\|\delta x\|}{\|x\|}=\frac{\|\delta b\|}{\|b\|}$ で定理どおりである。

3 行目:$R=\frac1{\sqrt2}\begin{pmatrix}1&-1\\1&1\end{pmatrix}$ は直交行列で $\kappa_2(R)=1$ である。$b=Rx=(0,\sqrt2)^{\mathsf T}$、$\delta x=(1,0)^{\mathsf T}$、$\delta b=\frac1{\sqrt2}(1,1)^{\mathsf T}$ で、$\infty$ ノルムでの比は $\frac{\|\delta x\|_\infty/\|x\|_\infty}{\|\delta b\|_\infty/\|b\|_\infty}=\frac{1}{(1/\sqrt2)/\sqrt2}=2>\kappa_2(R)$ である。$\infty$ ノルムでそろえれば $\|R\|_\infty=\|R^{-1}\|_\infty=\sqrt2$、$\kappa_\infty(R)=2$ で、定理どおりちょうど等号になる。

4 行目:$\|\cdot\|_{\max}$ は行列の空間のノルムだが、どのベクトルのノルムの作用素ノルムでもない。$\|E\|_{\max}\le t$ なら $\det(I_2+E)=(1+e_{11})(1+e_{22})-e_{12}e_{21}\ge(1-t)^2-t^2=1-2t$ なので、$t< \frac12$ では正則である。$E=\frac12\begin{pmatrix}-1&1\\1&-1\end{pmatrix}$ では $I_2+E=\frac12\begin{pmatrix}1&1\\1&1\end{pmatrix}$ が特異で、最小値は $\frac12$ である。段 1 の証明で使った $\|Ex\|\le\|E\|\,\|x\|$ が、このノルムでは成り立たない。

補足

条件数と解き方の安定性。 条件数は問題の感度であり、方法が途中の丸めをどれだけ拡大するか(安定性)とは別のものである。前進誤差はおよそ条件数と後退誤差の積で決まる(誤差(数値解析) の命題「前進誤差は条件数と後退誤差の積で決まる」)。条件の悪い問題は、どの方法でも精度を保証しにくい。
尺度と前処理。 条件数は行や列の尺度に依存する。たとえば $\operatorname{diag}(1,10^{-6})$ の条件数は $10^6$ だが、第 2 式を $10^6$ 倍すれば単位行列になる。正則な $P$ を掛けて $PAx=Pb$ の条件数を小さくしてから解くのが前処理の考え方である。反復法の収束も条件数に左右され、正定値対称な $A$ の共役勾配法では、$m$ 回の反復で誤差($A$ に関するノルム)が $2\bigl(\frac{\sqrt\kappa-1}{\sqrt\kappa+1}\bigr)^m$ 倍以下になる(Saa03 §6.11.3 の (6.128)、p. 215。$\kappa=\lambda_{\max}/\lambda_{\min}$)。

関連項目

参考文献

[1]
Yousef Saad, Iterative Methods for Sparse Linear Systems, SIAM, 2003, §1.13.2 Perturbation Analysis((1.76)、p. 41)、Example 1.5(p. 42)、§6.11.3((6.128)、p. 215)
[2]
Stephen Boyd, Lieven Vandenberghe, Convex Optimization, Cambridge University Press, 2004, §A.5.4(条件数 $\|A\|_2\|A^{-1}\|_2=\sigma_{\max}/\sigma_{\min}$、p. 649)

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する