Fourier係数と最良近似

概要

Fourier 係数と最良近似は、区間 $[-\pi,\pi]$ 上の連続関数 $f$ の Fourier 係数 $a_n=\frac1\pi\int_{-\pi}^{\pi}f(x)\cos nx\,dx$、$b_n=\frac1\pi\int_{-\pi}^{\pi}f(x)\sin nx\,dx$ が、関数の内積で $f$ を $1,\cos nx,\sin nx$ の向きに分けた成分(の定数倍)であり、部分和 $S_Nf$ が正射影になるという事実である。次数 $N$ 以下の三角多項式 $T$ で $\int_{-\pi}^{\pi}(f-T)^2dx$ を最小にするのは $S_Nf$ だけで、Bessel の不等式 $\frac{a_0^2}2+\sum_{n\ge1}(a_n^2+b_n^2)\le\frac1\pi\int_{-\pi}^{\pi}f^2dx$ が成り立つ。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 三角関数の直交性(高校数学), 積分で定める内積, 2次関数, 部分積分

高校での出発点:点から直線までの最短距離

平面の点 $u$ から、原点を通る直線に垂線を下ろすと、その足が直線上で $u$ にいちばん近い点になる。これを内積の計算で確かめる。

直線上でいちばん近い点

$u=(1,3)$ とし、原点を通り向きが $(1,1)$ の直線を考える。長さ $1$ の向きベクトル $e:=\frac1{\sqrt2}(1,1)$ を使うと、直線上の点は $te$($t$ は実数)と書ける。$u$ と $te$ の距離の 2 乗を $t$ の 2 次関数として展開すると、$\langle u,e\rangle=\frac{1+3}{\sqrt2}=2\sqrt2$、$\langle e,e\rangle=1$、$\langle u,u\rangle=10$ なので
$$ \|u-te\|^2=\langle u,u\rangle-2t\langle u,e\rangle+t^2\langle e,e\rangle=t^2-4\sqrt2\,t+10=(t-2\sqrt2)^2+2 $$
である。よって距離がいちばん小さいのは $t=2\sqrt2=\langle u,e\rangle$ のときで、その点は $2\sqrt2\cdot\frac1{\sqrt2}(1,1)=(2,2)$、距離の 2 乗は $2$ である。$u-(2,2)=(-1,1)$ と $e$ の内積は $\frac{-1+1}{\sqrt2}=0$ なので、確かに垂線の足になっている。直線上の別の点 $(3,3)$ までの距離の 2 乗は $2^2+0^2=4$ で、$2$ より大きい。

平面上でいちばん近い点

空間の点 $u=(1,2,3)$ と、原点を通る平面を考える。平面は長さ $1$ で直交する 2 つのベクトル $e_1:=(1,0,0)$、$e_2:=\frac15(0,3,4)$ の 1 次結合 $c_1e_1+c_2e_2$ の全体とする($\langle e_1,e_2\rangle=0$、$\langle e_2,e_2\rangle=\frac{9+16}{25}=1$)。内積 $\langle u,e_1\rangle=1$、$\langle u,e_2\rangle=\frac{6+12}5=\frac{18}5$ を係数にした点
$$ Pu:=1\cdot e_1+\frac{18}5e_2=\Bigl(1,\frac{54}{25},\frac{72}{25}\Bigr) $$
をとると、$u-Pu=\bigl(0,-\frac4{25},\frac3{25}\bigr)$ であり、$\langle u-Pu,e_1\rangle=0$、$\langle u-Pu,e_2\rangle=\frac15\bigl(-\frac{12}{25}+\frac{12}{25}\bigr)=0$ となって、$u-Pu$ は平面に垂直である。$u$ から $Pu$ までの距離の 2 乗は $\frac{16+9}{625}=\frac1{25}$ である。

どちらの例でも、「いちばん近い点」は内積 $\langle u,e_i\rangle$ を係数にして並べた点だった。この記事では、この事実を一般の内積空間で証明し、関数に使う。三角関数の直交性(高校数学) で見た正規直交系 $\frac1{\sqrt{2\pi}},\frac{\cos nx}{\sqrt\pi},\frac{\sin nx}{\sqrt\pi}$ を「座標軸」にすると、係数は Fourier 係数になり、「いちばん近い点」は「いちばん近い三角多項式」になる。
この記事で答える問いは次の 3 つである。

  1. 正規直交系があるとき、いちばん近い点はどう求めるか。→ thm-fcb-projection
  2. 関数 $f$ にいちばん近い三角多項式は何か。→ cor-fcb-fourier
  3. 係数の 2 乗の和について何が言えるか。→ thm-fcb-projection の 3(Bessel の不等式)
    高校の計算この記事の言葉大学の言葉
    垂線の足正射影 $Pu$直交射影
    足までの距離がいちばん短い最良近似最小二乗近似
    2 次関数の最小値$\int(f-T)^2dx$ の最小化平均二乗誤差の最小化
    成分 $\vec a\cdot\vec e_i$Fourier 係数正規直交系に関する係数

正規直交系への正射影

以下、$V$ を内積空間とする(内積の条件は 積分で定める内積 を参照)。$e_1,\dots,e_k\in V$ が正規直交系であるとは、$\langle e_i,e_j\rangle$ が $i=j$ のとき $1$、$i\ne j$ のとき $0$ であることをいう。この値を $\delta_{ij}$ と書く。

成分と正射影

$e_1,\dots,e_k$ を $V$ の正規直交系、$u\in V$ とする。実数 $\langle u,e_i\rangle$ を $u$ の $e_i$ 方向の成分といい、
$$ Pu:=\sum_{i=1}^k\langle u,e_i\rangle e_i=\langle u,e_1\rangle e_1+\cdots+\langle u,e_k\rangle e_k $$
を、$u$ の($e_1,\dots,e_k$ の 1 次結合の全体への)正射影という。

ex-fcb-plane は $k=1$、ex-fcb-space は $k=2$ の場合である。

正射影・Bessel の不等式・最良近似

$e_1,\dots,e_k$ を $V$ の正規直交系、$u\in V$ とする。

  1. $u-Pu$ はすべての $e_j$ と直交する。
  2. 実数 $c_1,\dots,c_k$ について $\bigl\|\sum_ic_ie_i\bigr\|^2=\sum_ic_i^2$ である。特に $\|Pu\|^2=\sum_{i=1}^k\langle u,e_i\rangle^2$ であり、$\|u\|^2=\|Pu\|^2+\|u-Pu\|^2$ が成り立つ。
  3. (Bessel の不等式)$\sum_{i=1}^k\langle u,e_i\rangle^2\le\|u\|^2$。
  4. (最良近似)任意の実数 $c_1,\dots,c_k$ について
    $$ \Bigl\|u-\sum_{i=1}^kc_ie_i\Bigr\|^2=\|u-Pu\|^2+\sum_{i=1}^k\bigl(c_i-\langle u,e_i\rangle\bigr)^2 $$
    が成り立つ。よって左辺をいちばん小さくするのは、すべての $i$ で $c_i=\langle u,e_i\rangle$ のとき、そしてそのときに限る。
ピタゴラスの定理をくり返し使う

方針:1 で「$u-Pu$ は正規直交系のどの向きとも直交する」ことを示し、あとは 積分で定める内積 で示したピタゴラスの定理($\langle v,w\rangle=0$ なら $\|v+w\|^2=\|v\|^2+\|w\|^2$)を使う。
段 1(1 の証明):$j$ を 1 つ決める。内積の線形性から
$$ \langle Pu,e_j\rangle=\Bigl\langle\sum_i\langle u,e_i\rangle e_i,\,e_j\Bigr\rangle=\sum_i\langle u,e_i\rangle\langle e_i,e_j\rangle=\sum_i\langle u,e_i\rangle\delta_{ij}=\langle u,e_j\rangle $$
である($\delta_{ij}$ は $i=j$ の項だけ $1$ で、残りは $0$)。よって $\langle u-Pu,e_j\rangle=\langle u,e_j\rangle-\langle Pu,e_j\rangle=0$ である。
段 2(2 の前半):双線形性で展開すると
$$ \Bigl\|\sum_ic_ie_i\Bigr\|^2=\Bigl\langle\sum_ic_ie_i,\sum_jc_je_j\Bigr\rangle=\sum_i\sum_jc_ic_j\langle e_i,e_j\rangle=\sum_i\sum_jc_ic_j\delta_{ij}=\sum_ic_i^2 $$
である。$c_i=\langle u,e_i\rangle$ とおけば $\|Pu\|^2=\sum_i\langle u,e_i\rangle^2$ となる。
段 3(2 の後半):段 1 から、$u-Pu$ は各 $e_j$ と直交するので、線形性により $e_j$ の 1 次結合とも直交する。特に $\langle u-Pu,Pu\rangle=\sum_j\langle u,e_j\rangle\langle u-Pu,e_j\rangle=0$ である。$u=Pu+(u-Pu)$ にピタゴラスの定理を使うと $\|u\|^2=\|Pu\|^2+\|u-Pu\|^2$ である。
段 4(3 の証明):段 3 の式で $\|u-Pu\|^2\ge0$ なので $\|Pu\|^2\le\|u\|^2$ であり、段 2 から $\sum_i\langle u,e_i\rangle^2\le\|u\|^2$ である。
段 5(4 の証明):$v:=u-Pu$、$w:=\sum_i\bigl(\langle u,e_i\rangle-c_i\bigr)e_i$ とおくと
$$ u-\sum_ic_ie_i=(u-Pu)+\Bigl(\sum_i\langle u,e_i\rangle e_i-\sum_ic_ie_i\Bigr)=v+w $$
である。$w$ は $e_i$ の 1 次結合なので、段 3 と同じ理由で $\langle v,w\rangle=0$ である。ピタゴラスの定理と段 2 から
$$ \Bigl\|u-\sum_ic_ie_i\Bigr\|^2=\|v\|^2+\|w\|^2=\|u-Pu\|^2+\sum_i\bigl(\langle u,e_i\rangle-c_i\bigr)^2 $$
を得る。右辺の第 2 項は 2 乗の和なので $0$ 以上で、$0$ になるのはすべての $i$ で $c_i=\langle u,e_i\rangle$ のときに限る。よって左辺の最小値は $\|u-Pu\|^2$ で、それを与える $c_i$ はただ 1 通りである。$\square$

ずれの 2 乗の和を最小にする値を 2 次関数の最小として求める同じ考え方は 平均値と二乗誤差 で扱う。
4 は、高校の「2 次関数の平方完成」を $k$ 個の変数で同時に行ったものである。ex-fcb-plane の $(t-2\sqrt2)^2+2$ は、$k=1$、$c_1=t$ の場合にほかならない。図 1 は $k=1$ の様子を示す。3 と 4 は Axl24 の 6.26 と 6.61 にもあり、関数の場合は Leb26 の定理 11.8.8(最良近似)と定理 11.8.9(Bessel の不等式)にある。
図1:平面での正射影。u − Pu は直線と直交し、Pu は直線上で u にいちばん近い点である 図1:平面での正射影。u − Pu は直線と直交し、Pu は直線上で u にいちばん近い点である

定理を空間ベクトルで確かめる

ex-fcb-space の $u=(1,2,3)$、$e_1=(1,0,0)$、$e_2=\frac15(0,3,4)$ で確かめる。

  1. 成分は $1$ と $\frac{18}5$ なので、$\|Pu\|^2=1+\frac{324}{25}=\frac{349}{25}$ である。
  2. $\|u\|^2=1+4+9=14=\frac{350}{25}$ であり、$\|u\|^2-\|Pu\|^2=\frac1{25}$ は ex-fcb-space で求めた $\|u-Pu\|^2$ に等しい。
  3. Bessel の不等式は $\frac{349}{25}\le\frac{350}{25}$ である。
  4. 係数を $c_1=1$、$c_2=3$ にずらすと、4 の式から $\|u-(e_1+3e_2)\|^2=\frac1{25}+\bigl(3-\frac{18}5\bigr)^2=\frac1{25}+\frac9{25}=\frac25$ であり、$\frac1{25}$ より大きい。直接計算しても $u-(e_1+3e_2)=\bigl(0,\frac15,\frac35\bigr)$ で、長さの 2 乗は $\frac{1+9}{25}=\frac25$ である。

Fourier 係数

三角関数系への正射影

区間 $[-\pi,\pi]$ の連続関数全体 $C([-\pi,\pi])$ に、内積 $\langle f,g\rangle=\int_{-\pi}^{\pi}f(x)g(x)\,dx$ を入れる。三角関数の直交性(高校数学) で示したように、
$$ e_0:=\frac1{\sqrt{2\pi}},\qquad c_n:=\frac{\cos nx}{\sqrt\pi},\qquad s_n:=\frac{\sin nx}{\sqrt\pi}\qquad(n\ge1) $$
は正規直交系である。$N$ を正の整数とし、$e_0,c_1,s_1,\dots,c_N,s_N$ の $2N+1$ 個に thm-fcb-projection を使う。

Fourier 係数と部分和

$f\in C([-\pi,\pi])$ に対して
$$ a_n:=\frac1\pi\int_{-\pi}^{\pi}f(x)\cos nx\,dx\quad(n\ge0),\qquad b_n:=\frac1\pi\int_{-\pi}^{\pi}f(x)\sin nx\,dx\quad(n\ge1) $$
を $f$ の Fourier 係数といい、
$$ S_Nf(x):=\frac{a_0}2+\sum_{n=1}^N\bigl(a_n\cos nx+b_n\sin nx\bigr) $$
を Fourier 級数の第 $N$ 部分和という。定数と $\cos nx$、$\sin nx$($1\le n\le N$)の 1 次結合を、次数 $N$ 以下の三角多項式という。

部分和は正射影である

$f\in C([-\pi,\pi])$ の、正規直交系 $e_0,c_1,s_1,\dots,c_N,s_N$ への正射影は $S_Nf$ に等しい。成分の 2 乗は
$$ \langle f,e_0\rangle^2=\frac\pi2a_0^2,\qquad \langle f,c_n\rangle^2=\pi a_n^2,\qquad \langle f,s_n\rangle^2=\pi b_n^2 $$
である。

成分を計算する

段 1(定数の項):$\langle f,e_0\rangle=\frac1{\sqrt{2\pi}}\int_{-\pi}^{\pi}f(x)\,dx$ である。$a_0=\frac1\pi\int_{-\pi}^{\pi}f(x)\,dx$ なので $\int_{-\pi}^{\pi}f(x)\,dx=\pi a_0$ であり、$\langle f,e_0\rangle=\frac{\pi a_0}{\sqrt{2\pi}}=\sqrt{\frac\pi2}\,a_0$ である。よって
$$ \langle f,e_0\rangle e_0=\sqrt{\frac\pi2}\,a_0\cdot\frac1{\sqrt{2\pi}}=\frac{a_0}2,\qquad \langle f,e_0\rangle^2=\frac\pi2a_0^2 $$
である。
段 2($\cos$ の項):$\langle f,c_n\rangle=\frac1{\sqrt\pi}\int_{-\pi}^{\pi}f(x)\cos nx\,dx=\frac1{\sqrt\pi}\cdot\pi a_n=\sqrt\pi\,a_n$ なので、$\langle f,c_n\rangle c_n(x)=\sqrt\pi\,a_n\cdot\frac{\cos nx}{\sqrt\pi}=a_n\cos nx$、$\langle f,c_n\rangle^2=\pi a_n^2$ である。
段 3($\sin$ の項):段 2 と同じく $\langle f,s_n\rangle=\sqrt\pi\,b_n$、$\langle f,s_n\rangle s_n(x)=b_n\sin nx$、$\langle f,s_n\rangle^2=\pi b_n^2$ である。
段 1〜3 の項を足すと、正射影は $\frac{a_0}2+\sum_{n=1}^N(a_n\cos nx+b_n\sin nx)=S_Nf(x)$ である。$\square$

$a_0$ の項だけ $\frac{a_0}2$ と半分になるのは、定数関数 $1$ の長さの 2 乗が $2\pi$ で、$\cos nx$ の $\pi$ の 2 倍だからである。

Fourier 係数の Bessel の不等式と最良近似

$f\in C([-\pi,\pi])$ とする。

  1. $\displaystyle\int_{-\pi}^{\pi}\bigl(f(x)-S_Nf(x)\bigr)^2dx=\int_{-\pi}^{\pi}f(x)^2\,dx-\pi\Bigl(\frac{a_0^2}2+\sum_{n=1}^N\bigl(a_n^2+b_n^2\bigr)\Bigr)$。
  2. $\displaystyle\frac{a_0^2}2+\sum_{n=1}^\infty\bigl(a_n^2+b_n^2\bigr)\le\frac1\pi\int_{-\pi}^{\pi}f(x)^2\,dx$(左辺の級数は収束する)。特に $a_n\to0$、$b_n\to0$($n\to\infty$)。
  3. 次数 $N$ 以下の三角多項式 $T$ のうち、$\int_{-\pi}^{\pi}\bigl(f(x)-T(x)\bigr)^2dx$ をいちばん小さくするのは $T=S_Nf$ だけである。
定理の書き換え

1:thm-fcb-projection の 2 から $\|f-S_Nf\|^2=\|f\|^2-\|S_Nf\|^2$ であり、prop-fcb-partial-sum と thm-fcb-projection の 2 から $\|S_Nf\|^2=\frac\pi2a_0^2+\pi\sum_{n=1}^N(a_n^2+b_n^2)$ である。
2:1 の左辺は $0$ 以上なので、すべての $N$ で $\frac{a_0^2}2+\sum_{n=1}^N(a_n^2+b_n^2)\le\frac1\pi\int_{-\pi}^{\pi}f^2\,dx$ である。左辺は $N$ について増加し(足す項が $0$ 以上)、上から抑えられているので、$N\to\infty$ で収束する(単調収束定理)。極限も同じ不等式を満たす。収束する級数の項は $0$ に近づくので、$a_n^2+b_n^2\to0$、したがって $a_n\to0$、$b_n\to0$ である。
3:次数 $N$ 以下の三角多項式 $T$ は、$\cos nx=\sqrt\pi\,c_n$ などと書き直すと $e_0,c_1,s_1,\dots,c_N,s_N$ の 1 次結合である。thm-fcb-projection の 4 から、$\|f-T\|^2$ をいちばん小さくするのは係数が成分に等しいとき、すなわち $T=S_Nf$ のときに限る。$\square$

例:f(x)=x

f(x)=x の Fourier 係数

$f(x)=x$ の Fourier 係数を求める。

  1. $a_n$:$x\cos nx$ は奇関数と偶関数の積なので奇関数であり、$[-\pi,\pi]$ での積分は $0$ である。よって $a_n=0$($n\ge0$)。
  2. $b_n$:$x\sin nx$ は奇関数どうしの積なので偶関数であり、$\int_{-\pi}^{\pi}x\sin nx\,dx=2\int_0^\pi x\sin nx\,dx$ である。部分積分で
    $$ \int_0^\pi x\sin nx\,dx=\Bigl[-\frac{x\cos nx}n\Bigr]_0^\pi+\frac1n\int_0^\pi\cos nx\,dx=-\frac{\pi\cos n\pi}n+\frac1n\Bigl[\frac{\sin nx}n\Bigr]_0^\pi=\frac{(-1)^{n+1}\pi}n $$
    である($\cos n\pi=(-1)^n$、$\sin n\pi=0$ を使った)。よって $b_n=\frac1\pi\cdot2\cdot\frac{(-1)^{n+1}\pi}n=\frac{2(-1)^{n+1}}n$ である。
  3. 具体的には $b_1=2$、$b_2=-1$、$b_3=\frac23$、$b_4=-\frac12$ であり、
    $$ S_Nf(x)=2\Bigl(\sin x-\frac{\sin2x}2+\frac{\sin3x}3-\cdots+\frac{(-1)^{N+1}\sin Nx}N\Bigr) $$
    となる。たとえば $x=\frac\pi2$ では $S_1f=2$、$S_3f=2-\frac23=\frac43$、$S_{10}f=1.669\ldots$ であり、$\frac\pi2=1.5707\ldots$ の上下をゆれながら近づく。
2 次関数の最小値としての最良近似

$N=1$ で $\sin x$ の項だけを考え、「$c\sin x$ の形の関数のうち $x$ にいちばん近いもの」を、thm-fcb-projection を使わずに高校の方法で求める。
$$ \int_{-\pi}^{\pi}(x-c\sin x)^2dx=\int_{-\pi}^{\pi}x^2\,dx-2c\int_{-\pi}^{\pi}x\sin x\,dx+c^2\int_{-\pi}^{\pi}\sin^2x\,dx $$
である。$\int_{-\pi}^{\pi}x^2\,dx=\frac{2\pi^3}3$、ex-fcb-x から $\int_{-\pi}^{\pi}x\sin x\,dx=\pi b_1=2\pi$、$\int_{-\pi}^{\pi}\sin^2x\,dx=\pi$ なので
$$ \int_{-\pi}^{\pi}(x-c\sin x)^2dx=\pi c^2-4\pi c+\frac{2\pi^3}3=\pi(c-2)^2+\frac{2\pi^3}3-4\pi $$
である。最小になるのは $c=2=b_1$ のときで、最小値は $\frac{2\pi^3}3-4\pi=8.104\ldots$ である(図 2)。cor-fcb-fourier の 1 で $N=1$ とした値 $\frac{2\pi^3}3-\pi b_1^2=\frac{2\pi^3}3-4\pi$ と一致する。高校の 2 次関数の最小値問題が、正射影を求めることになっている。

図2:c を動かしたときの ∫(x − c sin x)² dx のグラフ。c = 2 で最小になる 図2:c を動かしたときの ∫(x − c sin x)² dx のグラフ。c = 2 で最小になる
図 3 は $f(x)=x$ と $S_1f,S_3f,S_{10}f$ のグラフである。$N$ を大きくすると、区間の内側では $S_Nf$ が $x$ に近づく。ただし端 $x=\pm\pi$ では $S_Nf(\pm\pi)=0$ のままで、$\pm\pi$ に近づかない(次の 無限次元のピタゴラスの定理 で扱う)。
図3:f(x) = x と部分和 S_1 f、S_3 f、S_10 f。N を大きくすると区間の内側で近づく 図3:f(x) = x と部分和 S_1 f、S_3 f、S_10 f。N を大きくすると区間の内側で近づく

f(x)=|x| の Fourier 係数

$f(x)=|x|$ は偶関数なので、$|x|\sin nx$ は奇関数で $b_n=0$ である。$a_0=\frac1\pi\int_{-\pi}^{\pi}|x|\,dx=\frac2\pi\int_0^\pi x\,dx=\frac2\pi\cdot\frac{\pi^2}2=\pi$ である。$n\ge1$ では、部分積分で
$$ \int_0^\pi x\cos nx\,dx=\Bigl[\frac{x\sin nx}n\Bigr]_0^\pi-\frac1n\int_0^\pi\sin nx\,dx=0-\frac1n\Bigl[-\frac{\cos nx}n\Bigr]_0^\pi=\frac{(-1)^n-1}{n^2} $$
なので、$a_n=\frac2\pi\cdot\frac{(-1)^n-1}{n^2}$ である。$n$ が偶数なら $a_n=0$、奇数なら $a_n=-\frac4{\pi n^2}$ である。たとえば $a_1=-\frac4\pi$、$a_3=-\frac4{9\pi}$ であり、
$$ S_1f(x)=\frac\pi2-\frac4\pi\cos x $$
が、定数と $\cos x$、$\sin x$ の 1 次結合のうち $|x|$ にいちばん近いものである。

空間ベクトルと関数の対応をまとめる。

空間ベクトル $\mathbb{R}^3$関数 $C([-\pi,\pi])$
内積 $a_1b_1+a_2b_2+a_3b_3$内積 $\int_{-\pi}^{\pi}f(x)g(x)\,dx$
正規直交系 $e_1,e_2,e_3$$\frac1{\sqrt{2\pi}},\frac{\cos nx}{\sqrt\pi},\frac{\sin nx}{\sqrt\pi}$(無限個)
成分 $\langle u,e_i\rangle$Fourier 係数(の定数倍)
平面への正射影部分和 $S_Nf$
垂線の足がいちばん近い$S_Nf$ がいちばん近い三角多項式

反例と注意

外した条件崩れる主張ボックス
系が直交していること成分を並べた式が最良近似になることex-fcb-not-orthogonal
内積の正定値性($\langle u,u\rangle\ge0$)Bessel の不等式ex-fcb-indefinite
反例:直交しない系では成分を並べても最良にならない

区間 $[0,\pi]$ の内積 $\int_0^\pi f(x)g(x)\,dx$ で、$e_1:=\frac1{\sqrt\pi}$、$e_2:=\sqrt{\frac2\pi}\sin x$ を考える。

  1. 満たす性質:$\langle e_1,e_1\rangle=\int_0^\pi\frac1\pi\,dx=1$、$\langle e_2,e_2\rangle=\frac2\pi\int_0^\pi\sin^2x\,dx=\frac2\pi\cdot\frac\pi2=1$ で、どちらも長さ $1$ である。
  2. 満たさない性質:$\langle e_1,e_2\rangle=\frac{\sqrt2}\pi\int_0^\pi\sin x\,dx=\frac{2\sqrt2}\pi\ne0$ なので、正規直交系でない。
  3. 崩れる主張:$f(x)=\sin x$ とすると、$f=\sqrt{\frac\pi2}\,e_2$ は $e_1,e_2$ の 1 次結合なので、いちばん近い 1 次結合は $f$ 自身(距離 $0$)である。ところが成分を並べた式は
    $$ \langle f,e_1\rangle e_1+\langle f,e_2\rangle e_2=\frac2\pi+\sin x $$
    となり($\langle f,e_1\rangle=\frac2{\sqrt\pi}$、$\langle f,e_2\rangle=\sqrt{\frac\pi2}$)、$f$ との距離の 2 乗は $\int_0^\pi\frac4{\pi^2}\,dx=\frac4\pi>0$ である。thm-fcb-projection は正規直交系を仮定しており、それが崩れると「成分を並べると最良」が成り立たない。
反例:長さの 2 乗が負になりうる形式では Bessel の不等式が崩れる

$\mathbb{R}^2$ で $\langle a,b\rangle'':=a_1b_1-a_2b_2$ とする(積分で定める内積 の反例と同じもの)。$e=(1,0)$ は $\langle e,e\rangle''=1$ を満たす。$u=(0,1)$ について、Bessel の不等式に当たる $\langle u,e\rangle''^2\le\langle u,u\rangle''$ は $0\le-1$ となって成り立たない。prf-thm-fcb-projection の段 4 で使った $\|u-Pu\|^2\ge0$ が、この形式では成り立たないからである。

さらに先へ

  • cor-fcb-fourier の 2 は不等式である。連続関数では等号が成り立ち、「成分の 2 乗の和が長さの 2 乗に等しい」という無限次元のピタゴラスの定理になる(Parseval の等式)。これを次の 無限次元のピタゴラスの定理 で証明し、$f(x)=x$ に使って $\sum_{n=1}^\infty\frac1{n^2}=\frac{\pi^2}6$ を導く。
  • $\mathbb{R}^n$ の部分空間への正射影は、行列を使って書ける(正射影と射影行列)。データに直線をあてはめる最小二乗法も同じ正射影である。
  • 各点で $S_Nf(x)\to f(x)$ となるかどうかは、長さで測った近さとは別の問題である(Fourier級数)。

関連項目

参考文献

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する