Fourier 係数と最良近似は、区間 $[-\pi,\pi]$ 上の連続関数 $f$ の Fourier 係数 $a_n=\frac1\pi\int_{-\pi}^{\pi}f(x)\cos nx\,dx$、$b_n=\frac1\pi\int_{-\pi}^{\pi}f(x)\sin nx\,dx$ が、関数の内積で $f$ を $1,\cos nx,\sin nx$ の向きに分けた成分(の定数倍)であり、部分和 $S_Nf$ が正射影になるという事実である。次数 $N$ 以下の三角多項式 $T$ で $\int_{-\pi}^{\pi}(f-T)^2dx$ を最小にするのは $S_Nf$ だけで、Bessel の不等式 $\frac{a_0^2}2+\sum_{n\ge1}(a_n^2+b_n^2)\le\frac1\pi\int_{-\pi}^{\pi}f^2dx$ が成り立つ。
前提知識: 三角関数の直交性(高校数学), 積分で定める内積, 2次関数, 部分積分
平面の点 $u$ から、原点を通る直線に垂線を下ろすと、その足が直線上で $u$ にいちばん近い点になる。これを内積の計算で確かめる。
$u=(1,3)$ とし、原点を通り向きが $(1,1)$ の直線を考える。長さ $1$ の向きベクトル $e:=\frac1{\sqrt2}(1,1)$ を使うと、直線上の点は $te$($t$ は実数)と書ける。$u$ と $te$ の距離の 2 乗を $t$ の 2 次関数として展開すると、$\langle u,e\rangle=\frac{1+3}{\sqrt2}=2\sqrt2$、$\langle e,e\rangle=1$、$\langle u,u\rangle=10$ なので
$$
\|u-te\|^2=\langle u,u\rangle-2t\langle u,e\rangle+t^2\langle e,e\rangle=t^2-4\sqrt2\,t+10=(t-2\sqrt2)^2+2
$$
である。よって距離がいちばん小さいのは $t=2\sqrt2=\langle u,e\rangle$ のときで、その点は $2\sqrt2\cdot\frac1{\sqrt2}(1,1)=(2,2)$、距離の 2 乗は $2$ である。$u-(2,2)=(-1,1)$ と $e$ の内積は $\frac{-1+1}{\sqrt2}=0$ なので、確かに垂線の足になっている。直線上の別の点 $(3,3)$ までの距離の 2 乗は $2^2+0^2=4$ で、$2$ より大きい。
空間の点 $u=(1,2,3)$ と、原点を通る平面を考える。平面は長さ $1$ で直交する 2 つのベクトル $e_1:=(1,0,0)$、$e_2:=\frac15(0,3,4)$ の 1 次結合 $c_1e_1+c_2e_2$ の全体とする($\langle e_1,e_2\rangle=0$、$\langle e_2,e_2\rangle=\frac{9+16}{25}=1$)。内積 $\langle u,e_1\rangle=1$、$\langle u,e_2\rangle=\frac{6+12}5=\frac{18}5$ を係数にした点
$$
Pu:=1\cdot e_1+\frac{18}5e_2=\Bigl(1,\frac{54}{25},\frac{72}{25}\Bigr)
$$
をとると、$u-Pu=\bigl(0,-\frac4{25},\frac3{25}\bigr)$ であり、$\langle u-Pu,e_1\rangle=0$、$\langle u-Pu,e_2\rangle=\frac15\bigl(-\frac{12}{25}+\frac{12}{25}\bigr)=0$ となって、$u-Pu$ は平面に垂直である。$u$ から $Pu$ までの距離の 2 乗は $\frac{16+9}{625}=\frac1{25}$ である。
どちらの例でも、「いちばん近い点」は内積 $\langle u,e_i\rangle$ を係数にして並べた点だった。この記事では、この事実を一般の内積空間で証明し、関数に使う。三角関数の直交性(高校数学) で見た正規直交系 $\frac1{\sqrt{2\pi}},\frac{\cos nx}{\sqrt\pi},\frac{\sin nx}{\sqrt\pi}$ を「座標軸」にすると、係数は Fourier 係数になり、「いちばん近い点」は「いちばん近い三角多項式」になる。
この記事で答える問いは次の 3 つである。
| 高校の計算 | この記事の言葉 | 大学の言葉 |
|---|---|---|
| 垂線の足 | 正射影 $Pu$ | 直交射影 |
| 足までの距離がいちばん短い | 最良近似 | 最小二乗近似 |
| 2 次関数の最小値 | $\int(f-T)^2dx$ の最小化 | 平均二乗誤差の最小化 |
| 成分 $\vec a\cdot\vec e_i$ | Fourier 係数 | 正規直交系に関する係数 |
以下、$V$ を内積空間とする(内積の条件は 積分で定める内積 を参照)。$e_1,\dots,e_k\in V$ が正規直交系であるとは、$\langle e_i,e_j\rangle$ が $i=j$ のとき $1$、$i\ne j$ のとき $0$ であることをいう。この値を $\delta_{ij}$ と書く。
$e_1,\dots,e_k$ を $V$ の正規直交系、$u\in V$ とする。実数 $\langle u,e_i\rangle$ を $u$ の $e_i$ 方向の成分といい、
$$
Pu:=\sum_{i=1}^k\langle u,e_i\rangle e_i=\langle u,e_1\rangle e_1+\cdots+\langle u,e_k\rangle e_k
$$
を、$u$ の($e_1,\dots,e_k$ の 1 次結合の全体への)正射影という。
ex-fcb-plane は $k=1$、ex-fcb-space は $k=2$ の場合である。
$e_1,\dots,e_k$ を $V$ の正規直交系、$u\in V$ とする。
方針:1 で「$u-Pu$ は正規直交系のどの向きとも直交する」ことを示し、あとは 積分で定める内積 で示したピタゴラスの定理($\langle v,w\rangle=0$ なら $\|v+w\|^2=\|v\|^2+\|w\|^2$)を使う。
段 1(1 の証明):$j$ を 1 つ決める。内積の線形性から
$$
\langle Pu,e_j\rangle=\Bigl\langle\sum_i\langle u,e_i\rangle e_i,\,e_j\Bigr\rangle=\sum_i\langle u,e_i\rangle\langle e_i,e_j\rangle=\sum_i\langle u,e_i\rangle\delta_{ij}=\langle u,e_j\rangle
$$
である($\delta_{ij}$ は $i=j$ の項だけ $1$ で、残りは $0$)。よって $\langle u-Pu,e_j\rangle=\langle u,e_j\rangle-\langle Pu,e_j\rangle=0$ である。
段 2(2 の前半):双線形性で展開すると
$$
\Bigl\|\sum_ic_ie_i\Bigr\|^2=\Bigl\langle\sum_ic_ie_i,\sum_jc_je_j\Bigr\rangle=\sum_i\sum_jc_ic_j\langle e_i,e_j\rangle=\sum_i\sum_jc_ic_j\delta_{ij}=\sum_ic_i^2
$$
である。$c_i=\langle u,e_i\rangle$ とおけば $\|Pu\|^2=\sum_i\langle u,e_i\rangle^2$ となる。
段 3(2 の後半):段 1 から、$u-Pu$ は各 $e_j$ と直交するので、線形性により $e_j$ の 1 次結合とも直交する。特に $\langle u-Pu,Pu\rangle=\sum_j\langle u,e_j\rangle\langle u-Pu,e_j\rangle=0$ である。$u=Pu+(u-Pu)$ にピタゴラスの定理を使うと $\|u\|^2=\|Pu\|^2+\|u-Pu\|^2$ である。
段 4(3 の証明):段 3 の式で $\|u-Pu\|^2\ge0$ なので $\|Pu\|^2\le\|u\|^2$ であり、段 2 から $\sum_i\langle u,e_i\rangle^2\le\|u\|^2$ である。
段 5(4 の証明):$v:=u-Pu$、$w:=\sum_i\bigl(\langle u,e_i\rangle-c_i\bigr)e_i$ とおくと
$$
u-\sum_ic_ie_i=(u-Pu)+\Bigl(\sum_i\langle u,e_i\rangle e_i-\sum_ic_ie_i\Bigr)=v+w
$$
である。$w$ は $e_i$ の 1 次結合なので、段 3 と同じ理由で $\langle v,w\rangle=0$ である。ピタゴラスの定理と段 2 から
$$
\Bigl\|u-\sum_ic_ie_i\Bigr\|^2=\|v\|^2+\|w\|^2=\|u-Pu\|^2+\sum_i\bigl(\langle u,e_i\rangle-c_i\bigr)^2
$$
を得る。右辺の第 2 項は 2 乗の和なので $0$ 以上で、$0$ になるのはすべての $i$ で $c_i=\langle u,e_i\rangle$ のときに限る。よって左辺の最小値は $\|u-Pu\|^2$ で、それを与える $c_i$ はただ 1 通りである。$\square$
ずれの 2 乗の和を最小にする値を 2 次関数の最小として求める同じ考え方は 平均値と二乗誤差 で扱う。
4 は、高校の「2 次関数の平方完成」を $k$ 個の変数で同時に行ったものである。ex-fcb-plane の $(t-2\sqrt2)^2+2$ は、$k=1$、$c_1=t$ の場合にほかならない。図 1 は $k=1$ の様子を示す。3 と 4 は Axl24 の 6.26 と 6.61 にもあり、関数の場合は Leb26 の定理 11.8.8(最良近似)と定理 11.8.9(Bessel の不等式)にある。
図1:平面での正射影。u − Pu は直線と直交し、Pu は直線上で u にいちばん近い点である
ex-fcb-space の $u=(1,2,3)$、$e_1=(1,0,0)$、$e_2=\frac15(0,3,4)$ で確かめる。
区間 $[-\pi,\pi]$ の連続関数全体 $C([-\pi,\pi])$ に、内積 $\langle f,g\rangle=\int_{-\pi}^{\pi}f(x)g(x)\,dx$ を入れる。三角関数の直交性(高校数学) で示したように、
$$
e_0:=\frac1{\sqrt{2\pi}},\qquad c_n:=\frac{\cos nx}{\sqrt\pi},\qquad s_n:=\frac{\sin nx}{\sqrt\pi}\qquad(n\ge1)
$$
は正規直交系である。$N$ を正の整数とし、$e_0,c_1,s_1,\dots,c_N,s_N$ の $2N+1$ 個に thm-fcb-projection を使う。
$f\in C([-\pi,\pi])$ に対して
$$
a_n:=\frac1\pi\int_{-\pi}^{\pi}f(x)\cos nx\,dx\quad(n\ge0),\qquad b_n:=\frac1\pi\int_{-\pi}^{\pi}f(x)\sin nx\,dx\quad(n\ge1)
$$
を $f$ の Fourier 係数といい、
$$
S_Nf(x):=\frac{a_0}2+\sum_{n=1}^N\bigl(a_n\cos nx+b_n\sin nx\bigr)
$$
を Fourier 級数の第 $N$ 部分和という。定数と $\cos nx$、$\sin nx$($1\le n\le N$)の 1 次結合を、次数 $N$ 以下の三角多項式という。
$f\in C([-\pi,\pi])$ の、正規直交系 $e_0,c_1,s_1,\dots,c_N,s_N$ への正射影は $S_Nf$ に等しい。成分の 2 乗は
$$
\langle f,e_0\rangle^2=\frac\pi2a_0^2,\qquad \langle f,c_n\rangle^2=\pi a_n^2,\qquad \langle f,s_n\rangle^2=\pi b_n^2
$$
である。
段 1(定数の項):$\langle f,e_0\rangle=\frac1{\sqrt{2\pi}}\int_{-\pi}^{\pi}f(x)\,dx$ である。$a_0=\frac1\pi\int_{-\pi}^{\pi}f(x)\,dx$ なので $\int_{-\pi}^{\pi}f(x)\,dx=\pi a_0$ であり、$\langle f,e_0\rangle=\frac{\pi a_0}{\sqrt{2\pi}}=\sqrt{\frac\pi2}\,a_0$ である。よって
$$
\langle f,e_0\rangle e_0=\sqrt{\frac\pi2}\,a_0\cdot\frac1{\sqrt{2\pi}}=\frac{a_0}2,\qquad \langle f,e_0\rangle^2=\frac\pi2a_0^2
$$
である。
段 2($\cos$ の項):$\langle f,c_n\rangle=\frac1{\sqrt\pi}\int_{-\pi}^{\pi}f(x)\cos nx\,dx=\frac1{\sqrt\pi}\cdot\pi a_n=\sqrt\pi\,a_n$ なので、$\langle f,c_n\rangle c_n(x)=\sqrt\pi\,a_n\cdot\frac{\cos nx}{\sqrt\pi}=a_n\cos nx$、$\langle f,c_n\rangle^2=\pi a_n^2$ である。
段 3($\sin$ の項):段 2 と同じく $\langle f,s_n\rangle=\sqrt\pi\,b_n$、$\langle f,s_n\rangle s_n(x)=b_n\sin nx$、$\langle f,s_n\rangle^2=\pi b_n^2$ である。
段 1〜3 の項を足すと、正射影は $\frac{a_0}2+\sum_{n=1}^N(a_n\cos nx+b_n\sin nx)=S_Nf(x)$ である。$\square$
$a_0$ の項だけ $\frac{a_0}2$ と半分になるのは、定数関数 $1$ の長さの 2 乗が $2\pi$ で、$\cos nx$ の $\pi$ の 2 倍だからである。
$f\in C([-\pi,\pi])$ とする。
1:thm-fcb-projection の 2 から $\|f-S_Nf\|^2=\|f\|^2-\|S_Nf\|^2$ であり、prop-fcb-partial-sum と thm-fcb-projection の 2 から $\|S_Nf\|^2=\frac\pi2a_0^2+\pi\sum_{n=1}^N(a_n^2+b_n^2)$ である。
2:1 の左辺は $0$ 以上なので、すべての $N$ で $\frac{a_0^2}2+\sum_{n=1}^N(a_n^2+b_n^2)\le\frac1\pi\int_{-\pi}^{\pi}f^2\,dx$ である。左辺は $N$ について増加し(足す項が $0$ 以上)、上から抑えられているので、$N\to\infty$ で収束する(単調収束定理)。極限も同じ不等式を満たす。収束する級数の項は $0$ に近づくので、$a_n^2+b_n^2\to0$、したがって $a_n\to0$、$b_n\to0$ である。
3:次数 $N$ 以下の三角多項式 $T$ は、$\cos nx=\sqrt\pi\,c_n$ などと書き直すと $e_0,c_1,s_1,\dots,c_N,s_N$ の 1 次結合である。thm-fcb-projection の 4 から、$\|f-T\|^2$ をいちばん小さくするのは係数が成分に等しいとき、すなわち $T=S_Nf$ のときに限る。$\square$
$f(x)=x$ の Fourier 係数を求める。
$N=1$ で $\sin x$ の項だけを考え、「$c\sin x$ の形の関数のうち $x$ にいちばん近いもの」を、thm-fcb-projection を使わずに高校の方法で求める。
$$
\int_{-\pi}^{\pi}(x-c\sin x)^2dx=\int_{-\pi}^{\pi}x^2\,dx-2c\int_{-\pi}^{\pi}x\sin x\,dx+c^2\int_{-\pi}^{\pi}\sin^2x\,dx
$$
である。$\int_{-\pi}^{\pi}x^2\,dx=\frac{2\pi^3}3$、ex-fcb-x から $\int_{-\pi}^{\pi}x\sin x\,dx=\pi b_1=2\pi$、$\int_{-\pi}^{\pi}\sin^2x\,dx=\pi$ なので
$$
\int_{-\pi}^{\pi}(x-c\sin x)^2dx=\pi c^2-4\pi c+\frac{2\pi^3}3=\pi(c-2)^2+\frac{2\pi^3}3-4\pi
$$
である。最小になるのは $c=2=b_1$ のときで、最小値は $\frac{2\pi^3}3-4\pi=8.104\ldots$ である(図 2)。cor-fcb-fourier の 1 で $N=1$ とした値 $\frac{2\pi^3}3-\pi b_1^2=\frac{2\pi^3}3-4\pi$ と一致する。高校の 2 次関数の最小値問題が、正射影を求めることになっている。
図2:c を動かしたときの ∫(x − c sin x)² dx のグラフ。c = 2 で最小になる
図 3 は $f(x)=x$ と $S_1f,S_3f,S_{10}f$ のグラフである。$N$ を大きくすると、区間の内側では $S_Nf$ が $x$ に近づく。ただし端 $x=\pm\pi$ では $S_Nf(\pm\pi)=0$ のままで、$\pm\pi$ に近づかない(次の 無限次元のピタゴラスの定理 で扱う)。
図3:f(x) = x と部分和 S_1 f、S_3 f、S_10 f。N を大きくすると区間の内側で近づく
$f(x)=|x|$ は偶関数なので、$|x|\sin nx$ は奇関数で $b_n=0$ である。$a_0=\frac1\pi\int_{-\pi}^{\pi}|x|\,dx=\frac2\pi\int_0^\pi x\,dx=\frac2\pi\cdot\frac{\pi^2}2=\pi$ である。$n\ge1$ では、部分積分で
$$
\int_0^\pi x\cos nx\,dx=\Bigl[\frac{x\sin nx}n\Bigr]_0^\pi-\frac1n\int_0^\pi\sin nx\,dx=0-\frac1n\Bigl[-\frac{\cos nx}n\Bigr]_0^\pi=\frac{(-1)^n-1}{n^2}
$$
なので、$a_n=\frac2\pi\cdot\frac{(-1)^n-1}{n^2}$ である。$n$ が偶数なら $a_n=0$、奇数なら $a_n=-\frac4{\pi n^2}$ である。たとえば $a_1=-\frac4\pi$、$a_3=-\frac4{9\pi}$ であり、
$$
S_1f(x)=\frac\pi2-\frac4\pi\cos x
$$
が、定数と $\cos x$、$\sin x$ の 1 次結合のうち $|x|$ にいちばん近いものである。
空間ベクトルと関数の対応をまとめる。
| 空間ベクトル $\mathbb{R}^3$ | 関数 $C([-\pi,\pi])$ |
|---|---|
| 内積 $a_1b_1+a_2b_2+a_3b_3$ | 内積 $\int_{-\pi}^{\pi}f(x)g(x)\,dx$ |
| 正規直交系 $e_1,e_2,e_3$ | $\frac1{\sqrt{2\pi}},\frac{\cos nx}{\sqrt\pi},\frac{\sin nx}{\sqrt\pi}$(無限個) |
| 成分 $\langle u,e_i\rangle$ | Fourier 係数(の定数倍) |
| 平面への正射影 | 部分和 $S_Nf$ |
| 垂線の足がいちばん近い | $S_Nf$ がいちばん近い三角多項式 |
| 外した条件 | 崩れる主張 | ボックス |
|---|---|---|
| 系が直交していること | 成分を並べた式が最良近似になること | ex-fcb-not-orthogonal |
| 内積の正定値性($\langle u,u\rangle\ge0$) | Bessel の不等式 | ex-fcb-indefinite |
区間 $[0,\pi]$ の内積 $\int_0^\pi f(x)g(x)\,dx$ で、$e_1:=\frac1{\sqrt\pi}$、$e_2:=\sqrt{\frac2\pi}\sin x$ を考える。
$\mathbb{R}^2$ で $\langle a,b\rangle'':=a_1b_1-a_2b_2$ とする(積分で定める内積 の反例と同じもの)。$e=(1,0)$ は $\langle e,e\rangle''=1$ を満たす。$u=(0,1)$ について、Bessel の不等式に当たる $\langle u,e\rangle''^2\le\langle u,u\rangle''$ は $0\le-1$ となって成り立たない。prf-thm-fcb-projection の段 4 で使った $\|u-Pu\|^2\ge0$ が、この形式では成り立たないからである。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する