ベクトル空間 $V$ の基底 $\Bu_1, \ldots, \Bu_n$ が、どの$2$つも互いに直交するベクトルであるとき、$\Bu_1, \ldots, \Bu_n$ を $V$ の直交基底 (orthogonal basis) という。さらに、どの $\Bu_i$ も単位ベクトルであるとき、$\Bu_1, \ldots, \Bu_n$ を $V$ の正規直交基底 (orthonormal basis) という。
有限次元のベクトル空間は直交基底をもつ。さらに強く、つぎの定理が成り立つ。
$V$ が有限次元ベクトル空間で、 $\langle \Bu, \Bv \rangle$ を $V$ の内積とする。$W$ が $V$ の部分空間で、$\Bw_1, \ldots, \Bw_m$ が $W$ の直交基底であるとき、$\Bw_1, \ldots, \Bw_m$ を含む $V$ の直交基底 $\Bw_1, \ldots, \Bw_n$ が存在する。
つまり、$V$ の任意の部分空間 $W$ の直交基底は、$V$ の直交基底に拡張できる。
$m\leq k\leq n$ となる整数 $k$ について、$V$ の部分空間の列 $W_k$ で、
一般的に、$m\leq k\leq n-1$ となる整数 $k$ について、$\Bw_1, \ldots, \Bw_k$ が、$V$ の部分空間 $W_k$ の直交基底であるとして、$V$ の部分空間で $W_k$ を含む $W_{k+1}$ と、その直交基底 $\Bw_1, \ldots, \Bw_{k+1}$ を構成する。
$W_k=V$ のとき、$\Bw_1, \ldots, \Bw_k$ が $V$ の直交基底となる。$W_k\neq V$ のとき、$W_k$ に属さない $V$ のベクトル $\Bv$ がとれる。
$$W_{k+1}=\span\{\Bw_1, \ldots, \Bw_k, \Bv\}$$
とおくと、$W_{k+1}$ は $W_k$ のベクトルと $\Bv$ から生成される、$V$ の部分空間となる。$\Bv\not\in W_k$ だから、$W_k\subsetneq W_{k+1}$ となる。
$i=1, \ldots, k$ について
$$c_i=\frac{\langle \Bv, \Bw_i \rangle}{\wenvert{\Bw_i}^2}$$
とおいて、
$$\Bw_{k+1}=\Bv-\sum_{i=1}^k c_i \Bw_i$$
とおくと、$i=1, \ldots, k$ について $\langle \Bw_i, \Bw_{k+1}\rangle=0$ である。よって、$\Bw_1, \ldots, \Bw_{k+1}$ は、どの$2$つも互いに直交する。
$$\Bv=\Bw_{k+1}+\sum_{i=1}^k c_i \Bw_i$$
より、
$$W_{k+1}=\span \{\Bw_1, \ldots, \Bw_k, \Bw_{k+1}\}$$
となる。
$\Bw_{k+1}\in W_k$ ならば、$\Bv\in W_k$ となってしまうから、
$\Bw_{k+1}\not\in W_k$ となる。よって、$\Bw_1, \ldots, \Bw_k, \Bw_{k+1}$ は $W_{k+1}$ の基底となる。先に記したように、$\Bw_1, \ldots, \Bw_{k+1}$ は、どの$2$つも互いに直交するので、$\Bw_1, \ldots, \Bw_{k+1}$ は $W_{k+1}$ の直交基底である。
$n=\dim V$ とおく。先の議論を $k=m$ から繰り返すことで、$n$ 次元空間 $W_n\subset V$ と、$W_n$ の直交基底$\Bw_1, \ldots, \Bw_n$ がとれる。$\dim W_n=n=\dim V$ より、$V=W_n$ となる。よって $\Bw_1, \ldots, \Bw_n$ は $V$ の直交基底となる。
この証明は、有限次元のベクトル空間の直交基底を構成する方法を与えている。この方法をGram-Schmidtの直交化法 (Gram-Schmidt orthogonalization process) という。
$V$ の直交基底
$$\Bw_1, \ldots, \Bw_n$$
に対して
$$\Bv_i=\frac{\Bw_i}{\wenvert{\Bw_i}}$$
とおくと、$\Bv_1, \ldots ,\Bv_n$ は $V$ の正規直交基底となる。よって、有限次元のベクトル空間は正規直交基底をもつことがわかる。たとえば、
ベクトルの直交:例1
において、$f_n$ は $V$ の正規直交基底となる。
スカラー積あるいはエルミート積が正定値でない場合は、Gram-Schmidtの直交化法により、$V$ の部分空間 $W$ の直交基底を $V$ の直交基底に拡張することができるとは限らない。
$\R^2$ において、
$$\langle (x, y), (z, w)\rangle=xz-yw$$
によりスカラー積が定義されている場合、$U=\{(x, x): x\in\R\}$ は $\R^2$ の部分空間で、$(1, 1)$ を基底にもつが、この基底は、先のスカラー積に関する $\R^2$ の直交基底には拡張できない。実際、$(x, y)\not\in U$ ならば、$x\neq y$ より
$$\langle (1, 1), (x, y)\rangle=x-y\neq 0$$
となり、$(x, y)$ は $(1, 1)$ とは直交しない。
しかし、後に示すように、スカラー積あるいはエルミート積が正定値でない場合でも、直交基底を構成することはできる(Lang, Chapter V, Theorem 5.1)。
$S$ を $V$ の部分集合(部分空間でなくてもよい)とする。このとき $S$ のすべてのベクトルと直交するベクトルからなる集合
$$S^\perp=\{\Bu: (\forall\Bv\in S) ~ [\langle \Bu, \Bv \rangle=0]\}$$
は $V$ の部分空間となる。実際、$\langle \Bu, \Bv \rangle=0 ~ (\forall\Bv\in S)$ ならば、任意の $\Bv\in S$ について
$$\langle k\Bu, \Bv \rangle=k\langle \Bu, \Bv\rangle=0$$
より、$k\Bu\in S^\perp$ となるし、$\langle \Bu, \Bv \rangle=\langle \Bw, \Bv \rangle=0 ~ (\forall\Bv\in S)$ ならば、任意の $\Bv\in S$ について
$$\langle \Bu+\Bw, \Bv\rangle=\langle \Bu, \Bv\rangle + \langle \Bw, \Bv\rangle=0$$
より、$\Bu+\Bw\in S^\perp$ となる。それで、$S^\perp$ を $S$ の直交補空間 (orthogonal complement) という。
つぎのことがすぐにわかる。
$U$ が $S$ により生成される空間であるとき、
$$S^\perp=U^\perp$$
となる。
$U$ のベクトルを $\Bu_1, \ldots, \Bu_n\in S$ と $a_1, \ldots, a_n\in\K$ により
$a_1\Bu_1+\cdots +a_n\Bu_n\in U$ とあらわすと、$\Bv\in S^\perp$ ならば
$$\langle a_1\Bu_1+\cdots +a_n\Bu_n, \Bv\rangle=a_1\langle \Bu_1, \Bv\rangle + \cdots + a_n\langle \Bu_n, \Bv\rangle=0$$
となるから、$\Bv$ は $U$ の任意のベクトルと直交する。つまり $\Bv \in U^\perp$ となる。
当然ながら $\Bv\in U^\perp$ ならば、$\Bv$ は $S$ のベクトルとも直交するから、$\Bv\in S^\perp$ となる。よって
$$S^\perp=U^\perp$$
となる。
$U$ が $V$ の部分空間で、すべての $\Bv\in U$ について $\langle \Bv, \Bv\rangle=0$ となるとき、$U$ のどの $2$ つのベクトルも互いに直交する。実際、$\Bu, \Bv\in U$ について
$$\langle \Bu, \Bv\rangle=\frac{\langle \Bu+\Bv, \Bu+\Bv\rangle-\langle \Bu, \Bu\rangle-\langle \Bv, \Bv\rangle}{2}=0$$
となる。任意の $\Bv\in U$ について $\langle \Bv, \Bv\rangle=0$ となる空間 $U$ を零空間 (null space) という。
$U$ が $V$ の部分空間で、$V$ に内積 $\langle, \rangle$ が定義されているとき、$U^\perp$ をこの内積に関する $U$ の直交補空間とすると、$V$ は $U$ と $U^\perp$ の直和となる。
$\Bu_i\in U ~ (i\in I)$ を $U$ の直交基底とし、$S=\{\Bu_i: i\in I\}$ とおく。$\Bv\in U^\perp$ ならば、$\Bv$ は各 $\Bu_i$ と直交するから、$\Bv\in U\cap U^\perp$ ならば、 ベクトルの直交:命題3 より $\Bv=\Bzr$ となる。よって、$U\cap U^\perp=\{\Bzr\}$ となる。
つぎに、任意の $\Bv\in V$ について、 $c_i=\langle \Bv, \Bu_i \rangle/\wenvert{\Bu_i}^2$ とおいて、
$$\Bu=\sum_{i\in I}c_i \Bu_i, \Bw=\Bv-\Bu$$
とおく。$\Bu\in U$ かつ、各 $k\in I$ について
$$\langle \Bw, \Bu_k\rangle=\langle \Bv, \Bu_k\rangle-\sum_{i\in I}c_i \langle \Bu_i, \Bu_k\rangle
=\langle \Bv, \Bu_k\rangle-c_k \wenvert{\Bu_k}^2=0$$
となるので、$\Bw\in S^\perp$,
命題2
より $\Bw\in U^\perp$ となる。よって、
$$\Bv=\Bu+\Bw, \Bu\in U, \Bw\in U^\perp$$
とあらわせる。つまり、$V=U+U^\perp$ となる。
これらのことから、$V$ は $U$ と $U^\perp$ の直和となる。
この定理は、スカラー積あるいはエルミート積 $\langle, \rangle$ が正定値でない場合は、一般には成り立たない。たとえば $\R^2$ において、
$$\langle (x, y), (z, w)\rangle=xz-yw$$
によりスカラー積が定義されている場合、$U=\{(x, x): x\in\R\}$ とおくと、$U^\perp=U=U+U^\perp$ となってしまう(
例1
を参照)。