対称行列

1：(a) ⇒ (b) は 転置行列 の記事の定理「転置行列の特徴づけ」の 1 で $A^{\top}=A$ とおけばよい。(b) ⇒ (a)：(b) は、$B=A$ が「すべての $x,y$ で $(Ax)\cdot y=x\cdot(By)$」を満たすことを言っている。同じ定理の 2（この性質をもつ $B$ は $A^{\top}$ に限る）により $A=A^{\top}$ である。(a) ⇔ (c)：$1\times1$ 行列は転置しても変わらないので $\beta_A(x,y)=(x^{\top}Ay)^{\top}=y^{\top}A^{\top}x=\beta_{A^{\top}}(y,x)$ である。よって $\beta_A$ が対称であることは、すべての $x,y$ で $\beta_A(y,x)=\beta_{A^{\top}}(y,x)$ となること、すなわち 2 つの双線形形式 $\beta_A$ と $\beta_{A^{\top}}$ が等しいことと同値である。双線形形式の行列は標準基底での値 $\beta_A(e_i,e_j)=a_{ij}$ で決まる（双線形写像 の記事の命題「基底による行列表示」の 1）ので、これは $A=A^{\top}$ と同値である。
2：積の転置の規則（行列 の記事の命題「転置と演算の関係」）により $(P^{\top}AP)^{\top}=P^{\top}A^{\top}(P^{\top})^{\top}=P^{\top}AP$ である。$(A^{-1})^{\top}=(A^{\top})^{-1}=A^{-1}$ である（正則行列 の記事の命題「逆行列と演算」の 3）。$(A^k)^{\top}=(A^{\top})^k=A^k$ は $k$ についての帰納法で従い、転置は線形なので多項式も対称である。
3：$(AB)^{\top}=B^{\top}A^{\top}=BA$ なので、$(AB)^{\top}=AB$ は $BA=AB$ と同じである。$\square$

1 ⇒ 2：$n$ についての帰納法で、直交行列 $Q$ で $Q^{\top}AQ$ が実対角行列になるものを作る（$QQ^{\top}=I_n$ は $Q^{\top}Q=I_n$ から従うので、これは $A=QDQ^{\top}$ と同じである）。$n=1$ では $Q=(1)$ でよい。$n\ge2$ とする。
(i) 固有値は実数である。代数学の基本定理 により固有多項式は複素数の根 $\lambda$ をもち、$A$ を複素行列とみて $Av=\lambda v$ となる $v\in\mathbb{C}^n$、$v\ne0$ がある（固有値 の記事の命題「固有空間と特性方程式」）。$v^{*}:=\overline{v}^{\top}$ とすると $v^{*}Av=\lambda v^{*}v$ で $v^{*}v=\sum_i|v_i|^2>0$ である。$A$ は実対称なので $\overline{v^{*}Av}=v^{\top}A\overline{v}=(v^{\top}A\overline{v})^{\top}=\overline{v}^{\top}A^{\top}v=v^{*}Av$（$1\times1$ 行列は転置で変わらない）であり、$v^{*}Av$ は実数、したがって $\lambda=v^{*}Av/v^{*}v$ も実数である。
(ii) 実の固有ベクトルがある。$A-\lambda I_n$ は行列式が $0$ の実行列なので、$\mathbb{R}^n$ の中に $0$ でない核の元がある。それを長さ $1$ に正規化して $u$ とすると $Au=\lambda u$ である。
(iii) 1 次元ずつ切り出す。$u$ を 内積空間 の記事の定理「Gram–Schmidtの直交化法」により $\mathbb{R}^n$ の正規直交基底 $u,w_2,\dots,w_n$ に延長し、これを列とする直交行列を $Q_1$ とする。$B:=Q_1^{\top}AQ_1$ は対称であり（prop-sym-characterization の 2）、$Q_1^{\top}u=e_1$ なので第 1 列は $Be_1=Q_1^{\top}Au=\lambda e_1$ である。$B$ は対称なので第 1 行も $(\lambda,0,\dots,0)$ であり、$B=\begin{pmatrix}\lambda&0\\0&A'\end{pmatrix}$（$A'$ は $n-1$ 次の実対称行列）となる。これは $u$ に直交するベクトルの全体が $A$ で自分自身に移ること（$u\cdot(Ax)=(Au)\cdot x=\lambda\,u\cdot x$）を行列で書いたものである。帰納法の仮定により直交行列 $Q'$ で $Q'^{\top}A'Q'$ は実対角行列になる。$Q:=Q_1\begin{pmatrix}1&0\\0&Q'\end{pmatrix}$ は直交行列の積なので直交行列であり、$Q^{\top}AQ=\begin{pmatrix}\lambda&0\\0&Q'^{\top}A'Q'\end{pmatrix}$ は実対角行列である。
2 ⇒ 1：$D^{\top}=D$ なので $A^{\top}=(Q^{\top})^{\top}D^{\top}Q^{\top}=QDQ^{\top}=A$ である。2 ⇔ 3：$A=QDQ^{\top}$ は $AQ=QD$ と同値であり、その第 $i$ 列は $Au_i=d_iu_i$（$u_i$ は $Q$ の第 $i$ 列、$d_i$ は $D$ の対角成分）である。$Q$ が直交行列であることは列が正規直交基底をなすことと同じである（正規直交基底 の記事の定理「正規直交基底の取り替えとユニタリ行列」を標準基底に当てはめる）。よって 2 の $Q$ の列は 3 の基底であり、逆に 3 の基底を並べた $Q$ は 2 を満たす。
最後の主張：異なる固有値の固有空間が直交することは、転置行列 の記事の命題「転置と固有値」の 3 で $A^{\top}=A$ とおいたものである。3 の正規直交基底の各元はいずれかの $E_{\mu_k}$ に入り、基底なので $\mathbb{R}^n=E_{\mu_1}+\cdots+E_{\mu_s}$ である。固有空間の和は直和である（固有値 の記事の命題「固有空間の和の直和性」）。$\square$

同時に対角化できれば、$D_1:=Q^{\top}AQ$、$D_2:=Q^{\top}BQ$ は対角行列なので可換であり、$AB=QD_1Q^{\top}QD_2Q^{\top}=QD_1D_2Q^{\top}=QD_2D_1Q^{\top}=BA$ である。
逆に $AB=BA$ とする。$A$ の相異なる固有値を $\mu_1,\dots,\mu_s$、固有空間を $E_k:=\ker(A-\mu_kI_n)$ とする。$x\in E_k$ なら $A(Bx)=BAx=\mu_kBx$ なので $Bx\in E_k$ である。$d:=\dim E_k$ とし、$E_k$ の正規直交基底 $w_1,\dots,w_d$（内積空間 の記事の定理「Gram–Schmidtの直交化法」）を列とする $n\times d$ 行列を $W$ とすると、$W^{\top}W=I_d$ である。$Bw_j\in E_k$ なので $Bw_j=\sum_l(w_l\cdot Bw_j)w_l$ と展開でき（正規直交基底 の記事の定理「正規直交基底による座標とParsevalの等式」）、これは
$$ BW=WC,\qquad C:=W^{\top}BW\in M_d(\mathbb{R}) $$
を意味する。$C$ は対称なので（prop-sym-characterization の 2）、thm-sym-orthogonal により $d$ 次の直交行列 $R$ と対角行列 $\Lambda$ で $CR=R\Lambda$ となるものがある。$V:=WR$ とおくと、$V^{\top}V=R^{\top}W^{\top}WR=I_d$ なので $V$ の列は正規直交であり、各列は $E_k$ に入るので $A$ の固有値 $\mu_k$ の固有ベクトルである。さらに $BV=WCR=WR\Lambda=V\Lambda$ なので、$V$ の各列は $B$ の固有ベクトルでもある。
これを $k=1,\dots,s$ について行い、得られた列をすべて並べた $n\times n$ 行列を $Q$ とする。異なる $k$ の固有空間は互いに直交し（thm-sym-orthogonal）、各 $E_k$ の中の列は正規直交なので、$Q$ の列は全体として正規直交である。列の個数は $\sum_k\dim E_k=n$（thm-sym-orthogonal の直和分解）なので $Q$ は直交行列であり、各列が $A$ と $B$ の共通の固有ベクトルなので $Q^{\top}AQ$ と $Q^{\top}BQ$ は対角行列である。$\square$

thm-sym-orthogonal により $A=QDQ^{\top}$、$D=\operatorname{diag}(\lambda_1,\dots,\lambda_n)$ と書ける。
1 ⇒ 2：$Au=\lambda u$、$|u|=1$ なら $\lambda=u^{\top}Au\ge0$ である。2 ⇒ 3：$Q$ は正則なので $\operatorname{rank}D=\operatorname{rank}A=r$ であり、$D$ の $0$ でない対角成分はちょうど $r$ 個である。番号を付け替えて $\lambda_1,\dots,\lambda_r>0$、$\lambda_{r+1}=\cdots=\lambda_n=0$ としてよい（$Q$ の列も同じく並べ替える）。$(i,i)$ 成分が $\sqrt{\lambda_i}$（$i\le r$）で他の成分が $0$ の $r\times n$ 行列を $F$ とすると $F^{\top}F=D$ である。$B:=FQ^{\top}$ とおけば $B^{\top}B=QF^{\top}FQ^{\top}=QDQ^{\top}=A$ である。3 ⇒ 4 は明らかである。4 ⇒ 1：$x^{\top}Ax=x^{\top}B^{\top}Bx=(Bx)\cdot(Bx)=|Bx|^2\ge0$ である。
正定値について：4 ⇒ 1 の計算から、$A=B^{\top}B$ のとき $x^{\top}Ax=0$ と $Bx=0$ は同値であり、$A$ が正定値であることは $\ker B=0$、すなわち $\operatorname{rank}B=n$ と同値である（次元定理）。固有値との関係は、1 ⇒ 2 と同じく $\lambda=u^{\top}Au>0$ であること、逆に固有値がすべて正なら $r=n$ で 3 の $B$ が $n\times n$ の正則行列になることからわかる。$\square$