まず、固有多項式あるいは特性多項式を行列について定める。
行列 $A$ の固有多項式あるいは特性多項式 (characteristic polynomial) とは、
$$P_A(t)=\det(tE-A)$$
により定まる$1$変数多項式 $P_A(t)$ である。
ベクトル空間 $V$ 上の線形変換 $f\colon V\to V$ について、$k\in\K$ が $f$ の固有値 $\Longleftrightarrow$ $(f-kE)(\Bv)=f(\Bv)-k\Bv$ により定まる線形変換 $f-kE$ が不可逆。
$k\in\K$ が $f$ の固有値であるとき $$f(\Bv)=k\Bv$$ つまり $$(f-kE)(\Bv)=\Bzr$$ となる零でないベクトル $\Bv\in V$ がとれる。よって $\Bv\in \Ker(f-kE)$ より $\dim\Ker(f-kE)>0$ となるから
次元定理
より $\dim\Im(f-kE)<\dim V$ となるから、$f-kE$ は全射ではないので不可逆。
逆に $f-kE$ が不可逆であるとき、$f-kE$ は単射ではないので、
次元定理:定理1
より $\dim\Ker(f-kE)>0$ となるから、$$(f-kE)(\Bv)=\Bzr$$ となる零でないベクトル $\Bv\in V$ がとれるので、$$f(\Bv)=k\Bv$$ より、$k$ は $f$ の固有値。
定理1から、$k$ が行列 $A$ の固有値である $\Longleftrightarrow$ $kE-A$ が正則でない $\Longleftrightarrow$ $\det(kE-A)=0$ となることがわかる。つまり、固有値は固有多項式の解と一致する。
一般の線形変換の固有多項式は線形変換の表現行列の固有多項式として定めたいが、線形変換の表現行列は基底のとりかたによって変わる。しかし、基底のとりかたによらず、表現行列の固有多項式は一意的に定まる。
一般に、$A$ が正方行列で $B$ が $A$ の共役行列であるとき $P_B(t)=P_A(t)$ となる。実際、$B=Q^{-1}AQ$ となる正則行列 $B$ をとると
$$\det(tE-Q^{-1}AQ)=\det(Q^{-1}(tE)Q-Q^{-1}AQ)=\det(Q^{-1}(tE-A)Q)=\det(tE-A)$$
となる。よって、$V$ の基底 $\Bu_1, \ldots, \Bu_n$ および $\Bv_1, \ldots, \Bv_n$ に関する $f$ の表現行列をそれぞれ $A$, $B$ とし、基底 $\Bu_1, \ldots, \Bu_n$ から基底 $\Bv_1, \ldots, \Bv_n$ への変換行列を $Q$ とおくと
$$B=Q^{-1}AQ$$ より、$P_B(t)=P_A(t)$ となる。
このことから、つぎのように線形変換の固有多項式が定義される。
線形変換 $f$ の固有多項式あるいは特性多項式 (***characteristic polynomial) を、$f$ の表現行列 $A$ の固有多項式
$$P_f(t)=P_A(t)$$
により定義する。
$$f\left(\begin{pmatrix}x \\ y \end{pmatrix}\right)=\begin{pmatrix}-43x+18y \\ -112x+47y \end{pmatrix}$$
により $f\colon \K^2 \to \K^2$ を定めると、
標準基底に関する表現行列は
$$A=\begin{pmatrix}-43 & 18 \\ -112 & 47\end{pmatrix}$$
となるから固有多項式は
$$P_f(t)=P_A(t)=\begin{vmatrix}t+43 & -18 \\ 112 & t-47\end{vmatrix}=(t+43)(t-47)+2016=t^2-4t-5$$
となる。
ところで、$\K^2$ の基底として、
$$\Bu_1=\begin{pmatrix}2 \\ 5\end{pmatrix}, ~ \Bu_2=\begin{pmatrix}1 \\ 3\end{pmatrix}$$
をとると、
$$f(\Bu_1)=\begin{pmatrix}4 \\ 11\end{pmatrix}=\Bu_1+2\Bu_2, ~ f(\Bu_2)=\begin{pmatrix}11 \\ 29\end{pmatrix}=4\Bu_1+3\Bu_2$$
であるから、$\Bu_1, \Bu_2$ に関する $f$ の表現行列は
$$B=\begin{pmatrix}1 & 4 \\ 2 & 3\end{pmatrix}$$
となるが、
$$P_B(t)=\begin{vmatrix}t-1 & -4 \\ -2 & t-3\end{vmatrix}=(t-1)(t-3)-8=t^2-4t-5$$
より、
$$P_A(t)=P_B(t)=P_f(t)=t^2-4t-5=(t+1)(t-5)$$
となっていることが確かめられる。よって $f$ の固有値は $-1$ と $5$ で、実際
$$\Bv_1=\begin{pmatrix}3 \\ 7 \end{pmatrix}, ~ \Bv_2=\begin{pmatrix}3 \\ 8 \end{pmatrix}$$
とおくと
$$f(\Bv_1)=-\Bv_1, ~ f(\Bv_2)=5\Bv_2$$
となる。