行列の対角化① 実対称行列の直交行列による対角化(diagonalization)

行列の各固有値(eigen value)に対応する固有ベクトル(eigen vector)を用いることで行列の対角化(diagonalization)を行うことが可能です。当記事では直交行列を用いた実対称行列の対角化について取りまとめました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$8$章「固有値問題と行列の対角化」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

直交行列を用いた実対象行列の対角化

正方行列の対角化可能条件

$n$次正方行列$A$の固有多項式を$F_{A}(t) = \det{(tI_{n} \, – \, A)}$とおくとき、$F_{A}(t)$が下記のように表せることを仮定する。
$$
\large
\begin{align}
F_{A}(t) &= \det{(tI_{n} \, – \, A)} = \prod_{i=1}^{r} (t \, – \, \lambda_{i})^{m_{i}} \\
i \neq j & \iff \lambda_{i} \neq \lambda_{j}
\end{align}
$$

上記のように$F_{A}(t)$が表せる場合、行列$A$の相異なる固有値は$\lambda_{1}, \cdots , \lambda_{r}$であり、$m_{i}$は対応する固有値$\lambda_{i}$の重複度を表す。このとき下記の$[1]$〜$[3]$が同値となる。
$[1] \,$ 行列$A$が対角化可能であり、$P^{-1} A P$が対角行列となる正則行列$P$が存在する。

$[2] \,$ $i=1, \cdots , r$について固有値$\lambda_{i}$に対応する固有空間を$W_{\lambda_{i}}$とするとき、下記が成立する。
$$
\large
\begin{align}
\mathrm{dim}{W_{\lambda_{1}}} + \cdots + \mathrm{dim}{W_{\lambda_{r}}} = n
\end{align}
$$

$[3] \,$ 各$i=1, \cdots , r$について$\mathrm{dim}{W_{\lambda_{i}}}=m_{i}$が成立する。

対称行列における固有空間の直交性

$A$が$n$次正方行列であることを仮定し、行列$A$の相異なる固有値$\lambda_{i}, \, \lambda_{j}$に対する固有空間を$W_{\lambda_{i}}, \, W_{\lambda_{j}}$のように定義する。

このとき固有空間の$W_{\lambda_{i}}$と$W_{\lambda_{j}}$は$\mathrm{R}^{n}$における標準内積について直交する。すなわち、任意の$\mathbf{v}_{i} \in W_{\lambda_{i}}, \, \mathbf{v}_{j} \in W_{\lambda_{j}}$について下記が成立する。
$$
\large
\begin{align}
(\mathbf{v}_{i}, \mathbf{v}_{j}) = \mathbf{v}_{i} \cdot \mathbf{v}_{j} = 0
\end{align}
$$

対角化の計算例

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$157$

$$
\large
\begin{align}
A &= \left( \begin{array}{ccc} 4 & -1 & 1 \\ -1 & 4 & -1 \\ 1 & -1 & 4 \end{array} \right)
\end{align}
$$

行列$A$の固有多項式$\det{(\lambda I_{3} \, – \, A)}$は下記のように計算できる。
$$
\large
\begin{align}
\det{(\lambda I_{3} \, – \, A)} &= \left| \begin{array}{ccc} \lambda \, – \, 4 & 1 & -1 \\ 1 & \lambda \, – \, 4 & 1 \\ -1 & 1 & \lambda \, – \, 4 \end{array} \right| \\
&= \left| \begin{array}{ccc} 0 & 1-(\lambda \, – \, 4)^{2} & -1 \, – \, (\lambda \, – \, 4) \\ 1 & \lambda \, – \, 4 & 1 \\ 0 & 1+(\lambda \, – \, 4) & \lambda \, – \, 4 + 1 \end{array} \right| \\
&= \left| \begin{array}{ccc} 0 & -(\lambda \, – \, 5)(\lambda \, – \, 3) & -(\lambda \, – \, 3) \\ 1 & \lambda \, – \, 4 & 1 \\ 0 & \lambda \, – \, 3 & \lambda \, – \, 3 \end{array} \right| \\
&= (-1)^{2+1} \left| \begin{array}{cc} -(\lambda \, – \, 5)(\lambda \, – \, 3) & -(\lambda \, – \, 3) \\ \lambda \, – \, 3 & \lambda \, – \, 3 \end{array} \right| \\
&= \left| \begin{array}{cc} (\lambda \, – \, 5)(\lambda \, – \, 3) & \lambda \, – \, 3 \\ \lambda \, – \, 3 & \lambda \, – \, 3 \end{array} \right| \\
&= (\lambda \, – \, 3)^{2} (\lambda \, – \, 5) \, – \, (\lambda \, – \, 3)^{2} \\
&= (\lambda \, – \, 3)^{2} (\lambda \, – \, 6)
\end{align}
$$

よって行列$A$の固有値は$\lambda=3, 6$である。以下、それぞれの固有値に対してそれぞれ直交する長さ$1$の固有ベクトルを求める。

・$\lambda = 3$
長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \\ z \end{array} \right)$とおくとき、$A \mathbf{u} = 3 \mathbf{u}$より下記が得られる。
$$
\large
\begin{align}
A \mathbf{u} &= 3 \mathbf{u} \\
\left( \begin{array}{ccc} 4 & -1 & 1 \\ -1 & 4 & -1 \\ 1 & -1 & 4 \end{array} \right) \left( \begin{array}{c} x \\ y \\ z \end{array} \right) &= 3 \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} 4x \, – \, y + z \\ -x + 4y \, – \, z \\ x \, – \, y + 4y \end{array} \right) &= 3 \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} x \, – \, y + z \\ -x + y \, – \, z \\ x \, – \, y + y \end{array} \right) &= \left( \begin{array}{c} 0 \\ 0 \\ 0 \end{array} \right) \\
x \, – \, y + z &= 0
\end{align}
$$

$x \, – \, y + z = 0$かつ$|\mathbf{u}|=1$であるので、$\mathbf{u}$の$1$つ$\mathbf{u}_{1}$は下記のように表すことができる。
$$
\large
\begin{align}
\mathbf{u}_{1} = \frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 1 \\ 0 \end{array} \right) \quad (1)
\end{align}
$$

ここで$x \, – \, y + z = 0$より$y = x+z$であるので、$(1)$と直交する$\lambda = 3$に対応する固有ベクトルを$\displaystyle \mathbf{u}_{2} = \left( \begin{array}{c} x \\ x+z \\ z \end{array} \right)$とおくと$\mathbf{u}_{2}$について下記が成立する。
$$
\large
\begin{align}
\mathbf{u}_{1} \cdot \mathbf{u}_{2} &= 0 \\
\frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 1 \\ 0 \end{array} \right) \cdot \left( \begin{array}{c} x \\ x+z \\ z \end{array} \right) &= 0 \\
x + (x+z) &= 0 \\
2x + z &= 0 \\
z &= -2x
\end{align}
$$

上記と$x \, – \, y + z = 0, \, |\mathbf{u}_{2}|=1$より、$\mathbf{u}_{2}$は下記のように得られる。
$$
\large
\begin{align}
\mathbf{u}_{2} = \frac{1}{\sqrt{6}} \left( \begin{array}{c} -1 \\ 1 \\ 2 \end{array} \right) \quad (2)
\end{align}
$$

・$\lambda = 6$
長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \\ z \end{array} \right)$とおくとき、$A \mathbf{u} = 6 \mathbf{u}$より下記が得られる。
$$
\large
\begin{align}
A \mathbf{u} &= 6 \mathbf{u} \\
\left( \begin{array}{ccc} 4 & -1 & 1 \\ -1 & 4 & -1 \\ 1 & -1 & 4 \end{array} \right) \left( \begin{array}{c} x \\ y \\ z \end{array} \right) &= 6 \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} -2x \, – \, y + z \\ -(x+2y+z) \\ x \, – \, y \, – \, 2z \end{array} \right) &= \left( \begin{array}{c} 0 \\ 0 \\ 0 \end{array} \right)
\end{align}
$$

$|\mathbf{u}|=1$であるので、$\mathbf{u}_{3}$は下記のように表すことができる。
$$
\large
\begin{align}
\mathbf{u}_{3} = \frac{1}{\sqrt{3}} \left( \begin{array}{c} 1 \\ -1 \\ 1 \end{array} \right) \quad (3)
\end{align}
$$

$(1)$〜$(3)$に基づいて直交行列$U$を下記のように定義する。
$$
\large
\begin{align}
U = \left( \begin{array}{ccc} \mathbf{u}_{1} & \mathbf{u}_{2} & \mathbf{u}_{3} \end{array} \right) = \frac{1}{\sqrt{6}} \left( \begin{array}{ccc} \sqrt{3} & -1 & \sqrt{2} \\ \sqrt{3} & 1 & -\sqrt{2} \\ 0 & 2 & \sqrt{2} \end{array} \right)
\end{align}
$$

このとき、$U^{\mathrm{T}} A U$は下記のように計算できる。
$$
\large
\begin{align}
U^{\mathrm{T}} A U &= \frac{1}{6} \left( \begin{array}{ccc} \sqrt{3} & \sqrt{3} & 0 \\ -1 & 1 & 2 \\ \sqrt{2} & -\sqrt{2} & \sqrt{2} \end{array} \right) \left( \begin{array}{ccc} 4 & -1 & 1 \\ -1 & 4 & -1 \\ 1 & -1 & 4 \end{array} \right) \left( \begin{array}{ccc} \sqrt{3} & -1 & \sqrt{2} \\ \sqrt{3} & 1 & -\sqrt{2} \\ 0 & 2 & \sqrt{2} \end{array} \right) \\
&= \frac{1}{6} \left( \begin{array}{ccc} 3 \sqrt{3} & 3 \sqrt{3} & 0 \\ -3 & 3 & 6 \\ 6 \sqrt{2} & -6 \sqrt{2} & 6 \sqrt{2} \end{array} \right) \left( \begin{array}{ccc} \sqrt{3} & -1 & \sqrt{2} \\ \sqrt{3} & 1 & -\sqrt{2} \\ 0 & 2 & \sqrt{2} \end{array} \right) \\
&= \frac{1}{6} \left( \begin{array}{ccc} 18 & 0 & 0 \\ 0 & 18 & 0 \\ 0 & 0 & 36 \end{array} \right) = \left( \begin{array}{ccc} 3 & 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 6 \end{array} \right)
\end{align}
$$

重要例題$082$