当記事は「統計学のための数学入門$30$講(朝倉書店)」の読解サポートにあたってChapter.$22$の「固有値と固有ベクトル」の章末問題の解答の作成を行いました。
基本的には書籍の購入者向けの解説なので、まだ入手されていない方は購入の上ご確認ください。また、解説はあくまでサイト運営者が独自に作成したものであり、書籍の公式ページではないことにご注意ください。
・書籍解答まとめ
https://www.hello-statisticians.com/answer_textbook_math#math_stat
本章のまとめ
固有値・固有ベクトルの性質
問題$22.1$で使用するので、$22.1$節、P.$140$の「固有値・固有ベクトルの性質」の内容を以下にまとめる。
$p$次の正方行列$A$の固有値$\lambda_i$に関して下記が成立する。
$(1) \,$ 固有方程式は$p$次方程式であり、固有値は$p$個ある。ただし、重根の場合には重複度を含めて$p$個と考える。
$(2) \,$ $\lambda_{1} + \lambda_{2} + \cdots \lambda_{p} = \mathrm{Tr}(A)$
$(3) \,$ $\lambda_{1} \lambda_{2} \cdots \lambda_{p} = |A|$
$(4) \,$ $|A| \, \iff \,$ 少なくとも$1$つの固有値が$0$
$(5) \,$ $A$の逆行列が存在する $\, \iff \,$ 全ての固有値が$0$ではない
$(6) \,$ $A$の逆行列$A^{-1}$が存在するとき、$A$の固有値が$\lambda_{1}, \lambda_{2}, \cdots \lambda_{p}$であれば$A^{-1}$の固有値は$1/\lambda_{1}, 1/\lambda_{2}, \cdots 1/\lambda_{p}$である。また$\lambda_i$に対応する$A$の固有ベクトルが$\mathbf{x}_{i}$であれば、$1/\lambda_i$に対応する$A^{-1}$の固有ベクトルは$\mathbf{x}_{i}$である。
$(7) \,$ $A$の固有値と$A^{\mathrm{T}}$の固有値は同じである。
対角化可能なための条件
$p$次の正方行列$A \in \mathbb{R}^{p \times p}$は下記が成立するとき対角化可能である。
$(1) \,$ 正方行列$A$の$p$個の固有値が全て異なる
$(2) \,$ 正方行列$A$に$p$本の一次独立な固有ベクトルが存在する
演習問題解答
問題$22.1$
$$
\large
\begin{align}
A = \left( \begin{array}{cc} 1 & 1 \\ 0 & 2 \end{array} \right)
\end{align}
$$
上記の$A$の逆行列$A^{-1}$は下記のように表せる。
$$
\large
\begin{align}
A^{-1} &= \frac{1}{2-0} \left( \begin{array}{cc} 2 & -1 \\ 0 & 1 \end{array} \right) \\
&= \frac{1}{2} \left( \begin{array}{cc} 2 & -1 \\ 0 & 1 \end{array} \right) \\
&= \left( \begin{array}{cc} 1 & -1/2 \\ 0 & 1/2 \end{array} \right)
\end{align}
$$
$A$の固有値・固有ベクトル
固有方程式$\det(A – \lambda I_2)=0$は下記のように解ける。
$$
\large
\begin{align}
\det(A – \lambda I_2) &= \left| \begin{array}{cc} 1-\lambda & 1 \\ 0 & 2-\lambda \end{array} \right| \\
&= (1-\lambda)(2-\lambda) = 0 \\
\lambda &= 1, \, 2
\end{align}
$$
上記の長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \end{array} \right)$とおくと、$\lambda = 1, \, 2$に対応する$\mathbf{u}$はそれぞれ下記のように得られる。
・$\lambda = 1$
$$
\large
\begin{align}
\left( \begin{array}{cc} 1 & 1 \\ 0 & 2 \end{array} \right)\left( \begin{array}{c} x \\ y \end{array} \right) &= \left( \begin{array}{c} x \\ y \end{array} \right) \\
\left( \begin{array}{c} x+y \\ 2y \end{array} \right) &= \left( \begin{array}{c} x \\ y \end{array} \right) \\
\mathbf{u} &= \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 1 \\ 0 \end{array} \right)
\end{align}
$$
・$\lambda = 2$
$$
\large
\begin{align}
\left( \begin{array}{cc} 1 & 1 \\ 0 & 2 \end{array} \right)\left( \begin{array}{c} x \\ y \end{array} \right) &= 2 \left( \begin{array}{c} x \\ y \end{array} \right) \\
\left( \begin{array}{c} x+y \\ 2y \end{array} \right) &= \left( \begin{array}{c} 2x \\ 2y \end{array} \right) \\
\mathbf{u} &= \left( \begin{array}{c} x \\ y \end{array} \right) = \frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 1 \end{array} \right)
\end{align}
$$
$A^{-1}$の固有値・固有ベクトル
固有方程式$\det(A^{-1} – \lambda I_2)=0$は下記のように解ける。
$$
\large
\begin{align}
\det(A^{-1} – \lambda I_2) &= \left| \begin{array}{cc} 1-\lambda & -1/2 \\ 0 & 1/2-\lambda \end{array} \right| \\
&= \left( 1-\lambda \right) \left( \frac{1}{2} – \lambda \right) = 0 \\
\lambda &= 1, \, \frac{1}{2}
\end{align}
$$
上記の長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \end{array} \right)$とおくと、$\lambda = 1, \, 1/2$に対応する$\mathbf{u}$はそれぞれ下記のように得られる。
・$\lambda = 1$
$$
\large
\begin{align}
\left( \begin{array}{cc} 1 & -1/2 \\ 0 & 1/2 \end{array} \right)\left( \begin{array}{c} x \\ y \end{array} \right) &= \left( \begin{array}{c} x \\ y \end{array} \right) \\
\left( \begin{array}{c} x-y/2 \\ y/2 \end{array} \right) &= \left( \begin{array}{c} x \\ y \end{array} \right) \\
\mathbf{u} &= \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 1 \\ 0 \end{array} \right)
\end{align}
$$
・$\lambda = 1/2$
$$
\large
\begin{align}
\left( \begin{array}{cc} 1 & -1/2 \\ 0 & 1/2 \end{array} \right)\left( \begin{array}{c} x \\ y \end{array} \right) &= \frac{1}{2} \left( \begin{array}{c} x \\ y \end{array} \right) \\
\left( \begin{array}{c} x-y/2 \\ y/2 \end{array} \right) &= \left( \begin{array}{c} x/2 \\ y/2 \end{array} \right) \\
\mathbf{u} &= \left( \begin{array}{c} x \\ y \end{array} \right) = \frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 1 \end{array} \right)
\end{align}
$$
上記に対し、$(1)$〜$(3)$と$(5)$、$(6)$が成立することを以下確認を行う。
$(1) \,$ $2$次の正方行列$A, A^{-1}$に対し、固有方程式$\det(A – \lambda I_2)=0, \det(A^{-1} – \lambda I_2)$はそれぞれ$2$次方程式であり、それぞれ$2$個の方程式の解に対応する固有値を持つ。
$(2) \,$ $A$に関して$\lambda_1+\lambda_2 = 1+2 = 3 = \mathrm{Tr}(A)$が成立し、同様に$A^{-1}$に関して$\lambda_1+\lambda_2 = 1+1/2 = 3/2 = \mathrm{Tr}(A^{-1})$が成立する。
$(3) \,$ $A$に関して$\lambda_1 \times \lambda_2 = 2 = |A|$が成立し、同様に$A^{-1}$に関して$\lambda_1 \times \lambda_2 = 1/2 = |A^{-1}|$が成立する。
$(5) \,$ $A$の固有値は$1 \neq 0, 2 \neq 0$である。また、$A^{-1}$も存在する。
$(6) \,$ $A, A^{-1}$の固有値・固有ベクトルをそれぞれ確認することで、確認できる。
$A^{n}$の計算
$A$に関する固有ベクトルを縦に並べた行列を$U$、固有値を対角に並べた行列を$\Lambda$とおくと、$U, \Lambda$は下記のように表せる。
$$
\large
\begin{align}
U &= \left( \begin{array}{cc} 1 & 1/\sqrt{2} \\ 0 & 1/\sqrt{2} \end{array} \right) \\
\Lambda &= \left( \begin{array}{cc} 1 & 0 \\ 0 & 2 \end{array} \right)
\end{align}
$$
このとき、$A, U, \Lambda$に関して下記が成立する。
$$
\large
\begin{align}
AU &= U \Lambda \\
U^{-1}AU &= \Lambda \\
(U^{-1}AU)^{n} &= \Lambda^{n} \\
U^{-1} A^{n} U &= \Lambda^{n} \\
A^{n} &= U \Lambda^{n} U^{-1} \\
A^{n} &= \left( \begin{array}{cc} 1 & 1/\sqrt{2} \\ 0 & 1/\sqrt{2} \end{array} \right) \left( \begin{array}{cc} 1 & 0 \\ 0 & 2^{n} \end{array} \right) \left( \begin{array}{cc} 1 & -1 \\ 0 & \sqrt{2} \end{array} \right) \\
&= \left( \begin{array}{cc} 1 & 2^{n}/\sqrt{2} \\ 0 & 2^{n}/\sqrt{2} \end{array} \right) \left( \begin{array}{cc} 1 & -1 \\ 0 & \sqrt{2} \end{array} \right) \\
&= \left( \begin{array}{cc} 1 & 2^{n}-1 \\ 0 & 2^{n} \end{array} \right)
\end{align}
$$
問題$22.2$
$$
\large
\begin{align}
B = \left( \begin{array}{ccc} 0 & 0 & 2 \\ 0 & 2 & 0 \\ 2 & 0 & 0 \end{array} \right), \, C = \left( \begin{array}{ccc} 1 & 1 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{array} \right)
\end{align}
$$
行列$B$の対角化
行列$B$の固有多項式$\det{(\lambda I_{3} \, – \, B)}$は下記のように計算することができる。
$$
\large
\begin{align}
\det{(\lambda I_{3} \, – \, B)} &= \left| \begin{array}{ccc} \lambda & 0 & -2 \\ 0 & \lambda \, – \, 2 & 0 \\ -2 & 0 & \lambda \end{array} \right| \\
&= \lambda \cdot (-1)^{1+1} \left| \begin{array}{cc} \lambda \, – \, 2 & -2 \\ 0 & \lambda \end{array} \right| + (-2) \cdot (-1)^{1+3} \left| \begin{array}{cc} 0 & -2 \\ \lambda \, – \, 2 & 0 \end{array} \right| \\
&= \lambda^{2}(\lambda \, – \, 2) \, – \, 4(\lambda \, – \, 2) \\
&= (\lambda \, – \, 2)(\lambda^{2} \, – \, 4) \\
&= (\lambda \, – \, 2)^{2} (\lambda + 2)
\end{align}
$$
よって行列$B$の固有値は$\lambda=2, -2$である。以下、それぞれの固有値に対して長さ$1$の固有ベクトルを求める。
・$\lambda=2$
長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \\ z \end{array} \right)$とおくとき、$B \mathbf{u} = 2 \mathbf{u}$より下記が得られる。
$$
\large
\begin{align}
B \mathbf{u} &= 2 \mathbf{u} \\
\left( \begin{array}{ccc} 0 & 0 & 2 \\ 0 & 2 & 0 \\ 2 & 0 & 0 \end{array} \right) \left( \begin{array}{c} x \\ y \\ z \end{array} \right) &= 2 \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} z \\ y \\ x \end{array} \right) &= \left( \begin{array}{c} x \\ y \\ z \end{array} \right)
\end{align}
$$
$x=z$かつ$|\mathbf{u}|=1$であるので、$\mathbf{u}$は下記のように表すことができる1。
$$
\large
\begin{align}
\mathbf{u} = \left( \begin{array}{c} 0 \\ 1 \\ 0 \end{array} \right), \, \frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 0 \\ 1 \end{array} \right) \quad (1)
\end{align}
$$
・$\lambda=-2$
長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \\ z \end{array} \right)$とおくとき、$B \mathbf{u} = -2 \mathbf{u}$より下記が得られる。
$$
\large
\begin{align}
B \mathbf{u} &= -2 \mathbf{u} \\
\left( \begin{array}{ccc} 0 & 0 & 2 \\ 0 & 2 & 0 \\ 2 & 0 & 0 \end{array} \right) \left( \begin{array}{c} x \\ y \\ z \end{array} \right) &= -2 \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} z \\ y \\ x \end{array} \right) &= \left( \begin{array}{c} -x \\ -y \\ -z \end{array} \right)
\end{align}
$$
$x=-z$かつ$|\mathbf{u}|=1$であるので、$\mathbf{u}$は下記のように表すことができる。
$$
\large
\begin{align}
\mathbf{u} = \frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 0 \\ -1 \end{array} \right) \quad (2)
\end{align}
$$
$(1), \, (2)$より$3$本の$1$次独立な固有ベクトルを持つので、$B$は対角化可能である。
行列$C$の対角化
行列$C$の固有多項式$\det{(\lambda I_{3} \, – \, C)}$は下記のように計算することができる。
$$
\large
\begin{align}
\det{(\lambda I_{3} \, – \, C)} &= \left| \begin{array}{ccc} \lambda \, – \, 1 & -1 & 0 \\ 0 & \lambda \, – \, 1 & 0 \\ 0 & 0 & \lambda \, – \, 1 \end{array} \right| \\
&= (\lambda \, – \, 1) \cdot (-1)^{1+1} \left| \begin{array}{cc} \lambda \, – \, 1 & 0 \\ 0 & \lambda \, – \, 1 \end{array} \right| \\
&= (\lambda \, – \, 1)^{3}
\end{align}
$$
よって行列$C$の固有値は$\lambda=1$である。以下、固有値$\lambda=1$に対して長さ$1$の固有ベクトルを求める。
長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \\ z \end{array} \right)$とおくとき、$C \mathbf{u} = \mathbf{u}$より下記が得られる。
$$
\large
\begin{align}
C \mathbf{u} &= \mathbf{u} \\
\left( \begin{array}{ccc} 1 & 1 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{array} \right) \left( \begin{array}{c} x \\ \ z \end{array} \right) &= \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} x+y \\ y \\ z \end{array} \right) &= \left( \begin{array}{c} x \\ y \\ z \end{array} \right)
\end{align}
$$
上記より$y=0$が得られる。$|\mathbf{u}|=1$であるので、一次独立な$\mathbf{u}$は下記のように表すことができる。
$$
\large
\begin{align}
\mathbf{u} = \left( \begin{array}{c} 1 \\ 0 \\ 0 \end{array} \right), \, \left( \begin{array}{c} 0 \\ 0 \\ 1 \end{array} \right) \quad (3)
\end{align}
$$
$(3)$より、$1$次独立な固有ベクトルは$2$本のみであるので$C$は対角化することができない。
