ブログ

ベクトル空間$V$からベクトル空間$W$への線形写像$f:V \longrightarrow W$について、それぞれのベクトル空間$V, W$の基底に基づく演算の際に表現行列(representation matrix)が用いられます。当記事では導関数をとる線形写像の表現行列について取りまとめました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$6$章「線形写像」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

導関数をとる線形写像の表現行列

表現行列

$$
\large
\begin{align}
\left( \begin{array}{ccc} f(\mathbf{v}_{1}) & \cdots & f(\mathbf{v}_{n}) \end{array} \right) = \left( \begin{array}{ccc} \mathbf{w}_{1} & \cdots & \mathbf{w}_{m} \end{array} \right) \left( \begin{array}{ccc} a_{11} & \cdots & a_{1n} \\ \vdots & \ddots & \vdots \\ a_{m1} & \cdots & a_{mn} \end{array} \right)
\end{align}
$$

線形写像$f:V \longrightarrow W$の表現行列$A$は上記を元に下記のように定義される。

$$
\large
\begin{align}
A = \left( \begin{array}{ccc} a_{11} & \cdots & a_{1n} \\ \vdots & \ddots & \vdots \\ a_{m1} & \cdots & a_{mn} \end{array} \right)
\end{align}
$$

詳しくは下記で取り扱った。
https://www.hello-statisticians.com/math_basic/representation_matrix1.html

導関数をとる線形写像の表現行列

導関数をとる線形写像の表現行列の例

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$121$

線形写像$\displaystyle \frac{d}{dx}:W_{n} \longrightarrow W_{n-1}$について下記が成立する。
$$
\large
\begin{align}
\frac{d}{dx} 1 = 0, \, \frac{d}{dx} x = 1, \, \frac{d}{dx} x^{2} = 2x, \, \frac{d}{dx} x^{3} = 3x^{2}
\end{align}
$$

上記より下記のような式が得られる。
$$
\large
\begin{align}
\left( \begin{array}{cccc} \displaystyle \frac{d}{dx} 1 & \displaystyle \frac{d}{dx} x & \displaystyle \frac{d}{dx} x^{2} & \displaystyle \frac{d}{dx} x^{3} \end{array} \right) &= \left( \begin{array}{cccc} 0 & 1 & 2x & 3x^{2} \end{array} \right) \\
&= \left( \begin{array}{ccc} 1 & x & x^{2} \end{array} \right) \left( \begin{array}{cccc} 0 & 1 & 0 & 0 \\ 0 & 0 & 2 & 0 \\ 0 & 0 & 0 & 3 \end{array} \right)
\end{align}
$$

よってここでの線形写像と$W_{3}$と$W_{2}$のそれぞれの基底についての表現行列$A$は下記のように定義される。
$$
\large
\begin{align}
A = \left( \begin{array}{cccc} 0 & 1 & 0 & 0 \\ 0 & 0 & 2 & 0 \\ 0 & 0 & 0 & 3 \end{array} \right)
\end{align}
$$

基本例題$124$

線形写像$\displaystyle \frac{d^{2}}{dx^{2}}:W_{n} \longrightarrow W_{n-2}$について下記が成立する。
$$
\large
\begin{align}
\frac{d^{2}}{dx^{2}} 1 = 0, \, \frac{d^{2}}{dx^{2}} x = 0, \, \frac{d^{2}}{dx^{2}} x^{2} = 2, \, \frac{d^{2}}{dx^{2}} x^{3} = 6x
\end{align}
$$

上記より下記のような式が得られる。
$$
\large
\begin{align}
\left( \begin{array}{cccc} \displaystyle \frac{d}{dx} 1 & \displaystyle \frac{d}{dx} x & \displaystyle \frac{d}{dx} x^{2} & \displaystyle \frac{d}{dx} x^{3} \end{array} \right) &= \left( \begin{array}{cccc} 0 & 0 & 2 & 6x \end{array} \right) \\
&= \left( \begin{array}{ccc} 1 & x \end{array} \right) \left( \begin{array}{cccc} 0 & 0 & 2 & 0 \\ 0 & 0 & 0 & 6 \end{array} \right)
\end{align}
$$

よってここでの線形写像と$W_{3}$と$W_{1}$のそれぞれの基底についての表現行列$A$は下記のように定義される。
$$
\large
\begin{align}
A = \left( \begin{array}{cccc} 0 & 0 & 2 & 0 \\ 0 & 0 & 0 & 6 \end{array} \right)
\end{align}
$$

重要例題$062$

線形写像$\displaystyle \frac{d}{dx}:W_{n} \longrightarrow W_{n-1}$について下記が成立する。
$$
\large
\begin{align}
\frac{d}{dx} 1 = 0, \, \frac{d}{dx} x = 1, \, \frac{d}{dx} x^{2} = 2x, \, \cdots , \, \frac{d}{dx} x^{n} = nx^{n-1}
\end{align}
$$

上記より下記のような式が得られる。
$$
\large
\begin{align}
& \left( \begin{array}{ccccc} \displaystyle \frac{d}{dx} 1 & \displaystyle \frac{d}{dx} x & \displaystyle \frac{d}{dx} x^{2} & \cdots & \displaystyle \frac{d}{dx} x^{3} \end{array} \right) = \left( \begin{array}{ccccc} 0 & 1 & 2x & \cdots & nx^{n-1} \end{array} \right) \\
&= \left( \begin{array}{cccc} 1 & x & \cdots & x^{n-1} \end{array} \right) \left( \begin{array}{ccccc} 0 & 1 & 0 & \cdots & 0 \\ 0 & 0 & 2 & \cdots & 0 \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & 0 & \cdots & n \end{array} \right)
\end{align}
$$

よってここでの線形写像と$W_{n}$と$W_{n-1}$のそれぞれの基底についての表現行列$A$は下記のように定義される。
$$
\large
\begin{align}
A = \left( \begin{array}{ccccc} 0 & 1 & 0 & \cdots & 0 \\ 0 & 0 & 2 & \cdots & 0 \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & 0 & \cdots & n \end{array} \right)
\end{align}
$$

ベクトル空間$V$からベクトル空間$W$への線形写像$f:V \longrightarrow W$について、それぞれのベクトル空間$V, W$の基底に基づく演算の際に表現行列(representation matrix)が用いられます。当記事では零写像・恒等写像と表現行列について取りまとめを行いました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$6$章「線形写像」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

表現行列と零写像・恒等写像

表現行列

$$
\large
\begin{align}
\left( \begin{array}{ccc} f(\mathbf{v}_{1}) & \cdots & f(\mathbf{v}_{n}) \end{array} \right) = \left( \begin{array}{ccc} \mathbf{w}_{1} & \cdots & \mathbf{w}_{m} \end{array} \right) \left( \begin{array}{ccc} a_{11} & \cdots & a_{1n} \\ \vdots & \ddots & \vdots \\ a_{m1} & \cdots & a_{mn} \end{array} \right)
\end{align}
$$

線形写像$f:V \longrightarrow W$の表現行列$A$は上記を元に下記のように定義される。

$$
\large
\begin{align}
A = \left( \begin{array}{ccc} a_{11} & \cdots & a_{1n} \\ \vdots & \ddots & \vdots \\ a_{m1} & \cdots & a_{mn} \end{array} \right)
\end{align}
$$

詳しくは下記で取り扱った。
https://www.hello-statisticians.com/math_basic/representation_matrix1.html

零写像

恒等写像

零写像・恒等写像の表現行列

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$123$

$[1]$

$n$次元ベクトル空間$K^{n}$と$m$次元ベクトル空間$K^{m}$の標準基底をそれぞれ下記のようにおく。
・$K^{n}$
$$
\large
\begin{align}
\left\{ \mathbf{e}_{1}, \cdots , \mathbf{e}_{n} \right\}
\end{align}
$$

・$K^{m}$
$$
\large
\begin{align}
\left\{ \mathbf{e}_{1}’, \cdots , \mathbf{e}_{m}’ \right\}
\end{align}
$$

このとき$0(\mathbf{e}_{i})=\mathbf{0}$より、下記のような式が成立する。
$$
\large
\begin{align}
\left( \begin{array}{ccc} 0(\mathbf{e}_{1}) & \cdots & 0(\mathbf{e}_{n}) \end{array} \right) = \left( \begin{array}{ccc} \mathbf{e}_{1}’ & \cdots & \mathbf{e}_{m}’ \end{array} \right) O
\end{align}
$$

上記より「零写像$0:K^{n} \longrightarrow K^{m}$」の「$K^{n}$の標準基底と$K^{m}$の標準基底」に関する表現行列は零行列$O$である。

$[2]$

$n$次元ベクトル空間$K^{n}$の標準基底を下記のようにおく。
$$
\large
\begin{align}
\left\{ \mathbf{e}_{1}, \cdots , \mathbf{e}_{n} \right\}
\end{align}
$$

このとき$\mathrm{id}(\mathbf{e}_{i})=\mathbf{e}_{i}$より、下記のような式が成立する。
$$
\large
\begin{align}
\left( \begin{array}{ccc} \mathrm{id}(\mathbf{e}_{1}) & \cdots & \mathrm{id}(\mathbf{e}_{n}) \end{array} \right) = \left( \begin{array}{ccc} \mathbf{e}_{1} & \cdots & \mathbf{e}_{n} \end{array} \right) I_{n}
\end{align}
$$

上記より「恒等写像$\mathrm{id}:K^{n} \longrightarrow K^{n}$」の「$K^{n}$の標準基底」に関する表現行列は恒等写像$I_{n}$である。

ベクトル空間$V$からベクトル空間$W$への線形写像$f:V \longrightarrow W$について、それぞれのベクトル空間$V, W$の基底に基づく演算の際に表現行列(representation matrix)が用いられます。当記事では線形写像と表現行列について取りまとめを行いました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$6$章「線形写像」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

線形写像と表現行列

ベクトル空間の基底と線形写像

$n$次元ベクトル空間$V$と$m$次元ベクトル空間の基底をそれぞれ下記のように定義する。
・$V$
$$
\large
\begin{align}
\left\{ \mathbf{v}_{1}, \cdots , \mathbf{v}_{n} \right\} \quad (1)
\end{align}
$$

・$W$
$$
\large
\begin{align}
\left\{ \mathbf{w}_{1}, \cdots , \mathbf{w}_{m} \right\} \quad (2)
\end{align}
$$

上記はそれぞれ$n$次元ベクトル空間と$m$次元ベクトル空間であるので$\mathrm{dim}{V}=n, \, \mathrm{dim}{W}=m$が成立する。ここで線形写像$f:V \longrightarrow W$を下記のように定義する。
$$
\large
\begin{align}
f(\mathbf{v}_{j}) &= a_{1j} \mathbf{w}_{1} + \cdots + a_{mj} \mathbf{w}_{m} \\
&= \left( \begin{array}{ccc} \mathbf{w}_{1} & \cdots & \mathbf{w}_{m} \end{array} \right) \left( \begin{array}{c} a_{1j} \\ \vdots \\ a_{mj} \end{array} \right) \quad (3)
\end{align}
$$

線形写像と表現行列

線形写像$f:V \longrightarrow W$を$(1), (2)$の基底について表した$(3)$式を元に下記のような式を得ることができる。
$$
\large
\begin{align}
\left( \begin{array}{ccc} f(\mathbf{v}_{1}) & \cdots & f(\mathbf{v}_{n}) \end{array} \right) = \left( \begin{array}{ccc} \mathbf{w}_{1} & \cdots & \mathbf{w}_{m} \end{array} \right) \left( \begin{array}{ccc} a_{11} & \cdots & a_{1n} \\ \vdots & \ddots & \vdots \\ a_{m1} & \cdots & a_{mn} \end{array} \right)
\end{align}
$$

上記を元に表現行列$A$を下記のように定義する。
$$
\large
\begin{align}
A = \left( \begin{array}{ccc} a_{11} & \cdots & a_{1n} \\ \vdots & \ddots & \vdots \\ a_{m1} & \cdots & a_{mn} \end{array} \right)
\end{align}
$$

表現写像$A$は線形写像$f:V \longrightarrow W$の特定の基底$\displaystyle \left\{ \mathbf{v}_{1}, \cdots , \mathbf{v}_{n} \right\}$と$\displaystyle \left\{ \mathbf{w}_{1}, \cdots , \mathbf{w}_{n} \right\}$の組について定義されたものであることに注意しておくと良い。このため線形写像$f$だけでは表現行列が一意に決まらない。「表現写像 $\iff$ 線形写像＋ベクトル空間の基底」の対応で抑えておくとよい。

表現行列の例

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$122$

$$
\large
\begin{align}
f : V & \longrightarrow W, \, \mathrm{dim}{V}=5, \, \mathrm{dim}{W}=2 \\
f(\mathbf{v}_{1}) &= \mathbf{w}_{1} + 5 \mathbf{w}_{2} \\
f(\mathbf{v}_{2}) &= \mathbf{w}_{1} + \mathbf{w}_{2} \\
f(\mathbf{v}_{3}) &= 3 \mathbf{w}_{1} + 7 \mathbf{w}_{2} \\
f(\mathbf{v}_{4}) &= 2 \mathbf{w}_{1} + 6 \mathbf{w}_{2} \\
f(\mathbf{v}_{5}) &= \mathbf{w}_{1} + \mathbf{w}_{2}
\end{align}
$$

上記は下記のように表すことができる。
$$
\large
\begin{align}
\left( \begin{array}{ccccc} f(\mathbf{v}_{1}) & f(\mathbf{v}_{2}) & f(\mathbf{v}_{3}) & f(\mathbf{v}_{4}) & f(\mathbf{v}_{5}) \end{array} \right) = \left( \begin{array}{cc} \mathbf{w}_{1} & \mathbf{w}_{2} \end{array} \right) \left( \begin{array}{ccccc} 1 & 1 & 3 & 2 & 1 \\ 5 & 1 & 7 & 6 & 1 \end{array} \right)
\end{align}
$$

よって表現行列$A$は下記のように表せる。
$$
\large
\begin{align}
A = \left( \begin{array}{ccccc} 1 & 1 & 3 & 2 & 1 \\ 5 & 1 & 7 & 6 & 1 \end{array} \right)
\end{align}
$$

重要例題$063$

$$
\large
\begin{align}
f : V & \longrightarrow W, \, \mathrm{dim}{V}=4, \, \mathrm{dim}{W}=3 \\
f(\mathbf{v}_{1}) &= \mathbf{w}_{1} + 3 \mathbf{w}_{2} + 2 \mathbf{w}_{3} \\
f(\mathbf{v}_{2}) &= 2 \mathbf{w}_{1} + 6 \mathbf{w}_{2} + 4 \mathbf{w}_{3} \\
f(\mathbf{v}_{3}) &= 2 \mathbf{w}_{2} + \mathbf{w}_{3} \\
f(\mathbf{v}_{4}) &= 2 \mathbf{w}_{1} + 4 \mathbf{w}_{2} + 3 \mathbf{w}_{3}
\end{align}
$$

上記は下記のように表すことができる。
$$
\large
\begin{align}
\left( \begin{array}{cccc} f(\mathbf{v}_{1}) & f(\mathbf{v}_{2}) & f(\mathbf{v}_{3}) & f(\mathbf{v}_{4}) \end{array} \right) = \left( \begin{array}{ccc} \mathbf{w}_{1} & \mathbf{w}_{2} & \mathbf{w}_{3} \end{array} \right) \left( \begin{array}{cccc} 1 & 2 & 0 & 2 \\ 3 & 6 & 2 & 4 \\ 2 & 4 & 1 & 3 \end{array} \right)
\end{align}
$$

よって表現行列$A$は下記のように表せる。
$$
\large
\begin{align}
A = \left( \begin{array}{cccc} 1 & 2 & 0 & 2 \\ 3 & 6 & 2 & 4 \\ 2 & 4 & 1 & 3 \end{array} \right)
\end{align}
$$

クラメールの公式(Cramer’s rule)を用いることで連立一次方程式を行列式(determinant)の計算に基づいて解くことが可能になります。当記事ではクラメールの公式の式と問題演習を通した計算例の確認について取りまとめを行いました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$4$章「行列式」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

クラメールの公式

$n$個の未知数についての$n$個方程式からなる連立$1$次方程式$A \mathbf{x} = \mathbf{b}$を下記のように定義する。
$$
\large
\begin{align}
A \mathbf{x} &= \mathbf{b} \\
A &= \left( \begin{array}{ccc} \mathbf{a}_{1} & \cdots & \mathbf{a}_{n} \end{array} \right) \\
\mathbf{a}_{i} &= \left( \begin{array}{c} a_{1i} \\ \vdots \\ \mathbf{a}_{ni} \end{array} \right), \, \mathbf{x} = \left( \begin{array}{c} x_{1} \\ \vdots \\ x_{n} \end{array} \right), \, \mathbf{b} = \left( \begin{array}{c} b_{1} \\ \vdots \\ b_{n} \end{array} \right)
\end{align}
$$

このとき、連立$1$次方程式$A \mathbf{x} = \mathbf{b}$の解$\mathbf{x}$の$i$番目の成分$x_{i}$は下記に基づいて計算することができる。
$$
\large
\begin{align}
x_{i} = \frac{\det{\left( \begin{array}{ccccccc} \mathbf{a}_{1} & \cdots & \mathbf{a}_{i-1} & \mathbf{b} & \mathbf{a}_{i+1} & \cdots & \mathbf{a}_{n} \end{array} \right)}}{\det{(A)}}
\end{align}
$$

上記をクラメールの公式という。

クラメールの公式の使用例

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$073$

・$[1]$
$$
\large
\begin{cases}
2x – 3y = 1 \\
3x + 4y = 2
\end{cases}
$$

上記の連立方程式は下記のような行列表記で表すことができる。
$$
\large
\begin{align}
\left( \begin{array}{cc} 2 & -3 \\ 3 & 4 \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 1 \\ 2 \end{array} \right)
\end{align}
$$

上記に対してクラメールの公式を適用することで、$x, y$は下記のように得られる。
$$
\large
\begin{align}
x &= \frac{\left| \begin{array}{cc} 1 & -3 \\ 2 & 4 \end{array} \right|}{\left| \begin{array}{cc} 2 & -3 \\ 3 & 4 \end{array} \right|} \\
&= \frac{4+6}{8+9} \\
&= \frac{10}{17} \\
y &= \frac{\left| \begin{array}{cc} 2 & 1 \\ 3 & 2 \end{array} \right|}{\left| \begin{array}{cc} 2 & -3 \\ 3 & 4 \end{array} \right|} \\
&= \frac{4-3}{8+9} \\
&= \frac{1}{17}
\end{align}
$$

正定値行列(positive definite matrix)は行列に対する任意のベクトルの$2$次形式が常に正である場合の行列に対応します。当記事では正定値行列、非負定値行列、負定値行列について成立する式や性質とその導出について取り扱いました。
「統計学のための数学入門$30$講」の$23.2$節の「正定値行列・非負定値行列・負定値行列の性質」や「Matrix Computations」Section$4.2$の「Positive Definite Systems」を参考に作成を行いました。

・用語/公式解説
https://www.hello-statisticians.com/explain-terms

正定値行列・非負定値行列・負定値行列の定義と性質

正方行列$A$の$2$次形式

$p$次正方行列$A \in \mathbb{R}^{p \times p}$のベクトル$\mathbf{x} \in \mathbb{R}^{p}$についての$2$次形式を$q(\mathbf{x})$とおくと、$q(\mathbf{x})$は下記のように定義される。
$$
\large
\begin{align}
q(\mathbf{x}) = \mathbf{x}^{\mathrm{T}} A \mathbf{x}
\end{align}
$$

$2$次形式について詳しくは下記で取り扱った。

二次形式(quadratic form)と対称行列(symmetric matrix)の対応

正定値行列・非負定値行列・負定値行列の定義

$p$次正方行列$A \in \mathbb{R}^{p \times p}$が正定値行列であることは任意のベクトル$\mathbf{x} \in \mathbb{R}^{p}$について下記が成立することと同値である。
$$
\large
\begin{align}
\mathbf{x}^{\mathrm{T}} A \mathbf{x} > 0
\end{align}
$$

正方行列$A$が正定値行列であることを$A > O$のように表す場合もある。同様に$A$が非負定値行列・負定値行列である場合は下記のように表される。

・非負定値行列
$$
\large
\begin{align}
A \geq O \iff \mathbf{x}^{\mathrm{T}} A \mathbf{x} \geq 0, \, {}^{\forall} \mathbf{x} \in \mathbb{R}^{p}
\end{align}
$$

・負定値行列
$$
\large
\begin{align}
A < O \iff \mathbf{x}^{\mathrm{T}} A \mathbf{x} < 0, \, {}^{\forall} \mathbf{x} \in \mathbb{R}^{p}
\end{align}
$$

対称行列における正定値行列・非負定値行列・負定値行列の性質

$A$が$p$次対称行列である場合、下記がそれぞれ成立する。
$(1) \,$ $A > O$ $\, \iff \,$ 行列$A$の固有値が全て正
$(2) \,$ $A \geq O$ $\, \iff \,$ 行列$A$の固有値が全て$0$以上
$(3) \,$ $A < O$ $\, \iff \,$ 行列$A$の固有値が全て負
$(4) \,$ $A > O \, \implies \, \det{(A)} > 0$
$(5) \,$ $A \geq O \, \implies \, \det{(A)} \geq 0$
$(6) \,$ $A > O$なら逆行列$A^{-1} > O$が存在し、$A^{-1} > O$である
$(7) \,$ $A \geq B > O$なら$|A| \geq |B|$である
$(8) \,$ $A \geq B > O$なら$B^{-1} \geq A^{-1}$である
$(9) \,$ $B \in \mathbb{R}^{p \times q}$のとき、$B^{\mathrm{T}}B$と$BB^{\mathrm{T}}$の正の固有値の個数と固有値の値は一致する
$(10) \,$ $A > O$のとき$-A < O$である

導出

$(1)$〜$(3)$の導出

$(1)$の導出

・「$A > O$ $\, \implies \,$ $\lambda > 0$」の導出
行列$A \in \mathbb{R}^{p \times p}$の固有値を$\lambda$、$\lambda$に対応する長さ$1$の固有ベクトルを$\mathbf{x} \in \mathbb{R}^{p}$とおくと下記が成立する。
$$
\large
\begin{align}
A \mathbf{x} = \lambda \mathbf{x}
\end{align}
$$

ここで上記の式に$\mathbf{x}^{\mathrm{T}}$を左からかけるとき、$\lambda$がスカラーであるので下記のような式変形が得られる。
$$
\large
\begin{align}
\mathbf{x}^{\mathrm{T}} A \mathbf{x} &= \mathbf{x}^{\mathrm{T}} (\lambda \mathbf{x}) \\
\mathbf{x}^{\mathrm{T}} A \mathbf{x} &= \lambda \mathbf{x}^{\mathrm{T}} \mathbf{x} \\
&= \lambda
\end{align}
$$

$A > O$であるとき${}^{\forall} \mathbf{x} \in \mathbb{R}^{p}$について$\mathbf{x}^{\mathrm{T}} A \mathbf{x} > 0$であるので「$A > O$ $\, \implies \,$ $\lambda > 0$」が成立する。

・「$\lambda > 0$ $\, \implies \,$ $A > O$」の導出
$A$の固有値を$\lambda_{i}, \, i=1, \cdots , p$とおき、$\lambda_{i} > 0$を仮定する。このとき$\lambda_{i}$に対応する長さ$1$の固有ベクトルを$\mathbf{u}_{i}$とおくと、スペクトル分解の式に基づいて下記が成立する。
$$
\large
\begin{align}
A = \sum_{i=1}^{p} \lambda_{i} \mathbf{u}_{i} \mathbf{u}_{i}^{\mathrm{T}}
\end{align}
$$

ここで$\mathbf{x}^{\mathrm{T}} A \mathbf{x}$に上記を代入することで下記が得られる。
$$
\large
\begin{align}
\mathbf{x}^{\mathrm{T}} A \mathbf{x} &= \mathbf{x}^{\mathrm{T}} \left( \sum_{i=1}^{p} \lambda_{i} \mathbf{u}_{i} \mathbf{u}_{i}^{\mathrm{T}} \right) \mathbf{x} \\
&= \sum_{i=1}^{p} \lambda_{i} \mathbf{x}^{\mathrm{T}} \mathbf{u}_{i} \mathbf{u}_{i}^{\mathrm{T}} \mathbf{x} \\
&= \sum_{i=1}^{p} \lambda_{i} (\mathbf{x}^{\mathrm{T}} \mathbf{u}_{i})^{2}
\end{align}
$$

「$\lambda_{i} > 0$を仮定した」かつ「$\mathbf{x}$が固有ベクトル$\mathbf{u}_{1}, \cdots , \mathbf{u}_{p}$全てと直交することはない¹」ので、上記より$\mathbf{x}^{\mathrm{T}} A \mathbf{x} > 0$が成立する。よって$A > O$である。

$(2), (3)$の導出

$(1)$式の$>$を$\geq$や$<$に置き換えることで同様に示すことができる。

$(4), (5)$の導出

固有値分解の式より、直交行列$U$を用いて$A = U^{\mathrm{T}} \Lambda U$が成立する。このとき$|U|=1$であるので$\det{(A)} = |A|$は下記のように計算できる。
$$
\large
\begin{align}
\det{(A)} &= |A| = |U^{\mathrm{T}} \Lambda U| \\
&= |U^{\mathrm{T}}| |\Lambda| |U| \\
&= |\Lambda| = \prod_{i=1}^{p} \lambda_{i}
\end{align}
$$

ここで「$A > O \, \iff \, \lambda_{i} > 0$」、「$A \geq O \, \iff \, \lambda_{i} \geq 0$」なので、$(4)$と$(5)$がそれぞれ成立する。

$(6)$の導出

正定値行列は固有値が全て正であるので、行列式が正であり逆行列を持つ。ここで$A = U^{\mathrm{T}} \Lambda U$のように固有値分解の式を仮定するとき、$A^{-1}$について下記が成立する。
$$
\large
\begin{align}
A^{-1} &= (U^{\mathrm{T}} \Lambda U)^{-1} \\
&= U^{-1} \Lambda^{-1} (U^{\mathrm{T}})^{-1} \\
&= U^{\mathrm{T}} \Lambda^{-1} U
\end{align}
$$

ここで$\Lambda$の対角成分を$\lambda_{1}, \cdots , \lambda_{p}$とおくと、$\Lambda^{-1}$の対角成分は$\displaystyle \frac{1}{\lambda_{1}} , \cdots , \frac{1}{\lambda_{p}}$で表される。

$\lambda_{i}>0, \, {}^{\forall} i \in \{ 1, \cdots , p \}$のとき$\displaystyle \frac{1}{\lambda_{i}}>0, \, {}^{\forall} i \in \{ 1, \cdots , p \}$が成立するので$A > O$のとき$A^{-1} > O$である。

$(7), (8)$の導出

$(9)$の導出

$\lambda$を$B^{\mathrm{T}} B$の固有値、$\mathbf{x}$を対応する固有ベクトルとする。このとき下記が成立する。
$$
\large
\begin{align}
B^{\mathrm{T}} B \mathbf{x} = \lambda \mathbf{x}
\end{align}
$$

ここで上記に$B$を左からかけると下記が成立する。
$$
\large
\begin{align}
B B^{\mathrm{T}} B \mathbf{x} &= B \lambda \mathbf{x} \\
(B B^{\mathrm{T}}) B \mathbf{x} &= \lambda B \mathbf{x}
\end{align}
$$

上記より、$\lambda$が$B B^{\mathrm{T}}$の固有値、$B \mathbf{x}$が対応する固有ベクトルであることが確認できる。このことは全ての$\lambda$について成立するので「$B^{\mathrm{T}}B$と$BB^{\mathrm{T}}$の正の固有値の個数と固有値の値は一致する」ことが確認できる。

$(10)$の導出

$(1)$の導出と同様に示すことができる。

1. $\mathbf{u}_{1}, \cdots \mathbf{u}_{p}$はそれぞれ$1$次独立であるから、$\mathbf{x}$が全ての固有ベクトル$\mathbf{u}_{1}, \cdots \mathbf{u}_{p}$とは直交できない。 ↩︎

行列の各固有値(eigen value)に対応する固有ベクトル(eigen vector)を用いることで行列の対角化(diagonalization)を行うことが可能です。当記事ではユニタリ行列を用いたエルミート行列の対角化(diagonalization)について取りまとめました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$8$章「固有値問題と行列の対角化」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

ユニタリ行列を用いたエルミート行列の対角化

標準内積と複素計量ベクトル空間

ユニタリ行列

行列$A$がユニタリ行列であるとき、ユニタリ行列の随伴行列$A^{*}$と単位行列$I$に関して下記が成立する。
$$
\large
\begin{align}
A A^{*} = A^{*} A = I
\end{align}
$$

上記より$A^{*}=A^{-1}$も同時に成立する。

ユニタリ行列(Unitary matrix)の定義とユニタリ行列の性質

エルミート行列

$n$次正方行列$A=(a_{ij})$を考え、$a_{ij}$の複素共役を$\overline{a_{ij}}$のように定める。このとき$a_{ij}=\overline{a_{ji}}$が成立する場合$A$はエルミート行列であるといい、$A^{*}=A$のように表す。

対角成分に関しては$a_{ii}=\overline{a_{ii}}$が成立するので、エルミート行列の対角成分が全て実数であることも抑えておくと良い。

エルミート行列(Hermitian matrix)の定義とエルミート行列の性質

テプリッツの定理

$A$が$n$次正方行列であるとき、「行列$A$がユニタリ行列で対角化できる」$\iff$「$A$が正規行列であり$A A^{*} = A^{*} A$」が成立する。

エルミート行列と正規行列

エルミート行列の定義より$A^{*}=A$が成立する。よって$A A^{*} = A^{2} = A^{*} A$が成立するのでエルミート行列は正規行列であり、テプリッツの定理が適用できる。

計算例

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

重要例題$083$

$$
\large
\begin{align}
A = \left( \begin{array}{ccc} 3 & i & -1 \\ -i & 5 & i \\ -1 & -i & 3 \end{array} \right)
\end{align}
$$

行列$A$の固有多項式を$F_{A}(t)=\det{(tI_{3} \, – \, A)}$とおくと、$F_{A}(t)$は下記のように計算できる。
$$
\large
\begin{align}
F_{A}(t) &= \det{(tI_{3} \, – \, A)} = \left| \begin{array}{ccc} t \, – \, 3 & -i & 1 \\ i & t \, – \, 5 & -i \\ 1 & i & t \, – \, 3 \end{array} \right| \\
&= \left| \begin{array}{ccc} 0 & -i(t \, – 2) & -(t \, – \, 2)(t \, – \, 4) \\ 0 & t \, – \, 4 & -i(t \, – \, 2) \\ 1 & i & t \, – \, 3 \end{array} \right| \\
&= 1 \cdot (-1)^{1+3} \left| \begin{array}{cc} -i(t \, – 2) & -(t \, – \, 2)(t \, – \, 4) \\ t \, – \, 4 & -i(t \, – \, 2) \end{array} \right| \\
&= i^{2}(t \, – \, 2)^{2} + (t \, – \, 2)(t \, – \, 4)^{2} \\
&= -(t \, – \, 2)^{2} + (t \, – \, 2)(t^{2} \, – \, 8t + 16) \\
&= (t \, – \, 2)(t^{2} \, – \, 8t + 16 \, – \, (t \, – \, 2)) \\
&= (t \, – \, 2)(t^{2} \, – \, 9t + 18) \\
&= (t \, – \, 2)(t \, – \, 3)(t \, – \, 6)
\end{align}
$$

上記より、行列$A$の固有値は$2, \, 3, \, 6$である。以下、それぞれの固有値について長さ$1$の固有ベクトルを求める。

・固有値が$2$のとき
行列$A \, – 2I_{3}$は下記のように行基本変形を行うことができる。
$$
\large
\begin{align}
A \, – 2I_{3} &= \left( \begin{array}{ccc} 1 & i & -1 \\ -i & 3 & i \\ -1 & -i & 1 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & i & -1 \\ -i & 3 & i \\ 0 & 0 & 0 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & i & -1 \\ 0 & 2 & 0 \\ 0 & 0 & 0 \end{array} \right)\longrightarrow \left( \begin{array}{ccc} 1 & i & -1 \\ 0 & 1 & 0 \\ 0 & 0 & 0 \end{array} \right)
\end{align}
$$

上記より固有値$2$に対応する長さ$1$の固有ベクトルを$\mathbf{u}_{1}$とおくと、$\mathbf{u}_{1}$は下記のように表せる。
$$
\large
\begin{align}
\mathbf{u}_{1} = \frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 0 \\ 1 \end{array} \right)
\end{align}
$$

・固有値が$3$のとき
行列$A \, – 3I_{3}$は下記のように行基本変形を行うことができる。
$$
\large
\begin{align}
A \, – 3I_{3} &= \left( \begin{array}{ccc} 0 & i & -1 \\ -i & 2 & i \\ -1 & -i & 0 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & i & 0 \\ -i & 2 & i \\ 0 & i & -1 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & i & 0 \\ 0 & 1 & i \\ 0 & i & -1 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 0 & 1 \\ 0 & 1 & i \\ 0 & i & -1 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 0 & 1 \\ 0 & 1 & i \\ 0 & 0 & 0 \end{array} \right)
\end{align}
$$

上記より固有値$3$に対応する長さ$1$の固有ベクトルを$\mathbf{u}_{3}$とおくと、$\mathbf{u}_{3}$は下記のように表せる。
$$
\large
\begin{align}
\mathbf{u}_{2} = \frac{1}{\sqrt{3}} \left( \begin{array}{c} -1 \\ -i \\ 1 \end{array} \right)
\end{align}
$$

・固有値が$6$のとき
行列$A \, – 6I_{3}$は下記のように行基本変形を行うことができる。
$$
\large
\begin{align}
A \, – 3I_{3} &= \left( \begin{array}{ccc} -3 & i & -1 \\ -i & -1 & i \\ -1 & -i & -3 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & i & 3 \\ i & 1 & -i \\ 3 & -i & -3 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & i & 3 \\ 0 & 2 & -4i \\ 0 & -4i & -8 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & i & 3 \\ 0 & 1 & -2i \\ 0 & i & 2 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 0 & 1 \\ 0 & 1 & -2i \\ 0 & i & 2 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 0 & 1 \\ 0 & 1 & -2i \\ 0 & 0 & 0 \end{array} \right)
\end{align}
$$

上記より固有値$6$に対応する長さ$1$の固有ベクトルを$\mathbf{u}_{3}$とおくと、$\mathbf{u}_{3}$は下記のように表せる。
$$
\large
\begin{align}
\mathbf{u}_{3} = \frac{1}{\sqrt{6}} \left( \begin{array}{c} -1 \\ 2i \\ 1 \end{array} \right)
\end{align}
$$

ここで$\displaystyle U=\left( \begin{array}{ccc} \mathbf{u}_{1} & \mathbf{u}_{2} & \mathbf{u}_{3} \end{array} \right)$とおくと、$U$は下記のように表すことができる。
$$
\large
\begin{align}
U = \left( \begin{array}{ccc} \mathbf{u}_{1} & \mathbf{u}_{2} & \mathbf{u}_{3} \end{array} \right) = \frac{1}{\sqrt{6}} \left( \begin{array}{ccc} \sqrt{3} & -\sqrt{2} & -1 \\ 0 & -\sqrt{2}i & 2i \\ \sqrt{3} & \sqrt{2} & 1 \end{array} \right)
\end{align}
$$

上記の$U$はユニタリ行列であり、下記のように$A$の対角化を行うことができる。
$$
\large
\begin{align}
U^{*} A U &= \frac{1}{6} \left( \begin{array}{ccc} \sqrt{3} & -\sqrt{2} & -1 \\ 0 & \sqrt{2}i & -2i \\ \sqrt{3} & \sqrt{2} & 1 \end{array} \right)^{\mathrm{T}} \left( \begin{array}{ccc} 3 & i & -1 \\ -i & 5 & i \\ -1 & -i & 3 \end{array} \right) \left( \begin{array}{ccc} \sqrt{3} & -\sqrt{2} & -1 \\ 0 & -\sqrt{2}i & 2i \\ \sqrt{3} & \sqrt{2} & 1 \end{array} \right) \\
&= \frac{1}{6} \left( \begin{array}{ccc} \sqrt{3} & 0 & \sqrt{3} \\ -\sqrt{2} & \sqrt{2}i & \sqrt{2} \\ -1 & -2i & 1 \end{array} \right) \left( \begin{array}{ccc} 3 & i & -1 \\ -i & 5 & i \\ -1 & -i & 3 \end{array} \right) \left( \begin{array}{ccc} \sqrt{3} & -\sqrt{2} & -1 \\ 0 & -\sqrt{2}i & 2i \\ \sqrt{3} & \sqrt{2} & 1 \end{array} \right) \\
&= \frac{1}{6} \left( \begin{array}{ccc} 2\sqrt{3} & 0 & 2\sqrt{3} \\ -3\sqrt{2} & 3\sqrt{2}i & 3\sqrt{2} \\ -6 & -12i & 6 \end{array} \right) \left( \begin{array}{ccc} \sqrt{3} & -\sqrt{2} & -1 \\ 0 & -\sqrt{2}i & 2i \\ \sqrt{3} & \sqrt{2} & 1 \end{array} \right) \\
&= \frac{1}{6} \left( \begin{array}{ccc} 12 & 0 & 0 \\ 0 & 18 & 0 \\ 0 & 0 & 36 \end{array} \right) \\
&= \left( \begin{array}{ccc} 2 & 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 6 \end{array} \right)
\end{align}
$$

行基本変形は基本行列(elementary matrix)の積による操作によって表すことができるなど、基本行列は
よく出てくるので抑えておくと良いです。当記事では基本変形・基本行列(elementary matrix)の行列式(determinant)の計算について取りまとめを行いました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$3$節「行列の構造」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

基本行列の積と行列式

行列の積の行列式

行列$A$と$B$の積$AB$の行列式$\det{(AB)}$について下記が成立する。
$$
\large
\begin{align}
\det{(AB)} = \det{(A)} \det{(B)} \quad (1.1)
\end{align}
$$

基本行列の行列式

基本行列$P_{ij}, P_{i}(c), P_{ij}(a)$の行列式はそれぞれ下記のように得られる。
$$
\large
\begin{align}
\det{(P_{ij})} &= -1 \\
\det{(P_{i}(c))} &= c \\
\det{(P_{ij}(a))} &= 1
\end{align}
$$

基本行列の定義については下記で詳しく取り扱った。

基本行列(elementary matrix)の判定と基本行列による行基本操作の確認

基本行列の積と行列式

$(1.1)$式と「基本行列の行列式」を元に計算することができる。

行列式の多重線形性・交代性

行列式の還元定理

具体例の確認

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$065$

・$[1]$
行列$A$の$i$列目と$j$列目を入れ替えた行列は$AP_{ij}$のように表される。$AP_{ij}$の行列式$\det{(AP_{ij})}$は下記のように計算できる。
$$
\large
\begin{align}
\det{(AP_{ij})} &= \det{(A)} \det{(P_{ij})} \\
&= -\det{(A)}
\end{align}
$$

・$[2]$
行列$A$の$i$列目を$c$倍した行列は$AP_{i}(c)$のように表される。$AP_{i}(c)$の行列式$\det{(AP_{i}(c))}$は下記のように計算できる。
$$
\large
\begin{align}
\det{(AP_{i}(c))} &= \det{(A)} \det{(P_{i}(c))} \\
&= c \det{(A)}
\end{align}
$$

・$[3]$
行列$A$の$i$列目と$j$列目を入れ替えた行列は$AP_{ij}(a)$のように表される。$AP_{ij}(a)$の行列式$\det{(AP_{ij})}$は下記のように計算できる。
$$
\large
\begin{align}
\det{(AP_{ij}(a))} &= \det{(A)} \det{(P_{ij}(a))} \\
&= \det{(A)}
\end{align}
$$

基本例題$066$

(1)

・$[1]$
$$
\large
\begin{align}
A = \left(\begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) \quad (2.1)
\end{align}
$$

上記のように定義される$n$次正方行列について行列式の行交代性から下記が成立する。
$$
\large
\begin{align}
\det{ \left(\begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } = -\det{ \left(\begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } = -\det{(A)}
\end{align}
$$

・$[2]$
$(2.1)$式で定義される$n$次正方行列$A$について行列式の行多重線形性から下記が成立する。
$$
\large
\begin{align}
\det{ \left(\begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ c \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } = c\det{ \left(\begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } = c \det{(A)}
\end{align}
$$

・$[3]$
$(2.1)$式で定義される$n$次正方行列$A$について行列式の行多重線形性と行交代性から下記が成立する。
$$
\large
\begin{align}
\det{ \left(\begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{i} + c \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } &= \det{ \left(\begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } + c \det{ \left(\begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } \\
&= \det{(A)}
\end{align}
$$

(2)

列多重線形性と列交代性を用いて基本例題$066 \, (1)$と同様に示すことができる。

基本例題$067$

・$[1]$
$$
\large
\begin{align}
\left(\begin{array}{ccc} 1 & 2 & 4 \\ 3 & 9 & 27 \\ -1 & 1 & -1 \end{array} \right)
\end{align}
$$

下記のように行列式を計算することができる。
$$
\large
\begin{align}
\left| \begin{array}{ccc} 1 & 2 & 4 \\ 3 & 9 & 27 \\ -1 & 1 & -1 \end{array} \right| &= -\left| \begin{array}{ccc} -1 & 1 & -1 \\ 3 & 9 & 27 \\ 1 & 2 & 4 \end{array} \right| \\
&= \left| \begin{array}{ccc} 1 & -1 & 1 \\ 3 & 9 & 27 \\ 1 & 2 & 4 \end{array} \right| \\
&= \left| \begin{array}{ccc} 1 & -1 & 1 \\ 0 & 12 & 24 \\ 0 & 3 & 3 \end{array} \right| \\
&= 12 \left| \begin{array}{ccc} 1 & -1 & 1 \\ 0 & 1 & 2 \\ 0 & 3 & 3 \end{array} \right| \\
&= 12 \left| \begin{array}{cc} 1 & 2 \\ 3 & 3 \end{array} \right| \\
&= 12 (3-6) = -36
\end{align}
$$

・$[2]$
$$
\large
\begin{align}
\left( \begin{array}{cccc} 1 & 0 & 1 & 0 \\ 2 & 1 & 2 & 1 \\ 3 & 2 & 4 & 2 \\ 4 & 3 & 6 & 4 \end{array} \right)
\end{align}
$$

下記のように行列式を計算することができる。
$$
\large
\begin{align}
\left| \begin{array}{cccc} 1 & 0 & 1 & 0 \\ 2 & 1 & 2 & 1 \\ 3 & 2 & 4 & 2 \\ 4 & 3 & 6 & 4 \end{array} \right| &= \left| \begin{array}{cccc} 1 & 0 & 1 & 0 \\ 0 & 1 & 0 & 1 \\ 0 & 2 & 1 & 2 \\ 0 & 3 & 2 & 4 \end{array} \right| \\
&= \left| \begin{array}{ccc} 1 & 0 & 1 \\ 2 & 1 & 2 \\ 3 & 2 & 4 \end{array} \right| \\
&= \left| \begin{array}{ccc} 1 & 0 & 1 \\ 0 & 1 & 0 \\ 0 & 2 & 1 \end{array} \right| \\
&= \left| \begin{array}{cc} 1 & 0 \\ 2 & 1 \end{array} \right| \\
&= 1
\end{align}
$$

・$[3]$
$$
\large
\begin{align}
\left( \begin{array}{cccc} 2 & 3 & 0 & 1 \\ 0 & 1 & 5 & 0 \\ 1 & 0 & 0 & 4 \\ 0 & 7 & 2 & 0 \end{array} \right)
\end{align}
$$

下記のように行列式を計算することができる。
$$
\large
\begin{align}
\left| \begin{array}{cccc} 2 & 3 & 0 & 1 \\ 0 & 1 & 5 & 0 \\ 1 & 0 & 0 & 4 \\ 0 & 7 & 2 & 0 \end{array} \right| &= -\left| \begin{array}{cccc} 1 & 0 & 0 & 4 \\ 0 & 1 & 5 & 0 \\ 2 & 3 & 0 & 1 \\ 0 & 7 & 2 & 0 \end{array} \right| \\
&= -\left| \begin{array}{cccc} 1 & 0 & 0 & 4 \\ 0 & 1 & 5 & 0 \\ 0 & 3 & 0 & -7 \\ 0 & 7 & 2 & 0 \end{array} \right| \\
&= -\left| \begin{array}{ccc} 1 & 5 & 0 \\ 3 & 0 & -7 \\ 7 & 2 & 0 \end{array} \right| \\
&= -\left| \begin{array}{ccc} 1 & 5 & 0 \\ 0 & -15 & -7 \\ 0 & -33 & 0 \end{array} \right| \\
&= \left| \begin{array}{ccc} 1 & 5 & 0 \\ 0 & 15 & 7 \\ 0 & -33 & 0 \end{array} \right| \\
&= \left| \begin{array}{cc} 15 & 7 \\ -33 & 0 \end{array} \right| \\
&= -231
\end{align}
$$

行列の各固有値(eigen value)に対応する固有ベクトル(eigen vector)を用いることで行列の対角化(diagonalization)を行うことが可能です。当記事では交代行列の対角化(diagonalization)について取りまとめました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$8$章「固有値問題と行列の対角化」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

交代行列の対角化

交代行列

行列$A=(a_{ij})$の随伴行列(Adjoint matrix)を$A^{*}=(\overline{a_{ji}})$のように定義する。

随伴行列(Adjoint matrix)の定義と随伴行列の性質

このとき、正規行列・歪エルミート行列・交代行列は下記のような式で定義される。

名称	成立する式
正規行列	$AA^{*}=A^{*}A$
歪エルミート行列	$A^{*}=-A$
交代行列	$A^{\mathrm{T}}=-A$

$A^{*}=-A$のとき$AA^{*}=-A^{2}=A^{*}A$、$A^{\mathrm{T}}=-A$のとき$AA^{*}=AA^{\mathrm{T}}=-A^{2}=A^{\mathrm{T}}A=A^{*}A$が成立するので歪エルミート行列と交代行列はどちらも正規行列である。また、交代行列は要素が実数の歪エルミート行列である¹。

テプリッツの定理

$A$が$n$次正方行列であるとき、「行列$A$がユニタリ行列で対角化できる」$\iff$「$A$が正規行列である」が成立する。

標準内積と複素計量ベクトル空間

$\mathbb{C}$上の$n$次元ベクトル空間$\mathbb{C}^{n}$の$2$つのベクトル$\mathbf{u}, \mathbf{v} \in \mathbb{C}^{n}$を下記のように定義する。
$$
\large
\begin{align}
\mathbf{u} = \left( \begin{array}{c} u_{1} \\ \vdots \\ u_{n} \end{array} \right), \quad \mathbf{v} = \left( \begin{array}{c} v_{1} \\ \vdots \\ v_{n} \end{array} \right)
\end{align}
$$

このとき、$\mathbb{C}^{n}$上の標準内積$(\mathbf{u}, \mathbf{v})$が下記のように定義される。
$$
\large
\begin{align}
(\mathbf{u}, \mathbf{v}) = \overline{\mathbf{v}}^{\mathrm{T}} \mathbf{u} = \sum_{i=1}^{n} u_{i} \overline{v_{i}}
\end{align}
$$

上記のように$\mathbb{C}^{n}$上の標準内積$(\mathbf{u}, \mathbf{v})$を元に定義される計量ベクトル空間を複素計量ベクトル空間という。標準内積$(\mathbf{u}, \mathbf{v})$はベクトルの正規化を行う際などに用いられる。

複素数体におけるベクトル空間上の標準内積(inner product)の定義とその性質

計算例

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$158$

$$
\large
\begin{align}
A = \left( \begin{array}{ccc} 0 & -1 & -2 \\ 1 & 0 & -2 \\ 2 & 2 & 0 \end{array} \right)
\end{align}
$$

行列$A$の固有多項式を$F_{A}(t)=\det{(tI_{3} \, – \, A)}$とおくと、$F_{A}(t)$は下記のように計算できる。
$$
\large
\begin{align}
F_{A}(t) &= \det{(tI_{3} \, – \, A)} = \left| \begin{array}{ccc} t & 1 & 2 \\ -1 & t & 2 \\ -2 & -2 & t \end{array} \right| \\
&= \left| \begin{array}{ccc} 0 & t^{2}+1 & 2(t+1) \\ -1 & t & 2 \\ 0 & -2(t+1) & t-4 \end{array} \right| \\
&= (-1) \cdot (-1)^{2+1} \left| \begin{array}{cc} t^{2}+1 & 2(t+1) \\ -2(t+1) & t-4 \end{array} \right| \\
&= (t^{2}+1)(t \, – \, 4) + 4(t+1)^{2} \\
&= t^{3} \, – \, \cancel{4t^{2}} + t \, – \, \cancel{4} + \cancel{4t^{2}} + 8t + \cancel{4} \\
&= t^{3} + 9t \\
&= t(t^{2} + 9)
\end{align}
$$

上記より、行列$A$の固有値は$0, \, 3i \, -3i$である。以下、それぞれの固有値について長さ$1$の固有ベクトルを求める。

・固有値が$0$のとき
行列$A$は下記のように行基本変形を行うことができる。
$$
\large
\begin{align}
\left( \begin{array}{ccc} 0 & -1 & -2 \\ 1 & 0 & -2 \\ 2 & 2 & 0 \end{array} \right) & \longrightarrow \left( \begin{array}{ccc} 1 & 0 & -2 \\ 0 & -1 & -2 \\ 2 & 2 & 0 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 0 & -2 \\ 0 & 1 & 2 \\ 0 & 2 & 4 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 0 & -2 \\ 0 & 1 & 2 \\ 0 & 0 & 0 \end{array} \right)
\end{align}
$$

上記より固有値$0$に対応する長さ$1$の固有ベクトルを$\mathbf{u}_{1}$とおくと、$\mathbf{u}_{1}$は下記のように表せる。
$$
\large
\begin{align}
\mathbf{u}_{1} = \frac{1}{3} \left( \begin{array}{c} 2 \\ -2 \\ 1 \end{array} \right)
\end{align}
$$

・固有値が$3i$のとき
行列$A \, – \, 3i I_{3}$は下記のように行基本変形を行うことができる。
$$
\large
\begin{align}
\left( \begin{array}{ccc} -3i & -1 & -2 \\ 1 & -3i & -2 \\ 2 & 2 & -3i \end{array} \right) & \longrightarrow \left( \begin{array}{ccc} 1 & -3i & -2 \\ 2 & 2 & -3i \\ -3i & -1 & -2 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & -3i & -2 \\ 0 & 2+6i & 4 \, – \, 3i \\ 0 & 8 & -2 \, – \, 6i \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & -3i & -2 \\ 0 & 8 & -2 \, – \, 6i \\ 0 & 2+6i & 4 \, – \, 3i \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & -3i & -2 \\ 0 & 1 & \displaystyle -\frac{1+3i}{4} \\ 0 & 2+6i & 4 \, – \, 3i \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & -3i & -2 \\ 0 & 1 & \displaystyle -\frac{1+3i}{4} \\ 0 & 0 & 0 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 0 & \displaystyle \frac{1 \, – \, 3i}{4} \\ 0 & 1 & \displaystyle -\frac{1+3i}{4} \\ 0 & 0 & 0 \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 0 & \displaystyle -\frac{3i \, – \, 1}{4} \\ 0 & 1 & \displaystyle -\frac{3i+1}{4} \\ 0 & 0 & 0 \end{array} \right)
\end{align}
$$

上記より固有値$3i$に対応する長さ$1$の固有ベクトルを$\mathbf{u}_{2}$とおくと、$\mathbf{u}_{2}$は下記のように表せる。
$$
\large
\begin{align}
\mathbf{u}_{2} = \frac{1}{6} \left( \begin{array}{c} 3i \, – \, 1 \\ 3i+1 \\ 4 \end{array} \right)
\end{align}
$$

・固有値が$-3i$のとき
行列$A + 3i I_{3}$は下記のように行基本変形を行うことができる。
$$
\large
\begin{align}
\left( \begin{array}{ccc} 3i & -1 & -2 \\ 1 & 3i & -2 \\ 2 & 2 & 3i \end{array} \right) & \longrightarrow \left( \begin{array}{ccc} 1 & 3i & -2 \\ 3i & -1 & -2 \\ 2 & 2 & 3i \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 3i & -2 \\ 0 & 8 & -2+6i \\ 0 & 2 \, – \, 6i & 4+3i \end{array} \right) \\
& \longrightarrow \left( \begin{array}{ccc} 1 & 3i & -2 \\ 0 & 1 & \displaystyle \frac{3i \, – \, 1}{4} \\ 0 & 0 & 0 \end{array} \right) \longrightarrow \left( \begin{array}{ccc} 1 & 0 & \displaystyle \frac{3i+1}{4} \\ 0 & 1 & \displaystyle \frac{3i \, – \, 1}{4} \\ 0 & 0 & 0 \end{array} \right)
\end{align}
$$

上記より固有値$-3i$に対応する長さ$1$の固有ベクトルを$\mathbf{u}_{3}$とおくと、$\mathbf{u}_{3}$は下記のように表せる。
$$
\large
\begin{align}
\mathbf{u}_{3} = \frac{1}{6} \left( \begin{array}{c} -3i \, – \, 1 \\ -3i+1 \\ 4 \end{array} \right)
\end{align}
$$

ここで$\displaystyle U=\left( \begin{array}{ccc} \mathbf{u}_{1} & \mathbf{u}_{2} & \mathbf{u}_{3} \end{array} \right)$とおくと、$U$は下記のように表すことができる。
$$
\large
\begin{align}
U = \left( \begin{array}{ccc} \mathbf{u}_{1} & \mathbf{u}_{2} & \mathbf{u}_{3} \end{array} \right) = \frac{1}{6} \left( \begin{array}{ccc} 4 & 3i \, – \, 1 & -3i \, – \, 1 \\ -4 & 3i+1 & -3i+1 \\ 2 & 4 & 4 \end{array} \right)
\end{align}
$$

上記の$U$はユニタリ行列であり、下記のように$A$の対角化を行うことができる。
$$
\large
\begin{align}
U^{*} A U &= \frac{1}{6^{2}} \left( \begin{array}{ccc} 4 & -3i \, – \, 1 & 3i \, – \, 1 \\ -4 & -3i+1 & 3i+1 \\ 2 & 4 & 4 \end{array} \right)^{\mathrm{T}} \left( \begin{array}{ccc} 0 & -1 & -2 \\ 1 & 0 & -2 \\ 2 & 2 & 0 \end{array} \right) \left( \begin{array}{ccc} 4 & 3i \, – \, 1 & -3i \, – \, 1 \\ -4 & 3i+1 & -3i+1 \\ 2 & 4 & 4 \end{array} \right) \\
&= \frac{1}{6^{2}} \left( \begin{array}{ccc} 4 & -4 & 2 \\ -3i \, – \, 1 & -3i+1 & 4 \\ 3i \, – \, 1 & 3i+1 & 4 \end{array} \right) \left( \begin{array}{ccc} 0 & -1 & -2 \\ 1 & 0 & -2 \\ 2 & 2 & 0 \end{array} \right) \left( \begin{array}{ccc} 4 & 3i \, – \, 1 & -3i \, – \, 1 \\ -4 & 3i+1 & -3i+1 \\ 2 & 4 & 4 \end{array} \right) \\
&= \frac{1}{6^{2}} \left( \begin{array}{ccc} 0 & 0 & 0 \\ -3i+9 & 3i+9 & 12i \\ 3i+9 & -3i+9 & -12i \end{array} \right) \left( \begin{array}{ccc} 4 & 3i \, – \, 1 & -3i \, – \, 1 \\ -4 & 3i+1 & -3i+1 \\ 2 & 4 & 4 \end{array} \right) \\
&= \frac{1}{2^{2} \times 3} \left( \begin{array}{ccc} 0 & 0 & 0 \\ -i+3 & i+3 & 4i \\ i+3 & -i+3 & -4i \end{array} \right) \left( \begin{array}{ccc} 4 & 3i \, – \, 1 & -3i \, – \, 1 \\ -4 & 3i+1 & -3i+1 \\ 2 & 4 & 4 \end{array} \right) \\
&= \frac{1}{2^{2} \times 3} \left( \begin{array}{ccc} 0 & 0 & 0 \\ 0 & 20i+16i & 0 \\ 0 & 0 & -20i \, – \, 16i \end{array} \right) \\
&= \left( \begin{array}{ccc} 0 & 0 & 0 \\ 0 & 3i & 0 \\ 0 & 0 & -3i \end{array} \right)
\end{align}
$$

1. 対称行列も$A=A^{\mathrm{T}}$より、$AA^{*}=AA^{\mathrm{T}}=A^{2}=A^{\mathrm{T}}A=A^{*}A$であるので正規行列であることも合わせて抑えておくと良い。 ↩︎

線形代数を学ぶにあたって行列式(determinants)は固有値・固有ベクトルの導出にあたって出てくる固有多項式・固有方程式に出てくるなど、重要な概念です。当記事では行列式の計算によく用いられる行多重線形性と行交代性の式・導出とそれぞれの使用例について取りまとめを行いました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$4$章「行列式」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

行多重線形性と交代性の導出

置換

行多重線形性の式

$n$次正方行列$A$をそれぞれの行に対応するベクトル$\mathbf{a}_{1}, \mathbf{a}_{2}, \cdots , \mathbf{a}_{n}$を用いて下記のように定義する。
$$
\large
\begin{align}
A = \left( \begin{array}{c} \mathbf{a}_{1} \\ \mathbf{a}_{2} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right)
\end{align}
$$

ここで$A$の$i$行目に対応する$\mathbf{a}_{i}$がベクトル$\mathbf{b}, \mathbf{c}$と実数$k, l \in \mathbb{R}$を用いて下記のように表せると仮定する。
$$
\large
\begin{align}
\mathbf{a}_{i} = k \mathbf{b} + l \mathbf{c}
\end{align}
$$

このとき、行列$A$の行列式$\det{(A)}$について下記が成立する。
$$
\large
\begin{align}
\det{(A)} &= \det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right)} \\
&= \det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ k \mathbf{b} + l \mathbf{c} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right)} \\
&= k \det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{b} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right)} + l \det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{c} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right)} \quad (1.1)
\end{align}
$$

上記の$(1.1)$式を行列式の行多重線形性という。

行多重線形性の導出

行列$A=(a_{ij})$の行列式$\det{(A)}$は下記のように表される。
$$
\large
\begin{align}
\det{(A)} = \sum_{\sigma} \mathrm{sgn}(\sigma) a_{1 \sigma(1)} \cdots a_{i \sigma(i)} \cdots a_{n \sigma(n)} \quad (1.2)
\end{align}
$$

ここで行列$A$の$i$行の$\mathbf{a}_{i}$が$\mathbf{a}_{i}=k \mathbf{b} + l \mathbf{c}$のように表されるとき、$(1.2)$式は下記のように変形できる。
$$
\large
\begin{align}
\det{(A)} &= \sum_{\sigma} \mathrm{sgn}(\sigma) a_{1 \sigma(1)} \cdots a_{i \sigma(i)} \cdots a_{n \sigma(n)} \quad (1.2) \\
&= \sum_{\sigma} \mathrm{sgn}(\sigma) a_{1 \sigma(1)} \cdots (k b_{\sigma(i)} + l c_{\sigma(i)}) \cdots a_{n \sigma(n)} \\
&= k \sum_{\sigma} \mathrm{sgn}(\sigma) a_{1 \sigma(1)} \cdots b_{\sigma(i)} \cdots a_{n \sigma(n)} + l \sum_{\sigma} \mathrm{sgn}(\sigma) a_{1 \sigma(1)} \cdots c_{\sigma(i)} \cdots a_{n \sigma(n)}
\end{align}
$$

上記より、行多重線形性が成立することが示される。

行多重線形性は$A$の$i$行目を$\mathbf{b}$で置き換えた行列を$B$、$\mathbf{c}$で置き換えた行列を$C$とおいて$\det{(A)} = k\det{(B)} + l\det{(C)}$のように表すこともできる。

交代性の式

$n$次正方行列$A$をそれぞれの行に対応するベクトル$\mathbf{a}_{1}, \mathbf{a}_{2}, \cdots , \mathbf{a}_{n}$を用いて下記のように定義する。
$$
\large
\begin{align}
A = \left( \begin{array}{c} \mathbf{a}_{1} \\ \mathbf{a}_{2} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right)
\end{align}
$$

ここで$i \neq j$である行列$A$の$i$行目と$j$行目を入れ替えた行列の行列式について下記が成立する。
$$
\large
\begin{align}
\det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } = -\det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ \vdots \\ \mathbf{a}_{i} \\ \vdots \\ \mathbf{a}_{j} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } \quad (1.3)
\end{align}
$$

上記の$(1.3)$式を行列式の行交代性という。

交代性の導出

置換の使用例

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$060$

$$
\large
\begin{align}
A = \left( \begin{array}{c} \mathbf{a}_{1} \\ \mathbf{a}_{2} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right), \quad cA = \left( \begin{array}{c} c\mathbf{a}_{1} \\ c\mathbf{a}_{2} \\ \vdots \\ c\mathbf{a}_{n} \end{array} \right)
\end{align}
$$

$cA$は上記のように表されるので、行多重線形性を用いて$\det{(cA)}$は下記のように変形できる。
$$
\large
\begin{align}
\det{(cA)} &= \det{ \left( \begin{array}{c} c\mathbf{a}_{1} \\ c\mathbf{a}_{2} \\ \vdots \\ c\mathbf{a}_{n} \end{array} \right) } \\
&= c \det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ c\mathbf{a}_{2} \\ \vdots \\ c\mathbf{a}_{n} \end{array} \right) } \\
&= c^{2} \det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ \mathbf{a}_{2} \\ \vdots \\ c\mathbf{a}_{n} \end{array} \right) } \\
&= \cdots \cdots \\
&= c^{n} \det{ \left( \begin{array}{c} \mathbf{a}_{1} \\ \mathbf{a}_{2} \\ \vdots \\ \mathbf{a}_{n} \end{array} \right) } \\
&= c^{n} \det{(A)}
\end{align}
$$

上記より$\det{(cA)} = c^{n} \det{(A)}$が成立する。

行列の各固有値(eigen value)に対応する固有ベクトル(eigen vector)を用いることで行列の対角化(diagonalization)を行うことが可能です。当記事では直交行列を用いた実対称行列の対角化について取りまとめました。
作成にあたっては「チャート式シリーズ 大学教養 線形代数」の第$8$章「固有値問題と行列の対角化」を主に参考にしました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

直交行列を用いた実対象行列の対角化

正方行列の対角化可能条件

$n$次正方行列$A$の固有多項式を$F_{A}(t) = \det{(tI_{n} \, – \, A)}$とおくとき、$F_{A}(t)$が下記のように表せることを仮定する。
$$
\large
\begin{align}
F_{A}(t) &= \det{(tI_{n} \, – \, A)} = \prod_{i=1}^{r} (t \, – \, \lambda_{i})^{m_{i}} \\
i \neq j & \iff \lambda_{i} \neq \lambda_{j}
\end{align}
$$

上記のように$F_{A}(t)$が表せる場合、行列$A$の相異なる固有値は$\lambda_{1}, \cdots , \lambda_{r}$であり、$m_{i}$は対応する固有値$\lambda_{i}$の重複度を表す。このとき下記の$[1]$〜$[3]$が同値となる。
$[1] \,$ 行列$A$が対角化可能であり、$P^{-1} A P$が対角行列となる正則行列$P$が存在する。

$[2] \,$ $i=1, \cdots , r$について固有値$\lambda_{i}$に対応する固有空間を$W_{\lambda_{i}}$とするとき、下記が成立する。
$$
\large
\begin{align}
\mathrm{dim}{W_{\lambda_{1}}} + \cdots + \mathrm{dim}{W_{\lambda_{r}}} = n
\end{align}
$$

$[3] \,$ 各$i=1, \cdots , r$について$\mathrm{dim}{W_{\lambda_{i}}}=m_{i}$が成立する。

対称行列における固有空間の直交性

$A$が$n$次正方行列であることを仮定し、行列$A$の相異なる固有値$\lambda_{i}, \, \lambda_{j}$に対する固有空間を$W_{\lambda_{i}}, \, W_{\lambda_{j}}$のように定義する。

このとき固有空間の$W_{\lambda_{i}}$と$W_{\lambda_{j}}$は$\mathrm{R}^{n}$における標準内積について直交する。すなわち、任意の$\mathbf{v}_{i} \in W_{\lambda_{i}}, \, \mathbf{v}_{j} \in W_{\lambda_{j}}$について下記が成立する。
$$
\large
\begin{align}
(\mathbf{v}_{i}, \mathbf{v}_{j}) = \mathbf{v}_{i} \cdot \mathbf{v}_{j} = 0
\end{align}
$$

対角化の計算例

以下、「チャート式シリーズ 大学教養 線形代数」の例題の確認を行う。

基本例題$157$

$$
\large
\begin{align}
A &= \left( \begin{array}{ccc} 4 & -1 & 1 \\ -1 & 4 & -1 \\ 1 & -1 & 4 \end{array} \right)
\end{align}
$$

行列$A$の固有多項式$\det{(\lambda I_{3} \, – \, A)}$は下記のように計算できる。
$$
\large
\begin{align}
\det{(\lambda I_{3} \, – \, A)} &= \left| \begin{array}{ccc} \lambda \, – \, 4 & 1 & -1 \\ 1 & \lambda \, – \, 4 & 1 \\ -1 & 1 & \lambda \, – \, 4 \end{array} \right| \\
&= \left| \begin{array}{ccc} 0 & 1-(\lambda \, – \, 4)^{2} & -1 \, – \, (\lambda \, – \, 4) \\ 1 & \lambda \, – \, 4 & 1 \\ 0 & 1+(\lambda \, – \, 4) & \lambda \, – \, 4 + 1 \end{array} \right| \\
&= \left| \begin{array}{ccc} 0 & -(\lambda \, – \, 5)(\lambda \, – \, 3) & -(\lambda \, – \, 3) \\ 1 & \lambda \, – \, 4 & 1 \\ 0 & \lambda \, – \, 3 & \lambda \, – \, 3 \end{array} \right| \\
&= (-1)^{2+1} \left| \begin{array}{cc} -(\lambda \, – \, 5)(\lambda \, – \, 3) & -(\lambda \, – \, 3) \\ \lambda \, – \, 3 & \lambda \, – \, 3 \end{array} \right| \\
&= \left| \begin{array}{cc} (\lambda \, – \, 5)(\lambda \, – \, 3) & \lambda \, – \, 3 \\ \lambda \, – \, 3 & \lambda \, – \, 3 \end{array} \right| \\
&= (\lambda \, – \, 3)^{2} (\lambda \, – \, 5) \, – \, (\lambda \, – \, 3)^{2} \\
&= (\lambda \, – \, 3)^{2} (\lambda \, – \, 6)
\end{align}
$$

よって行列$A$の固有値は$\lambda=3, 6$である。以下、それぞれの固有値に対してそれぞれ直交する長さ$1$の固有ベクトルを求める。

・$\lambda = 3$
長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \\ z \end{array} \right)$とおくとき、$A \mathbf{u} = 3 \mathbf{u}$より下記が得られる。
$$
\large
\begin{align}
A \mathbf{u} &= 3 \mathbf{u} \\
\left( \begin{array}{ccc} 4 & -1 & 1 \\ -1 & 4 & -1 \\ 1 & -1 & 4 \end{array} \right) \left( \begin{array}{c} x \\ y \\ z \end{array} \right) &= 3 \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} 4x \, – \, y + z \\ -x + 4y \, – \, z \\ x \, – \, y + 4y \end{array} \right) &= 3 \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} x \, – \, y + z \\ -x + y \, – \, z \\ x \, – \, y + y \end{array} \right) &= \left( \begin{array}{c} 0 \\ 0 \\ 0 \end{array} \right) \\
x \, – \, y + z &= 0
\end{align}
$$

$x \, – \, y + z = 0$かつ$|\mathbf{u}|=1$であるので、$\mathbf{u}$の$1$つ$\mathbf{u}_{1}$は下記のように表すことができる。
$$
\large
\begin{align}
\mathbf{u}_{1} = \frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 1 \\ 0 \end{array} \right) \quad (1)
\end{align}
$$

ここで$x \, – \, y + z = 0$より$y = x+z$であるので、$(1)$と直交する$\lambda = 3$に対応する固有ベクトルを$\displaystyle \mathbf{u}_{2} = \left( \begin{array}{c} x \\ x+z \\ z \end{array} \right)$とおくと$\mathbf{u}_{2}$について下記が成立する。
$$
\large
\begin{align}
\mathbf{u}_{1} \cdot \mathbf{u}_{2} &= 0 \\
\frac{1}{\sqrt{2}} \left( \begin{array}{c} 1 \\ 1 \\ 0 \end{array} \right) \cdot \left( \begin{array}{c} x \\ x+z \\ z \end{array} \right) &= 0 \\
x + (x+z) &= 0 \\
2x + z &= 0 \\
z &= -2x
\end{align}
$$

上記と$x \, – \, y + z = 0, \, |\mathbf{u}_{2}|=1$より、$\mathbf{u}_{2}$は下記のように得られる。
$$
\large
\begin{align}
\mathbf{u}_{2} = \frac{1}{\sqrt{6}} \left( \begin{array}{c} -1 \\ 1 \\ 2 \end{array} \right) \quad (2)
\end{align}
$$

・$\lambda = 6$
長さ$1$の固有ベクトルを$\displaystyle \mathbf{u} = \left( \begin{array}{c} x \\ y \\ z \end{array} \right)$とおくとき、$A \mathbf{u} = 6 \mathbf{u}$より下記が得られる。
$$
\large
\begin{align}
A \mathbf{u} &= 6 \mathbf{u} \\
\left( \begin{array}{ccc} 4 & -1 & 1 \\ -1 & 4 & -1 \\ 1 & -1 & 4 \end{array} \right) \left( \begin{array}{c} x \\ y \\ z \end{array} \right) &= 6 \left( \begin{array}{c} x \\ y \\ z \end{array} \right) \\
\left( \begin{array}{c} -2x \, – \, y + z \\ -(x+2y+z) \\ x \, – \, y \, – \, 2z \end{array} \right) &= \left( \begin{array}{c} 0 \\ 0 \\ 0 \end{array} \right)
\end{align}
$$

$|\mathbf{u}|=1$であるので、$\mathbf{u}_{3}$は下記のように表すことができる。
$$
\large
\begin{align}
\mathbf{u}_{3} = \frac{1}{\sqrt{3}} \left( \begin{array}{c} 1 \\ -1 \\ 1 \end{array} \right) \quad (3)
\end{align}
$$

$(1)$〜$(3)$に基づいて直交行列$U$を下記のように定義する。
$$
\large
\begin{align}
U = \left( \begin{array}{ccc} \mathbf{u}_{1} & \mathbf{u}_{2} & \mathbf{u}_{3} \end{array} \right) = \frac{1}{\sqrt{6}} \left( \begin{array}{ccc} \sqrt{3} & -1 & \sqrt{2} \\ \sqrt{3} & 1 & -\sqrt{2} \\ 0 & 2 & \sqrt{2} \end{array} \right)
\end{align}
$$

このとき、$U^{\mathrm{T}} A U$は下記のように計算できる。
$$
\large
\begin{align}
U^{\mathrm{T}} A U &= \frac{1}{6} \left( \begin{array}{ccc} \sqrt{3} & \sqrt{3} & 0 \\ -1 & 1 & 2 \\ \sqrt{2} & -\sqrt{2} & \sqrt{2} \end{array} \right) \left( \begin{array}{ccc} 4 & -1 & 1 \\ -1 & 4 & -1 \\ 1 & -1 & 4 \end{array} \right) \left( \begin{array}{ccc} \sqrt{3} & -1 & \sqrt{2} \\ \sqrt{3} & 1 & -\sqrt{2} \\ 0 & 2 & \sqrt{2} \end{array} \right) \\
&= \frac{1}{6} \left( \begin{array}{ccc} 3 \sqrt{3} & 3 \sqrt{3} & 0 \\ -3 & 3 & 6 \\ 6 \sqrt{2} & -6 \sqrt{2} & 6 \sqrt{2} \end{array} \right) \left( \begin{array}{ccc} \sqrt{3} & -1 & \sqrt{2} \\ \sqrt{3} & 1 & -\sqrt{2} \\ 0 & 2 & \sqrt{2} \end{array} \right) \\
&= \frac{1}{6} \left( \begin{array}{ccc} 18 & 0 & 0 \\ 0 & 18 & 0 \\ 0 & 0 & 36 \end{array} \right) = \left( \begin{array}{ccc} 3 & 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 6 \end{array} \right)
\end{align}
$$

重要例題$082$