ハウスホルダー行列(Householder Matrix)の定義と成立する定理の導出

ハウスホルダー行列(Householder Matrix)は固有値解析にあたって行列の三重対角化を行う際などに用いられます。当記事ではハウスホルダー行列(Householder Matrix)の定義と成立する定理の導出などについて取りまとめました。
「A Suggestion on Mathematical Materials for Freshman Education Vol.44 ~ Householder Matrix ~」の内容を参考に作成を行いました。

・数学まとめ
https://www.hello-statisticians.com/explain-terms

ハウスホルダー行列の定義と定理

ハウスホルダー行列の定義

長さの等しい$2$つの$n$次元ベクトル$x \in \mathbb{R}^{n}$と$y \in \mathbb{R}^{n}$が与えられるとき、ハウスホルダー行列(Householder Matrix)を$H$とおくと$H$は下記のような式で定義されます。
$$
\large
\begin{align}
H &= I_{n} \, – \, \frac{2v v^{\mathrm{T}}}{v^{\mathrm{T}} v} = I_{n} \, – \, \frac{2v v^{\mathrm{T}}}{||v||^{2}} \\
v &= x \, – \, y \\
||x|| &= ||y||
\end{align}
$$

ハウスホルダー行列について成立する定理

前項「ハウスホルダー行列の定義」で定義したハウスホルダー行列については下記の定理がそれぞれ成立します。
・$(1) \,$ $Hx = y$
・$(2) \,$ $Hy = x$
・$(3) \,$ $H$は対称行列であり、$H^{\mathrm{T}} = H$が成立
・$(4) \,$ $H$は直交行列であり、$H^{\mathrm{T}} H = I_{n}$が成立
・$(5) \,$ $H$は固有値$1$を持つ
・$(6) \,$ $H$は固有値$-1$を持つ

定理の導出

$(1)$の導出

$v = x \, – \, y$、$||x|| = ||y||$より、$||v||^{2}$は下記のように表すことができます。
$$
\large
\begin{align}
||v||^{2} &= v^{\mathrm{T}} v \\
&= (x \, – \, y)^{\mathrm{T}} (x \, – \, y) \\
&= ||x||^{2} + ||y||^{2} – 2x \cdot y \\
&= ||x||^{2} + ||x||^{2} – 2x \cdot y \\
&= 2(||x||^{2} – x \cdot y)
\end{align}
$$

このとき$Hx$は下記のように式変形を行うことが可能です。
$$
\large
\begin{align}
Hx &= \left( I_{n} \, – \, \frac{2v v^{\mathrm{T}}}{||v||^{2}} \right) x \\
&= x \, – \, \frac{2 (v^{\mathrm{T}} x) v}{||v||^{2}} \\
&= x \, – \, \frac{2(x \, – \, y)^{\mathrm{T}} x (x \, – \, y)}{||v||^{2}} \\
&= x \, – \, \frac{2(||x||^{2} \, – \, x \cdot y) (x \, – \, y)}{||v||^{2}} \\
&= x \, – \, \frac{\cancel{||v||^{2}} (x \, – \, y)}{\cancel{||v||^{2}}} \\
&= \cancel{x} \, – \, (\cancel{x} \, – \, y) \\
&= y
\end{align}
$$

上記より、$Hx = y$が成立することが確認できます。

$(2)$の導出

前項「$(1)$の導出」の式変形における$x$と$y$を入れ替えることで$Hy = x$が成立することが確認できます。

$(3)$の導出

$$
\large
\begin{align}
H = I_{n} \, – \, \frac{2v v^{\mathrm{T}}}{||v||^{2}}
\end{align}
$$

上記を元に、$H^{\mathrm{T}}$は下記のように式変形を行うことができます。
$$
\large
\begin{align}
H^{\mathrm{T}} &= \left( I_{n} \, – \, \frac{2v v^{\mathrm{T}}}{||v||^{2}} \right)^{\mathrm{T}} \\
&= I_{n}^{\mathrm{T}} \, – \, \frac{2(v v^{\mathrm{T}})^{\mathrm{T}}}{||v||^{2}} \\
&= I_{n} \, – \, \frac{2 (v^{\mathrm{T}})^{\mathrm{T}} v^{\mathrm{T}}}{||v||^{2}} \\
&= I_{n} \, – \, \frac{2 v v^{\mathrm{T}}}{||v||^{2}} \\
&= H
\end{align}
$$

上記より$H^{\mathrm{T}} = H$が成立するので、ハウスホルダー行列$H$が対称行列であることが確認できます。

$(4)$の導出

$H^{\mathrm{T}} = H$より、$H^{\mathrm{T}} H = H^{2}$が成立することに基づいて$H^{\mathrm{T}} H$は下記のように式変形を行うことができます。
$$
\large
\begin{align}
H^{\mathrm{T}} H &= H^{2} \\
&= \left( I_{n} \, – \, \frac{2v v^{\mathrm{T}}}{||v||^{2}} \right)^{2} \\
&= I_{n} \, – \, \frac{4v v^{\mathrm{T}}}{||v||^{2}} + \frac{4(v v^{\mathrm{T}}) (v v^{\mathrm{T}})}{||v||^{4}} \\
&= I_{n} \, – \, \frac{4v v^{\mathrm{T}}}{||v||^{2}} + \frac{4v (v^{\mathrm{T}} v) v^{\mathrm{T}}}{||v||^{4}} \\
&= I_{n} \, – \, \frac{4v v^{\mathrm{T}}}{||v||^{2}} + \frac{4v ||v||^{2} v^{\mathrm{T}}}{||v||^{4}} \\
&= I_{n} \, – \, \frac{4v v^{\mathrm{T}}}{||v||^{2}} + \frac{4||v||^{2} v v^{\mathrm{T}}}{||v||^{4}} \\
&= I_{n} \, – \, \cancel{\frac{4v v^{\mathrm{T}}}{||v||^{2}}} + \cancel{\frac{4v v^{\mathrm{T}}}{||v||^{2}}} \\
&= I_{n}
\end{align}
$$

上記より$H^{\mathrm{T}} H = I_{n}$が成立するのでハウスホルダー行列$H$が直交行列であることが確認できます。

$(5)$の導出

$H(x+y)$は定理の$(1)$と$(2)$を用いて下記のように計算できます。
$$
\large
\begin{align}
H(x+y) &= Hx + Hy \\
&= y + x \\
&= (x+y)
\end{align}
$$

上記より$H$は固有値$1$を持つことが確認できます。

$(6)$の導出

$H(x \,- \, y)$は下記のように計算できます。
$$
\large
\begin{align}
H(x \, – \, y) &= \left( I_{n} \, – \, \frac{2v v^{\mathrm{T}}}{||v||^{2}} \right)v \\
&= v \, – \, \frac{2v (v^{\mathrm{T}}v)}{||v||^{2}} \\
&= v \, – \, \frac{2v \cancel{||v||^{2}}}{\cancel{||v||^{2}}} \\
&= v \, – \, 2v \\
&= – \, v \\
&= -(x \, – \, y)
\end{align}
$$

上記より$H$は固有値$-1$を持つことが確認できます。