問題
過去問題は統計検定公式が問題と解答例を公開しています。こちらを参照してください。
解答
[1] 解答
$\boxed{ \ \mathsf{10}\ }$ ： ②
分散分析と同様に考えることができるので、$S=S_W+S_B$が成立する。よって②が正しい。
[2] 解答
$\boxed{ \ \mathsf{11}\ }$ ： ②
フィッシャーの線形判別では$\displaystyle J(v) = \frac{v^{\mathrm{T}} S_B v}{v^{\mathrm{T}} S_W v}$を最大にするベクトル$v$を用いて判別を行う手法である。ここで$J(v)$をベクトル$v$で微分すると下記のように変形を行うことができる。
$$
\large
\begin{align}
\frac{\partial J(v)}{\partial v} &= \frac{\partial}{\partial v}\frac{v^{\mathrm{T}} S_B v}{v^{\mathrm{T}} S_W v} \\
&= \frac{2 S_B v (v^{\mathrm{T}} S_W v) – 2(v^{\mathrm{T}} S_B v)S_W v}{(v^{\mathrm{T}} S_W v)^2}
\end{align}
$$
ここで上記が$0$ベクトルに一致する条件を考える。
$$
\large
\begin{align}
\frac{\partial J(v)}{\partial v} &= 0 \\
\frac{2 S_B v (v^{\mathrm{T}} S_W v) – 2(v^{\mathrm{T}} S_B v)S_W v}{(v^{\mathrm{T}} S_W v)^2} &= 0 \\
2 S_B v (v^{\mathrm{T}} S_W v) &= 2(v^{\mathrm{T}} S_B v)S_W v \\
S_B v & \propto S_W v \\
S_W^{-1} S_B v & \propto v \\
S_W^{-1} S_B v &= \lambda v
\end{align}
$$
上記より$S_W^{-1} S_B$の固有ベクトルが判別を行う$v$であると考えれば良いことがわかる。ここで$S_W^{-1} S_B$は下記のように得られる。
$$
\large
\begin{align}
S_W^{-1} S_B &= \left(\begin{array}{cc} 4 & 2 \\ 2 & 3 \end{array} \right)^{-1} \left(\begin{array}{cc} 4 & 2 \\ 2 & 1 \end{array} \right) \\
&= \frac{1}{4 \cdot 3 – 2 \cdot 2}\left(\begin{array}{cc} 3 & -2 \\ -2 & 4 \end{array} \right) \left(\begin{array}{cc} 4 & 2 \\ 2 & 1 \end{array} \right) \\
&= \left(\begin{array}{cc} 1 & 1/2 \\ 0 & 0 \end{array} \right)
\end{align}
$$
上記に対し$\det(S_W^{-1} S_B – \lambda I_{2})=0$を計算すると$(1-\lambda) \times (-\lambda) = 0$より$\lambda=0,1$が得られる。ここで$\lambda=1$に対応する固有ベクトルを考えることで$\displaystyle v = \left(\begin{array}{c} 1 \\ 0 \end{array} \right)$が得られるので②が正解であることがわかる。
解説
フィッシャーの線形判別は「群間分散÷郡内分散」の値を最大化する$v$を計算することで判別を行う手法です。$J(v)$の最大化が固有値問題に帰着できることは何度か演習を行うことで抑えておくと良いと思います。
参考
準1級関連まとめ
https://www.hello-statisticians.com/toukeikentei-semi1
「統計学実践ワークブック」 演習問題 Ch.23 「判別分析」
https://www.hello-statisticians.com/explain-books-cat/stat_workbook/stat_workbook_ch23.html
フィッシャーの線形判別の導出
https://www.hello-statisticians.com/explain-terms-cat/linear_discriminant1.html