統計検定準1級 問題解説 ~2021年6月実施 問4 最小二乗法・尤度比検定~

問題

過去問題は統計検定公式が問題と解答例を公開しています。こちらを参照してください。

解答

[1-1] 解答

$\boxed{ \ \mathsf{3}\ }$ : ③
二乗和誤差$(y-bx)^{\mathrm{T}}(y-bx)$は下記のように考えることができる。
$$
\large
\begin{align}
(y-bx)^{\mathrm{T}}(y-bx) &= y^{\mathrm{T}}y – b y^{\mathrm{T}}x – b x^{\mathrm{T}} y + b^2 x^{T}x \\
&= y^{\mathrm{T}}y – 2 b x^{\mathrm{T}} y + b^2 x^{\mathrm{T}}x
\end{align}
$$

上記の計算にあたっては$x^{\mathrm{T}} y = y^{\mathrm{T}}x$であること用いて項をまとめた。ここで上記の$b$に関する偏微分を考える。
$$
\large
\begin{align}
\frac{\partial (y-bx)^{\mathrm{T}}(y-bx)}{\partial b} = – 2 x^{\mathrm{T}} y + 2 b x^{T}x
\end{align}
$$

上記は$b$に関して単調増加であることから、$\displaystyle \frac{\partial (y-bx)^{\mathrm{T}}(y-bx)}{\partial b} = 0$のとき$(y-bx)^{\mathrm{T}}(y-bx)$は最小値を取る。以下このときの$b$を求める。
$$
\large
\begin{align}
\frac{\partial (y-bx)^{\mathrm{T}}(y-bx)}{\partial b} &= 0 \\
– 2 x^{\mathrm{T}} y + 2 b x^{T}x &= 0 \\
2 b x^{T}x &= 2 x^{\mathrm{T}} y \\
b &= \frac{x^{\mathrm{T}} y}{x^{T}x} \\
&= 2.2994…
\end{align}
$$

上記より③の$\hat{b} \simeq 2.3$が正しいことがわかる。

[1-2] 解答

$\boxed{ \ \mathsf{4}\ }$ : ③
$\sigma^2$の不偏推定量を$s^2$とおくと、$s^2$は下記のように考えることができる。
$$
\large
\begin{align}
s^2 &= \frac{1}{6-1} (y-\hat{b}x)^{\mathrm{T}}(y-\hat{b}x) \\
&= \frac{1}{5} ( y^{\mathrm{T}}y – 2 \hat{b} x^{\mathrm{T}} y + \hat{b}^2 x^{\mathrm{T}}x )
\end{align}
$$

上記に$y^{\mathrm{T}}y=171.04, x^{\mathrm{T}} y=69.88, x^{\mathrm{T}}x=30.39$と[1-1]の導出結果を代入すると下記が得られる。
$$
\large
\begin{align}
s^2 &= \frac{1}{5} ( y^{\mathrm{T}}y – 2 \hat{b} x^{\mathrm{T}} y + \hat{b}^2 x^{\mathrm{T}}x ) \\
&= \frac{1}{5} ( 171.04 – 2 \times 2.299… \times 69.88 + 2.299^2 \times 30.39 ) \\
&= 2.07…
\end{align}
$$

上記より③の$s^2 \simeq 2.1$が正しいことがわかる。

[2] 解答

$\boxed{ \ \mathsf{5}\ }$ : ②

[3] 解答

$\boxed{ \ \mathsf{6}\ }$ : ①

解説

[1-1]、[1-2]はベクトル表記な分やや難しいですが、計算内容自体はそれほど難しくないのでベクトル表記を把握しているかどうかで差がつく問題だと思われます。

参考

準1級関連まとめ
https://www.hello-statisticians.com/toukeikentei-semi1