ネイマン・ピアソンの補題で定義される尤度比(likelihood ratio)が標本や統計量の単調増加関数で得られるとき、単調尤度比といいます。当記事では確率密度関数が指数型分布族で表される際に、どのような場合に尤度比が単調尤度比になるかについて確認を行います。
「数理統計学(共立出版)」のCh.$10$「統計的仮説検定の考え方」の内容などに基づいて作成を行いました。
・「数理統計学 統計的推論の基礎」 解答まとめ
https://www.hello-statisticians.com/answer_textbook_math_stat#green
Contents
前提知識の確認
指数型分布族の確率密度関数
確率変数$X$に対応する指数型分布族の確率密度関数を$f_{X}(x|\theta)$とおくと、$f_{X}(x|\theta)$は下記のように表される。
$$
\large
\begin{align}
f_{X}(x|\theta) &= \exp{[h_1(x)g_1(\theta) + g_2(\theta) + h_2(x)]} \quad (1) \\
&= h_0(x)\exp{[h_1(x)g_1(\theta) + g_2(\theta)]} \quad (2)
\end{align}
$$
指数型分布族の確率密度関数は主に上記の$(1), (2)$のどちらかで表されることが多いが、単に$h_0(x)=\exp(h_2(x))$で置き換えられるのでそれほど難しくはない。ここでは$f_{X}(x|\theta_0)$と$f_{X}(x|\theta_1)$の比を考えるので、以下約分しやすい$(2)$の表記を用いる。
帰無仮説と対立仮説
統計的仮説検定では母数の$\theta$について帰無仮説$H_0: \, \theta \in \Theta_{0}$が成立するか、対立仮説$H_1: \, \theta \in \Theta_{1}$が成立するかを観測値に基づいて検定を行う。
以下、取り扱いをシンプルにするにあたって帰無仮説を$H_0: \, \theta = \theta_0$、対立仮説を$H_1: \, \theta = \theta_1, \, \theta_0 < \theta_1$で表すと仮定する。
帰無仮説$H_0$、対立仮説$H_1$、有意水準$\alpha$、検出力$1-\beta$の直感的な理解に関しては下記でも取り扱ったので合わせて確認しておくと良い。
尤度比の定義
尤度比$L(x)$は$f_{X}(x|\theta_0)$と$f_{X}(x|\theta_1)$の比を元に下記のように定義される。
$$
\large
\begin{align}
L(x) = \frac{f_{X}(x|\theta_1)}{f_{X}(x|\theta_0)}
\end{align}
$$
ここで任意の$\theta_0 < \theta_1$について尤度比$L(x)$が統計量$T(x)$に関する単調増加関数であるとき、$L(x)$を統計量$T$の単調尤度比(monotone likelihood ratio)であるという。
単調尤度比と指数型分布族
指数型分布族における単調尤度比
$$
\large
\begin{align}
f_{X}(x|\theta) = h_0(x)\exp{[h_1(x)g_1(\theta) + g_2(\theta)]} \quad (2)
\end{align}
$$
前節で取り扱った指数型分布族の確率密度関数の$(2)$式は上記のように表される。このとき、「$g_1(\theta)$が$\theta$の単調増加関数であれば、尤度比$L(x)$が単調尤度比である」ことを以下に示す。
・導出
$L(x)$は下記のように表すことができる。
$$
\large
\begin{align}
L(x) &= \frac{f_{X}(x|\theta_1)}{f_{X}(x|\theta_0)} \\
&= \frac{\cancel{h_0(x)}\exp{[h_1(x)g_1(\theta_1) + g_2(\theta_1)]}}{\cancel{h_0(x)}\exp{[h_1(x)g_1(\theta_0) + g_2(\theta_0)]}} \\
&= \frac{\exp{(g_2(\theta_1))}}{\exp{(g_2(\theta_0))}} \exp{[h_1(x)(g_1(\theta_1)-g_1(\theta_0))]}
\end{align}
$$
上記に対し$h_1(x)=T(x)$を適用すると、$g_1(\theta)$が$\theta$の単調増加関数であることから「$g_1(\theta_1)-g_1(\theta_0) \geq 0$」が成立するので、$L(x)$は$T(x)$の単調増加関数となる。よって、$L(x)$は$T(x)=h_1(x)$の単調尤度比である。
正規分布の母平均
$X \sim \mathcal{N}(\mu,1)$であるとき、正規分布の母平均の検定にあたって、帰無仮説$H_0: \, \mu=\mu_0$、対立仮説$H_1: \, \mu=\mu_1, \, \mu_0 < \mu_1$を仮定する。ここで正規分布$\mathcal{N}(\mu,1)$の尤度関数$L(\mu)$は下記のように表せる。
$$
\large
\begin{align}
L(\mu) &= \frac{1}{\sqrt{2 \pi}} \exp{ \left[ -\frac{(x-\mu)^2}{2} \right] } \\
&= \frac{1}{\sqrt{2 \pi}} \exp{ \left[ -\frac{1}{2}(x^2 – 2 x \mu + \mu^2) \right] } \\
&= h_0(x) \exp{ \left[ x \mu – \frac{\mu^2}{2} \right] }
\end{align}
$$
このとき$g_1(\mu)=\mu$は単調増加であるので、$L(\mu)$は$T(x)=h_1(x)=x$について単調尤度比である。