ブログ

当記事は「現代数理統計学(学術図書出版社)」の読解サポートにあたってChapter.8の「検定論」の章末問題の解説について行います。

新装改訂版 現代数理統計学

竹村 彰通

2,970円(11/10 22:18時点)

Amazon

基本的には書籍の購入者向けの解説なので、まだ入手されていない方は購入の上ご確認ください。また、解説はあくまでサイト運営者が独自に作成したものであり、書籍の公式ページではないことにご注意ください。（そのため著者の意図とは異なる解説となる可能性はあります）

↓下記が公式の解答なので、正確にはこちらを参照ください。
https://www.gakujutsu.co.jp/text/isbn978-4-7806-0860-1/

章末の演習問題について

問題8.1の解答例

$c$を大きくすると棄却域が小さくなることから、$\alpha(c,r)=E[\delta_{c,r}(X)]$は$c$の減少関数となる。また、(8.21)式において$r$を増加させると$\delta_{c,r}(X)$が尤度比$c$の地点で増加するから$\alpha(c,r)$は$r$の増加関数である。
$c=\infty, r=0$のときは常に受容であるので$\alpha(\infty,0)=0$、$c=0, r=1$の際は密度関数が0以上であることを鑑みると常に棄却であるので$\alpha(0,1)=1$であり、これより$\alpha(c,r)$の最小値が0、最大値が1であることがわかる。

問題8.2の解答例

問題8.3の解答例

(8.26)式は下記のように表される。
$$
\large
\begin{align}
\frac{f(x,p_1)}{f(x,p_0)} &= \frac{p_1^{x}(1-p_1)^{n-x}}{p_0^{x}(1-p_0)^{n-x}} \\
&= \left( \frac{p_1(1-p_0)}{p_0(1-p_1)} \right)^{x} \times \left( \frac{1-p_1}{1-p_0} \right)^{n} \quad (8.26)
\end{align}
$$

ここで$\fbox{$\displaystyle \frac{f(x,p_1)}{f(x,p_0)} > c \iff x > k \quad {}^{\exists} k \in \mathbb{Z}$}$であることを以下示す。(8.26)式を元に$\displaystyle \frac{f(x,p_1)}{f(x,p_0)} > c$は下記のように変形できる。
$$
\large
\begin{align}
\frac{f(x,p_1)}{f(x,p_0)} &> c \\
\left( \frac{p_1(1-p_0)}{p_0(1-p_1)} \right)^{x} \times & \left( \frac{1-p_1}{1-p_0} \right)^{n} > c \\
\left( \frac{p_1(1-p_0)}{p_0(1-p_1)} \right)^{x} &> \frac{c(1-p_1)^n}{(1-p_0)^n} \quad (1)
\end{align}
$$

上記の式の形は複雑であるので、簡易化にあたって下記のように$a, b$を設定する。
$$
\large
\begin{align}
a &= \frac{p_1(1-p_0)}{p_0(1-p_1)} \\
b &= \frac{c(1-p_1)^n}{(1-p_0)^n}
\end{align}
$$
このとき(1)式は下記のように変形できる。
$$
\large
\begin{align}
\left( \frac{p_1(1-p_0)}{p_0(1-p_1)} \right)^{x} &> \frac{c(1-p_1)^n}{(1-p_0)^n} \\
a^x &> b \\
\log{a^x} &> \log{b} \\
x \log{a} &> \log{b} \\
x &> \frac{\log{b}}{\log{a}} \\
x &> \frac{\log{b}}{\log{a}} > k \quad {}^{\exists}k \in \mathbb{Z}
\end{align}
$$

ここまでの議論により、$\fbox{$\displaystyle \frac{f(x,p_1)}{f(x,p_0)} > c \iff x > k \quad {}^{\exists} k \in \mathbb{Z}$}$を示すことができる。

問題8.4の解答例

問題8.5の解答例

$\sigma_1^2 < \sigma_2^2$を仮定した上で$X_1=x_1,…,X_n=x_n$に関する同時確率の$f(X_1=x_1,…,X_n=x_n,\sigma_1^2)$と$f(X_1=x_1,…,X_n=x_n,\sigma_2^2)$を考える。$X_1,…,X_n \sim N(0,\sigma^2)$より、$f(X_1=x_1,…,X_n=x_n,\sigma_1^2)$と$f(X_1=x_1,…,X_n=x_n,\sigma_2^2)$は、それぞれ下記のように表すことができる。
$$
\large
\begin{align}
f(X_1=x_1,…,X_n=x_n,\sigma_1^2) &= \prod_{i=1}^{n} \frac{1}{\sqrt{2 \pi \sigma_1^2}} \exp \left\{ – \frac{x_i^2}{2 \sigma_1^2} \right\} \\
f(X_1=x_1,…,X_n=x_n,\sigma_2^2) &=\prod_{i=1}^{n} \frac{1}{\sqrt{2 \pi \sigma_2^2}} \exp \left\{ – \frac{x_i^2}{2 \sigma_2^2} \right\}
\end{align}
$$

このとき、尤度比の$\displaystyle \frac{f(X_1=x_1,…,X_n=x_n,\sigma_2^2)}{f(X_1=x_1,…,X_n=x_n,\sigma_1^2)}$は下記のように表すことができる。
$$
\large
\begin{align}
\frac{f(X_1=x_1,…,X_n=x_n,\sigma_2^2)}{f(X_1=x_1,…,X_n=x_n,\sigma_1^2)} &= \prod_{i=1}^{n} \frac{1}{\sqrt{2 \pi \sigma_2^2}} \exp \left\{ – \frac{x_i^2}{2 \sigma_2^2} \right\} \times \frac{\sqrt{2 \pi \sigma_1^2}}{\exp \left\{ – \frac{x_i^2}{2 \sigma_1^2} \right\}} \\
&= \prod_{i=1}^{n} \sqrt{\frac{\sigma_1^2}{\sigma_2^2}} \exp \left\{ – \frac{x_i^2}{2 \sigma_2^2} + \frac{x_i^2}{2 \sigma_1^2} \right\} \\
&= \prod_{i=1}^{n} \sqrt{\frac{\sigma_1^2}{\sigma_2^2}} \exp \left\{ x_i^2 \left( \frac{1}{2 \sigma_1^2} – \frac{1}{2 \sigma_2^2} \right) \right\} \\
&= \left( \frac{\sigma_1^2}{\sigma_2^2} \right)^{n/2} \exp \left\{ \sum_{i=1}^{n} x_i^2 \left( \frac{1}{2 \sigma_1^2} – \frac{1}{2 \sigma_2^2} \right) \right\} \\
&= \left( \frac{\sigma_1^2}{\sigma_2^2} \right)^{n/2} \exp \left\{ \left( \frac{1}{2 \sigma_1^2} – \frac{1}{2 \sigma_2^2} \right) \sum_{i=1}^{n} x_i^2 \right\}
\end{align}
$$

ここで上記に対して、$\sigma_1^2 < \sigma_2^2$より$\displaystyle \frac{1}{2 \sigma_1^2} > \frac{1}{2 \sigma_2^2}$、$\displaystyle \frac{1}{2 \sigma_2^2} – \frac{1}{2 \sigma_1^2} > 0$が成立する。
これにより、尤度比の$\displaystyle \frac{f(X_1=x_1,…,X_n=x_n,\sigma_2^2)}{f(X_1=x_1,…,X_n=x_n,\sigma_1^2)}$は統計量$\displaystyle T(X_1,…,T_n) = \sum_{i=1}^{n} X_i^2$の単調増加関数であることがわかる。

ここまでの議論により、定理8.3のネイマン・ピアソンの補題の応用が適用でき、下記のような最強一様力検定が得られることがわかる。
$$
\large
\begin{align}
\sum_{i=1}^{n} X_i^2 > \chi^2_{\alpha}(n) \implies reject
\end{align}
$$

問題8.6の解答例

$\lambda_1 < \lambda_2$を仮定した上で$X_1=x_1,…,X_n=x_n$に関する同時確率の$p(X_1=x_1,…,X_n=x_n,\lambda_1)$と$p(X_1=x_1,…,X_n=x_n,\lambda_2)$を考える。$X_1,…,X_n \sim Po(\lambda)$より、$p(X_1=x_1,…,X_n=x_n,\lambda_1)$と$p(X_1=x_1,…,X_n=x_n,\lambda_2)$は、それぞれ下記のように表すことができる。
$$
\large
\begin{align}
p(X_1=x_1,…,X_n=x_n,\lambda_1) &= \prod_{i=1}^{n} \frac{\lambda_1^{x_i} e^{-\lambda_1}}{x_i!} \\
p(X_1=x_1,…,X_n=x_n,\lambda_2) &= \prod_{i=1}^{n} \frac{\lambda_2^{x_i} e^{-\lambda_2}}{x_i!}
\end{align}
$$

このとき、尤度比の$\displaystyle \frac{p(X_1=x_1,…,X_n=x_n,\lambda_2)}{p(X_1=x_1,…,X_n=x_n,\lambda_1)}$は下記のように表すことができる。
$$
\large
\begin{align}
\frac{p(X_1=x_1,…,X_n=x_n,\lambda_2)}{p(X_1=x_1,…,X_n=x_n,\lambda_1)} &= \prod_{i=1}^{n} \frac{\lambda_2^{x_i} e^{-\lambda_2}}{x_i!} \times \frac{x_i!}{\lambda_1^{x_i} e^{-\lambda_1}} \\
&= \prod_{i=1}^{n} \left( \frac{\lambda_2}{\lambda_1} \right)^{x_i} \exp(\lambda_1-\lambda_2) \\
&= \left( \frac{\lambda_2}{\lambda_1} \right)^{\sum_{i=1}^{n} x_i} \exp(n(\lambda_1-\lambda_2))
\end{align}
$$

ここで上記に対して、$\lambda_1 < \lambda_2$より$\displaystyle \frac{\lambda_2}{\lambda_1} > 1$が成立する。
これにより、尤度比の$\displaystyle \frac{p(X_1=x_1,…,X_n=x_n,\lambda_2)}{p(X_1=x_1,…,X_n=x_n,\lambda_1)}$は統計量$\displaystyle T(X_1,…,T_n) = \sum_{i=1}^{n} X_i$の単調増加関数であることがわかる。

ここまでの議論により、定理8.3のネイマン・ピアソンの補題の応用が適用でき、下記のような最強一様力検定が得られることがわかる。
$$
\large
\begin{align}
\sum_{i=1}^{n} X_i > c_{\alpha} \implies reject
\end{align}
$$
ここで$c_{\alpha}$はパラメータ$\lambda=n$のポアソン分布の上側$\alpha$点を定義した。$\lambda=n$に関しては各確率変数の$X_i$に関してパラメータ$1$を仮定したことに対して、ポアソン分布の再生性を用いて導出を行った。

また、ポアソン分布が離散確率分布であるので、境界の値が$\alpha$に一致しない場合は$r$を用いて確率化を行う。

問題8.7の解答例

問題8.8の解答例

図8.6を参考に、(8.55)式が点P$(-c,\exp(- c \mu))$と点Q$((c,\exp(c \mu))$で等式になる$\tilde{c}_1$と$\tilde{c}_2$を選べば良い。よって、下記の連立方程式を$\tilde{c}_1$と$\tilde{c}_2$に関して解けば良い。
$$
\large
\begin{align}
\tilde{c}_1 – c \tilde{c}_2 &= \exp(- c \mu) \quad (1) \\
\tilde{c}_1 + c \tilde{c}_2 &= \exp(c \mu) \quad (2)
\end{align}
$$

(1)+(2)を計算し、$\tilde{c}_1$に関して解くと下記が得られる。
$$
\large
\begin{align}
2 \tilde{c}_1 &= \exp(- c \mu) + \exp(c \mu) \\
\tilde{c}_1 &= \frac{\exp(- c \mu) + \exp(c \mu)}{2}
\end{align}
$$

上記を(2)式に代入し、$\tilde{c}_2$に関して解くと下記が得られる。
$$
\large
\begin{align}
\frac{\exp(- c \mu) + \exp(c \mu)}{2} + c \tilde{c}_2 &= \exp(c \mu) \\
c \tilde{c}_2 &= \exp(c \mu) – \frac{\exp(- c \mu) + \exp(c \mu)}{2} \\
c \tilde{c}_2 &= \frac{\exp(c \mu) – \exp(- c \mu)}{2} \\
\tilde{c}_2 &= \frac{\exp(c \mu) – \exp(- c \mu)}{2c}
\end{align}
$$

ここまでの議論により、下記が得られる。
$$
\large
\begin{align}
\tilde{c}_1 &= \frac{\exp(- c \mu) + \exp(c \mu)}{2} \\
\tilde{c}_2 &= \frac{\exp(c \mu) – \exp(- c \mu)}{2c}
\end{align}
$$

・考察
ここで導出を行った$\tilde{c}_1$と$\tilde{c}_2$を図8.6と見比べることで、下記が成立することがわかる。
$$
\large
\begin{align}
\exp(\mu x) > \tilde{c}_1 + \tilde{c}_2 x \iff |x| > c
\end{align}
$$

ここまでの議論により、正規分布の母平均に関して、下記の検定がUMPU(Uniformaly Most Powerful Unbiased test)であることを示すことができる。
$$
\large
\begin{align}
|X| > c \implies reject
\end{align}
$$

問題8.9の解答例

$n$回試行の二項分布の確率関数を$f(x,p)$と定義すると、$f(x,p)$は下記のように表すことができる。
$$
\large
\begin{align}
f(x,p) = {}_n C_x p^{x} (1-p)^{n-x}
\end{align}
$$

上記の$p$での微分を$f'(x,p)$と定義すると、$f'(x,p)$に関して下記が成立する。
$$
\large
\begin{align}
f'(x,p) &= \left( {}_n C_x p^{x} (1-p)^{n-x} \right)’ \\
&= {}_n C_x \left( p^{x} (1-p)^{n-x} \right)’ \\
&= {}_n C_x \left( x p^{x-1} (1-p)^{n-x} – (n-x)p^x(1-p)^{n-x-1} \right) \\
&= {}_n C_x p^{x} (1-p)^{n-x} \left( \frac{x}{p} – \frac{n-x}{1-p} \right) \\
&= \left( \frac{x}{p} – \frac{n-x}{1-p} \right) f(x,p)
\end{align}
$$

ここで、(8.60)式は$a>0, b<n$のとき、下記のように表すことができる。
$$
\large
\begin{align}
\alpha &= \sum_{x=0}^{a-1} f(x,p_0) + r_a f(a,p_0) + r_b f(b,p_0) + \sum_{x=b+1}^{n} f(x,p_0) \quad (1) \\
0 &= \sum_{x=0}^{a-1} f'(x,p_0) + r_a f'(a,p_0) + r_b f'(b,p_0) + \sum_{x=b+1}^{n} f'(x,p_0) \quad (2)
\end{align}
$$
上記の式は$a>0, b<n$が前提だが、$a=0$のとき$\displaystyle \sum_{x=0}^{a-1}f(x,p_0) = 0, \sum_{x=0}^{a-1}f'(x,p_0) = 0$、$b=n$のとき$\displaystyle \sum_{x=b+1}^{n}f(x,p_0) = 0, \sum_{x=b+1}^{n}f'(x,p_0) = 0$と考えることで$a=0, b=n$も同時に表すことができると考えられる。

ここで、(1)式、(2)式を$r_a, r_b$に関する連立方程式であると考え、下記のように変形する。
$$
\large
\begin{align}
r_a f(a,p_0) + r_b f(b,p_0) &= \alpha – \sum_{x=0}^{a-1} f(x,p_0) – \sum_{x=b+1}^{n} f(x,p_0) \quad (1)’ \\
r_a f'(a,p_0) + r_b f'(b,p_0) &= – \sum_{x=0}^{a-1} f'(x,p_0) – \sum_{x=b+1}^{n} f'(x,p_0) \quad (2)’
\end{align}
$$

$(1)’$式、$(2)’$式は下記のような行列表記で表すことができる。
$$
\large
\begin{align}
\left(\begin{array}{cc} f(a,p_0) & f(b,p_0) \\ f'(a,p_0) & f'(b,p_0) \end{array} \right) \left(\begin{array}{c} r_a \\ r_b \end{array} \right) = \left(\begin{array}{c} \alpha – \sum_{x=0}^{a-1} f(x,p_0) – \sum_{x=b+1}^{n} f(x,p_0) \\ – \sum_{x=0}^{a-1} f'(x,p_0) – \sum_{x=b+1}^{n} f'(x,p_0) \end{array} \right)
\end{align}
$$

(3)式より、$r_a, r_b$は下記のように求めることができる。
$$
\large
\begin{align}
\left(\begin{array}{c} r_a \\ r_b \end{array} \right) = \left(\begin{array}{cc} f(a,p_0) & f(b,p_0) \\ f'(a,p_0) & f'(b,p_0) \end{array} \right)^{-1} \left(\begin{array}{c} \alpha – \sum_{x=0}^{a-1} f(x,p_0) – \sum_{x=b+1}^{n} f(x,p_0) \\ – \sum_{x=0}^{a-1} f'(x,p_0) – \sum_{x=b+1}^{n} f'(x,p_0) \end{array} \right) \quad (3)’
\end{align}
$$
ここで、$a,b$はそれぞれ両端よりも外側の確率が$\displaystyle \frac{\alpha}{2}$になるように設定を行うので、$n, p_0, \alpha$が定まれば一意に定まる。また、$a, b$が一意に定まれば$(3)’$式より$r_a, r_b$も一意に定まる。

以下では、$\displaystyle n=4, \alpha=0.1, p_0=\frac{1}{3}$の場合に$a, b, r_a, r_b$を具体的に求める。まず、$\displaystyle n=4, \alpha=0.1, p_0=\frac{1}{3}$の場合の$a, b$を求める。
$$
\large
\begin{align}
f(x=0,p) &= {}_n C_0 \left( \frac{1}{3} \right)^{0} \left( 1 – \frac{1}{3} \right)^{4-0} \\
&= \left( \frac{2}{3} \right)^{4} > 0.05 = \frac{\alpha}{2} \\
f(x=4,p) &= {}_n C_4 \left( \frac{1}{3} \right)^{4} \left( 1 – \frac{1}{3} \right)^{4-4} \\
&= \left( \frac{1}{3} \right)^{4} < 0.05 = \frac{\alpha}{2} \\
f(x=3,p) &= {}_n C_3 \left( \frac{1}{3} \right)^{3} \left( 1 – \frac{1}{3} \right)^{4-3} \\
&= \frac{8}{3^4} \\
f(3,p)+f(4,p) &= \frac{9}{3^4} \\
&= \frac{1}{9} > 0.05 = \frac{\alpha}{2}
\end{align}
$$
上記より$a=0, b=3$がわかる。

次に$(3)’$式を用いて、$r_a, r_b$を計算することを考える。$f'(x=a,p_0), f'(x=b,p_0)$を計算すると下記が得られる。
$$
\large
\begin{align}
f'(x=a,p_0) &= f’ \left( x=0,\frac{1}{3} \right) \\
&= \left( \frac{x}{p} – \frac{n-x}{1-p} \right) f \left( x=0,\frac{1}{3} \right) \\
&= \left( \frac{0}{p} – \frac{4-0}{1-1/3} \right) f \left( x=0,\frac{1}{3} \right) \\
&= – \frac{4}{2/3} \times \frac{16}{81} \\
&= – \frac{6 \cdot 16}{81} \\
&= – \frac{32}{27} \\
f'(x=b,p_0) &= f’ \left( x=3,\frac{1}{3} \right) \\
&= \left( \frac{x}{p} – \frac{n-x}{1-p} \right) f \left( x=3,\frac{1}{3} \right) \\
&= \left( \frac{3}{1/3} – \frac{4-3}{1-1/3} \right) f \left( x=3,\frac{1}{3} \right) \\
&= (9-3/2) \times \frac{8}{81} \\
&= \frac{15}{2} \times \frac{8}{81} \\
&= \frac{20}{27}
\end{align}
$$

また、$a=0, b=3$より、$(3)’$式の右辺の各項に関しては下記が成立する。
$$
\large
\begin{align}
\sum_{x=0}^{a-1} f(x,p_0) &= 0 \\
\sum_{x=b+1}^{n} f(x,p_0) &= \sum_{x=3+1}^{4} f(x,p_0) \\
&= f(4,p_0) \\
&= \frac{1}{81} \\
\sum_{x=0}^{a-1} f'(x,p_0) &= 0 \\
\sum_{x=b+1}^{n} f'(x,p_0) &= \sum_{x=3+1}^{4} f'(x,p_0) \\
&= f'(x=4,p_0) \\
&= \left( \frac{x}{p} – \frac{n-x}{1-p} \right) f \left( x=4,\frac{1}{3} \right) \\
&= \left( \frac{4}{1/3} – \frac{4-4}{1-1/3} \right) \times \frac{1}{81} \\
&= \frac{12}{81} \\
&= \frac{4}{27}
\end{align}
$$

よって、$(3)’$式の右辺はそれぞれ下記のように計算できる。
$$
\large
\begin{align}
\alpha – \sum_{x=0}^{a-1} f(x,p_0) – \sum_{x=b+1}^{n} f(x,p_0) &= 0.1 – \frac{1}{81} \\
&= \frac{81-10}{810} \\
&= \frac{71}{810} \\
– \sum_{x=0}^{a-1} f'(x,p_0) – \sum_{x=b+1}^{n} f'(x,p_0) &= – \frac{4}{27}
\end{align}
$$

よって、$(3)’$式を用いて、$r_a, r_b$は下記のように計算することができる。
$$
\large
\begin{align}
\left(\begin{array}{c} r_a \\ r_b \end{array} \right) &= \left(\begin{array}{cc} f(a,p_0) & f(b,p_0) \\ f'(a,p_0) & f'(b,p_0) \end{array} \right)^{-1} \left(\begin{array}{c} \alpha – \sum_{x=0}^{a-1} f(x,p_0) – \sum_{x=b+1}^{n} f(x,p_0) \\ – \sum_{x=0}^{a-1} f'(x,p_0) – \sum_{x=b+1}^{n} f'(x,p_0) \end{array} \right) \\
&= \left(\begin{array}{cc} \frac{16}{81} & \frac{8}{81} \\ -\frac{32}{27} & \frac{20}{27} \end{array} \right)^{-1} \left(\begin{array}{c} \frac{71}{810} \\ -\frac{4}{81} \end{array} \right) \\
&= \left( \frac{16 \cdot 20}{81 \cdot 27} – \frac{8 \cdot (-32)}{81 \cdot 27} \right)^{-1} \left(\begin{array}{cc} \frac{20}{27} & -\frac{8}{81} \\ \frac{32}{27} & \frac{16}{81} \end{array} \right) \left(\begin{array}{c} \frac{71}{810} \\ -\frac{4}{81} \end{array} \right) \\
&= \frac{243}{64} \left(\begin{array}{cc} \frac{20}{27} & -\frac{8}{81} \\ \frac{32}{27} & \frac{16}{81} \end{array} \right) \left(\begin{array}{c} \frac{71}{810} \\ -\frac{4}{81} \end{array} \right) \\
&= \left(\begin{array}{c} 0.302 \\ 0.283 \end{array} \right) \\
\end{align}
$$

問題8.10の解答例

$\lambda_0=5, \alpha=0.1, n=1$のポアソン分布$Po(\lambda_0=5)$に対して、下記の式の$a,b,r_a,r_b$を求める。
$$
\large
\begin{align}
\delta(x) &= 1, \quad if \quad T(x)<a,b<T(x) \\
&= 0, \quad if \quad a<T(x)<b \\
&= r_a \quad if \quad T(x)=a \\
&= r_b \quad if \quad T(x)=b
\end{align}
$$

$a,b$はポアソン分布の$Po(\lambda_0=5)$の確率関数$P(X=k|\lambda_0=5)$について考えることで得ることができる。
$$
\large
\begin{align}
P(X=k|\lambda_0=5) &= \frac{\lambda_0^{k} e^{-\lambda_0}}{k!} \\
&= \frac{5^{k} e^{-5}}{k!}
\end{align}
$$
上記に基づいて、$P(X = 0|\lambda_0=5), P(X \leq 1|\lambda_0=5), P(X \leq 2|\lambda_0=5)$の計算を行う。
$$
\large
\begin{align}
P(X=0|\lambda_0=5) &= \frac{5^{0} e^{-5}}{0!} \\
&= e^{-5} \\
&= 0.0067379… \\
P(X \leq 1|\lambda_0=5) &= P(X = 0|\lambda_0=5) + P(X = 1|\lambda_0=5) \\
&= \frac{5^{0} e^{-5}}{0!} + \frac{5^{1} e^{-5}}{1!} \\
&= 6e^{-5} \\
&= 0.040427… \\
P(X \leq 2|\lambda_0=5) &= P(X = 0|\lambda_0=5) + P(X = 1|\lambda_0=5) + P(X = 2|\lambda_0=5) \\
&= \frac{5^{0} e^{-5}}{0!} + \frac{5^{1} e^{-5}}{1!} + \frac{5^{2} e^{-5}}{2!} \\
&= \frac{6 \cdot 2 + 25}{2} e^{-5} \\
&= \frac{37}{2} e^{-5} \\
&= 0.124652…
\end{align}
$$
ここで$\alpha=0.1$より、$0.05$より累積確率が大きくなる$a=2$が下側の閾値になる。

上側の閾値の$b$を計算するにあたってはポアソン分布の確率変数が0以上の整数を取る以上、$X=0$から順番に計算するしかない。よって、下記のようなPythonを実行することで計算を行う。

import math

res = math.e**(-5)
factorial = 1
for i in range(1,11):
    factorial *= i
    res += 5**(i)*math.e**(-5)/factorial
    print(res)

実行結果は下記のように得ることができる。

0.0404276819945
0.124652019483
0.265025915297
0.440493285065
0.615960654833
0.762183462973
0.86662832593
0.931906365278
0.968171942694
0.986304731402

上記がそれぞれ$X=1$から$X=10$に対応する累積確率である。累積確率が$0.95$より大きくなるのは$X=9$のときであるので、$b=9$を得ることができる。

ここまでで得た$a=2,b=9$に対して問題$8.9$の$(3)’$式を適用して$r_a,r_b$を計算することを考える。
$$
\large
\begin{align}
\left(\begin{array}{c} r_a \\ r_b \end{array} \right) = \left(\begin{array}{cc} f(a,\lambda_0) & f(b,\lambda_0) \\ f'(a,\lambda_0) & f'(b,\lambda_0) \end{array} \right)^{-1} \left(\begin{array}{c} \alpha – \sum_{x=0}^{a-1} f(x,\lambda_0) – \sum_{x=b+1}^{\infty} f(x,\lambda_0) \\ – \sum_{x=0}^{a-1} f'(x,\lambda_0) – \sum_{x=b+1}^{\infty} f'(x,\lambda_0) \end{array} \right) \quad (1)
\end{align}
$$

ここで$f(x,\lambda)=P(X=x|\lambda)$のようにおき、$\lambda$に関する微分の$f'(x,\lambda)$を考える。
$$
\large
\begin{align}
f'(x,\lambda) &= \frac{\partial}{\partial \lambda} \left( \frac{\lambda^{x} e^{-\lambda}}{x!} \right) \\
&= \frac{x\lambda^{x-1} e^{-\lambda}}{x!} – \frac{\lambda^{x} e^{-\lambda}}{x!} \\
&= \left( \frac{x}{\lambda} – 1 \right) f(x,\lambda)
\end{align}
$$

$(1)$式について考えるにあたって用いる$f(x=a,\lambda_0),f(x=b,\lambda_0),f'(x=a,\lambda_0),f'(x=b,\lambda_0)$は下記のように得ることができる。
$$
\large
\begin{align}
f(x=a,\lambda_0) &= f(x=2,\lambda_0=5) \\
&= 0.0842243374885 \\
f(x=b,\lambda_0) &= f(x=9,\lambda_0=5) \\
&= 0.03626557741600 \\
f'(x=a,\lambda_0) &= f'(x=2,\lambda_0=5) \\
&= \left( \frac{2}{5} – 1 \right) f(x=2,\lambda_0=5) \\
&= -0.0505346024931 \\
f'(x=b,\lambda_0) &= f'(x=9,\lambda_0=5) \\
&= \left( \frac{9}{5} – 1 \right) f(x=9,\lambda_0=5) \\
&= 0.029012461932800004
\end{align}
$$

また、$(1)$式の右辺の各項に関しては下記が成立する。
$$
\large
\begin{align}
\sum_{x=0}^{a-1} f(x,\lambda_0) &= \sum_{x=0}^{1} f(x,\lambda_0=5) \\
&= 0.0404276819945 \\
\sum_{x=b+1}^{\infty} f(x,\lambda_0) &= \sum_{x=10}^{\infty} f(x,\lambda_0=5) \\
&= 1 – 0.968171942694 \\
&= 0.0318280573060000 \\
\sum_{x=0}^{a-1} f'(x,p_0) &= \sum_{x=0}^{1} f'(x,p_0) \\
&= \left( \frac{0}{5} – 1 \right) f(x=0,\lambda_0=5) + \left( \frac{1}{5} – 1 \right) f(x=1,\lambda_0=5) \\
&= -0.033689734995427344 \\
\sum_{x=b+1}^{\infty} f'(x,p_0) &= \sum_{x=10}^{\infty} f'(x,p_0) \\
&= 0.0362655774156
\end{align}
$$

ここで上記の$\displaystyle \sum_{x=b+1}^{\infty} f'(x,p_0) = 0.0362655774156$に関しては下記を実行することで収束を確かめた。

import math

res = 0
factorial = 1
for i in range(1,51):
    factorial *= i
    if i>9:
        res += ((i/5.-1)*5**(i)*math.e**(-5))/factorial
        print(str(i)+":"+str(res))

ここまで得た値を$(1)$式に代入し、$r_a,r_b$を計算する。
$$
\large
\begin{align}
\left(\begin{array}{c} r_a \\ r_b \end{array} \right) &= \left(\begin{array}{cc} f(a,\lambda_0) & f(b,\lambda_0) \\ f'(a,\lambda_0) & f'(b,\lambda_0) \end{array} \right)^{-1} \left(\begin{array}{c} \alpha – \sum_{x=0}^{a-1} f(x,\lambda_0) – \sum_{x=b+1}^{\infty} f(x,\lambda_0) \\ – \sum_{x=0}^{a-1} f'(x,\lambda_0) – \sum_{x=b+1}^{\infty} f'(x,\lambda_0) \end{array} \right) \\
&= \left(\begin{array}{cc} 0.0842… & 0.0362… \\ -0.0505… & 0.0290… \end{array} \right)^{-1} \left(\begin{array}{c} 0.1 – 0.0404… – 0.0318… \\ 0.0337… – 0.0363… \end{array} \right) \\
&= \left(\begin{array}{c} 0.163 \\ 0.380 \end{array} \right)
\end{align}
$$

↑公式の解答が$r_a=0.210, r_b=0.277$であり合致しませんでしたが、途中計算がわからないので、一旦掲載を行いました。導出に間違いが見つかった際は修正を行う予定です。

問題8.11の解答例

問題8.12の解答例

標準正規分布$N(0,1)$の上側$\alpha$点を$z_{\alpha}$のように表す。このとき$H_0: \mu \leq \mu_0$の棄却域は下記のように表すことができる。
$$
\large
\begin{align}
\frac{\sqrt{n}(\bar{X} – \mu_0)}{\sigma_0} \geq z_{\alpha} \quad (1)
\end{align}
$$

また、標準正規分布$N(0,1)$の上側$\beta$点と上側$1-\beta$点をそれぞれ$z_{\beta}, z_{1-\beta}$のように定義する。ここで、標準正規分布が$y$軸を中心に対象であることから、$z_{1-\beta}=-z_{\beta}$が成り立つ。
ここで、対立仮説$H_1: \mu = \mu_1$の検出力が$1-\beta$以上であることに基づいて、下記のように表すことができる。
$$
\large
\begin{align}
\frac{\sqrt{n}(\bar{X} – \mu_1)}{\sigma_0} \leq z_{1-\beta} = -z_{\beta} \quad (2)
\end{align}
$$

$\bar{X}$に着目した際に(1)式と(2)式が同時に成立する$n$の条件を求め、それを元に$n$の最小値を考えればよい。(1)式と(2)式を$\bar{X}$に着目して解くとそれぞれ下記が得られる。
$$
\large
\begin{align}
\frac{\sqrt{n}(\bar{X} – \mu_0)}{\sigma_0} &\geq z_{\alpha} \quad (1) \\
\bar{X} – \mu_0 &\geq \frac{\sigma_0 z_{\alpha}}{\sqrt{n}} \\
\bar{X} &\geq \mu_0 + \frac{\sigma_0 z_{\alpha}}{\sqrt{n}} \quad (1)’
\end{align}
$$
$$
\large
\begin{align}
\frac{\sqrt{n}(\bar{X} – \mu_1)}{\sigma_0} &\leq z_{1-\beta} = -z_{\beta} \quad (2) \\
\bar{X} – \mu_1 &\leq -\frac{\sigma_0 z_{\beta}}{\sqrt{n}} \\
\bar{X} &\leq \mu_1 -\frac{\sigma_0 z_{\beta}}{\sqrt{n}} \quad (2)’
\end{align}
$$

$(1)’$式と$(2)’$式より、下記が成立する。
$$
\large
\begin{align}
\mu_0 + \frac{\sigma_0 z_{\alpha}}{\sqrt{n}} &\leq \mu_1 -\frac{\sigma_0 z_{\beta}}{\sqrt{n}}
\end{align}
$$

上記を$n$に関して解く。
$$
\large
\begin{align}
\mu_0 + \frac{\sigma_0 z_{\alpha}}{\sqrt{n}} &\leq \mu_1 -\frac{\sigma_0 z_{\beta}}{\sqrt{n}} \\
\frac{\sigma_0 z_{\alpha}}{\sqrt{n}} + \frac{\sigma_0 z_{\beta}}{\sqrt{n}} &\leq \mu_1 – \mu_0 \\
\frac{\sigma_0}{\sqrt{n}}(z_{\alpha} + z_{\beta}) &\leq \mu_1 – \mu_0 \\
\frac{\sigma_0}{\mu_1 – \mu_0}(z_{\alpha} + z_{\beta}) &\leq \sqrt{n} \\
\frac{\sigma_0^2 (z_{\alpha} + z_{\beta})^2}{(\mu_1 – \mu_0)^2} &\leq n \quad (3)
\end{align}
$$
上記の不等号に関連する計算にあたっては、$\mu_0 < \mu_1$より$\mu_1 – \mu_0 > 0$を前提に計算を行った。

(3)式より、検出力を$1-\beta$となる$n$の最小値が$\displaystyle \frac{\sigma_0^2 (z_{\alpha} + z_{\beta})^2}{(\mu_1 – \mu_0)^2}$となる。

問題8.13の解答例

2項分布の正規近似より、帰無仮説の$X$は正規分布$N(np_0,np_0(1-p_0)$、対立仮説の$X$は$N(np_1,np_1(1-p_1)$を元に考えることができる。ここで前問と同様に$z_{\alpha}, z_{1-\beta}, z_{\beta}$を考える。このとき棄却域に関して下記が成立する。
$$
\large
\begin{align}
\frac{X – np_0}{\sqrt{np_0(1-p_0)}} \geq z_{\alpha} \quad (1)
\end{align}
$$

また、検出力が$1-\beta$であることから下記が成立する。
$$
\large
\begin{align}
\frac{X – np_1}{\sqrt{np_1(1-p_1)}} \leq z_{1-\beta} = -z_{\beta} \quad (2)
\end{align}
$$

(1)式と(2)式が同じ$X$について成立すれば良い。(1)式と(2)式は下記のように$X$に関して解くことができる。
$$
\large
\begin{align}
\frac{X – np_0}{\sqrt{np_0(1-p_0)}} &\geq z_{\alpha} \quad (1) \\
X – np_0 &\geq z_{\alpha}\sqrt{np_0(1-p_0)} \\
X &\geq np_0 + z_{\alpha}\sqrt{np_0(1-p_0)} \quad (1)’
\end{align}
$$
$$
\large
\begin{align}
\frac{X – np_1}{\sqrt{np_1(1-p_1)}} \leq z_{1-\beta} = -z_{\beta} \quad (2) \\
X – np_1 \leq -z_{\beta} \sqrt{np_1(1-p_1)} \\
X \leq np_1 – z_{\beta} \sqrt{np_1(1-p_1)} \quad (2)’
\end{align}
$$

$(1)’$式と$(2)’$式より、下記が成立する。
$$
\large
\begin{align}
np_0 + z_{\alpha}\sqrt{np_0(1-p_0)} \leq np_1 – z_{\beta} \sqrt{np_1(1-p_1)}
\end{align}
$$

上記を$n$に関して解く。
$$
\large
\begin{align}
np_0 + z_{\alpha}\sqrt{np_0(1-p_0)} \leq np_1 – z_{\beta} \sqrt{np_1(1-p_1)} \\
z_{\alpha}\sqrt{np_0(1-p_0)} + z_{\beta} \sqrt{np_1(1-p_1)} \leq n(p_1-p_0) \\
z_{\alpha}\sqrt{p_0(1-p_0)} + z_{\beta} \sqrt{p_1(1-p_1)} \leq \sqrt{n}(p_1-p_0) \\
\frac{z_{\alpha}\sqrt{p_0(1-p_0)} + z_{\beta} \sqrt{p_1(1-p_1)}}{p_1-p_0} \leq \sqrt{n} \\
\frac{(z_{\alpha}\sqrt{p_0(1-p_0)} + z_{\beta} \sqrt{p_1(1-p_1)})^2}{(p_1-p_0)^2} \leq n \quad (3)
\end{align}
$$
上記の不等号に関連する計算にあたっては、$p_0 < p_1$を前提に計算を行った。

(3)式より、検出力を$1-\beta$となる$n$の最小値が$\displaystyle \frac{(z_{\alpha}\sqrt{p_0(1-p_0)} + z_{\beta} \sqrt{p_1(1-p_1)})^2}{(p_1-p_0)^2}$となる。

問題8.14の解答例

問題8.15の解答例

問題8.16の解答例

問題8.17の解答例

当記事は「現代数理統計学(学術図書出版社)」の読解サポートにあたってChapter.7の「推定論」の章末問題の解説について行います。

新装改訂版 現代数理統計学

竹村 彰通

2,970円(11/10 22:18時点)

Amazon

基本的には書籍の購入者向けの解説なので、まだ入手されていない方は購入の上ご確認ください。また、解説はあくまでサイト運営者が独自に作成したものであり、書籍の公式ページではないことにご注意ください。（そのため著者の意図とは異なる解説となる可能性はあります）

↓下記が公式の解答なので、正確にはこちらを参照ください。
https://www.gakujutsu.co.jp/text/isbn978-4-7806-0860-1/

章末の演習問題について

問題7.1の解答例

(2.77)式より、ガンマ分布$Ga(\nu, \alpha)$の期待値$E[X]$と分散$V[X]$は下記のように与えられる。
$$
\large
\begin{align}
E[X] &= \nu \alpha \\
V[X] &= \nu \alpha^2
\end{align}
$$
詳しくは下記で示した。
https://www.hello-statisticians.com/explain-terms-cat/gamma_distribution1.html#i-4

また、問4.1で示したように、自由度$k$の$\chi^2$分布$\chi^2(k)$はガンマ分布$Ga(k/2, 2)$に一致する。よって、$\chi^2(k)$の分散$V[X]$は下記のように計算できる。
$$
\large
\begin{align}
V[X] &= \nu \alpha^2 \\
&= \frac{k}{2} \cdot 2^2 \\
&= 2k
\end{align}
$$

ここで、$\displaystyle \frac{(n-1)s^2}{\sigma^2}$は自由度$n-1$の$\chi^2$分布$\chi^2(n-1)$に従うため、分散$V[s^2]$は下記のように示すことができる。
$$
\large
\begin{align}
V \left[ \frac{(n-1)s^2}{\sigma^2} \right] &= 2(n-1) \\
\left( \frac{n-1}{\sigma^2} \right)^2 V[s^2] &= 2(n-1) \\
V[s^2] &= 2(n-1) \left( \frac{\sigma^2}{n-1} \right)^2 \\
&= 2(n-1) \frac{\sigma^4}{(n-1)^2} \\
&= \frac{2 \sigma^4}{n-1}
\end{align}
$$

問題7.2の解答例

$$
\large
\begin{align}
f(x) &= \frac{\lambda^{x} e^{-\lambda}}{x!} \\
l(\lambda) &= \log{f(x)} \\
&= x \log{\lambda} – \lambda – \log{x!}
\end{align}
$$

ここでポアソン分布の確率関数$f(x)$、$n=1$の際の対数尤度関数$l(\lambda)$は上記のように記載できる。ポアソン分布の$n=1$の時のフィッシャー情報量を$\mathit{I}_{1}(\lambda)$とおくと、$\mathit{I}_{1}(\lambda)=E[-l^{”}(\lambda)]$であるので、$l^{”}(\lambda)$を求める。
$$
\large
\begin{align}
l'(\lambda) &= \frac{x}{\lambda} – 1 \\
l^{”}(\lambda) &= -\frac{x}{\lambda^2}
\end{align}
$$

上記より、フィッシャー情報量$\mathit{I}_{1}(\lambda)=E[-l^{”}(\lambda)]$は下記のように計算できる。
$$
\large
\begin{align}
\mathit{I}_{1}(\lambda) &= E[-l^{”}(\lambda)] \\
&= E \left[ -(-\frac{X}{\lambda^2}) \right] \\
&= E \left[ \frac{X}{\lambda^2} \right] \\
&= \frac{1}{\lambda^2} E[X] \\
&= \frac{\lambda}{\lambda^2} \\
&= \frac{1}{\lambda}
\end{align}
$$

一方で標本平均の$\bar{X}$の分散は$\displaystyle \frac{\lambda}{n}$であり、$\mathit{I}_{1}(\lambda)$を用いて下記のように表すことができる。
$$
\large
\begin{align}
\frac{\lambda}{n} = \frac{1}{\mathit{I}_{1}(\lambda)}
\end{align}
$$

上記はクラメル・ラオの不等式において等号が成立している場合なので、標本平均$\bar{X}$は$\lambda$の一様最小分散不偏推定量であることがわかる。

問題7.3の解答例

(7.27)式より、$\sigma^2$のフィッシャー情報量は$\displaystyle \mathit{I}_1(\sigma^2) = \frac{1}{2 \sigma^4}$である。よって、このときのクラメル・ラオの不等式による不偏推定量の分散の下限は下記のようになる。
$$
\large
\begin{align}
\frac{1}{n\mathit{I}_1(\sigma^2)} = \frac{2 \sigma^4}{n} \quad (1)
\end{align}
$$

一方で、$\mu$が既知の場合は、$\displaystyle S^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i – \mu)^2$は$\sigma^2$の不偏推定量で、問7.1より分散$V[S^2]$は下記のように得ることができる。
$$
\large
\begin{align}
V[S^2] = \frac{2 \sigma^4}{n} \quad (2)
\end{align}
$$

(1)と(2)が一致することにより、クラメル・ラオの不等式より$S^2$がUMVUであることを示すことができる。

問題7.4の解答例

$\displaystyle \frac{(n+1)T}{n}$が$\theta$の不偏推定量であることを示すには、$\theta$に関して下記の(1)式が成立することを確認すればよい。
$$
\large
\begin{align}
\theta &= E \left[ \frac{(n+1)T}{n} \right] \quad (1) \\
E \left[ \frac{(n+1)T}{n} \right] &= \int \frac{(n+1)t}{n} \times p(t, \theta) dt \quad (2)
\end{align}
$$

ここで一様分布の同時確率密度関数$p(t, \theta)$は下記のように与えられる。
$$
\large
\begin{align}
p(t, \theta) = \frac{n t^{n-1}}{\theta^n} \quad (0<t<\theta) \quad (3)
\end{align}
$$

(3)式を(2)式に代入し、計算すると下記が導出できる。
$$
\large
\begin{align}
E \left[ \frac{(n+1)T}{n} \right] &= \int_{0}^{\theta} \frac{(n+1)t}{n} \times \frac{n t^{n-1}}{\theta^n} dt \\
&= (n+1)\int_{0}^{\theta} t \times \frac{t^{n-1}}{\theta^n} dt \\
&= (n+1)\int_{0}^{\theta} \frac{t^{n}}{\theta^n} dt \\
&= (n+1) \left[ \frac{t^{n+1}}{(n+1)\theta^n} \right]_{0}^{\theta} \\
&= (n+1) \frac{\theta^{n+1}}{(n+1) \theta^n} \\
&= \theta
\end{align}
$$
上記は(1)式が成立することを意味するので、これにより$\displaystyle \frac{(n+1)T}{n}$が$\theta$の不偏推定量であることを示すことができる。

(4)式と同様に考えることで、$E[T], E[T^2]$を求めることができる。
$$
\large
\begin{align}
E[T] &= \frac{n}{n+1} \theta \quad (5) \\
E[T^2] &= \int_{0}^{\theta} t^2 \times \frac{n t^{n-1}}{\theta^n} dt \\
&= \int_{0}^{\theta} \frac{n t^{n+1}}{\theta^n} dt \\
&= \left[ \frac{n t^{n+2}}{(n+2)\theta^n} \right]_{0}^{\theta} \\
&= \frac{n \theta^{n+2}}{(n+2)\theta^n} \\
&= \frac{n \theta^{2}}{(n+2)} \quad (6)
\end{align}
$$

また、$V[T] = E[T^2] – E[T]$より、(5)式(6)式を用いて$T$の分散$V[T]$は下記のように求めることができる。
$$
\large
\begin{align}
V[T] &= E[T^2] – E[T]　\\
&= \frac{n \theta^{2}}{(n+2)} – \frac{n^2 \theta^2}{(n+1)^2} \\
&= \frac{n(n+1)^2 \theta^{2}}{(n+2)(n+1)^2} – \frac{n^2(n+2) \theta^2}{(n+2)(n+1)^2} \\
&= \frac{(n^3+2n^2+n) – (n^3+2n^2)}{(n+2)(n+1)^2} \theta^{2} \\
&= \frac{n}{(n+2)(n+1)^2} \theta^{2} \quad (7)
\end{align}
$$

(7)式を用いることで、$\displaystyle \frac{(n+1)T}{n}$の分散の$\displaystyle V \left[ \frac{(n+1)T}{n} \right]$は下記のように求めることができる。
$$
\large
\begin{align}
V \left[ \frac{(n+1)T}{n} \right] &= \frac{(n+1)^2}{n^2}V[T] \\
&= \frac{(n+1)^2}{n^2} \frac{n}{(n+2)(n+1)^2} \theta^{2} \\
&= \frac{\theta^{2}}{n(n+2)}
\end{align}
$$

問題7.5の解答例

$E[s]$は下記のように変形できる。
$$
\large
\begin{align}
E[s] = E[\sqrt{s^2}]
\end{align}
$$

ここで関数$f(x) = \sqrt{x}$を定義する。これは厳密に上に凸の関数となる。このときジェンセンの不等式より、下記が成立する。
$$
\large
\begin{align}
E[f(X)] < f(E[X])
\end{align}
$$

$E[s]$にジェンセンの不等式を適用すると下記のような導出が行える。
$$
\large
\begin{align}
E[s] &= E[\sqrt{s^2}] \\
&< \sqrt{E[s^2]} \\
&= \sqrt{\sigma^2} = \sigma
\end{align}
$$

ここまでの議論により、$E[s] < \sigma$を示すことができる。

問題7.6の解答例

$\displaystyle x = \frac{(n-1)s^2}{\sigma^2}$、$x$の確率密度関数を$f(x)$と考えると、$x$は$\displaystyle \chi^2(n-1) = Ga \left( \frac{n-1}{2},2 \right)$に従うことより$f(x)$は下記のように表すことができる。
$$
\large
\begin{align}
f(x) = \frac{1}{2^{\frac{n-1}{2}} \Gamma \left( \frac{n-1}{2} \right)} x^{\frac{n-1}{2}-1} e^{-\frac{x}{2}}
\end{align}
$$

ここで$\displaystyle s = \frac{\sigma}{\sqrt{n-1}} \sqrt{x}$より、$E[s]$は下記のように計算できる。
$$
\large
\begin{align}
E[s] &= E \left[ \frac{\sigma}{\sqrt{n-1}} \sqrt{x} \right] \\
&= \int_{0}^{\infty} \frac{\sigma}{\sqrt{n-1}} \sqrt{x} \times \frac{1}{2^{\frac{n-1}{2}} \Gamma \left( \frac{n-1}{2} \right)} x^{\frac{n-1}{2}-1} e^{-\frac{x}{2}} dx \\
&= \frac{\sigma}{\sqrt{n-1}} \int_{0}^{\infty} x^{\frac{1}{2}} \times \frac{1}{2^{\frac{n-1}{2}} \Gamma \left( \frac{n-1}{2} \right)} x^{\frac{n-1}{2}-1} e^{-\frac{x}{2}} dx \\
&= \frac{\sigma}{\sqrt{n-1}} \int_{0}^{\infty} \frac{1}{2^{\frac{n-1}{2}} \Gamma \left( \frac{n-1}{2} \right)} x^{\frac{n}{2}-1} e^{-\frac{x}{2}} dx \\
&= \frac{\sigma}{\sqrt{n-1}} \times \sqrt{2} \frac{\Gamma \left( \frac{n}{2} \right)}{\Gamma \left( \frac{n-1}{2} \right)} \int_{0}^{\infty} \frac{1}{2^{\frac{n}{2}} \Gamma \left( \frac{n}{2} \right)} x^{\frac{n}{2}-1} e^{-\frac{x}{2}} dx \\
&= \frac{\sigma}{\sqrt{n-1}} \times \sqrt{2} \frac{\Gamma \left( \frac{n}{2} \right)}{\Gamma \left( \frac{n-1}{2} \right)} \times 1 \\
&= \sigma \frac{\sqrt{2} \Gamma \left( \frac{n}{2} \right)}{\sqrt{n-1} \Gamma \left( \frac{n-1}{2} \right)}
\end{align}
$$
上記より、与式を示すことができた。

問題7.7の解答例

$V[\bar{X}] = E[\bar{X}^2] – E[\bar{X}]^2$より下記が成立する。
$$
\large
\begin{align}
E[\bar{X}^2] &= V[\bar{X}] + E[\bar{X}]^2 \\
&= \frac{\sigma^2}{n} + \mu^2 \\
\mu^2 &= E[\bar{X}^2] – \frac{\sigma^2}{n}
\end{align}
$$
上記を元に考えることで、$\mu^2$の不偏推定量$\hat{\mu}^2$は不偏分散$s^2$を用いて下記のように表すことができる。
$$
\large
\begin{align}
\hat{\mu}^2 &= \bar{X}^2 – \frac{s^2}{n} \\
&= \bar{X}^2 – \frac{\sum_{i=1}^{n}(X_i-\bar{X})^2}{n(n-1)} \quad (7.38)
\end{align}
$$

上記の導出において、$\displaystyle \hat{\mu}^2 = \bar{X}^2 – \frac{s^2}{n}$は(7.38)と同値であることがわかる。ここで$\bar{X}$と$s^2$がそれぞれ独立に動くことから$\hat{\mu}^2$が負となる確率は0ではないことが言える。

問題7.8の解答例

「$P(E[X|T]<0)>0 \implies P(X<0)>0$」を示すにあたって、対偶の「$P(X<0)=0 \implies P(E[X|T]<0)=0$」を示す。非負の確率変数に対しては条件付き期待値が$0$以下とならないことから、対偶を示すことができ、元の命題も成立することがわかる。

・直感的な考察
サイコロを考えた際に、サイコロの目が1〜6である場合は、どのような条件を考えてもサイコロの目が0より小さくなることは起こりえないことを考えると納得がいくと思われる。また、元々の命題に関しても、条件付き期待値が0より小さくなりうる場合は、0よりも小さい値を何かしら持つと解釈すると良い。

問題7.9の解答例

https://www.gakujutsu.co.jp/text/isbn978-4-7806-0860-1/
幾何分布の平均と分散を求めるにあたって上記の公式の解答では(2.62)式などで示された負の二項分布の結果を用いているが、大元の導出自体が大変なことからここでは確率母関数$G(s)$を用いた別解を記載する。$E[X], E[X(X-1)]$を求めて$E[X], V[X]$を求めることもできるが、$G'(1)=E[X], G^{”}(1)=E[X(X-1)]$が成立することを鑑みると、「確率母関数を用いる手法」と「$E[X], E[X(X-1)]$を定義に基づいて計算する手法」は同様であり、$E[X], E[X(X-1)]$を定義に基づいて計算するにはマクローリン展開を2度行う必要のあることからここでは確率母関数を用いる手法を選定した。

・確率母関数の導出
確率母関数$G(s)=E[s^X]$の定義に基づいて、確率母関数を計算する。
$$
\large
\begin{align}
G(s) &= E[s^X] \\
&= s^0 p(1-p)^0 + s^1 p(1-p)^1 + s^2 p(1-p)^2 + … \\
&= \sum_{n=0}^{\infty} s^n p(1-p)^n \\
&= p \sum_{n=0}^{\infty} (s(1-p))^n \\
&= p \frac{1}{1-s(1-p)} \\
&= \frac{p}{1-s(1-p)}
\end{align}
$$
上記において$\displaystyle \sum_{n=0}^{\infty} (s(1-p))^n = \frac{1}{1-s(1-p)}$は$\displaystyle \lim_{n \to \infty} (s(1-p))^n = 0$という前提に基づいて、等比級数の公式を用いて求めた。
等比級数の公比に関しては$G'(1), G^{”}(1)$を考えることから$s=1$の周辺だけ調べれば十分であり、$s=1$のとき$1-s(1-p)=p$であり、$0<p<1$を考慮すると収束するだろうと考えられる。

次に$G'(s), G^{”}(s)$を導出する。
$$
\large
\begin{align}
G'(s) &= \left( \frac{p}{1-s(1-p)} \right)’ \\
&= \frac{-p \times (-(1-p))}{(1-s(1-p))^2} \\
&= \frac{p(1-p)}{(1-s(1-p))^2} \\
G^{”}(s) &= \left( \frac{p(1-p)}{(1-s(1-p))^2} \right)’ \\
&= \frac{-2p(1-p) \times (-(1-p))}{(1-s(1-p))^3} \\
&= \frac{2p(1-p)^2}{(1-s(1-p))^3}
\end{align}
$$
このとき、$G'(1), G^{”}(1)$は$s$に$1$を代入することで下記のようになる。
$$
\large
\begin{align}
G'(1) &= \frac{p(1-p)}{(1 – 1 \cdot (1-p))^2} \\
&= \frac{p(1-p)}{(1 – 1 + p))^2} \\
&= \frac{p(1-p)}{p^2} \\
&= \frac{1-p}{p} \\
G^{”}(1) &= \frac{2p(1-p)^2}{(1 – 1 \cdot (1-p))^3} \\
&= \frac{2p(1-p)^2}{(1 – 1 + p))^3} \\
&= \frac{2p(1-p)^2}{p^3} \\
&= \frac{2(1-p)^2}{p^2}
\end{align}
$$

・平均$E[X]$、分散$V[X]$の導出
ここまでで求めた$G'(1), G^{”}(1)$に対し、$E[X]=G'(1), V[X]=G^{”}(1)+G'(1)-(G'(1))^2$を用いて$E[X], V[X]$の導出を行う。
$$
\large
\begin{align}
E[X] &= G'(1) \\
&= \frac{1-p}{p} \\
V[X] &= G^{”}(1)+G'(1)-(G'(1))^2 \\
&= \frac{2(1-p)^2}{p^2} + \frac{1-p}{p} – \frac{(1-p)^2}{p^2} \\
&= \frac{(1-p)^2}{p^2} + \frac{p(1-p)}{p^2} \\
&= \frac{(1-p)(1-p+p)}{p^2} \\
&= \frac{1-p}{p^2}
\end{align}
$$

・フィッシャー情報量の導出
幾何分布の対数尤度を$l(p)$とおくと、$l(p) = \log{p(x)}$より、$l(p)$は下記のように表すことができる。
$$
\large
\begin{align}
l(p) &= \log{p(x)} \\
&= \log{p(1-p)^x} \\
&= \log{p} + x \log{(1-p)}
\end{align}
$$
上記を下記のように$p$で2回微分を行う。
$$
\large
\begin{align}
l'(p) &= (x \log{(1-p)} + \log{p})’ \\
&= \frac{1}{p} – \frac{x}{1-p} \\
l^{”}(p) &= -\frac{1}{p^2} – \frac{x}{(1-p)^2}
\end{align}
$$
よって、フィッシャ情報量$\mathit{I}(p)=E[-l^{”}(p)]$は下記のように求めることができる。
$$
\large
\begin{align}
\mathit{I}(p) &= E[-l^{”}(p)] \\
&= E \left[ \frac{1}{p^2} + \frac{x}{(1-p)^2} \right] \\
&= \frac{1}{p^2} + \frac{E[X]}{(1-p)^2} \\
&= \frac{1}{p^2} + \frac{1}{(1-p)^2} \cdot \frac{1-p}{p} \\
&= \frac{1}{p^2} + \frac{1}{p(1-p)} \\
&= \frac{1}{p^2(1-p)}
\end{align}
$$

問題7.10の解答例

$y$個の球を$n-1$個の仕切りで分けることで、各非負の$x_i$に対応させることを考える。この組み合わせの数は${}_{y+n-1} C{y}={}_{n+y-1} C{y}$のように求めることができる。

問題7.11の解答例

下記のQ3.8の解答で取り扱ったように、負の二項分布に関して$NB(r_1,p)*NB(r_2,p) = NB(r_1+r_2,p)$が成立する。
https://www.hello-statisticians.com/explain-books-cat/math_stat_practice_ch3.html#38

幾何分布は負の二項分布$NB(r,p)$において$r=1$の場合であるので、上記と同様なたたみこみ演算を$n$回行うことで幾何分布から負の二項分布を導出することができる。

問題7.12の解答例

$X_1, X_2, …, X_n$の同時確率$P(X_1=x_1,…,X_n=x_n)$は下記のように表すことができる。
$$
\large
\begin{align}
P(X_1=x_1,…,X_n=x_n) &= \prod_{i=1}^{n} p(1-p) \\
&= p^{n} (1-p)^{\sum_{i=1}^{n}x_i}
\end{align}
$$

上記において分解定理を考えると、$p$の十分統計量が$\displaystyle Y = \sum_{i=1}^{n}X_i$で与えられることがわかる。また、問題6.7より完備性は示される。

ここで$Y=y$を与えた際の$X_1, X_2, …, X_n$の条件付き分布$P(X_1=x_1,…,X_n=x_n|Y=y)$は下記のように表すことができる。
$$
\large
\begin{align}
P(X_1=x_1,…,X_n=x_n|Y=y) &= \frac{P(X_1=x_1,…,X_n=x_n,Y=y)}{P(Y=y)} \\
&= \frac{P(X_1=x_1,…,X_n=x_n)}{P(Y=y)} \\
&= \frac{p^{n} (1-p)^{\sum_{i=1}^{n}x_i}}{{}_{n+y-1} C_{y} p^{n} (1-p)^{y}} \\
&= \frac{p^{n} (1-p)^{y}}{{}_{n+y-1} C_{y} p^{n} (1-p)^{y}} \\
&= \frac{1}{{}_{n+y-1} C_{y}}
\end{align}
$$

・考察
条件付き分布を考える際に$P(X_1=x_1,…,X_n=x_n,Y=y)=P(X_1=x_1,…,X_n=x_n)$のように考えたが、これは$\displaystyle Y = \sum_{i=1}^{n}X_i$のようにおいたことに基づく。

より詳細には下記のように考えると良いと思われる。
$$
\large
\begin{align}
P(X_1=x_1,…,X_n=x_n,Y=y) &= p^{n} (1-p)^{y} \\
&= p^{n} (1-p)^{\sum_{i=1}^{n}X_i} \\
&= P(X_1=x_1,…,X_n=x_n)
\end{align}
$$

問題7.13の解答例

$$
\large
\begin{align}
P(Y=y) = {}_{n+y-1} C_{y} p^{n} (1-p)^{y}
\end{align}
$$
$p$の尤度を$L(p)$とおくと、$L(p)=P(Y=y)$なので、対数尤度の$\log{L(p)}$は下記のように表すことができる。
$$
\large
\begin{align}
\log{L(p)} &= \log{( {}_{n+y-1} C_{y} p^{n} (1-p)^{y} )} \\
&= n \log{p} + y \log{(1-p)} + Const. \quad (1)
\end{align}
$$

ここで(1)式を$p$に関して微分した際に$0$になる$p$値を下記のように計算する。
$$
\large
\begin{align}
\frac{d \log{L(p)}}{d p} &= 0 \\
\frac{n}{p} – \frac{y}{1-p} &= 0 \\
\frac{y}{1-p} &= \frac{n}{p} \\
yp &= n(1-p) \\
(n+y)p &= n \\
p &= \frac{n}{n+y}
\end{align}
$$
上記が最尤推定量$\hat{p}$を表すので、$\displaystyle \hat{p} = \frac{n}{n+y}$が成立する。

次に(7.62)式を示す。$\displaystyle E \left[ \frac{1}{(N-1)(N-2)…(N-k)} \right] = E \left[ \frac{1}{(n+y-1)(n+y-2)…(n+y-k)} \right]$は下記のように変形することができる。
$$
\large
\begin{align}
E & \left[ \frac{1}{(N-1)(N-2)…(N-k)} \right] = E \left[ \frac{1}{(n+y-1)(n+y-2)…(n+y-k)} \right] \\
&= \sum_{y=0}^{\infty} \frac{1}{(n+y-1)(n+y-2)…(n+y-k)} \times {}_{n+y-1} C_{y} p^{n} (1-p)^{y} \\
&= \sum_{y=0}^{\infty} \frac{1}{(n+y-1)(n+y-2)…(n+y-k)} \times \frac{(n+y-1)!}{y!(n-1)!} p^{n} (1-p)^{y} \\
&= \sum_{y=0}^{\infty} \frac{(n+y-1-k)!}{y!(n-1)!} p^{n} (1-p)^{y} \\
&= \frac{1}{(n-1)(n-2)…(n-k)} \sum_{y=0}^{\infty} \frac{(n+y-1-k)!}{y!(n-k)!} p^{n} (1-p)^{y} \\
&= \frac{p^k}{(n-1)(n-2)…(n-k)} \sum_{y=0}^{\infty} \frac{(n-k+y-1)!}{y!(n-k)!} p^{n-k} (1-p)^{y}
\end{align}
$$

ここで(2)式の$\displaystyle \sum_{y=0}^{\infty}$の中は負の二項分布$NB(n-k,y)$の$y=0,1,…,$を表している。
従って、確率分布のそれぞれの確率関数の和が1になることを考えることによって$\displaystyle \sum_{y=0}^{\infty} \frac{(n-k+y-1)!}{y!(n-k)!} p^{n-k} (1-p)^{y}=1$であることがわかる。これを(2)に代入することによって、下記を得ることができる。
$$
\large
\begin{align}
E & \left[ \frac{1}{(N-1)(N-2)…(N-k)} \right] = E \left[ \frac{1}{(n+y-1)(n+y-2)…(n+y-k)} \right] \\
&= \frac{p^k}{(n-1)(n-2)…(n-k)} \sum_{y=0}^{\infty} \frac{(n-k+y-1)!}{y!(n-k)!} p^{n-k} (1-p)^{y} \\
&= \frac{p^k}{(n-1)(n-2)…(n-k)} \quad (3)
\end{align}
$$
上記は(7.62)式が成立することを表す。

また、(3)式の両辺に$(n-1)(n-2)…(n-k)$をかけると下記のようになる。
$$
\large
\begin{align}
E \left[ \frac{1}{(N-1)…(N-k)} \right] (n-1)…(n-k) &= \frac{p^k}{(n-1)…(n-k)}(n-1)…(n-k) \\
E \left[ \frac{(n-1)(n-2)…(n-k)}{(N-1)(N-2)…(N-k)} \right] &= p^k \\
E \left[ \frac{(n-1)(n-2)…(n-k)}{(n+y-1)(n+y-2)…(n+y-k)} \right] &= p^k
\end{align}
$$

上記より$\displaystyle E \left[ \frac{n-1}{n+y-1} \right] = p$が成立し、$\displaystyle \frac{n-1}{n+y-1}$が$p$の不偏推定量であることがわかる。

問題7.14の解答例

問題7.15の解答例

(7.63)式と、(7.64)式はそれぞれ左辺を変形することで、右辺を導出できるので以下に示す。

・(7.63)式の導出
$$
\large
\begin{align}
\frac{n}{N} – \frac{n}{N-1} + \frac{n}{(N-1)(N-2)} &= \frac{n(N-1)(N-2) – nN(N-2) + nN}{N(N-1)(N-2)} \\
&= \frac{n(N^2-3N+2) – n(N^2-2N) + nN}{N(N-1)(N-2)} \\
&= \frac{nN^2 – 3nN + 2n – nN^2 + 2nN + nN}{N(N-1)(N-2)} \\
&= \frac{2n}{N(N-1)(N-2)}
\end{align}
$$

・(7.64)式の導出
$$
\large
\begin{align}
\frac{n^2}{N^2} – \frac{n^2}{(N-1)(N-2)} &+ \frac{3n^2}{(N-1)(N-2)(N-3)} \\
&= \frac{n^2(N-1)(N-2)(N-3) – n^2N^2(N-3) + 3n^2(N-3)}{N^2(N-1)(N-2)(N-3)}
\end{align}
$$
上記を計算するにあたっては、分子を整理して$(N-1)(N-2)(N-3) – N^2(N-3) + 3N^2$を計算すればよい。
$$
\large
\begin{align}
(N-1)(N-2)(N-3) – N^2(N-3) + 3N^2 &= (N^2-3N+2)(N-3) – (N^3-3N^2) + 3N^2 \\
&= (N^3 – 3N^2 + 2N – 3N^2 + 9N – 6) – N^3 + 3N^2 + 3N^2 \\
&= 11N – 6
\end{align}
$$

よって、(1)式は下記のように整理することができる。
$$
\large
\begin{align}
\frac{n^2}{N^2} – \frac{n^2}{(N-1)(N-2)} &+ \frac{3n^2}{(N-1)(N-2)(N-3)} \\
&= \frac{n^2(N-1)(N-2)(N-3) – n^2N^2(N-3) + 3n^2N^2}{N^2(N-1)(N-2)(N-3)} \\
&= \frac{11Nn^2 – 6n^2}{N^2(N-1)(N-2)(N-3)}
\end{align}
$$

問題7.16の解答例

ポアソン分布は下記で導出を行ったように再生性が成立し、(3.51)式のようにたたみこみが行える。
https://www.hello-statisticians.com/explain-terms-cat/probdist3.html#i-4
(3.51)式より、$\displaystyle \sum_{i=1}^{n} X_i$は$Po(n \lambda)$に従う。ここで、$e^{-2\lambda}$の推定量が$\delta(y)$であることより、下記が成立する。
$$
\large
\begin{align}
e^{-2\lambda} &= E[\delta(y)] \\
&= \sum_{y=0}^{\infty} \delta(y) \frac{(n \lambda)^y}{y!} e^{-n \lambda}
\end{align}
$$

ここで、両辺を$e^{-n \lambda}$で割ることで下記が導出できる。
$$
\large
\begin{align}
e^{(n-2)\lambda} = \sum_{y=0}^{\infty} \delta(y) \frac{(n \lambda)^y}{y!} \quad (1)
\end{align}
$$

また、$e^{(n-2) \lambda}$に関するマクローリン展開を考えることで、下記が成立することがわかる。
$$
\large
\begin{align}
e^{(n-2)\lambda} = \sum_{y=0}^{\infty} \frac{((n-2) \lambda)^y}{y!} \quad (2)
\end{align}
$$

ここで、(1)と(2)の級数が一致するには下記が成立しなければならない。
$$
\large
\begin{align}
\delta(y) (n \lambda)^y &= ((n-2) \lambda)^y \\
\delta(y) &= \frac{((n-2) \lambda)^y}{(n \lambda)^y} \\
&= \left( \frac{n-2}{n} \right)^y \quad (3)
\end{align}
$$

上記のように$e^{-2 \lambda}$の推定量を得ることができる。

・考察
以下、$\lambda=5$において、実際に$e^{-2 \lambda}=e^{-10}$を(3)式を用いて推定を行い、値を確認する。

• $e^{-2 \lambda}=e^{-10}$
  $$
  \large
  \begin{align}
  e^{-10} = 4.5399… \times 10^{-5}
  \end{align}
  $$
• $n = 3, y = n \lambda = 3 \times 5$
  $$
  \large
  \begin{align}
  \delta(y) &= \left( \frac{3-2}{3} \right)^{3 \times 5} \\
  &= \left( \frac{1}{3} \right)^{3 \times 5} \\
  &= 6.969… \times 10^{-8}
  \end{align}
  $$
• $n = 50, y = n \lambda = 50 \times 5$
  $$
  \large
  \begin{align}
  \delta(y) &= \left( \frac{50-2}{50} \right)^{3 \times 5} \\
  &= \left( \frac{48}{50} \right)^{50 \times 5} \\
  &= 3.69662… \times 10^{-5}
  \end{align}
  $$
• $n = 100, y = n \lambda = 100 \times 5$
  $$
  \large
  \begin{align}
  \delta(y) &= \left( \frac{100-2}{100} \right)^{100 \times 5} \\
  &= \left( \frac{98}{100} \right)^{100 \times 5} \\
  &= 4.1023… \times 10^{-5}
  \end{align}
  $$
• $n = 1000, y = n \lambda = 1000 \times 5$
  $$
  \large
  \begin{align}
  \delta(y) &= \left( \frac{1000-2}{1000} \right)^{1000 \times 5} \\
  &= \left( \frac{998}{1000} \right)^{1000 \times 5} \\
  &= 4.4947… \times 10^{-5}
  \end{align}
  $$
• $n = 1000000, y = n \lambda = 1000000 \times 5$
  $$
  \large
  \begin{align}
  \delta(y) &= \left( \frac{1000000-2}{1000000} \right)^{1000000 \times 5} \\
  &= \left( \frac{999998}{1000000} \right)^{1000000 \times 5} \\
  &= 4.53994… \times 10^{-5}
  \end{align}
  $$

サンプルが増えるに従って、$\delta(y)$が$e^{-2 \lambda}$に近づいており、これにより$e^{-2\lambda} = E[\delta(y)]$が成立することが妥当であることが確認できる。

問題7.17の解答例

問題7.18の解答例

問題7.19の解答例

問題7.20の解答例

問題7.21の解答例

問題7.22の解答例

問題7.23の解答例

問題7.24の解答例

当記事は「現代数理統計学(学術図書出版社)」の読解サポートにあたってChapter.4の「統計量と標本分布」の章末問題の解説について行います。

新装改訂版 現代数理統計学

竹村 彰通

2,970円(11/10 22:18時点)

Amazon

基本的には書籍の購入者向けの解説なので、まだ入手されていない方は購入の上ご確認ください。また、解説はあくまでサイト運営者が独自に作成したものであり、書籍の公式ページではないことにご注意ください。（そのため著者の意図とは異なる解説となる可能性はあります）

↓下記が公式の解答なので、正確にはこちらを参照ください。
https://www.gakujutsu.co.jp/text/isbn978-4-7806-0860-1/

章末の演習問題について

問題4.1の解答例

$X \sim N(0,1)$の時の、$X^2$のモーメント母関数$m(t) = E[e^{tX^2}]$は下記のように求めることができる。
$$
\large
\begin{align}
E \left[ e^{tX^2} \right] &= \int_{-\infty}^{\infty} e^{tx^2} \times \frac{1}{\sqrt{2 \pi}} e^{-\frac{x^2}{2}} dx \\
&= \frac{1}{\sqrt{2 \pi}} \int_{-\infty}^{\infty} e^{-\frac{x^2}{2}+tx^2} dx \\
&= \frac{1}{\sqrt{2 \pi}} \int_{-\infty}^{\infty} e^{-\frac{x^2(1-2t)}{2}} dx
\end{align}
$$

上記において$\displaystyle y = \sqrt{1-2t}x$を用いて変数変換を行うことを考える。$\displaystyle \frac{dx}{dy}=\frac{1}{\sqrt{1-2t}}$より、(1)は下記のように変形できる。
$$
\large
\begin{align}
E \left[ e^{tX^2} \right] &= \frac{1}{\sqrt{2 \pi}} \int_{-\infty}^{\infty} e^{-\frac{x^2(1-2t)}{2}} dx \\
&= \frac{1}{\sqrt{2 \pi}} \int_{-\infty}^{\infty} e^{-\frac{y^2}{2}} \frac{dx}{dy} dy \\
&= \frac{1}{\sqrt{2 \pi}} \int_{-\infty}^{\infty} e^{-\frac{y^2}{2}} \frac{1}{\sqrt{1-2t}} dy \\
&= \frac{1}{\sqrt{2 \pi (1-2t)}} \int_{-\infty}^{\infty} e^{-\frac{y^2}{2}} dy \\
&= \frac{\sqrt{2 \pi}}{\sqrt{2 \pi (1-2t)}} \\
&= (1-2t)^{-\frac{1}{2}}
\end{align}
$$
上記において、$\displaystyle \int_{-\infty}^{\infty} e^{-\frac{y^2}{2}} dy = \sqrt{2 \pi}$はガウス積分の考え方を用いた。
https://www.hello-statisticians.com/explain-terms-cat/gaussian_integral1.html

ここで、$X_1,…X_n \sim N(0,1), i.i.d.,$よりモーメント母関数$E[e^{tY}]$は下記のように求めることができる。
$$
\large
\begin{align}
E[e^{tY}] &= E \left[ e^{t(X_1^2+X_2^2+…+X_n^2)} \right] \\
&= E \left[ e^{tX_1^2} \right]E \left[ e^{tX_2^2} \right]…E \left[ e^{tX_n^2} \right] \\
&= \left( (1-2t)^{-\frac{1}{2}} \right)^n \\
&= (1-2t)^{-\frac{n}{2}} \quad (2)
\end{align}
$$

また、ガンマ分布$Ga(\nu,\alpha)$のモーメント母関数$m_{ga}(t)$は下記のように表すことができる。
$$
\large
\begin{align}
m_{ga}(t) &= (1 – t \alpha)^{-\nu}
\end{align}
$$
上記の式において$\displaystyle \nu = \frac{n}{2}, \alpha=2$を代入すると(2)式が得られるので、$Y=X_1^2+…+X_n^2$のモーメント母関数は$\displaystyle Ga \left( \frac{n}{2}, 2 \right)$のモーメント母関数に一致する。

・解説
上記より、自由度$\nu$の$\chi^2$分布$\chi^2(\nu)$は$\displaystyle Ga \left( \frac{n}{2}, 2 \right)$に一致することを示すことができる。

問題4.2の解答例

Helmert変換に用いる行列$G$が直交行列であることは下記で示した。
https://www.hello-statisticians.com/explain-terms-cat/helmert1.html#Helmert-2

問題4.3の解答例

$t$統計量を考えるにあたって$\displaystyle \sum_{i=1}^{n} (X_i-\bar{X})^2$を用いて表すと$t$は下記のように表すことができる。
$$
\large
\begin{align}
t &= \frac{(\bar{X}-\mu)}{\sqrt{\frac{1}{n-1} \sum_{i=1}^{n} (X_i-\bar{X})^2/n}} \\
&= \frac{(\bar{X}-\mu)}{\sqrt{\frac{1}{n(n-1)} \sum_{i=1}^{n} (X_i-\bar{X})^2}} \\
&= \frac{\sqrt{n-1}(\bar{X}-\mu)}{\sqrt{\frac{1}{n} \sum_{i=1}^{n} (X_i-\bar{X})^2}} \\
&= \frac{\sqrt{n-1}(\bar{X}-\mu)}{s}
\end{align}
$$
上記より、$\displaystyle t = \frac{\sqrt{n-1}(\bar{X}-\mu)}{s}$のように表すことができることがわかる。

問題4.4の解答例

$$
\large
\begin{align}
\int_{0}^{\infty} v^{\frac{m+1}{2}-1} e^{-\frac{v(1+t^2/m)}{2}} dv = 2^{\frac{m+1}{2}} \Gamma \left( \frac{m+1}{2} \right) \left( 1+\frac{t^2}{m} \right)^{-\frac{m+1}{2}} \quad (4.19)
\end{align}
$$
上記の(4.19)式が成立することを以下で示す。

$\displaystyle a = \frac{1+t^2/m}{2}$とおき、下記のように(4.19)式の左辺の変形を行う。
$$
\large
\begin{align}
\int_{0}^{\infty} v^{\frac{m+1}{2}-1} e^{-\frac{v(1+t^2/m)}{2}} dv &= \int_{0}^{\infty} v^{\frac{m+1}{2}-1} e^{-va} dv \\
&= \int_{0}^{\infty} a^{-\frac{m+1}{2}+1} a^{\frac{m+1}{2}-1} v^{\frac{m+1}{2}-1} e^{-va} dv \\
&= a^{-\frac{m+1}{2}+1} \int_{0}^{\infty} (va)^{\frac{m+1}{2}-1} e^{-va} dv
\end{align}
$$
上記において$dv = a^{-1} d(va)$のように積分に用いる変数を変換することを考える。このとき$m>0$より$a>0$であるため積分区間は変更せずに、(1)式は下記のように変形できる。
$$
\large
\begin{align}
\int_{0}^{\infty} v^{\frac{m+1}{2}-1} e^{-\frac{v(1+t^2/m)}{2}} dv &= a^{-\frac{m+1}{2}+1} \int_{0}^{\infty} (va)^{\frac{m+1}{2}-1} e^{-va} dv \\
&= a^{-\frac{m+1}{2}+1} \int_{0}^{\infty} (va)^{\frac{m+1}{2}-1} e^{-va} a^{-1} d(va) \\
&= a^{-\frac{m+1}{2}} \int_{0}^{\infty} (va)^{\frac{m+1}{2}-1} e^{-va} d(va) \quad (2)
\end{align}
$$

ここで、下記のガンマ関数$\Gamma(a)$の定義式を考える。
$$
\large
\begin{align}
\Gamma(a) = \int_{0}^{\infty} x^{a-1} e^{-x} dx \quad (3)
\end{align}
$$

(3)式より、(2)式は下記のように変形できる。
$$
\large
\begin{align}
\int_{0}^{\infty} v^{\frac{m+1}{2}-1} e^{-\frac{v(1+t^2/m)}{2}} dv &= a^{-\frac{m+1}{2}} \int_{0}^{\infty} (va)^{\frac{m+1}{2}-1} e^{-va} d(va) \\
&= a^{-\frac{m+1}{2}} \Gamma \left( \frac{m+1}{2} \right) \\
&= \left( \frac{1+t^2/m}{2} \right)^{-\frac{m+1}{2}} \Gamma \left( \frac{m+1}{2} \right) \\
&= \left( \frac{1}{2} \right)^{-\frac{m+1}{2}} \Gamma \left( \frac{m+1}{2} \right) \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2}} \\
&= 2^{\frac{m+1}{2}} \Gamma \left( \frac{m+1}{2} \right) \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2}}
\end{align}
$$

ここまでの議論により、(4.19)式が成立することを示すことができる。

問題4.5の解答例

$$
\large
\begin{align}
f(t) &= \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{\pi m} \Gamma \left(\frac{m}{2} \right)} \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2}} \quad (4.20) \\
&= \frac{1}{\sqrt{\pi}} \times \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{m} \Gamma \left(\frac{m}{2} \right)} \times \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2}} \quad (1)
\end{align}
$$
(4.20)を上記のように整理し、それぞれの項に関して$m \to \infty$の極限を考える。

・(1)式の右辺第3項の$\displaystyle \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2}}$
$\displaystyle \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2}}$の$m \to \infty$の極限は$e$の定義を用いて下記のように導出できる。
$$
\large
\begin{align}
\lim_{m \to \infty} \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2}} &= \lim_{m \to \infty} \left( \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2t^2}} \right)^{t^2} \\
&= \lim_{m \to \infty} \left( \left( 1 + \frac{t^2}{m} \right)^{\frac{2(m+1)}{2t^2}} \right)^{-\frac{t^2}{2}} \\
&= \lim_{m \to \infty} \left( \left( 1 + \frac{t^2}{m} \right)^{\frac{m+1}{t^2}} \right)^{-\frac{t^2}{2}} \\
&= \lim_{m \to \infty} \left( \left( 1 + \frac{t^2}{m} \right)^{\frac{m}{t^2}} \right)^{-\frac{t^2}{2}} \left( \left( 1 + \frac{t^2}{m} \right)^{\frac{1}{t^2}} \right)^{-\frac{t^2}{2}} \\
&= e^{-\frac{t^2}{2}} \cdot 1 \\
&= e^{-\frac{t^2}{2}}
\end{align}
$$

・(1)式の右辺第2項の$\displaystyle \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{m} \Gamma \left(\frac{m}{2} \right)}$

$\displaystyle \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{m} \Gamma \left(\frac{m}{2} \right)}$は下記のように整理することができる。
$$
\large
\begin{align}
& \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{m} \Gamma \left(\frac{m}{2} \right)} \\
&= \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{2 \pi \cdot \frac{m-1}{2}} \left( \frac{m-1}{2} \right)^{\frac{m-1}{2}} e^{-\frac{m-1}{2}}} \cdot \frac{\sqrt{2 \pi \cdot \frac{m-2}{2}} \left( \frac{m-2}{2} \right)^{\frac{m-2}{2}} e^{-\frac{m-2}{2}}}{\Gamma \left(\frac{m}{2} \right)} \cdot \frac{\sqrt{2 \pi \cdot \frac{m-1}{2}} \left( \frac{m-1}{2} \right)^{\frac{m-1}{2}} e^{-\frac{m-1}{2}}}{\sqrt{m}\sqrt{2 \pi \cdot \frac{m-2}{2}} \left( \frac{m-2}{2} \right)^{\frac{m-2}{2}} e^{-\frac{m-2}{2}}}
\end{align}
$$

上記の第1項、第2項はスターリングの公式より$m \to \infty$の際に$1$に収束する。よって以下では第3項のみ考える。
$$
\large
\begin{align}
\frac{\sqrt{2 \pi \cdot \frac{m-1}{2}} \left( \frac{m-1}{2} \right)^{\frac{m-1}{2}} e^{-\frac{m-1}{2}}}{\sqrt{m}\sqrt{2 \pi \cdot \frac{m-2}{2}} \left( \frac{m-2}{2} \right)^{\frac{m-2}{2}} e^{-\frac{m-2}{2}}} &= \frac{\sqrt{m-1} \left( \frac{m-1}{2} \right)^{\frac{m-1}{2}} e^{-\frac{1}{2}}}{\sqrt{m}\sqrt{m-2} \left( \frac{m-2}{2} \right)^{\frac{m-2}{2}}} \\
&= \sqrt{\frac{m-1}{m-2}} \cdot \frac{\left( \frac{m-1}{2} \right)^{\frac{m-1}{2}}}{\sqrt{m}\left( \frac{m-2}{2} \right)^{\frac{m-2}{2}}} \cdot e^{-\frac{1}{2}} \\
&= \sqrt{\frac{m-1}{m-2}} \cdot \frac{(m-1)^{\frac{m-1}{2}}}{\sqrt{m}(m-2)^{\frac{m-2}{2}}} \cdot \frac{1}{\sqrt{2}}e^{-\frac{1}{2}}
\end{align}
$$

$m \to \infty$のとき、上記の第1項は$1$に収束する。第2項を考えるにあたっては$l=m-2$を考える。$m \to \infty$のとき、$l \to \infty$も成立する。
$$
\large
\begin{align}
\frac{(m-1)^{\frac{m-1}{2}}}{\sqrt{m}(m-2)^{\frac{m-2}{2}}} &= \frac{(l+1)^{\frac{m+1}{2}}}{\sqrt{l+2}l^{\frac{l}{2}}} \\
&= \sqrt{l+2} \left( 1 + \frac{1}{l} \right)^{\frac{l}{2}} \\
&= \frac{\sqrt{l+1}}{\sqrt{l+2}} \left( 1 + \frac{1}{l} \right)^{\frac{l}{2}}
\end{align}
$$

上記において、$\displaystyle \left( 1 + \frac{1}{l} \right)^{\frac{l}{2}}$の$m \to \infty, l \to \infty$の極限は下記のように導出することができる。
$$
\large
\begin{align}
\lim_{m \to \infty, l \to \infty} \left( 1 + \frac{1}{l} \right)^{\frac{l}{2}} &= \lim_{m \to \infty, l \to \infty} \left( \left( 1 + \frac{1}{l} \right)^{l} \right)^{\frac{1}{2}} \\
&= e^{\frac{1}{2}}
\end{align}
$$

よって$\displaystyle \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{m} \Gamma \left(\frac{m}{2} \right)}$の$m \to \infty$の極限は下記のように導出できる。
$$
\large
\begin{align}
\lim_{m \to \infty} \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{m} \Gamma \left(\frac{m}{2} \right)} &= \frac{1}{\sqrt{2}}e^{-\frac{1}{2}} \cdot e^{\frac{1}{2}} \\
&= \frac{1}{\sqrt{2}}
\end{align}
$$

・(1)式の導出
ここまでの議論より、(1)式の$m \to \infty$の極限は下記のように表すことができる。
$$
\large
\begin{align}
\lim_{m \to \infty} \frac{1}{\sqrt{\pi}} \times \frac{\Gamma \left(\frac{m+1}{2} \right)}{\sqrt{m} \Gamma \left(\frac{m}{2} \right)} \times \left( 1 + \frac{t^2}{m} \right)^{-\frac{m+1}{2}} &= \frac{1}{\sqrt{\pi}} \times \frac{1}{\sqrt{2}} \times e^{-\frac{t^2}{2}} \\
&= \frac{1}{\sqrt{2 \pi}}e^{-\frac{t^2}{2}}
\end{align}
$$

上記の導出は自由度$m$の$t$分布の$m \to \infty$の極限が、正規分布に一致することを表す。

問題4.6の解答例

$$
\large
\begin{align}
f(y) = \frac{l^{l/2}m^{m/2}}{B(l/2,m/2)}\frac{y^{l/2-1}}{(m+ly)^{(l+m)/2}} \quad (1)
\end{align}
$$
上記は自由度$(l,m)$の$F$分布の確率密度関数だが、上記において$v=ly$で置き換えると上記が$v$の$\chi^2$に収束することを示す。これは下記が成立することを意味する。
$$
\large
\begin{align}
g(v) = \frac{1}{2^{l/2} \Gamma(l/2)} y^{l/2-1}e^{-y/2} \quad (v>0) \quad (2)
\end{align}
$$

以下、(1)式を(2)式の形にすることを目標に式変形を行う。
$$
\large
\begin{align}
f(y) &= \frac{l^{l/2}m^{m/2}}{B(l/2,m/2)}\frac{y^{l/2-1}}{(m+ly)^{(l+m)/2}} \quad (1) \\
&= \frac{lm^{m/2}}{B(l/2,m/2)}\frac{l^{l/2-1}y^{l/2-1}}{(m+v)^{(l+m)/2}} \\
&= \frac{lm^{m/2}}{B(l/2,m/2)}\frac{v^{l/2-1}}{(m+v)^{(l+m)/2}} \\
&= \frac{lm^{m/2}\Gamma(l/2)\Gamma(m/2)}{\Gamma((l+m)/2)}\frac{v^{l/2-1}}{(m+v)^{(l+m)/2}} \\
&= \frac{1}{\Gamma(l/2)} v^{l/2-1} \times \frac{lm^{m/2}\Gamma(m/2)}{\Gamma((l+m)/2)}\frac{1}{(m+v)^{(l+m)/2}}
\end{align}
$$

問題4.7の解答例

問題4.8の解答例

$T$と$V$の同時密度関数を$f(t,v)$のようにおくと、$f(t,v)$は下記のように表される。
$$
\large
\begin{align}
f(t,v) = \frac{v^{\frac{m+1}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} e^{-\frac{\lambda^2}{2}} e^{t \lambda \sqrt{\frac{v}{m}}}}{2^{\frac{m}{2}} \Gamma \left( \frac{m}{2} \right) \sqrt{2 \pi m}} \quad (1)
\end{align}
$$
ここで上記の$\displaystyle e^{t \lambda \sqrt{\frac{v}{m}}}$は下記のようにマクローリン展開できる。
$$
\large
\begin{align}
e^{t \lambda \sqrt{\frac{v}{m}}} = \sum_{i=1}^{\infty} \frac{t^j \lambda^j v^{\frac{j}{2}}}{j! m^{\frac{j}{2}}} \quad (2)
\end{align}
$$

(2)式を(1)式に代入し、下記のように変形を行う。
$$
\large
\begin{align}
f(t,v) &= \frac{v^{\frac{m+1}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} e^{-\frac{\lambda^2}{2}}}{2^{\frac{m}{2}} \Gamma \left( \frac{m}{2} \right) \sqrt{2 \pi m}} \times \sum_{j=0}^{\infty} \frac{t^j \lambda^j v^{\frac{j}{2}}}{j! m^{\frac{j}{2}}} \\
&= \frac{e^{-\frac{\lambda^2}{2}}}{\sqrt{\pi m} \Gamma \left( \frac{m}{2} \right)} \sum_{j=0}^{\infty} \frac{v^{\frac{m+1}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} t^j \lambda^j v^{\frac{j}{2}}}{j! m^{\frac{j}{2}} 2^{\frac{m+1}{2}}} \\
&= \frac{e^{-\frac{\lambda^2}{2}}}{\sqrt{\pi m} \Gamma \left( \frac{m}{2} \right)} \sum_{j=0}^{\infty} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} \times \frac{t^j \lambda^j}{j! m^{\frac{j}{2}} 2^{\frac{m+1}{2}}}
\end{align}
$$

上記の両辺を$0 \leq v \leq \infty$で積分を行い、右辺に関して項別積分を行えるようにインテグラルとシグマの順序を入れ替える。
$$
\large
\begin{align}
\int_{0}^{\infty} f(t,v) dv &= \int_{0}^{\infty} \frac{e^{-\frac{\lambda^2}{2}}}{\sqrt{\pi m} \Gamma \left( \frac{m}{2} \right)} \sum_{j=0}^{\infty} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} \times \frac{t^j \lambda^j}{j! m^{\frac{j}{2}} 2^{\frac{m+1}{2}}} dv \\
&= \frac{e^{-\frac{\lambda^2}{2}}}{\sqrt{\pi m} \Gamma \left( \frac{m}{2} \right)} \sum_{j=0}^{\infty} \frac{t^j \lambda^j}{j! m^{\frac{j}{2}} 2^{\frac{m+1}{2}}} \int_{0}^{\infty} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} dv \quad (3)
\end{align}
$$

(3)式の項別積分の$\displaystyle \int_{0}^{\infty} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} dv$の計算にあたっては下記のガンマ分布の全確率の式を活用することを考える。
$$
\large
\begin{align}
\int_{0}^{\infty} \frac{1}{\alpha^{\nu} \Gamma(\nu)} x^{\nu-1} e^{-\frac{x}{\alpha}} dx = 1 \quad (4)
\end{align}
$$
全確率の式を考えるにあたっては、下記で取りまとめたガンマ分布の確率密度関数の式を用いた。
https://www.hello-statisticians.com/explain-terms-cat/gamma_distribution1.html#i-3

(4)式を用いることで、項別積分の$\displaystyle \int_{0}^{\infty} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} dv$は下記のように計算できる。
$$
\large
\begin{align}
& \int_{0}^{\infty} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} dv \\
&= \int_{0}^{\infty} \frac{\left(\frac{2}{1+\frac{t^2}{m}}\right)^{\frac{m+1+j}{2}} \Gamma(\frac{m+1+j}{2})}{\left(\frac{2}{1+\frac{t^2}{m}}\right)^{\frac{m+1+j}{2}} \Gamma(\frac{m+1+j}{2})} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2/(1+\frac{t^2}{m})}} dv \\
&= \left(\frac{2}{1+\frac{t^2}{m}}\right)^{\frac{m+1+j}{2}} \Gamma \left( \frac{m+1+j}{2} \right) \int_{0}^{\infty} \frac{1}{\left(\frac{2}{1+\frac{t^2}{m}}\right)^{\frac{m+1+j}{2}} \Gamma(\frac{m+1+j}{2})} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2/(1+\frac{t^2}{m})}} dv \\
&= \left(\frac{2}{1+\frac{t^2}{m}}\right)^{\frac{m+1+j}{2}} \Gamma \left( \frac{m+1+j}{2} \right) \int_{0}^{\infty} \frac{1}{\alpha^{\nu} \Gamma(\nu)} v^{\nu-1} e^{-\frac{x}{\alpha}} dv \\
&= \left(\frac{2}{1+\frac{t^2}{m}}\right)^{\frac{m+1+j}{2}} \Gamma \left( \frac{m+1+j}{2} \right) \quad (5)
\end{align}
$$
(5)式の導出にあたって(4)式を用いたことを示すにあたって、$\displaystyle \nu = \frac{m+1+j}{2}, \alpha = \frac{2}{1+\frac{t^2}{m}}$のように置き換えを行った。

(5)式を(3)式に代入する。
$$
\large
\begin{align}
& \frac{e^{-\frac{\lambda^2}{2}}}{\sqrt{\pi m} \Gamma \left( \frac{m}{2} \right)} \sum_{j=0}^{\infty} \frac{t^j \lambda^j}{j! m^{\frac{j}{2}} 2^{\frac{m+1}{2}}} \int_{0}^{\infty} v^{\frac{m+1+j}{2}-1} e^{-\frac{v}{2}(1+\frac{t^2}{m})} dv \\
&= \frac{e^{-\frac{\lambda^2}{2}}}{\sqrt{\pi m} \Gamma \left( \frac{m}{2} \right)} \sum_{j=0}^{\infty} \frac{t^j \lambda^j}{j! m^{\frac{j}{2}} 2^{\frac{m+1}{2}}} \left(\frac{2}{1+\frac{t^2}{m}}\right)^{\frac{m+1+j}{2}} \Gamma \left( \frac{m+1+j}{2} \right) \\
&= \frac{e^{-\frac{\lambda^2}{2}}}{\sqrt{\pi m} \Gamma \left( \frac{m}{2} \right)} \sum_{j=0}^{\infty} \frac{\Gamma \left( \frac{m+1+j}{2} \right) 2^{\frac{j}{2}} t^j \lambda^j}{\left(\frac{2}{1+\frac{t^2}{m}}\right)^{\frac{m+1+j}{2}} j! m^{\frac{j}{2}}}
\end{align}
$$
上記が(4.26)式と一致する。

問題4.9の解答例

問題4.10の解答例

「特定の区間の期待値が発散　$\implies$ 有限の期待値・分散を持たない」より、「特定の区間の期待値が発散すること」を示す。ここでは$1 \leq t < \infty$の区間における積分$\displaystyle \int_{1}^{\infty} tf(t) dt$が正の無限大に発散することを示す。
$$
\large
\begin{align}
\int_{1}^{\infty} tf(t) dt &= \int_{1}^{\infty} t \times \frac{1}{\pi (1+t^2)} dt \\
&= \frac{1}{\pi} \int_{1}^{\infty} \frac{t}{(1+t^2)} dt
\end{align}
$$

ここで$1 \leq t$で、$\displaystyle \frac{t}{(1+t^2)} \geq \frac{1}{2t}$が成立することを確認する。
$$
\large
\begin{align}
\frac{t^2}{(1+t^2)} \geq \frac{1}{2} \\
\frac{t}{(1+t^2)} \geq \frac{1}{2t} \quad (2)
\end{align}
$$

(1)式において(2)を考えることにより、下記のように積分の発散を示せる。
$$
\large
\begin{align}
\int_{1}^{\infty} tf(t) dt &= \frac{1}{\pi} \int_{1}^{\infty} \frac{t}{(1+t^2)} dt \\
&\geq \frac{1}{\pi} \int_{1}^{\infty} \frac{1}{2t} dt \\
&= \frac{1}{2 \pi} \int_{1}^{\infty} \frac{1}{t} dt \\
&= \frac{1}{2 \pi} \left[ \log{t} \right]_{1}^{\infty} \\
&= \infty
\end{align}
$$
ここまでの議論により、「コーシー分布は有限の期待値や分散を持たないこと」を示すことができる。

次に、$\displaystyle X = \tan{\left( \pi \left( U – \frac{1}{2} \right) \right)}$がコーシー分布に従うことを示す。$X, U$の確率密度関数をそれぞれ$f(x), g(u)$とおくと変数変換の式より下記が成立する。
$$
\large
\begin{align}
f(x) = g(u) \cdot \frac{du}{dx}
\end{align}
$$

$\displaystyle \frac{du}{dx}$を導出するにあたって、$u$を$x$の式で表す。
$$
\large
\begin{align}
x &= \tan{\left( \pi \left( u – \frac{1}{2} \right) \right)} \\
\tan^{-1}{(x)} &= \pi \left( u – \frac{1}{2} \right) \\
u – \frac{1}{2} &= \frac{1}{\pi} \tan^{-1}{(x)} \\
u &= \frac{1}{\pi} \tan^{-1}{(x)} + \frac{1}{2}
\end{align}
$$
$\displaystyle (\tan^{-1}{(x)})’ = \frac{1}{1+x^2}$より、$\displaystyle \frac{du}{dx}$は下記のように求めることができる。
$$
\large
\begin{align}
\frac{du}{dx} &= \frac{1}{\pi} \times \frac{1}{1+x^2} \\
&= \frac{1}{\pi(1+x^2)}
\end{align}
$$
$\displaystyle (\tan^{-1}{(x)})’ = \frac{1}{1+x^2}$に関しては導出が少々複雑なのでここでは省略し、下記で詳しく取り扱った。
https://www.hello-statisticians.com/explain-terms-cat/diff_formula1.html

$U \sim U[0,1]$から$g(u)=1$が成立するので、$f(x)$は下記のように表すことができる。
$$
\large
\begin{align}
f(x) &= g(u) \cdot \frac{du}{dx} \\
&= 1 \cdot \frac{1}{\pi(1+x^2)} \\
&= \frac{1}{\pi(1+x^2)}
\end{align}
$$
上記はコーシー分布の確率密度関数に一致するので、$\displaystyle X = \tan{\left( \pi \left( U – \frac{1}{2} \right) \right)}$がコーシー分布に従うことがわかる。

また、密度関数の積分を考えることで累積分布関数についても示すことができる。

問題4.11の解答例

式(3.37)の分散の公式より、下記が成立する。
$$
\large
\begin{align}
V[(X_1+…+X_N)] = \sum_{i=1}^{N} V[X_i] + 2 \sum_{i<j} Cov[X_i,X_j] \quad (1)
\end{align}
$$

ここで無作為抽出かつ$V[X_1]=\sigma^2$であることから、$V[X_i]=\sigma^2$が成立し、$Cov[X_i,X_j]$に関しても$Cov[X_i,X_j]=Cov[X_1,X_2]$が成立する。よって、(1)式は下記のように変形できる。
$$
\large
\begin{align}
V[(X_1+…+X_N)] &= \sum_{i=1}^{N} V[X_i] + 2 \sum_{i<j} Cov[X_i,X_j] \\
&= N V[X_1] + N(N-1)Cov[X_1,X_2] \\
&= N \sigma^2 + N(N-1)Cov[X_1,X_2] \quad (2)
\end{align}
$$

また、有限抽出を母集団の総標本と同じ数だけ行った場合、$X_1+…+X_N=a_1+…+a_N$のように定数となり、$V[X_1+…+X_N]=0$となる。(2)式において$V[X_1+…+X_N]=0$を考えることで、$Cov[X_1,X_2]$は下記のように導出することができる。
$$
\large
\begin{align}
V[(X_1+…+X_N)] &= 0 \\
N \sigma^2 + N(N-1)Cov[X_1,X_2] &= 0 \\
N(N-1)Cov[X_1,X_2] &= -N \sigma^2 \\
Cov[X_1,X_2] &= – \frac{N \sigma^2}{N(N-1)} \\
Cov[X_1,X_2] &= – \frac{\sigma^2}{N-1}
\end{align}
$$

問題4.12の解答例

問題4.13の解答例

問題4.14の解答例

区間$[0,1]$における一様分布の$U[0,1]$を元に考える。このとき、順序統計量$X_{(i)}$の標本分布の確率密度関数は、下記で表した式(4.50)のようになる。
$$
\large
\begin{align}
f_{X_{(i)}} = \frac{n!}{(i-1)!(n-i)!} x^{i-1}(1-x)^{n-i} = \frac{x^{i-1}(1-x)^{n-i}}{B(i,n-i+1)} \quad (4.50)
\end{align}
$$
式(4.50)はベータ分布$Be(i,n-i+1)$の確率密度関数を表す。

ここでベータ分布$Be(a,b)$の期待値$E[X]$や分散の$V[X]$は、下記のように表すことができる。
$$
\large
\begin{align}
E[X] &= \frac{a}{a+b} \quad (1) \\
V[X] &= \frac{ab}{(a+b)^2(a+b+1)} \quad (2)
\end{align}
$$
詳しい導出については下記で取りまとめを行った。
https://www.hello-statisticians.com/explain-terms-cat/beta_distribution1.html#i-5

(1)式、(2)式に$a=i, b=n-i+1$を代入することで標本分布の期待値$E[X]$と分散$V[X]$は下記のように求めることができる。
$$
\large
\begin{align}
E[X] &= \frac{a}{a+b} \\
&= \frac{i}{i+n-i+1} \\
&= \frac{i}{n+1} \\
V[X] &= \frac{ab}{(a+b)^2(a+b+1)} \\
&= \frac{i(n-i+1)}{(i+n-i+1)^2(i+n-i+1+1)} \\
&= \frac{i(n-i+1)}{(n+1)^2(n+2)}
\end{align}
$$

当記事は「現代数理統計学(学術図書出版社)」の読解サポートにあたってChapter.3の「多次元の確率変数」の章末問題の解説について行います。

新装改訂版 現代数理統計学

竹村 彰通

2,970円(11/10 22:18時点)

Amazon

基本的には書籍の購入者向けの解説なので、まだ入手されていない方は購入の上ご確認ください。また、解説はあくまでサイト運営者が独自に作成したものであり、書籍の公式ページではないことにご注意ください。（そのため著者の意図とは異なる解説となる可能性はあります）

↓下記が公式の解答なので、正確にはこちらを参照ください。
https://www.gakujutsu.co.jp/text/isbn978-4-7806-0860-1/

章末の演習問題について

問題3.1の解答例

上図のように考えることで示すことができる。

問題3.2の解答例

$$
\large
\begin{align}
F(x_1, x_2, …, x_n) = F(x_1)F(x_2)…F(x_n) \quad (1)
\end{align}
$$
$(1)$式から離散分布の場合$(3.6)$式、連続分布の場合$(3.14)$式を示せばよい。

・連続分布の場合
$(1)$の両辺を$x_1, x_2, …, x_n$で微分することを考える。
$$
\large
\begin{align}
\frac{\partial}{\partial x_1}…\frac{\partial}{\partial x_n} F(x_1, x_2, …, x_n) &= \frac{\partial}{\partial x_1}…\frac{\partial}{\partial x_n}F(x_1)F(x_2)…F(x_n) \\
f(x_1, x_2, …, x_n) &= \prod_{i=1}^{n} \frac{\partial}{\partial x_i} F(x_i) \\
&= \prod_{i=1}^{n} f(x_i)
\end{align}
$$
上記は$(3.14)$式と同義である。

・離散分布の場合
$(3.9)$式、$(3.10)$式を考えることで連続分布の場合と同様に(3.6)式を導出できる。

問題3.3の解答例

$(3.29)$式より、$r$と$\theta$が独立かつ、$\theta$は$0 \leq \theta \leq 2\pi$の一様分布に従うことがわかる。

また、$v=r^2$を用いて変数変換を行うことを考える。変換後を$g(v,\theta)$のようにおくと、下記のように計算を行うことができる。
$$
\large
\begin{align}
g(v,\theta) &= f(r,\theta) \frac{dr}{dv} \\
&= f(\sqrt{v},\theta) \times \frac{1}{2 \sqrt{v}} \\
&= c^2 \sqrt{v} \exp \left( -\frac{v}{2} \right) \times \frac{1}{2 \sqrt{v}} \\
&= \frac{c^2}{2} \exp \left( -\frac{v}{2} \right) \\
& \propto \exp \left( -\frac{v}{2} \right)
\end{align}
$$
上記より、$r^2$は指数分布$Ex(2)$に従うことがわかる。

問題3.4の解答例

問題3.5の解答例

$Z = a_1X_1 + a_2X_2 + … + a_nX_n$を考えた際、$Z$の分散$V[Z]$は分散の定義より下記のように表すことができる。
$$
\large
\begin{align}
V[Z] &= E[(Z-E[Z])^2] \\
&= E[(a_1X_1 + a_2X_2 + … + a_nX_n-E[a_1X_1 + a_2X_2 + … + a_nX_n])^2] \\
&= E[((a_1X_1-E[a_1X_1])+…+(a_nX_n-E[a_nX_n]))^2] \\
&= E[(a_1(X_1-E[X_1])+…+a_n(X_n-E[X_n]))^2] \\
&= E \left[ \sum_{i=1}^{n} a_i^2(X_i-E[X_i])^2 + 2\sum_{i<j} a_ia_j(X_i-E[X_i])(X_j-E[X_j]) \right] \\
&= E \left[ \sum_{i=1}^{n} a_i^2(X_i-E[X_i])^2 \right] + 2 E \left[ \sum_{i<j} a_ia_j(X_i-E[X_i])(X_j-E[X_j]) \right] \\
&= \sum_{i=1}^{n} a_i^2 E[(X_i-E[X_i])^2] + 2 \sum_{i<j} a_ia_j E[(X_i-E[X_i])(X_j-E[X_j])] \\
&= \sum_{i=1}^{n} a_i^2 V[X_i] + 2 \sum_{i<j} a_ia_j Cov(X_i,X_j)
\end{align}
$$

上記より、式$(3.37)$が成立することを示すことができる。

問題3.6の解答例

$$
\large
\begin{align}
\mathbf{X} = \left(\begin{array}{c} X_1 \\ … \\ X_n \end{array} \right)
\end{align}
$$

上記のように$n$次元確率ベクトルの$\mathbf{X}$を定義する。$(3.40)$式は$n$次元の定数ベクトル$\mathbf{a}$と$n$次の定数行列$\mathbf{B}$に関して下記のように表される。
$$
\large
\begin{align}
E[\mathbf{a} + \mathbf{B}\mathbf{X}] = \mathbf{a} + \mathbf{B}E[\mathbf{X}] \quad (1)
\end{align}
$$

以下、上記の$(1)$式を示す。
$\mathbf{a} + \mathbf{B}\mathbf{X}$は下記のように計算できる。
$$
\large
\begin{align}
\mathbf{a} + \mathbf{B}\mathbf{X} &= \left(\begin{array}{c} a_1 \\ … \\ a_n \end{array} \right) + \left(\begin{array}{ccc} B_{11} & … & B_{1n} \\ … & … & … \\ B_{n1} & … & B_{nn} \end{array} \right) \left(\begin{array}{c} X_1 \\ … \\ X_n \end{array} \right) \\
&= \left(\begin{array}{c} a_1 + B_{11}X_1+B_{12}X_2+…+B_{1n}X_n \\ … \\ a_n + B_{n1}X_1+B_{n2}X_2+…+B_{nn}X_n \end{array} \right)
\end{align}
$$

上記の期待値を取ることで、$E[\mathbf{a} + \mathbf{B}\mathbf{X}]$は下記のように表せる。
$$
\large
\begin{align}
E[ \mathbf{a} + \mathbf{B}\mathbf{X} ] &= E \left[ \left(\begin{array}{c} a_1 + B_{11}X_1+B_{12}X_2+…+B_{1n}X_n \\ … \\ a_n + B_{n1}X_1+B_{n2}X_2+…+B_{nn}X_n \end{array} \right) \right] \\
&= \left(\begin{array}{c} a_1 + E[ B_{11}X_1+B_{12}X_2+…+B_{1n}X_n ] \\ … \\ a_n + E[ B_{n1}X_1+B_{n2}X_2+…+B_{nn}X_n ] \end{array} \right) \\
&= \left(\begin{array}{c} a_1 + B_{11}E[X_1]+B_{12}E[X_2]+…+B_{1n}E[X_n] \\ … \\ a_n + B_{n1}E[X_1]+B_{n2}E[X_2]+…+B_{nn}E[X_n] \end{array} \right) \\
&= \mathbf{a} + \left( \begin{array}{c} B_{11}E[X_1]+B_{12}E[X_2]+…+B_{1n}E[X_n] \\ … \\ B_{n1}E[X_1]+B_{n2}E[X_2]+…+B_{nn}E[X_n] \end{array} \right) \\
&= \mathbf{a} + \mathbf{B} E[\mathbf{X}]
\end{align}
$$

上記より$(1)$式は示すことができる。

問題3.7の解答例

・$(3.42)$式の導出
$$
\large
\begin{align}
\mathbf{X} = \left(\begin{array}{c} X_1 \\ … \\ X_n \end{array} \right), \quad \mathbf{\mu} = \left(\begin{array}{c} \mu_1 \\ … \\ \mu_n \end{array} \right)
\end{align}
$$
上記のように$\mathbf{X}, \mathbf{\mu}$を定義する。このとき、$(\mathbf{X}-\mathbf{\mu})(\mathbf{X}-\mathbf{\mu})^{T}$は下記のように表すことができる。
$$
\large
\begin{align}
(\mathbf{X}-\mathbf{\mu})(\mathbf{X}-\mathbf{\mu})^{T} &= \left(\begin{array}{c} X_1-\mu_1 \\ … \\ X_n-\mu_n \end{array} \right) \left(\begin{array}{ccc} X_1-\mu_1 & … & X_n-\mu_n \end{array} \right) \\
&= \left(\begin{array}{ccc} (X_1-\mu_1)^2 & … & (X_1-\mu_1)(X_n-\mu_n) \\ … & … & … \\ (X_n-\mu_n)(X_1-\mu_1) & … & (X_n-\mu_n)^2 \end{array} \right)
\end{align}
$$

上記の両辺の期待値を取り、$E[(\mathbf{X}-\mathbf{\mu})(\mathbf{X}-\mathbf{\mu})^{T}]$を考えると下記のように変形できる。
$$
\large
\begin{align}
E[(\mathbf{X}-\mathbf{\mu})(\mathbf{X}-\mathbf{\mu})^{T}] &= E \left[ \left(\begin{array}{ccc} (X_1-\mu_1)^2 & … & (X_1-\mu_1)(X_n-\mu_n) \\ … & … & … \\ (X_n-\mu_n)(X_1-\mu_1) & … & (X_n-\mu_n)^2 \end{array} \right) \right] \\
&= \left(\begin{array}{ccc} E[(X_1-\mu_1)^2] & … & E[(X_1-\mu_1)(X_n-\mu_n)] \\ … & … & … \\ E[(X_n-\mu_n)(X_1-\mu_1)] & … & E[(X_n-\mu_n)^2] \end{array} \right) \\
&= \left(\begin{array}{ccc} V[X_1] & … & Cov(X_1,X_n) \\ … & … & … \\ Cov(X_n,X_1) & … & V[X_n] \end{array} \right) \\
&= \left(\begin{array}{ccc} \sigma_{11} & … & \sigma_{1n} \\ … & … & … \\ \sigma_{n1} & … & \sigma_{nn} \end{array} \right) \\
&= \Sigma
\end{align}
$$

・$(3.43)$式の導出

問題3.8の解答例

ポアソン分布、正規分布に関する再生性は下記で導出を行なったため省略する。

・ポアソン分布
https://www.hello-statisticians.com/explain-terms-cat/probdist3.html#i-5

・正規分布
https://www.hello-statisticians.com/explain-terms-cat/probdist3.html#i-8

以下、負の二項分布とガンマ分布に関して確認する。

・負の二項分布
https://www.hello-statisticians.com/explain-books-cat/math_stat_practice_ch2.html#28
上記の導出により、負の二項分布の確率母関数は下記のように表せる。
$$
\large
\begin{align}
G(s) = \frac{p^{r}}{(1-sq)^{r}}
\end{align}
$$

ここ負の二項分布のモーメント母関数を$m(t)$とおくと、$m(t)=G(e^t)$より、$m(t)$は下記のように表せる。
$$
\large
\begin{align}
m(t) &= G(s) \\
&= G(e^t) \\
&= \frac{p^{r}}{(1 – q e^t)^{r}}
\end{align}
$$

ここで確率変数$X_1$はパラメータ$p, q=1-p, r_1$の負の二項分布$NB(r_1,p)$に従い、確率変数$X_2$はパラメータ$p, q=1-p, r_2$の負の二項分布$NB(r_2,p)$に従うとする。また、このときのモーメント母関数を$m_{X_1}(t), m_{X_2}(t)$でおくことを考える。これに対して確率変数$X=X_1+X_2$に関するモーメント母関数を$m_{X}(t)$とすると、$m_{X}(t)$は下記のように表すことができる。
$$
\large
\begin{align}
m_{X}(t) &= E[e^{tX}] \\
&= E[e^{t(X_1+X_2)}] \\
&= E[e^{tX_1}]E[e^{tX_2}] \\
&= \frac{p^{r_1}}{(1 – q e^t)^{r_1}} \times \frac{p^{r_2}}{(1 – q e^t)^{r_2}} \\
&= \frac{p^{r_1+r_2}}{(1 – q e^t)^{r_1+r_2}}
\end{align}
$$
上記より、$(3.51)$式の$NB(r_1,p)*NB(r_2,p) = NB(r_1+r_2,p)$が導出できる。

・ガンマ分布
$(2.76)$式より、ガンマ分布$Ga(\nu,\alpha)$のモーメント母関数は下記のように表すことができる。
$$
\large
\begin{align}
m(t) = (1 – \theta \alpha)^{\nu}
\end{align}
$$

ここで確率変数$X_1$はパラメータ$\nu_1, \alpha$のガンマ分布$Ga(\nu_1, \alpha)$に従い、確率変数$X_2$はパラメータ$\nu_2, \alpha$のガンマ分布$Ga(\nu_2, \alpha)$に従うとする。また、このときのモーメント母関数を$m_{X_1}(t), m_{X_2}(t)$でおくことを考える。これに対して確率変数$X=X_1+X_2$に関するモーメント母関数を$m_{X}(t)$とすると、$m_{X}(t)$は下記のように表すことができる。
$$
\large
\begin{align}
m_{X}(t) &= E[e^{tX}] \\
&= E[e^{t(X_1+X_2)}] \\
&= E[e^{tX_1}]E[e^{tX_2}] \\
&= (1 – \theta \alpha)^{\nu_1} (1 – \theta \alpha)^{\nu_2} \\
&= (1 – \theta \alpha)^{\nu_1+\nu_2}
\end{align}
$$

上記より、$(3.51)$式の$Ga(\nu_1, \alpha)*Ga(\nu_2, \alpha) = Ga(\nu_1+\nu_2, \alpha)$が導出できる。

問題3.9の解答例

連続分布の場合に関して以下示す。$x, y$の同時確率密度関数を$f(x,y)$、確率変数$X$に関する周辺密度関数を$f_{X}(x)$と定義する。このとき、$E[g(X,Y)]$は下記のように変形できる。
$$
\large
\begin{align}
E[g(X,Y)] &= \int \int g(x,y) f(x,y) dx dy \\
&= \int \int g(x,y) f(x,y) dy dx \\
&= \int \left( \int g(x,y) \frac{f(x,y)}{f_{X}(x)} dy \right) f_{X}(x) dx \\
&= \int E[g(x,y)|X=x] f_{X}(x) dx \\
&= E[E[g(x,y)|X=x]]
\end{align}
$$

上記より$(3.55)$式を示すことができる。

問題3.10の解答例

$E[(Z-c)^2]$は下記のように変形できる。
$$
\large
\begin{align}
E[(Z-c)^2] &= E[Z^2 – 2Zc + c^2] \\
&= E[Z^2] -2cE[Z] + c^2 \\
&= (c-E[Z])^2 + E[Z^2] – (E[Z])^2
\end{align}
$$

$(c-E[Z])^2$は$c$に関して下に凸の二次関数であるので、上記より$E[(Z-c)^2]$を最小にする$c$は$c = E[Z]$であることがわかる。

問題3.11の解答例

$$
\large
\begin{align}
E[(Y – a – b_1X_1 – … – b_nX_n)^2] \qquad &(3.62) \\
a = E[Y] – b_1E[X_1] – … – b_nE[X_n] \quad &(3.63)
\end{align}
$$

上記のように$(3.62)$式、$(3.63)$式が与えられる。ここで$(3.63)$式を$(3.62)$式に代入する。
$$
\large
\begin{align}
& E[(Y – a – b_1X_1 – … – b_nX_n)^2] \\
&= E[(Y -(E[Y] – b_1E[X_1] – … – b_nE[X_n]) – b_1X_1 – … – b_nX_n)^2] \\
&= E[((Y – E[Y]) – b_1(X_1-E[X_1]) – … – b_n(E[X_n]-X_n))^2] \\
&= E[(Y – E[Y])^2] – 2\sum_{i=1}^{n}b_iE[(Y – E[Y])(X_i-E[X_i])] + \sum_{i=1}^{n}\sum_{j=1}^{n}b_ib_jE[(X_i-E[X_i])(X_j-E[X_j])] \\
&= V[Y] – 2\sum_{i=1}^{n}b_i Cov[Y,X_i] + \sum_{i=1}^{n}\sum_{j=1}^{n}b_ib_jCov[X_i,X_j] \quad (1)
\end{align}
$$

上記が$(3.64)$式に一致するので、$(3.64)$式を示すことができる。

次に、下記のように(1)式を$b_i$について偏微分し$0$とおく。
$$
\large
\begin{align}
\frac{\partial}{\partial b_i} \left( V[Y] – 2 \sum_{i=1}^{n}b_i Cov[Y,X_i] + \sum_{i=1}^{n}\sum_{j=1}^{n}b_ib_jCov[X_i,X_j] \right) = 0 \quad (2)
\end{align}
$$

ここで、上記の左辺の第$2$項と第$3$項についてそれぞれ微分を考える。
・第$2$項
$$
\large
\begin{align}
\frac{\partial}{\partial b_i} & \left( – 2 \sum_{i=1}^{n}b_i Cov[Y,X_i] \right) \\
&= -2 \frac{\partial}{\partial b_i} \left( b_1 Cov[Y,X_1] + … + b_i Cov[Y,X_i] + … + b_n Cov[Y,X_n] \right) \\
&= -2 Cov[Y,X_i]
\end{align}
$$

・第$3$項
$$
\large
\begin{align}
\frac{\partial}{\partial b_i} & \left( \sum_{i=1}^{n}\sum_{j=1}^{n}b_ib_jCov[X_i,X_j] \right) \\
&= \frac{\partial}{\partial b_i} \left( b_i^2 Cov[X_i,X_i] + 2 b_i\sum_{j \neq i} Cov[X_i,X_j] + Const \right) \\
&= 2b_i Cov[X_i,X_i] + 2 \sum_{j \neq i} Cov[X_i,X_j] \\
&= 2 \sum_{j=1}^{n} Cov[X_i,X_j]
\end{align}
$$

第$2$項、第$3$項の計算結果を$(2)$式に代入し、下記のように整理を行う。
$$
\large
\begin{align}
\frac{\partial}{\partial b_i} & \left( V[Y] – 2 \sum_{i=1}^{n}b_i Cov[Y,X_i] + \sum_{i=1}^{n}\sum_{j=1}^{n}b_ib_jCov[X_i,X_j] \right) = 0 \\
& -2 Cov[Y,X_i] + 2 \sum_{j=1}^{n} Cov[X_i,X_j] = 0 \\
& Cov[Y,X_i] = \sum_{j=1}^{n} b_jCov[X_i,X_j] \quad (3)
\end{align}
$$

$(3)$式が$(3.65)$式に一致するので、$(3.65)$式を示すことができる。

問題3.12の解答例

$n!$通りの並べ方を考えた上で、左から$y_1, y_2, …, y_n$のようにグループを割り当てていくと考えればよい。

このとき、同一のグループに所属するものの順番は考慮しないので、それぞれ$y_i!$通りの重複が生じる。よって、多項係数は下記のように表すことができる。
$$
\large
\begin{align}
\frac{n!}{y_1!y_2!…y_n!}
\end{align}
$$

また、多項分布の確率$P(Y_1=y_1, …, Y_n=y_n)$は下記のように表すことができる。
$$
\large
\begin{align}
P(Y_1=y_1, …, Y_n=y_n) = \frac{n!}{y_1!y_2!…y_n!} p^{y_1!}…p^{y_n!}
\end{align}
$$

問題3.13の解答例

問題3.14の解答例

$$
\large
\begin{align}
\mathbf{x} &= \left(\begin{array}{c} x_1 \\ … \\ x_n \end{array} \right), \quad \mathbf{\mu} = \left(\begin{array}{c} \mu_1 \\ … \\ \mu_n \end{array} \right) \\
\mathbf{\Sigma} &= \left(\begin{array}{c} \Sigma_{11} & … & \Sigma_{1n} \\ … \\ \Sigma_{n1} & … & \Sigma_{nn} \end{array} \right)
\end{align}
$$
上記のように$\mathbf{x}, \mathbf{\mu}, \mathbf{\Sigma}$を考える際に、多変量正規分布$N(\mathbf{\mu}, \mathbf{\Sigma})$の確率密度関数は下記のように表すことができる。
$$
\large
\begin{align}
f(\mathbf{x}) = \frac{1}{(2 \pi)^{n/2} (det \Sigma)^{1/2}} \exp \left\{ -\frac{1}{2} (\mathbf{x} – \mathbf{\mu})^{T} \Sigma^{-1} (\mathbf{x} – \mathbf{\mu}) \right\}
\end{align}
$$

$$
\large
\begin{align}
\mathbf{X} &= \left(\begin{array}{c} X_1 \\ … \\ X_n \end{array} \right) \\
\mathbf{t} &= \left(\begin{array}{c} t_1 \\ … \\ t_n \end{array} \right)
\end{align}
$$

このとき、上記のように$\mathbf{X}, \mathbf{t}$を定義し、モーメント母関数$m(\mathbf{t}) = E[e^{\mathbf{t}^{T} \mathbf{X}}]$を考える。
$$
\large
\begin{align}
m(\mathbf{t}) &= E \left[ e^{\mathbf{t}^{T} \mathbf{X}} \right] \\
&= \int e^{\mathbf{t}^{T} \mathbf{x}} f(\mathbf{x}) d \mathbf{x} \\
&= \int e^{\mathbf{t}^{T} \mathbf{x}} \times \frac{1}{(2 \pi)^{n/2} (det \Sigma)^{1/2}} \exp \left\{ -\frac{1}{2} (\mathbf{x} – \mathbf{\mu})^{T} \Sigma^{-1} (\mathbf{x} – \mathbf{\mu}) \right\} d \mathbf{x} \\
&= \frac{1}{(2 \pi)^{n/2} (det \Sigma)^{1/2}} \int \exp \left\{ \mathbf{t}^{T} \mathbf{x} – \frac{1}{2} (\mathbf{x} – \mathbf{\mu})^{T} \Sigma^{-1} (\mathbf{x} – \mathbf{\mu}) \right\} d \mathbf{x}
\end{align}
$$

上記の指数関数部分に対し、$\mathbf{x}$に関する平方完成を行うことを考える。
$$
\large
\begin{align}
\mathbf{t}^{T} \mathbf{x} – \frac{1}{2} (\mathbf{x} – \mathbf{\mu})^{T} \Sigma^{-1} (\mathbf{x} – \mathbf{\mu}) &= – \frac{1}{2} (\mathbf{x}^{T} \Sigma^{-1} \mathbf{x} – \mathbf{x}^{T} \Sigma^{-1} \mathbf{\mu} – \mathbf{\mu}^{T} \Sigma^{-1} \mathbf{x} + \mathbf{\mu}^{T} \Sigma^{-1} \mathbf{\mu} – 2 \mathbf{t}^{T} \mathbf{x}) \\
&= \frac{1}{2} (\mathbf{x}^{T} \Sigma^{-1} \mathbf{x} – 2 \mathbf{\mu}^{T} \Sigma^{-1} \mathbf{x} + \mathbf{\mu}^{T} \Sigma^{-1} \mathbf{\mu} – 2 \mathbf{t}^{T} \mathbf{x}) \\
&= – \frac{1}{2} (\mathbf{x}^{T} \Sigma^{-1} \mathbf{x} – 2 (\mathbf{\mu}^{T} \Sigma^{-1} + \mathbf{t}^{T}) \mathbf{x} + \mathbf{\mu}^{T} \Sigma^{-1} \mathbf{\mu}) \\
&= – \frac{1}{2} (\mathbf{x} – \mathbf{\mu} – \Sigma \mathbf{t})^{T} \Sigma^{-1} (\mathbf{x} – \mathbf{\mu} – \Sigma \mathbf{t}) + \mathbf{t}^{T} \mathbf{\mu} + \frac{1}{2} \mathbf{t}^{T} \Sigma^{-1} \mathbf{t}
\end{align}
$$

上記の右辺の$1$項目は積分により消えるため、モーメント母関数の下記が導出できる。
$$
\large
\begin{align}
m(\mathbf{t}) = \exp \left\{ \mathbf{t}^{T} \mathbf{\mu} + \frac{1}{2} \mathbf{t}^{T} \Sigma^{-1} \mathbf{t} \right\}
\end{align}
$$

問題3.15の解答例

$\mathbf{x}, \mathbf{y}, \mathbf{a}$はそれぞれ下記のような$n$次元ベクトルで定義できる。
$$
\large
\begin{align}
\mathbf{x} = \left(\begin{array}{c} x_1 \\ … \\ x_n \end{array} \right), \quad \mathbf{y} = \left(\begin{array}{c} y_1 \\ … \\ y_n \end{array} \right), \quad \mathbf{a} = \left(\begin{array}{c} a_1 \\ … \\ a_n \end{array} \right)
\end{align}
$$

$\mathbf{B}$が$n$次の正則行列であるので、$\mathbf{y} = \mathbf{a} + \mathbf{B}\mathbf{x}$は下記のように変形できる。
$$
\large
\begin{align}
\mathbf{y} &= \mathbf{a} + \mathbf{B}\mathbf{x} \\
\mathbf{B}\mathbf{x} &= \mathbf{y} – \mathbf{a} \\
\mathbf{x} &= \mathbf{B}^{-1} (\mathbf{y} – \mathbf{a})
\end{align}
$$

ここで$\mathbf{B}’ = \mathbf{B}^{-1}$を下記のように定義する。
$$
\large
\begin{align}
\mathbf{B}’ = \left(\begin{array}{c} B’_{11} & … & B’_{1n} \\ … & … & … \\ B’_{n1} & … & B’_{nn} \end{array} \right)
\end{align}
$$
このとき$\mathbf{x} = \mathbf{B}^{-1} (\mathbf{y} – \mathbf{a})$は下記のように表せる。
$$
\large
\begin{align}
\mathbf{x} &= \mathbf{B}^{-1} (\mathbf{y} – \mathbf{a}) \\
\mathbf{x} &= \mathbf{B}’ (\mathbf{y} – \mathbf{a}) \\
\left(\begin{array}{c} x_1 \\ … \\ x_n \end{array} \right) &= \left(\begin{array}{c} B’_{11} & … & B’_{1n} \\ … & … & … \\ B’_{n1} & … & B’_{nn} \end{array} \right) \left(\begin{array}{c} y_1 – a_1 \\ … \\ y_n – a_n \end{array} \right) \\
&= \left(\begin{array}{c} B’_{11}(y_1 – a_1)+…+B’_{1n}(y_n – a_n) \\ … \\ B’_{n1}(y_1 – a_1)+…+B’_{nn}(y_n – a_n) \end{array} \right)
\end{align}
$$

ここで、$J(\partial x / \partial y)$は下記のように計算できる。
$$
\large
\begin{align}
J(\partial x / \partial y) &= \left(\begin{array}{c} \partial x_1 / \partial y_1 & … & \partial x_1 / \partial y_n \\ … & … & … \\ \partial x_n / \partial y_1 & … & \partial x_n / \partial y_n \end{array} \right) \\
&= \left(\begin{array}{c} B’_{11} & … & B’_{1n} \\ … & … & … \\ B’_{n1} & … & B’_{nn} \end{array} \right) \\
&= \mathbf{B}^{-1}
\end{align}
$$

ここまでの議論により$J(\partial x / \partial y) = \mathbf{B}^{-1}$を示すことができる。

問題3.16の解答例

$$
\large
\begin{align}
f_{X,Y|Z}(x,y) = f_{X|Z}(x) f_{Y|Z}(y) \quad (3.18)
\end{align}
$$
上記の$(3.18)$式は条件付き確率の定義に基づいて、下記のように表すことができる。
$$
\large
\begin{align}
f_{X,Y|Z}(x,y) &= f_{X|Z}(x) f_{Y|Z}(y) \\
\frac{f_{X,Y,Z}(x,y,z)}{f_{Z}(z)} &= \frac{f_{X,Z}(x,z)}{f_{Z}(z)} \cdot \frac{f_{Y,Z}(y,z)}{f_{Z}(z)} \quad (1)
\end{align}
$$

ここで$(1)$式の両辺を$\displaystyle \frac{f_{Y,Z}(y,z)}{f_{Z}(z)}$で割ると下記のようになる。
$$
\large
\begin{align}
\frac{f_{X,Y,Z}(x,y,z)}{f_{Z}(z)} \cdot \frac{f_{Z}(z)}{f_{Y,Z}(y,z)} &= \frac{f_{X,Z}(x,z)}{f_{Z}(z)} \\
\frac{f_{X,Y,Z}(x,y,z)}{f_{Y,Z}(y,z)} &= \frac{f_{X,Z}(x,z)}{f_{Z}(z)}
\end{align}
$$
上記は$f_{X|Y,Z}(x) = f_{X|Z}(x)$を意味し、これは$(3.19)$式に一致する。

問題3.17の解答例

「$(3.18)$が成立 $\implies$ $f(x,y,z)=g(x,z)h(y,z)$」と「$f(x,y,z)=g(x,z)h(y,z)$ $\implies$ $(3.18)$が成立」に分けて示す。

・「$(3.18)$が成立 $\implies$ $f(x,y,z)=g(x,z)h(y,z)$」に関して
$$
\large
\begin{align}
f_{X,Y|Z}(x,y) = f_{X|Z}(x) f_{Y|Z}(y) \quad (3.18)
\end{align}
$$

上記の$(3.18)$式は条件付き確率の定義に基づいて、下記のように表すことができる。
$$
\large
\begin{align}
f_{X,Y|Z}(x,y) &= f_{X|Z}(x) f_{Y|Z}(y) \\
\frac{f_{X,Y,Z}(x,y,z)}{f_{Z}(z)} &= \frac{f_{X,Z}(x,z)}{f_{Z}(z)} \cdot \frac{f_{Y,Z}(y,z)}{f_{Z}(z)} \quad (1)
\end{align}
$$

ここで$(1)$式の両辺に$f_{Z}(z)$をかけると下記のようになる。
$$
\large
\begin{align}
\frac{f_{X,Y,Z}(x,y,z)}{f_{Z}(z)} \cdot f_{Z}(z) &= \frac{f_{X,Z}(x,z)}{f_{Z}(z)} \cdot \frac{f_{Y,Z}(y,z)}{f_{Z}(z)} \cdot f_{Z}(z) \\
f_{X,Y,Z}(x,y,z) &= f_{X,Z}(x,z) \cdot \frac{f_{Y,Z}(y,z)}{f_{Z}(z)}
\end{align}
$$
上記において、$\displaystyle g(x,y)=f_{X,Z}(x,z), h(y,z)=\frac{f_{Y,Z}(y,z)}{f_{Z}(z)}$とおくと、$f(x,y,z)=g(x,z)h(y,z)$が成立する。

・「$f(x,y,z)=g(x,z)h(y,z)$ $\implies$ $(3.18)$が成立」に関して
$f(x,y,z)=g(x,z)h(y,z)$のように表せる際に、下記のように$g_{Z}(z), h_{Z}(z)$を定義する。
$$
\large
\begin{align}
g_{Z}(z) &= \int g(x,z) dx \\
h_{Z}(z) &= \int h(y,z) dy
\end{align}
$$

このとき$f(x,y,z)=g(x,z)h(y,z)$より、下記のように表記することもできる。
$$
\large
\begin{align}
f_{X,Z}(x,z) &= g(x,z)h_{Z}(z) \\
f_{Y,Z}(y,z) &= g_{Z}(z)h(y,z) \\
f_{Z}(z) &= g_{Z}(z)h_{Z}(z)
\end{align}
$$

このとき条件付き確率分布の$f_{X,Y|Z}(x,y)$は下記のように表すことができる。
$$
\large
\begin{align}
f_{X,Y|Z}(x,y) &= \frac{f_{X,Y,Z}(x,y,z)}{f_{Z}(z)} \\
&= \frac{g(x,z)h(y,z)}{f_{Z}(z)} \\
&= \frac{f_{X,Z}(x,z)}{h_{Z}(z)} \cdot \frac{f_{Y,Z}(y,z)}{g_{Z}(z)} \cdot
\frac{1}{f_{Z}(z)} \\
&= \frac{f_{X,Z}(x,z)}{f_{Z}(z)} \cdot \frac{f_{Y,Z}(y,z)}{g_{Z}(z)h_{Z}(z)} \\
&= \frac{f_{X,Z}(x,z)}{f_{Z}(z)} \cdot \frac{f_{Y,Z}(y,z)}{f_{Z}(z)} \\
&= f_{X|Z}(x) f_{Y|Z}(y)
\end{align}
$$
上記は$(3.18)$式に一致する。

問題3.18の解答例

$$
\large
\begin{align}
Z_i &= X_iY_i \\
X_i-Z_i &= X_i – X_iY_i \\
&= X_i(1-Y_i) \\
Y_i-Z_i &= Y_i – X_iY_i \\
&= (1-X_i)Y_i \\
1 – X_i – Y_i + Z_i &= 1 – X_i – Y_i + X_iY_i \\
&= (1 – X_i)(1 – Y_i)
\end{align}
$$

上記のように考え、$X_i, Y_i \in \left\{0, 1 \right\}$であることを考慮すると、$(Z_i, X_i-Z_i, Y_i-Z_i, 1-X_i-Y_i+Z_i)$はどれか$1$つのみが$1$でその他が$0$に対応する。これは$4$次元のベルヌーイ試行になる。また、$(Z_i, X_i-Z_i, Y_i-Z_i, 1-X_i-Y_i+Z_i)$のそれぞれの和が$(Z, X-Z, Y-Z, n-X-Y+Z)$に対応するので、これは$4$項分布に従うことを意味する。このとき、確率変数$(Z_i, X_i-Z_i, Y_i-Z_i, 1-X_i-Y_i+Z_i)$の成功確率は$p_1p_2, p_1(1-p_2), (1-p_1)p_2, (1-p_1)(1-p_2)$にそれぞれ対応する。

この$4$項分布の確率関数$P(z,x-z,y-z,n-x-y+z|p_1p_2, p_1(1-p_2), (1-p_1)p_2, (1-p_1)(1-p_2))$は下記のように表すことができる。
$$
\large
\begin{align}
& P(z,x-z,y-z,n-x-y+z|p_1p_2, p_1(1-p_2), (1-p_1)p_2, (1-p_1)(1-p_2)) \\
&= \frac{n!}{z!(x-z)!(y-z)!(n-x-y+z)!} (p_1p_2)^{z} (p_1(1-p_2))^{x-z} ((1-p_1)p_2)^{y-z} ((1-p_1)(1-p_2))^{n-x-y+z} \\
&= \frac{n!}{z!(x-z)!(y-z)!(n-x-y+z)!} p_1^{z+x-z}p_2^{z+y-z}(1-p_1)^{y-z+n-x-y+z}(1-p_2)^{x-z+n-x-y+z} \\
&= \frac{n!}{z!(x-z)!(y-z)!(n-x-y+z)!} p_1^{x}p_2^{y}(1-p_1)^{n-x}(1-p_2)^{n-y}
\end{align}
$$

また、$X, Y$はそれぞれ独立に二項分布に従い、それぞれの確率関数$P(x,n-x|p_1,n), P(y,n-y|p_2,n)$は下記のように表すことができる。
$$
\large
\begin{align}
P(x,n-x|p_1,n) &= \frac{n!}{x!(n-x)!} p_1^{x}(1-p_1)^{n-x} \\
P(y,n-y|p_2,n) &= \frac{n!}{y!(n-y)!} p_1^{y}(1-p_2)^{n-y}
\end{align}
$$

よって、$X, Y$が与えられた際の$Z$の条件付き分布$P(X=x,Y=y|Z=z)$は下記のようになる。
$$
\large
\begin{align}
& P(X=x,Y=y|Z=z) \\
&= \frac{P(z,x-z,y-z,n-x-y+z|p_1p_2, p_1(1-p_2), (1-p_1)p_2, (1-p_1)(1-p_2))}{P(x,n-x|p_1,n)P(y,n-y|p_2,n)} \\
&= \frac{n! p_1^{x}p_2^{y}(1-p_1)^{n-x}(1-p_2)^{n-y}}{z!(x-z)!(y-z)!(n-x-y+z)!} \times \frac{x!(n-x)!}{n! p_1^{x}(1-p_1)^{n-x}} \times \frac{y!(n-y)!}{n! p_2^{y}(1-p_2)^{n-y}} \\
&= \frac{n!}{z!(x-z)!(y-z)!(n-x-y+z)!} \times \frac{x!(n-x)!}{n!} \times \frac{y!(n-y)!}{n!} \\
&= \frac{x!(n-x)!y!(n-y)!}{n!z!(x-z)!(y-z)!(n-x-y+z)!}
\end{align}
$$

・考察
超幾何分布の$N,M,n,k$を解釈すると、「壺に玉が赤玉が$M$個、白玉が$N-M$個の計$N$個入っており、$n$個非復元抽出を行った際の赤玉の個数が$k$個になる際の確率」を考える確率分布である。
これを$(1)$式に置き換えると、「全$n$個のうちの$x$個が赤、$n-x$個が白の際に、$y$個抽出した際に$z$個が赤玉である確率を表す」と考えることができる。
ここで「赤かつ選ばれた場合」を$z$個とカウントしているが、「$Z_i=X_iY_i$は$X_i=1$かつ$Y_i=1$を表す」と考えることで、ここで論じられた$4$項分布と超幾何分布の関連を見て取ることができる。

問題3.19の解答例

$$
\large
\begin{align}
u &= xy \quad (1) \\
v &= \frac{x}{y} \quad (2)
\end{align}
$$

上記に関して逆変換の導出を行う。$(2)$式を変形した$x=vy$を$(1)$式に代入する。
$$
\large
\begin{align}
u &= vy \times y \\
y^2 &= \frac{u}{v} \\
y &= \sqrt{\frac{u}{v}}
\end{align}
$$

上記で得られた$y$を$x=vy$に代入すると下記が得られる。
$$
\large
\begin{align}
x &= vy \\
&= v \sqrt{\frac{u}{v}} \\
&= \sqrt{uv}
\end{align}
$$

よって、下記のような逆変換が得られる。
$$
\large
\begin{align}
x &= \sqrt{uv} \quad (3) \\
y &= \sqrt{\frac{u}{v}} \quad (4)
\end{align}
$$

$(3)$式、$(4)$式で表した逆変換に基づいて、ヤコビ行列$\mathbf{J}$を下記のように考える。
$$
\large
\begin{align}
\mathbf{J} &= \left(\begin{array}{cc} \frac{\partial x}{\partial u} & \frac{\partial x}{\partial v} \\ \frac{\partial y}{\partial u} & \frac{\partial y}{\partial v} \end{array} \right) \\
&= \left(\begin{array}{cc} \frac{\partial}{\partial u} \sqrt{uv} & \frac{\partial}{\partial v} \sqrt{uv} \\ \frac{\partial}{\partial u} \sqrt{\frac{u}{v}} & \frac{\partial}{\partial v} \sqrt{\frac{u}{v}} \end{array} \right) \\
&= \frac{1}{2} \left(\begin{array}{cc} \sqrt{\frac{v}{u}} & \sqrt{\frac{u}{v}} \\ \sqrt{\frac{1}{uv}} & -\sqrt{\frac{u}{v^3}} \end{array} \right) \quad (5)
\end{align}
$$

$(5)$式を元にヤコビアン$|\det \mathbf{J}|$の計算を行う。
$$
\large
\begin{align}
|\det \mathbf{J}| &= \frac{1}{2^2} \left| \sqrt{\frac{v}{u}} \cdot \left( -\sqrt{\frac{u}{v^3}} \right) – \sqrt{\frac{u}{v}} \cdot \sqrt{\frac{1}{uv}} \right| \\
&= \frac{1}{4} \left| -\frac{1}{v} – \frac{1}{v} \right| \\
&= \frac{1}{2v} \quad (6)
\end{align}
$$
$(6)$式の導出にあたっては$x \geq 0, y \geq 0$より$v$が非負であることを前提に絶対値を外した。

次に確率密度関数について考える。$X,Y$に関する確率密度関数の$f(x,y)$は、下記のように表すことができる。
$$
\large
\begin{align}
f(x,y) &= 1, \quad if \quad 0 \leq x \leq 1 \quad and \quad 0 \leq y \leq 1 \\
&= 0, \quad otherwise
\end{align}
$$
$U,V$に関する確率密度関数を$g(u,v)$とすると、$\displaystyle g(u,v) = f(x,y)|\det \mathbf{J}|$が成立する。変換式より$f(x,y)=0$の場合は$g(u,v)=0$であるので、以下は$0 \leq x \leq 1, 0 \leq y \leq 1$に対応する$u,v$の範囲のみを考える。

$0 \leq x \leq 1, 0 \leq y \leq 1$と$(3)$式、$(4)$式より、$u,v$に関して下記の式が成立する。
・$0 \leq x \leq 1$
$$
\large
\begin{align}
0 \leq &\sqrt{uv} \leq 1 \\
0 \leq &uv \leq 1 \\
0 \leq &u \leq \frac{1}{v} \quad (7)
\end{align}
$$
・$0 \leq y \leq 1$
$$
\large
\begin{align}
0 \leq &\sqrt{\frac{u}{v}} \leq 1 \\
0 \leq &\frac{u}{v} \leq 1 \\
0 \leq &u \leq v \quad (8)
\end{align}
$$
不等号の計算にあたっては$v$が非負であることを前提に計算を行った。

$(7)$式、$(8)$式を元に、$0 \leq x \leq 1, 0 \leq y \leq 1$に対応する$u,v$に対して$\displaystyle g(u,v) = f(x,y)|\det \mathbf{J}|$を考える。
$$
\large
\begin{align}
g(u,v) &= f(x,y)|\det \mathbf{J}| \\
&= \frac{1}{2v}, \quad if \quad 0 \leq u \leq \frac{1}{v} \quad and \quad 0 \leq u \leq v \quad (9)
\end{align}
$$

また、$V$に関する周辺密度関数$g(v)$は$(9)$式を$u$に関して積分することで得られる。
$$
\large
\begin{align}
g(v) &= \int_{0}^{\infty} g(u,v) du \\
&= \int_{0}^{\max \{v,1/v\}} \frac{1}{2v} du \\
&= \left[ \frac{u}{2v} \right]_{0}^{\max \{v,1/v\}} \\
&= \frac{1}{2v} \max \{v,1/v\} \\
&= \frac{1}{2} \max \{1,1/v^2\}
\end{align}
$$

・考察
一様分布に関しては式だけではわかりにくいため、以下図示を行う。

まず$g(u,v)$に関しては、上記のように図示を行った。赤線があるところが確率密度関数の$g(u,v)$が$0$ではない領域を表しており、$v$が$0$に近い方が確率密度関数の値が大きくなることは線の幅で表した。

次に周辺密度関数の$g(v)$に関しては上記のように表した。$v \leq 1$では一様分布であり、$v>1$では$1/v^2$に一致することを抑えておくと良いと思われる。

問題3.20の解答例

確率変数$Z$が連続である場合と離散である場合に分けて示す。

・$Z$が連続
$E[|Z-c|]$は確率密度関数の$f(z)$を用いて下記のように表すことができる。
$$
\large
\begin{align}
E[|Z-c|] = \int_{-\infty}^{c} -(x-c) f(x) dx + \int_{c}^{\infty} (x-c) f(x) dx
\end{align}
$$

上記を$c$で微分すると下記のようになる。
$$
\large
\begin{align}
\frac{d E[|Z-c|]}{dc} &= \int_{-\infty}^{c} f(x) dx – \int_{c}^{\infty} f(x) dx \\
&= P(Z \leq c) – P(Z > c)
\end{align}
$$

$c$に関する最小値を考えるので、$\displaystyle \frac{d E[|Z-c|]}{dc} = 0$より、下記が成立する。
$$
\large
\begin{align}
\frac{d E[|Z-c|]}{dc} &= 0 \\
P(Z \leq c) – P(Z > c) &= 0 \\
P(Z \leq c) &= P(Z > c)
\end{align}
$$

確率の定義より$P(Z \leq c) + P(Z > c) = 1$となるので、下記が成立する。
$$
\large
\begin{align}
P(Z \leq c) = P(Z > c) = \frac{1}{2}
\end{align}
$$
上記は$c$がメディアンであることを表すので、$E[|Z-c|]$を最小にする定数$c$は$Z$の分布のメディアンである。

・$Z$が離散
$E[|Z-c|]$は確率関数の$p(z)$を用いて下記のように表すことができる。
$$
\large
\begin{align}
E[|Z-c|] = \sum_{x=-\infty}^{c} -(x-c) p(x) + \sum_{x=c+1}^{\infty} (x-c) p(x)
\end{align}
$$

上記を$c$で微分すると下記のようになる。
$$
\large
\begin{align}
\frac{d E[|Z-c|]}{dc} = \sum_{x=-\infty}^{c} p(x) – \sum_{x=c}^{\infty} p(x) \\
P(Z \leq c) – P(Z > c) &= 0 \\
P(Z \leq c) &= P(Z > c)
\end{align}
$$

上記は連続の場合と同じ式であり、連続の場合と同様に$P(Z \leq c) + P(Z > c) = 1$を用いて、$E[|Z-c|]$を最小にする定数$c$は$Z$の分布のメディアンであることを示すことができる。

問題3.21の解答例