「統計学実践ワークブック」 演習問題中心 第4章 「変数変換」

統計検定準$1$級対応の公式テキストである「統計学実践ワークブック」を1章から順に演習問題を中心に解説していきます。
今回は第$4$章「変数変換」です。

重要ポイント

確率変数にある関数をかけて変換したいことがあります。例えば、対数正規分布を考えた場合など。

Xの確率密度関数$f(X)$とした場合に、新たな確率変数$Y=g(X)$とした場合のYの確率密度関数は、単純に$f(g(X))$ではありません。以下の式となります。

$$
\begin{align}
h(y) &= f(g^{-1}(y))\frac{d(g^{-1}(y))}{dy}
\end{align}
$$

この辺りの詳説は別途記事を作成予定です。また、参考文献に挙げている書籍がわかりやすいと思います。

変数変換と置換積分

「問題演習で理解する統計学【$15$】」の「変数変換と置換積分」で取り扱いました。

ヤコビアンの図形的解釈

問題演習で理解する統計学【$15$】」の「行列式$\det \mathbf{A}$の図形的解釈と平行四辺形の面積」と「ヤコビ行列$\mathbf{J}$とヤコビアン$\det \mathbf{J}$」で取り扱いました。

演習問題解説

問4.1

対数正規分布に従う確率変数Yの期待値、分散、確率密度関数を導出せよという問題です。

正規分布に従う確率変数$X$に指数関数をかけて変換したものを$Y$という確率変数にすることで、対数正規分布が得られます。ということで、変数変換を使って導出していこうというのが問題の趣旨になります。

(1) $Y$の期待値を求めよ

正規分布に従う確率変数$X$を利用して、$\exp(X)$の期待値を考えます。定義に従って愚直に計算していけば導出できますが、次の問では分散を導出することになっているため、モーメント母関数を利用します。

モーメント母関数$m(\theta)$は、$m(\theta) = E[\exp \left\{ \theta X \right\}]$です。つまり、$\theta=1$とすれば$Y$の期待値が導出できることがわかります。

$$
\begin{align}
E[\exp \left\{ \theta X \right\}] &= \int \exp\left\{ \theta X \right\} \frac{1}{\sqrt{2 \pi \sigma^2}}\exp \left\{ – \frac{(x-\mu)^2}{2\sigma^2} \right\} dx \\
&= \frac{1}{ \sqrt{2 \pi \sigma^2} } \int \exp\left\{ \theta x – \frac{(x-\mu)^2}{2\sigma^2} \right\} dx \\
&= \frac{1}{ \sqrt{2 \pi \sigma^2} } \int \exp \left\{ – \frac{x^2 – 2\mu x + \mu^2 – 2 \sigma^2 \theta x}{2 \sigma^2} \right\} dx \\
&= \frac{1}{ \sqrt{2 \pi \sigma^2} } \int \exp \left\{ – \frac{1}{2\sigma^2} (x – \mu – \sigma^2 \theta)^2 + \left( \theta \mu + \frac{\theta^2}{2}\sigma^2 \right) \right\} dx \\
&= \frac{1}{ \sqrt{2 \pi \sigma^2} } \exp \left\{ \theta \mu + \frac{\theta^2}{2}\sigma^2 \right\} \int \exp \left\{ – \frac{1}{2\sigma^2} (x – \mu – \sigma^2 \theta)^2 \right\} dx
\end{align}
$$

上記の3行目から4行目への変換は平方完成をしただけです。これで、$x$に関する項と$x$が関係しない項に分解できるので、積分の中の一部を外に出すことができシンプルになります(5行目)。
最後に残った積分ですが、$(x – \mu – \sigma^2 \theta) = t$とおくことで、ガウス積分が利用できることがわかります。

$$
\begin{align}
\int \exp \left\{ – \frac{1}{2\sigma^2} (x – \mu – \sigma^2 \theta)^2 \right\} dx &= \int \exp\left\{ – \frac{1}{2\sigma^2} t^2 \right\} dt \\
&= \sqrt{2 \pi \sigma^2}
\end{align}
$$

よって、正規分布のモーメント母関数$m(\theta)$は次のようになることがわかります。

$$
\begin{align}
m(\theta) &= E[\exp \left\{ \theta X \right\}] \\
&= \exp \left\{ \theta\mu + \frac{\theta^2}{2} \sigma^2 \right\}
\end{align}
$$

ここから、$\theta=1$として、$Y = \exp \{X\}$の期待値が導出できます。

$$
E[\exp \left\{ X \right\}] = \exp \left\{ \mu + \frac{1}{2} \sigma^2 \right\}
$$

(2) $Y$の分散を求めよ

分散は以下のように変形できます(参考)。

$$
\begin{align}
V[Y] = E[Y^2] – (E[Y])^2
\end{align}
$$

$E[Y]$については(1)で導出しているので、$E[Y^2]$を考えます。ここで、$Y^2 = \exp \left\{ 2X \right\}$となるため、$E[Y^2]$は$E[Y^2] = E[\exp \left\{ 2X \right\}]$となります。これは(1)で求めた正規分布のモーメント母関数で$\theta=2$とおいたものになります。

$$
\begin{align}
E[Y^2] &= E[\exp \left\{ 2X \right\}] \\
&= \exp\left\{ 2\mu + 2\sigma^2 \right\}
\end{align}
$$

よって分散$V[Y]$は以下の通り導出できます。

$$
\begin{align}
V[Y] &= E[Y^2] – (E[Y])^2 \\
&= \exp\left\{ 2\mu + 2\sigma^2 \right\} – \left( \exp \left\{ \mu + \frac{1}{2} \sigma^2 \right\} \right) \\
&= \exp\left\{ 2\mu + 2\sigma^2 \right\} – \exp \left\{ 2\mu + \sigma^2 \right\}
\end{align}
$$

(3) $Y$の確率密度関数を求めよ

密度関数は変数変換による密度関数の変換式(下式)を利用します。

$$
\begin{align}
h(y) &= f(g^{-1}(y))\frac{d(g^{-1}(y))}{dy}
\end{align}
$$

ここで、変数を変換する関数$g$は$\exp$なので、以下のようになります。

$$
\begin{align}
g^{-1}(y) &= \ln y \\
\frac{d(g^{-1}(y))}{dy} &= \frac{1}{y}
\end{align}
$$

よって、確率密度関数は以下の通り導出できます。

$$
\begin{align}
h(y) &= f(g^{-1}(y))\frac{d(g^{-1}(y))}{dy} \\
&= \frac{1}{\sqrt{2\pi \sigma^2}} \exp \left\{ – \frac{(\ln y – \mu)^2}{2\sigma^2} \right\} \frac{1}{y} \\
&= \frac{1}{\sqrt{2\pi \sigma^2}y} \exp \left\{ – \frac{(\ln y – \mu)^2}{2\sigma^2} \right\}
\end{align}
$$

問4.2

指数分布に従う独立な確率変数$X, Y$について、$X+Y$の確率密度関数を求めよとの問題です。

$X+Y$の確率密度関数を求めよ

$X+Y = z$とおいて、$z$の密度関数を考えます。($P(X+Y) = k(z)$)

ここで、$X+Y=z$となるのは、$X=x$で$Y=z-x$の形式における$x$の全ての場合です。$X,Y$は独立なので、確率密度の積でこれを表し、$x$の全ての場合についての考慮として、$x$について積分をします。

また、$z$が与えられれば、$x$の範囲は$0$〜$z$の範囲に限定されるため、積分範囲がこの範囲に限定されます。

$$
\begin{align}
k(z) &= \int^{\infty}_{-\infty} g(x)h(z-x) dx \\
&= \int^{\infty}_{-\infty} \lambda \exp(-\lambda x) \lambda \exp(-\lambda (z-x)) dx \\
&= \lambda^2 \int^{z}_{0} \exp \left\{ -\lambda z \right\} dx \\
&= \lambda^2 \exp\left\{ – \lambda z \right\} \left[ x \right]^z_0 \\
&= \lambda^2 z \exp \left\{ – \lambda z \right\}
\end{align}
$$

こちらの回答は参考文献に挙げた書籍から引用しました。ワークブックの記述よりもわかりやすいかなと思います。

確率変数の変換による同時確率密度関数の導出の詳細

$Z=X+Y, W=Y$のように確率変換の変換を行うことを考える。このとき$x=z-w, y=w$のように対応するので、変数変換におけるヤコビ行列式$\det{\mathbf{J}}$は下記のように計算できる。
$$
\large
\begin{align}
\det{\mathbf{J}} &= \left| \begin{array}{cc} \frac{\partial x}{\partial z} & \frac{\partial x}{\partial w} \\ \frac{\partial y}{\partial z} & \frac{\partial y}{\partial w} \end{array} \right| \\
&= \left| \begin{array}{cc} 1 & -1 \\ 0 & 1 \end{array} \right| \\
&= 1
\end{align}
$$

よって、変数変換後の同時確率密度関数を$g(z,w)=g(z)g(w)$とおくとき、下記のように表すことができる。
$$
\large
\begin{align}
g(z,w) &= g(z)g(w) = f(x)f(y) \left| \begin{array}{cc} 1 & -1 \\ 0 & 1 \end{array} \right| \\
&= f(x)f(y) = f(z-w)f(w)
\end{align}
$$

以下、ワークブックの内容に沿って$w$の積分を行うことで確率密度関数を計算できる。

参考文献

ワークブック以外の参考資料として以下のものがおすすめです。

  • 松原ら, 統計学入門, 1991, 東京大学出版会

「「統計学実践ワークブック」 演習問題中心 第4章 「変数変換」」への1件の返信

コメントは受け付けていません。