ガンマ分布(Gamma distribution)のモーメント母関数の導出と期待値・分散の計算

ガンマ分布(Gamma distribution)は$\chi^2$分布などを考える際にも出てくる分布であり、推測統計の数理的な理解を行う上では重要となるトピックである。当記事ではガンマ分布のモーメント母関数の導出を行い、計算したモーメント母関数に基づいてガンマ分布の期待値と分散の計算を行う。
作成にあたっては「現代数理統計学（学術図書出版社）」の2.4節の「主な1次元分布」を参考に、省略されている計算については追記を行った。

ガンマ関数とガンマ分布

ガンマ関数

正の実数$a$に対応するガンマ関数を$\Gamma(a)$とすると、$\Gamma(a)$は下記のように定義される。
$$
\large
\begin{align}
\Gamma(a) = \int_{0}^{\infty} x^{a-1} e^{-x} dx
\end{align}
$$
上記で表すガンマ関数は階乗の一般化と考えることができる。このことについて以下確認する。

まずは$\Gamma(1)=1=1!$が成立することを確認する。
$$
\large
\begin{align}
\Gamma(1) &= \int_{0}^{\infty} x^{1-1} e^{-x} dx \\
&= \int_{0}^{\infty} e^{-x} dx \\
&= \left[ -e^{-x} \right]_{0}^{\infty} \\
&= -(0-1) \\
&= 1 = 1!
\end{align}
$$

次に漸化式$\Gamma(a+1)=a \Gamma(a)$が成立することを確認する。
$$
\large
\begin{align}
\Gamma(a+1) &= \int_{0}^{\infty} x^{a+1-1} e^{-x} dx \\
&= \int_{0}^{\infty} x^{a} e^{-x} dx \\
&= \left[ – x^{a} e^{-x} \right]_{0}^{\infty} + \int_{0}^{\infty} a x^{a-1} e^{-x} dx \\
&= 0 + a \int_{0}^{\infty} x^{a-1} e^{-x} dx \\
&= a \Gamma(a)
\end{align}
$$

$\Gamma(0+1)=1=1!, \Gamma(a+1)=a \Gamma(a)$より、$\Gamma(a+1)=a!$が成立することは以下のように確認できる。
$$
\large
\begin{align}
\Gamma(a+1) &= a \Gamma(a) \\
&= a (a-1) \Gamma(a-1) \\
&= … \\
&= a \cdot (a-1) \cdot …2 \cdot 1 \cdot \Gamma(1) \\
&= a!
\end{align}
$$

ここまでの議論により、ガンマ関数は階乗を一般化したものであるということを確認することができた。

ガンマ分布

ガンマ分布は前項で確認したガンマ関数を用いて定義される分布であり、ガンマ分布の確率密度関数の$f(x)$は下記のように定義される。
$$
\large
\begin{align}
f(x) = \frac{1}{\Gamma(\nu)} x^{\nu-1} e^{-x} \quad (x>0)
\end{align}
$$
確率密度関数における変数が定義域が$0<x$の$x$であることは注意しておきたい。また、ここで$\nu$はパラメータであるので、確率密度関数は$f(x|\nu)$のように表記するとわかりやすいと思われる。

さて、ここで変数の$x$に対し、$y = \alpha x$で表される$y$を導入し、変数変換を行うことを考える。この時、$y$に関する密度関数$f(y|\nu, \alpha)$は下記のように表すことができる。
$$
\large
\begin{align}
f(y|\nu, \alpha) &= f \left( \frac{y}{\alpha} \middle| \nu \right) \cdot \frac{dx}{dy} \\
&= \frac{1}{\Gamma(\nu)} \left( \frac{y}{\alpha} \right)^{\nu-1} e^{-x} \frac{1}{\alpha} \\
&= \frac{1}{\alpha^{\nu} \Gamma(\nu)} y^{\nu-1} e^{-x} \quad (y>0, \alpha>0)
\end{align}
$$
上記が形状母数$\nu$、尺度母数$\alpha$のガンマ分布$Ga(\nu,\alpha)$を表すと考える。

モーメント母関数の導出と期待値・分散の計算

モーメント母関数の導出

確率変数$Y = \alpha X$に対応するガンマ分布のモーメント母関数を$m_Y(t)$と定義する。この時、$m_Y(t)$は下記のように表される。
$$
\large
\begin{align}
m_Y(t) = E[e^{tY}] = E[e^{t \alpha X}]
\end{align}
$$
ここで$a=t \alpha$とおき、計算を行う。
$$
\large
\begin{align}
m_Y(t) &= E[e^{t \alpha X}] = E[e^{aX}] \\
&= \int_{0}^{\infty} e^{ax} f(\alpha x|\nu) dx \\
&= \int_{0}^{\infty} e^{ax} \times \frac{1}{\Gamma(\nu)} x^{\nu-1} e^{-x} dx \\
&= \frac{1}{\Gamma(\nu)} \int_{0}^{\infty} x^{\nu-1} e^{-x}e^{ax} dx \\
&= \frac{1}{\Gamma(\nu)} \int_{0}^{\infty} x^{\nu-1} e^{-x+ax} dx \\
&= \frac{1}{\Gamma(\nu)} \int_{0}^{\infty} x^{\nu-1} e^{-x(1-a)} dx
\end{align}
$$

上記において、$u=x(1-a)$と変数変換することを考える。$\displaystyle x=\frac{u}{1-a}, \frac{dx}{du} = \frac{1}{1-a}$より、$m_Y(t)$は下記のように変形できる。
$$
\large
\begin{align}
m_Y(t) &= \frac{1}{\Gamma(\nu)} \int_{0}^{\infty} x^{\nu-1} e^{-x(1-a)} dx \\
&= \frac{1}{\Gamma(\nu)} \int_{0}^{\infty} \left( \frac{u}{1-a} \right)^{\nu-1} e^{-u} \frac{dx}{du} du \\
&= \frac{1}{\Gamma(\nu)} \int_{0}^{\infty} \left( \frac{u}{1-a} \right)^{\nu-1} e^{-u} \frac{1}{1-a} du \\
&= \frac{(1-a)^{-\nu}}{\Gamma(\nu)} \int_{0}^{\infty} u^{\nu-1} e^{-u} du \\
&= \frac{(1-a)^{-\nu}}{\Gamma(\nu)} \Gamma(\nu) \\
&= (1-a)^{-\nu} \\
&= (1-t \alpha)^{-\nu}
\end{align}
$$

期待値$E[Y]$の計算

期待値は前項で計算したモーメント母関数を用いて$m_Y'(t=0)$を計算することで導出できる。
$$
\large
\begin{align}
m_Y(t) = (1-t \alpha)^{-\nu}
\end{align}
$$
上記に対して$m_Y'(t)$を計算すると下記のようになる。
$$
\large
\begin{align}
m_Y'(t) &= – \nu(1 – t \alpha)^{-\nu-1} \cdot (- \alpha) \\
&= \nu \alpha (1 – t \alpha)^{-\nu-1}
\end{align}
$$

よって、$E[Y]=m_Y'(t=0)$は下記のように導出できる。
$$
\large
\begin{align}
E[Y] &= m_Y'(0) \\
&= \nu \alpha (1 – 0 \cdot \alpha)^{-\nu-1} \\
&= \nu \alpha \cdot 1^{-\nu-1} \\
&= \nu \alpha
\end{align}
$$

分散$V[Y]$の計算

分散は期待値と同様にモーメント母関数を用いて$m_Y^{”}(t=0)$を計算することで導出できる。
$$
\large
\begin{align}
m_Y(t) &= (1-t \alpha)^{-\nu} \\
m_Y'(t) &= \nu \alpha (1 – t \alpha)^{-\nu-1}
\end{align}
$$
上記に対して$m_Y^{”}(t)$を計算すると下記のようになる。
$$
\large
\begin{align}
m_Y^{”}(t) &= – \nu(\nu+1) \alpha (1 – t \alpha)^{-\nu-2} (-\alpha) \\
&= \nu(\nu+1) \alpha^2 (1 – t \alpha)^{-\nu-2}
\end{align}
$$

よって、$V[Y]=m_Y^{”}(t=0)-(m_Y'(t=0))^2$は下記のように導出できる。
$$
\large
\begin{align}
V[Y] &= m_Y^{”}(t=0)-(m_Y'(t=0))^2 \\
&= \nu(\nu+1) \alpha^2 (1 – 0 \cdot \alpha)^{-\nu-2} – (\nu \alpha)^2 \\
&= \nu(\nu+1) \alpha^2 – (\nu \alpha)^2 \\
&= \nu^2 \alpha^2 + \nu \alpha^2 – \nu^2 \alpha^2 \\
&= \nu \alpha^2
\end{align}
$$

ガンマ分布のたたみこみ

下記の議論により、$Ga(\nu_1, \alpha)*Ga(\nu_2, \alpha) = Ga(\nu_1+\nu_2, \alpha)$のようなガンマ分布に関するたたみこみを示すことができる。
https://www.hello-statisticians.com/explain-books-cat/math_stat_practice_ch3.html#38