指数分布(exponential distribution)のモーメント母関数の収束半径

指数分布(exponential distribution)のモーメント母関数を計算するにあたって、モーメント母関数の変数$t$は指数分布のパラメータ$\lambda$によって定義域が定められます。当記事ではこれらをマクローリン級数の収束半径(radius of convergence)の観点から確認を行いました。

・モーメント母関数の収束半径

モーメント母関数の収束半径

$n$次モーメント$E[X^n]$を用いたモーメント母関数の表記

モーメント母関数を$m(t)$とおくと指数分布のマクローリン級数に基づいて下記のように表すことができる。
$$
\large
\begin{align}
m(t) = E[e^{tX}] = E \left[ \sum_{n=0}^{\infty} \frac{(tX)^{n}}{n!} \right] = \sum_{n=0}^{\infty} \frac{E[X^n]}{n!} t^{n} = \sum_{n=0}^{\infty} a_n t^{n}
\end{align}
$$

モーメント母関数の収束半径

モーメント母関数の収束半径を$r$とおくと、$r$は下記のように定められる。
$$
\large
\begin{align}
r = \lim_{n \to \infty} \left| \frac{a_n}{a_{n+1}} \right| = \lim_{n \to \infty} \left| \frac{E[X^{n}]/n!}{E[X^{n+1}]/(n+1)!]} \right| = \lim_{n \to \infty} \left| \frac{E[X^{n}](n+1)}{E[X^{n+1}]} \right| \quad (1)
\end{align}
$$

指数分布のモーメント母関数の収束半径

指数分布の確率密度関数

パラメータ$\lambda>0$の指数分布$\mathrm{Ex}(\lambda)$の確率密度関数を$f(x)$とおくと、$x > 0$で$f(x)$は下記のように表せる。
$$
\large
\begin{align}
f(x) = \lambda e^{-\lambda x}, \, x > 0
\end{align}
$$

指数分布の$n$次モーメント$E[X^n]$

指数分布の$n$次モーメント$E[X^n]$の導出を行う。$n=1$のとき、$E[X^1]=E[X]$は部分積分法を用いて下記のように計算できる。
$$
\large
\begin{align}
E[X^1] &= E[X] = \int_{0}^{\infty} x \times \lambda e^{-\lambda x} dx \\
&= -\frac{\cancel{\lambda}}{\cancel{\lambda}} \left[ xe^{-\lambda x} \right]_{0}^{\infty} + \frac{\cancel{\lambda}}{\cancel{\lambda}} \int_{0}^{\infty} (x)’ e^{-\lambda x} dx \\
&= 0 + \int_{0}^{\infty} e^{-\lambda x} dx \\
&= -\frac{1}{\lambda}\left[ e^{-\lambda x} \right]_{0}^{\infty} \\
&= -\frac{1}{\lambda}(0-1) = \frac{1}{\lambda}
\end{align}
$$

$n=2$のとき$E[X^2]$は$\displaystyle E[X]=\frac{1}{\lambda}$を用いて下記のように計算を行える。
$$
\large
\begin{align}
E[X^2] &= \int_{0}^{\infty} x^2 \times \lambda e^{-\lambda x} dx \\
&= -\frac{1}{\lambda} \left[ x^2 \lambda e^{-\lambda x} \right]_{0}^{\infty} + \frac{1}{\lambda} \int_{0}^{\infty} (x^2)’ \lambda e^{-\lambda x} dx \\
&= 0 + \frac{2}{\lambda} \int_{0}^{\infty} x \lambda e^{-\lambda x} dx \\
&= \frac{2}{\lambda} \cdot E[X] \\
&= \frac{2}{\lambda^2}
\end{align}
$$

同様に考えることで$\displaystyle E[X^3] = \frac{3!}{\lambda^3}, E[X^4] = \frac{4!}{\lambda^4}, \cdots$を示すことができ、$E[X^n]$に関して下記が成立する。
$$
\large
\begin{align}
E[X^n] = \frac{n!}{\lambda^n}
\end{align}
$$

上記では詳細の確認は省略したが、詳しく確認を行う際は$\displaystyle E[X^k] = \frac{k!}{\lambda^k}$と表せるときに$\displaystyle E[X^{k+1}] = \frac{(k+1)!}{\lambda^{k+1}}$が成立することから、数学的帰納法を用いて示せば良い。

なお、$E[X^n]$はモーメント母関数$m(t)$の$n$階微分$m^{(n)}(t)$に対して、$m^{(n)}(0)$を考えることで導出することもできるが、モーメント母関数の定義域を$t < \lambda$とできるかどうかを収束半径で確認する必要があるので、ここでは用いなかった。

モーメント母関数を用いた指数分布の$n$次モーメントの導出に関しては下記で取り扱ったので、合わせて確認しておくと良い。

指数分布のモーメント母関数の収束半径

前項の導出より$E[X^{n}]$と$E[X^{n+1}]$は下記のように表すことができる。
$$
\large
\begin{align}
E[X^n] &= \frac{n!}{\lambda^n} \\
E[X^{n+1}] &= \frac{(n+1)!}{\lambda^{n+1}}
\end{align}
$$

このとき指数分布のモーメント母関数の収束半径を$r$とおくと、$r$は$(1)$式に基づいて下記のように考えることができる。
$$
\large
\begin{align}
r &= \lim_{n \to \infty} \left| \frac{E[X^{n}] (n+1)}{E[X^{n+1}]} \right| \quad (1) \\
&= \lim_{n \to \infty} \left| \frac{n!}{\lambda^n} \cdot \frac{\lambda^{n+1}}{(n+1)!} \cdot (n+1) \right| \\
&= \lambda
\end{align}
$$

ここで導出した収束半径より、指数分布のモーメント母関数$m(t)$は$t < \lambda$でマクローリン級数で表現できると考えられる。この結果は「統計学実践ワークブック演習$2.3$」でモーメント母関数$m(\theta)$の計算を行う際に$\theta < \lambda$を仮定することに対応する。

参考

・統計学実践ワークブック演習$2.3$ 指数分布のモーメント母関数の計算