連続型確率分布の数式まとめ(正規分布、指数分布、一様分布、ガンマ分布、カイ二乗分布 etc)

http://www.hello-statisticians.com/explain-terms-cat/prob_generating.html
上記では確率分布の様々な表記(確率密度関数、確率母関数など)について確認したが、当記事ではその表記に基づいて連続型確率分布のそれぞれの確率密度関数やモーメント母関数、期待値、分散などについて確認する。
当記事の作成にあたっては主に「基礎統計学Ⅰ 統計学入門(東京大学出版会)」の第6章を参考にした。

連続型確率分布

正規分布

正規分布(normal distribution)の確率密度関数は下記のように表すことができる。
$$
\begin{align}
f(x|\mu, \sigma^2) = \frac{1}{\sqrt{2 \pi}\sigma} exp \left( – \frac{(x-\mu)^2}{2 \sigma^2} \right) \qquad (-\infty < x < \infty)
\end{align}
$$
また、定数$\displaystyle \frac{1}{\sqrt{2 \pi}\sigma}$は下記に基づいて与えられる。
$$
\begin{align}
\int_{-\infty}^{\infty} exp \left( – \frac{(x-\mu)^2}{2 \sigma^2} \right) dx &= \frac{1}{\sqrt{2 \pi}\sigma} \\
\int_{-\infty}^{\infty} f(x|\mu, \sigma^2) dx &= 1
\end{align}
$$
ここで定数$\displaystyle \frac{1}{\sqrt{2 \pi}\sigma}$は規格化定数である。

次に正規分布の期待値E[X]と分散V[X]について考える。
・期待値
$$
\begin{align}
E[X] &= \int_{-\infty}^{\infty} x \frac{1}{\sqrt{2 \pi}\sigma} exp \left( – \frac{(x-\mu)^2}{2 \sigma^2} \right) dx \\
&= \mu \\
V[X] &= \int_{-\infty}^{\infty} (x-E[X])^2 \frac{1}{\sqrt{2 \pi}\sigma} exp \left( – \frac{(x-\mu)^2}{2 \sigma^2} \right) dx \\
&= \sigma^2
\end{align}
$$
上記では結果のみ示したが、モーメント母関数を用いた正規分布の期待値$E[X]$と分散$V[X]$の導出の詳細は下記で取り扱った。
https://www.hello-statisticians.com/explain-terms-cat/norm_gen_func1.html

指数分布

指数分布の確率密度関数は$0<x$の範囲で下記のように表すことができる。
$$
\begin{align}
f(x|\lambda) = \lambda e^{-\lambda x}
\end{align}
$$
上記の積分を考えると、下記のように確率密度関数の定義にある$\displaystyle \int_{0}^{\infty} f(x) dx = 1$を導出できる。
$$
\begin{align}
\int_{0}^{\infty} f(x) dx &= \int_{0}^{\infty} \lambda e^{-\lambda x} dx \\
&= \lambda \int_{0}^{\infty} e^{-\lambda x} dx \\
&= \lambda \left[ \frac{e^{-\lambda x}}{-\lambda} \right]_{0}^{\infty} \\
&= \left[ -e^{-\lambda x} \right]_{0}^{\infty} \\
&= -(0-1) \\
&= 1
\end{align}
$$

次に指数分布の期待値E[X]と分散V[X]について考える。
・期待値
$$
\begin{align}
E[X] &= \int_{0}^{\infty} x\lambda e^{-\lambda x} dx \\
&= \lambda \int_{0}^{\infty} xe^{-\lambda x} dx \\
&= \lambda \left[ \frac{1}{-\lambda} x e^{-\lambda x} \right]_{0}^{\infty} + \int_{0}^{\infty} e^{-\lambda x} dx \\
&= 0 + \left[ \frac{1}{-\lambda} e^{-\lambda x} \right]_{0}^{\infty} \\
&= \frac{1}{-\lambda}(0-1) \\
&= \frac{1}{\lambda}
\end{align}
$$

・分散
$$
\begin{align}
E[X] &= \int_{0}^{\infty} (x-E[X])^2 \lambda e^{-\lambda x} dx \\
&= \lambda \left[ (x-E[X])^2 \frac{1}{-\lambda} e^{-\lambda x} \right]_{0}^{\infty} + 2\int_{0}^{\infty} (x-E[X]) e^{-\lambda x} dx \\
&= \lambda \left[ (x-E[X])^2 \frac{1}{-\lambda} e^{-\lambda x} \right]_{0}^{\infty} + 2\left[ \frac{1}{-\lambda} (x-E[X]) e^{-\lambda x} \right]_{0}^{\infty} + \frac{2}{\lambda} \int_{0}^{\infty} e^{-\lambda x} dx \\
&= \left[ -(x-E[X])^2 e^{-\lambda x} \right]_{0}^{\infty} + \frac{2}{-\lambda} \left[ (x-E[X]) e^{-\lambda x} \right]_{0}^{\infty} + \frac{2}{\lambda} \left[ \frac{1}{-\lambda} e^{-\lambda x} \right]_{0}^{\infty} \\
&= \frac{1}{\lambda^2} – \frac{2}{\lambda^2} + \frac{2}{\lambda^2} \\
&= \frac{1}{\lambda^2}
\end{align}
$$

また、指数分布を拡張した分布であるワイブル分布に関しては下記で詳しく取り扱った。
https://www.hello-statisticians.com/explain-terms-cat/weibul_distribution1.html

一様分布

一様分布は離散型、連続型の二通りのパターンがあるが離散型については取り扱われていることが多いので、ここでは連続型の一様分布について考える。

連続型の一様分布は下記のような確率密度関数で表すことができる。
$$
\begin{align}
f(x|a,b) = \frac{1}{b-a}
\end{align}
$$
上記の積分を考えると、下記のように確率密度関数の定義にある$\displaystyle \int_{-\infty}^{\infty} f(x) dx = 1$を導出できる。
$$
\begin{align}
\int_{-\infty}^{\infty} f(x) dx &= \int_{a}^{b} \frac{1}{b-a} dx \\
&= \left[ \frac{x}{b-a} \right]_{a}^{b} \\
&= \left( \frac{b}{b-a} \right) – \left( \frac{a}{b-a} \right) \\
&= \frac{b-a}{b-a} \\
&= 1
\end{align}
$$

次に連続型の一様分布の期待値E[X]と分散V[X]について考える。
・期待値
$$
\begin{align}
E[X] &= \int_{-\infty}^{\infty} xf(x) dx \\
&= \int_{a}^{b} \frac{x}{b-a} dx \\
&= \left[ \frac{x^2}{2(b-a)} \right]_{a}^{b} \\
&= \left( \frac{b^2}{2(b-a)} \right) – \left( \frac{a^2}{2(b-a)} \right) \\
&= \frac{b^2-a^2}{2(b-a)} \\
&= \frac{(b+a)(b-a)}{2(b-a)} \\
&= \frac{a+b}{2}
\end{align}
$$

・分散
$V[X] = E[X^2]-(E[X])^2$が成立することを利用する方がシンプルなため、$E[X^2]$を先に計算する。
$$
\begin{align}
E[X^2] &= \int_{-\infty}^{\infty} x^2f(x) dx \\
&= \int_{a}^{b} \frac{x^2}{b-a} dx \\
&= \left[ \frac{x^3}{3(b-a)} \right]_{a}^{b} \\
&= \left( \frac{b^3}{3(b-a)} \right) – \left( \frac{a^3}{3(b-a)} \right) \\
&= \frac{b^3-a^3}{3(b-a)} \\
&= \frac{(b-a)(b^2+ab+a^2)}{3(b-a)} \\
&= \frac{b^2+ab+a^2}{3}
\end{align}
$$
よって、$V[X]$は下記のように計算できる。
$$
\begin{align}
V[X] &= E[X^2]-(E[X])^2 \\
&= \frac{b^2+ab+a^2}{3} – \left( \frac{a+b}{2} \right)^2 \\
&= \frac{b^2+ab+a^2}{3} – \frac{a^2+2ab+b^2}{4} \\
&= \frac{4b^2+4ab+4a^2}{12} – \frac{3a^2+6ab+3b^2}{12} \\
&= \frac{b^2-2ab+a^2}{12} \\
&= \frac{(b-a)^2}{12}
\end{align}
$$

また、一様分布を拡張した分布であると考えることのできるベータ分布に関しては下記で詳しく取り扱った。
https://www.hello-statisticians.com/explain-terms-cat/beta_distribution1.html

ガンマ分布・$\chi^2$分布

ガンマ分布(Gamma distribution)は指数分布を一般化したもので、次の確率密度関数で表すことができる。
$$
\begin{align}
f(x) = \frac{\lambda^{\alpha}}{\Gamma(\alpha)} x^{\alpha-1}e^{-\lambda x} \qquad (x \geq 0)
\end{align}
$$
ここで$\alpha>0$である。また、ガンマ分布の重要な部分は$x^{\alpha-1}e^{-\lambda x}$であり、$\alpha=1$なら

ここで$\alpha>0$である。また、$\alpha$と$\lambda$で指定されるガンマ分布を$Ga(\alpha, \lambda)$で表す。ガンマ分布の重要な部分は$x^{\alpha-1}e^{-\lambda x}$であり、$\alpha=1$なら指数分布に一致する。

また、ガンマ分布$Ga(n/2, 1/2)$は自由度$n$の$\chi^2$分布と言われる。

・参考
ガンマ分布
https://www.hello-statisticians.com/explain-terms-cat/gamma_distribution1.html

コーシー分布

コーシー分布は下記の確率密度関数で表すことができる。
$$
\begin{align}
f(x) = \frac{\alpha}{\pi} (\alpha^2 + (x-\lambda)^2) \qquad (\alpha > 0)
\end{align}
$$
コーシー分布は正規分布に近しい分布となるが、詳しく調べると全く違う分布である。

まとめ

当記事では連続型の確率分布について具体的に確認しました。特に正規分布、指数分布はよく出てくるため抑えておくと良いと思います。

「連続型確率分布の数式まとめ(正規分布、指数分布、一様分布、ガンマ分布、カイ二乗分布 etc)」への4件のフィードバック

  1. […] 正規分布については連続型確率分布のところで簡単に取り扱った。https://www.hello-statisticians.com/explain-terms-cat/probdist2.html#i-2一方で、上記ではモーメント母関数の導出やモーメント母関数に基づく期待値・分散の計算の詳細については省略した。https://www.hello-statisticians.com/explain-books-cat/math_stat_practice_ch2.html#212一方で上記で取り扱った対数正規分布の期待値・分散の計算などでは正規分布のモーメント母関数の導出と同様に指数の内部の平方完成を行う考え方を用いるので、当記事では正規分布のモーメント母関数の導出に基づく正規分布の期待値・分散の計算について取り扱うこととした。 […]

コメントは受け付けていません。