正規分布の規格化など、様々なところでガウス積分(Gaussian integral)は利用される。一方で、書籍などでは導出が省略されることも多いので、当記事ではガウス積分の導出について取り扱う。
また、ガウス積分の活用例の確認にあたって、標準正規分布の規格化についても取り扱う。
ガウス積分の導出
概要
Wikipediaの記載を参考にする。
https://ja.wikipedia.org/wiki/ガウス積分
ガウス積分は関数$e^{-x^2}$を実数全体で積分した際に$\sqrt{\pi}$に一致することを表し、これは数学者のガウスに由来する。ガウス積分を数式で表現すると下記のようになる。
$$
\large
\begin{align}
\int_{-\infty}^{\infty} e^{-x^2} dx = \sqrt{\pi}
\end{align}
$$
導出の方針
$$
\large
\begin{align}
I &= \int_{-\infty}^{\infty} e^{-x^2} dx \\
I^2 &= \left(\int_{-\infty}^{\infty} e^{-x^2} dx\right)^2 \\
&= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} e^{-x^2} e^{-y^2} dx dy \\
&= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} e^{-(x^2+y^2)} dx dy
\end{align}
$$
上記のように積分値$I$とその二乗$I^2$を定義し、$I^2$について計算することを考える。
ここで$(x,y)$を$(r,\theta)$で表すことを考える。それぞれの変数の関係式は下記のようになる。
$$
\large
\begin{align}
x &= r \cos{\theta} \\
y &= r \sin{\theta}
\end{align}
$$
また、$-\infty<x<\infty, \infty<y<\infty$に対応する$r, \theta$はそれぞれ$0 \leq r < \infty, 0 \leq \theta \leq 2 \pi$である。
この関係式に基づいて、$I^2$を求めることを考える。
置換積分
$$
\large
\begin{align}
x &= r \cos{\theta} \\
y &= r \sin{\theta}
\end{align}
$$
上記に基づいて$I^2$に対し置換積分を行うことを考える。$f(x,y)=e^{-(x^2+y^2)}$を$g(r,\theta)$のように変換したと考えると、下記が成立する。
$$
\large
\begin{align}
I^2 &= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(x,y) dx dy \\
&= \int_{0}^{2 \pi} \int_{0}^{\infty} g(r,\theta) dr d \theta
\end{align}
$$
ここで$g(r,\theta)$は下記のように表すことができる。
$$
\large
\begin{align}
g(r,\theta) &= f(x,y)\left| \begin{array}{cc} \frac{\partial x}{\partial r} & \frac{\partial y}{\partial r} \\ \frac{\partial y}{\partial \theta} & \frac{\partial y}{\partial \theta} \end{array} \right| \\
&= f(x,y)\left| \begin{array}{cc} \cos{\theta} & \sin{\theta} \\ -r\sin{\theta} & r\cos{\theta} \end{array} \right| \\
&= (r \cos^2{\theta} – (-r \sin^2{\theta})f(x,y) \\
&= r f(r \cos{\theta}, r \sin{\theta})
\end{align}
$$
よって、$I^2$は下記のように計算できる。
$$
\large
\begin{align}
I^2 &= \int_{0}^{2 \pi} \int_{0}^{\infty} g(r,\theta) dr d \theta \\
&= \int_{0}^{2 \pi} \int_{0}^{\infty} r f(r \cos{\theta}, r \sin{\theta}) dr d \theta \\
&= \int_{0}^{2 \pi} \int_{0}^{\infty} r e^{-(r^2 \cos{\theta} + r^2\sin^2{\theta})} dr d \theta \\
&= \int_{0}^{2 \pi} \int_{0}^{\infty} r e^{-r^2} dr d \theta \\
&= 2 \pi \int_{0}^{\infty} r e^{-r^2} dr \\
&= 2 \pi \left[ -\frac{1}{2}e^{-r^2} \right]_{0}^{\infty} \\
&= 2 \pi \times \frac{1}{2} \\
&= \pi
\end{align}
$$
上記より、下記が成立する。
$$
\large
\begin{align}
I = \int_{-\infty}^{\infty} e^{-x^2} dx = \sqrt{\pi}
\end{align}
$$
標準正規分布の規格化
標準正規分布$\mathcal{N}(0,1)$の確率密度関数$f(x)$を定数$C$を用いて下記のように表すことができると考える。
$$
\large
\begin{align}
f(x) = C e^{-\frac{x^2}{2}}
\end{align}
$$
この時確率密度関数の定義より、下記が成立する。
$$
\large
\begin{align}
\int_{-\infty}^{\infty} f(x) dx = 1
\end{align}
$$
「ガウス積分の導出」で取り扱ったのと同様に$x,y,r,\theta,I,I^2$を考えると、$I^2$は下記のように表すことができる。
$$
\large
\begin{align}
I^2 &= 2 \pi C^2 \int_{0}^{\infty} r e^{-\frac{r^2}{2}} dr \\
&= 2 \pi C^2 \left[ -e^{-\frac{r^2}{2}} \right]_{0}^{\infty} \\
&= 2 \pi C^2
\end{align}
$$
上記において$I^2=1$より、$2 \pi C^2=1$となる。よって、規格化定数の$C$は下記のようになる。
$$
\large
\begin{align}
2 \pi C^2 &= 1 \\
C^2 &= \frac{1}{2 \pi} \\
C &= \frac{1}{\sqrt{2 \pi}}
\end{align}
$$
[…] $X_1+X_2=x$を考えた際に$X_1=k$とすると、$X_2=x-k$となる。このときの確率分布を$P(X_1+X_2=x|mu_1,mu_2,sigma_1^2,sigma_2^2)$を考えると、下記のように計算することができる。($X_1$に対応する正規分布のパラメータを$mu_1$と$sigma_1^2$、$X_2$に対応する正規分布のパラメータを$mu_2$と$sigma_2^2$とする)$$begin{align}P(X_1 &+ X_2=x|mu_1,mu_2,sigma_1^2,sigma_2^2) \&= sum_{k=0}^{x} Pleft( X_1=k|mu_1,sigma_1^2right) Pleft(X_2=x-k|mu_2,sigma_2^2right) \&= sum_{k=0}^{x} frac{1}{sqrt{2 pi sigma_1^2}}exp left( -frac{(k-mu_1)^2}{2sigma_1^2} right) times frac{1} {sqrt{2 pi sigma_2^2}}exp left( -frac{((x-k)-mu_2)^2}{2sigma_2^2} right)end{align}$$上記に対してガウス積分などを用いて導出を行う。 […]
[…] https://www.hello-statisticians.com/explain-terms-cat/transformation1.htmlhttps://www.hello-statisticians.com/explain-terms-cat/gaussian_integral1.htmlhttps://www.hello-statisticians.com/explain-terms-cat/beta_distribution1.html変数変換については詳しくは上記などで取り扱ったが、下記の式などを抑えておくと良い。 […]
[…] また、途中で正規分布の確率密度関数の全区間での積分が$1$であることを用いたが、このことはガウス積分の考え方を用いることで導出できる。ガウス積分については下記で詳しくまとめたので、ここでは省略する。https://www.hello-statisticians.com/explain-terms-cat/gaussian_integral1.html […]
[…] 上記において$displaystyle y = sqrt{1-2t}x$を用いて変数変換を行うことを考える。$displaystyle frac{dx}{dy}=frac{1}{sqrt{1-2t}}$より、(1)は下記のように変形できる。$$largebegin{align}E left[ e^{tX^2} right] &= frac{1}{sqrt{2 pi}} int_{-infty}^{infty} e^{-frac{x^2(1-2t)}{2}} dx \&= frac{1}{sqrt{2 pi}} int_{-infty}^{infty} e^{-frac{y^2}{2}} frac{dx}{dy} dy \&= frac{1}{sqrt{2 pi}} int_{-infty}^{infty} e^{-frac{y^2}{2}} frac{1}{sqrt{1-2t}} dy \&= frac{1}{sqrt{2 pi (1-2t)}} int_{-infty}^{infty} e^{-frac{y^2}{2}} dy \&= frac{sqrt{2 pi}}{sqrt{2 pi (1-2t)}} \&= (1-2t)^{-frac{1}{2}}end{align}$$上記において、$displaysytle int_{-infty}^{infty} e^{-frac{y^2}{2}} dy = sqrt{2 pi}$はガウス積分の考え方を用いた。https://www.hello-statisticians.com/explain-terms-cat/gaussian_integral1.html […]
[…] 数理統計学における「変数変換」は下記のように、ガウス積分やガンマ分布・ベータ分布に関する議論など、様々なところで出てきます。仕組みの理解も重要な一方で、計算のプロセスに慣れることも重要なので、実践的な演習を通して理解ができるような構成となるよう演習課題の作成を行いました。https://www.hello-statisticians.com/explain-terms-cat/beta_distribution1.htmlhttps://www.hello-statisticians.com/explain-terms-cat/gaussian_integral1.html […]
[…] 下記で詳しく取り扱った。https://www.hello-statisticians.com/explain-terms-cat/gaussian_integral1.html […]
[…] 当記事では一様乱数から正規乱数の生成を行うボックス・ミュラー法(Box-Muller’s method)の原理に関して取り扱いました。ボックス・ミュラー法はガウス積分を行う際と同様の考え方を用いるので、ガウス積分も合わせて抑えておくと良いと思います。https://www.hello-statisticians.com/explain-terms-cat/gaussian_integral1.html […]
[…] ガウス積分(Gaussian integral)の導出と標準正規分布の規格化 […]