ブログ

当まとめでは統計検定$2$級の公式テキストの副教材に用いることができるように、統計学入門に関して取り扱います。当記事では「統計検定$2$級対応 統計学基礎」の$1.3.1$節「平均・分散・標準偏差」の内容を元に得られた観測値の概要を掴む際に用いられる平均・分散・標準偏差に関して取り扱いました。
統計検定$2$級のテキストとの対応がわかりやすいように、目次を「統計検定$2$級対応 統計学基礎」と対応させました。学びやすさの観点からあえて目次を対応させましたが、当まとめは「統計の森」オリジナルのコンテンツであり、統計検定の公式とは一切関係ないことにご注意ください。

・統計検定$2$級対応・統計学入門まとめ
https://www.hello-statisticians.com/stat_basic

改訂版　日本統計学会公式認定　統計検定２級対応　統計学基礎

2,420円(11/05 19:33時点)

Amazon

平均・分散・標準偏差の概要

概要

$n$個の観測値を$x_1, x_2, x_3 \cdots , x_{n-1}, x_{n}$のように定義します。これらの観測値を把握するにあたっては度数分布表や度数分布表に基づくヒストグラムを描くなどがありますが、数値を元に要約できると役に立つ場合が多いです。

観測値を数値で要約を行う場合、「観測値の中心を表す指標」と「観測値の散らばりを表す指標」の$2$つが得られれば、観測結果の大まかな理解が可能になります。

当記事では以下、「中心を表す指標」の「平均」と、「散らばりを表す指標」の「分散」と「標準偏差」に関してそれぞれ取りまとめました。

必要な数学

平均や分散の式の定義にあたって、和を表す記号の$\displaystyle \sum$が用いられることが多いので、抑えておく必要があります。

平均・分散・標準偏差

平均

観測値$x_1, x_2, x_3 \cdots , x_{n-1}, x_{n}$の平均$\bar{x}$は下記のように定義されます。
$$
\large
\begin{align}
\bar{x} = \frac{1}{n} (x_1 + x_2 + \cdots + x_n)
\end{align}
$$

「観測値が左右対称に分布する」場合、「平均」が概ね中心になるので、このような場合は「中心を表す指標」に「平均」が用いられることが多いです。

分散

観測値$x_1, x_2, x_3 \cdots , x_{n-1}, x_{n}$の分散$S^2$は下記のように定義されます。
$$
\large
\begin{align}
S^2 = \frac{1}{n} \sum_{i=1}^{n} (x_i-\bar{x})^2
\end{align}
$$

分散は平均からの偏差$x_i-\bar{x}$の$2$乗の和で表されるので、観測値が平均からどのくらい散らばるかを表す指標に用いられます。

標準偏差

標準偏差は分散の$\sqrt{}$を計算することで定義されます。
$$
\large
\begin{align}
S = \sqrt{S^2} = \sqrt{ \frac{1}{n} \sum_{i=1}^{n} (x_i-\bar{x})^2 }
\end{align}
$$

具体例

以下、上記の観測値を元に①〜④の平均、分散、標準偏差の計算を行います。それぞれ平均を$\bar{x}_1$〜$\bar{x}_4$、標準偏差を$S_1$〜$S_4$のように定義すると、それぞれ下記のように計算できます。

import numpy as np

x = np.array([[3., 4., 5., 6., 7.], [1., 3., 5., 7., 9.], [0., 4., 5., 6., 10.], [0., 1., 5., 9., 10.]])
mean_x = np.mean(x,axis=1)
mean_x_mat = np.repeat(mean_x,5).reshape([4,5])

s2 = np.mean((x-mean_x_mat)**2, axis=1)
s = np.sqrt(s2)

print(mean_x)
print(s2)
print(s)

・実行結果

[ 5.  5.  5.  5.]
[  2.    8.   10.4  16.4]
[ 1.41421356  2.82842712  3.2249031   4.04969135]

当まとめでは統計検定$2$級の公式テキストの副教材に用いることができるように、統計学入門に関して取り扱います。当記事では「統計検定$2$級対応 統計学基礎」の$3.4.4$節「母比率の区間推定」の内容を元に二項分布の正規近似などを用いた母比率の区間推定について取りまとめを行いました。
統計検定$2$級のテキストとの対応がわかりやすいように、目次を「統計検定$2$級対応 統計学基礎」と対応させました。学びやすさの観点からあえて目次を対応させましたが、当まとめは「統計の森」オリジナルのコンテンツであり、統計検定の公式とは一切関係ないことにご注意ください。

・統計検定$2$級対応・統計学入門まとめ
https://www.hello-statisticians.com/stat_basic

改訂版　日本統計学会公式認定　統計検定２級対応　統計学基礎

2,420円(11/05 19:33時点)

Amazon

「母比率の区間推定」の概要

概要

「特定の政党を支持するかどうか」を元に政党支持率などを調査する場合を考えます。このとき、母集団が$100$人であれば都度全数調査を行うことができますが、実際の選挙区のように数$10$万人単位となると、全数調査はあまり現実的ではありません。

このような場合に母集団の政党支持率の母比率の区間推定を行います。母比率の区間推定にあたっては、中心極限定理に基づき二項分布の正規近似を行います。中心極限定理は下記で取り扱いましたので、詳しくは合わせてご確認ください。

必要な数学

中心極限定理を元に正規近似を行うので、極限の概念は抑えておくと良いと思います。

母比率の区間推定

二項分布の期待値と分散

確率変数$Y$が$Y \sim \mathrm{Bin}(n,p)$のように二項分布に従うとき、期待値$E[Y]$と分散$V[Y]$は下記のように表されます。
$$
\large
\begin{align}
E[Y] &= np \\
V[Y] &= np(1-p)
\end{align}
$$

上記は「ベルヌーイ分布の期待値・分散」と「期待値・分散の公式」に基づいて導出することができます。
詳しい導出は下記で取り扱いました。

発展事項

実際の調査では非復元無作為抽出を行うことが多いので、二項分布ではなく超幾何分布を用いるのが正確です。超幾何分布の期待値は二項分布と同じですが、分散は有限母集団修正の項の分だけ小さくなることは抑えておくと良いです。

一方で母集団の大きさの$N$が大きくなると有限母集団修正項は$1$であると見なせるので、母集団が大きいときは二項分布で近似できると考えられます。超幾何分布と有限母集団修正に関しては下記で取り扱いましたので、詳しくはご確認ください。

標本比率

前項で確認を行った確率変数$Y$を下記のように表すことを考えます。
$$
\large
\begin{align}
X_i & \sim \mathrm{Bin}(1,p) \\
Y &= \sum_{i=1}^{n} X_i \sim \mathrm{Bin}(n,p)
\end{align}
$$

上記の$\mathrm{Bin}(1,p)$は確率$p$のベルヌーイ分布に一致します。また、下記のように$\overline{X}$を定義します。
$$
\large
\begin{align}
\overline{X} = \frac{1}{n} \sum_{i=1}^{n} X_i
\end{align}
$$

このとき標本の比率$\hat{p}$は$\overline{X}$に一致するので$\hat{p}=\overline{X}$が成立します。

標本比率の期待値と分散

標本比率$\hat{p}$の期待値$E[\hat{p}]$と分散$V[\hat{p}]$は$\hat{p}=\overline{X}$であることに基づいて、それぞれ下記のように導出することができます。
$$
\large
\begin{align}
E[\hat{p}] &= E[\overline{X}] = E \left[ \frac{1}{n} \sum_{i=1}^{n} X_i \right] \\
&= \frac{1}{n} \sum_{i=1}^{n} E[X_i] = p \\
V[\hat{p}] &= V \left[ \frac{1}{n} \sum_{i=1}^{n} X_i \right] \\
&= \frac{1}{n^2} \sum_{i=1}^{n} V[X_i] \\
&= \frac{np(1-p)}{n^2} = \frac{p(1-p)}{n}
\end{align}
$$

中心極限定理

標本比率は$\hat{p}=\overline{X}$のように表せるので$n \to \infty$のとき、中心極限定理を適用することができます。よって下記のように考えることができます。
$$
\large
\begin{align}
\hat{p} &= \overline{X} \sim \mathcal{N}(E[\overline{X}],V[\overline{X}]) \\
E[\hat{p}] &= E[\overline{X}] = p, \; V[\hat{p}] = V[\overline{X}] = \frac{p(1-p)}{n} \\
\hat{p} & \sim \mathcal{N} \left( p, \frac{p(1-p)}{n} \right)
\end{align}
$$

ここで$(1)$は$n \to \infty$を元に導出を中心極限定理を用いたことから、同様に大数の法則に基づいて分散に関して$\hat{p} \to p$であると考えることができます。よって下記が成立します。
$$
\large
\begin{align}
\hat{p} \sim \mathcal{N} \left( p, \frac{\hat{p}(1-\hat{p})}{n} \right) \quad (2)
\end{align}
$$

上記の近似は分散の$p$がそのままで区間推定を行うと、$2$次不等式を解く必要が生じ、煩雑であるので原則的に用いられます。基本的にはこの流れが用いられるので、難しく考えずに流れを抑えるで十分だと思います。

母比率の区間推定

$\displaystyle \hat{p} \sim \mathcal{N} \left( p, \frac{\hat{p}(1-\hat{p})}{n} \right)$より、母比率$p$の$95$％区間は下記のように表すことができます。
$$
\large
\begin{align}
z_{\alpha=0.975} \leq & Z \leq z_{\alpha=0.025} \\
-1.96 \leq & \frac{\hat{p}-p}{\sqrt{\hat{p}(1-\hat{p})/n}} \leq 1.96 \\
\hat{p} – 1.96 \sqrt{\frac{\hat{p}(1-\hat{p})}{n}} \leq & p \leq \hat{p} + 1.96 \sqrt{\frac{\hat{p}(1-\hat{p})}{n}}
\end{align}
$$

まとめ

母比率の区間推定では下記の$3$つの近似を用いたことに注意が必要です。

① 超幾何分布を二項分布で近似 $\leftarrow$ 母集団の大きさ$N$が大きいとき有限母集団修正項が$1$となる
② 中心極限定理による二項分布の正規近似
③ $\displaystyle \mathcal{N} \left( p, \frac{p(1-p)}{n} \right)$の分散の$p$を大数の法則に基づいて$\hat{p}$で近似

上記のように$3$つも同時に近似が出てくるので難しいですが、それぞれの概要を簡単に理解しておくと良いと思います。

当まとめでは統計検定$2$級の公式テキストの副教材に用いることができるように、統計学入門に関して取り扱います。当記事では「統計検定$2$級対応 統計学基礎」の$2.11.3$節「中心極限定理」の内容に基づいて中心極限定理の概要や取り扱いに関して取りまとめました。
統計検定$2$級のテキストとの対応がわかりやすいように、目次を「統計検定$2$級対応 統計学基礎」と対応させました。学びやすさの観点からあえて目次を対応させましたが、当まとめは「統計の森」オリジナルのコンテンツであり、統計検定の公式とは一切関係ないことにご注意ください。

・統計検定$2$級対応・統計学入門まとめ
https://www.hello-statisticians.com/stat_basic

改訂版　日本統計学会公式認定　統計検定２級対応　統計学基礎

2,420円(11/05 19:33時点)

Amazon

中心極限定理の概要

概要

中心極限定理は正規分布に基づかない標本に対しても$n$が大きくなれば標本の平均や和は正規分布に従うことを表した定理です。中心極限定理は大まかに下記の表を元に把握すると良いです。

必要な数学

統計検定$2$級レベルでは中心極限定理の結果のみ用いるので数学的な知識は特に必要ありませんが、収束を考える際に極限や累積分布関数を表す際に積分が出てくるので極限と積分の概念は抑えておくと良いと思います。

中心極限定理

数式を用いた中心極限定理の表現

中心極限定理は$E[X_i]=\mu, V[X_i]=\sigma^2$に基づく標本列$X_1, X_2, …, X_n$に対して下記のように定義することができます。
$$
\large
\begin{align}
S_n &= \sum_{i=1}^{n} X_n \sim \mathcal{N}(n \mu, n \sigma^2) \\
\overline{X} &= \frac{1}{n} \sum_{i=1}^{n} X_n \sim \mathcal{N} \left( \mu, \frac{\sigma^2}{n} \right)
\end{align}
$$

上記に基づいて、下記のように$Z \sim \mathcal{N}(0,1)$が成立する$Z$を定義することができます。
$$
\large
\begin{align}
Z &= \frac{S_n – n \mu}{\sqrt{n} \sigma} \sim \mathcal{N}(0,1) \\
Z &= \frac{\overline{X} – \mu}{\sigma / \sqrt{n}} \sim \mathcal{N}(0,1)
\end{align}
$$

ここまで和の$S_n$と平均の$\overline{X}$の双方を確認しましたが、母平均や母比率の推定や検定では$\overline{X}$に基づいて$\mu$や$p$に関する推定や検定を行います。一方で、二項分布の正規近似などの場合は標本の和の$S_n$を用います。以下ではそれぞれの取り扱いに関して具体的に確認します。

標本平均の活用例

母平均の区間推定

$E[X_i]=\mu, V[X_i]=\sigma^2$に基づく標本列$X_1, X_2, …, X_n$の標本平均$\overline{X}$に関して$n \to \infty$のとき、$\displaystyle E[\overline{X}] = \mu, V[\overline{X}] = \frac{\sigma^2}{n}$より下記が成立します。
$$
\large
\begin{align}
\overline{X} & \sim \mathcal{N} \left( \mu, \frac{\sigma^2}{n} \right) \\
Z &= \frac{\overline{X}-\mu}{\sigma / \sqrt{n}} \sim \mathcal{N}(0,1)
\end{align}
$$

上記に基づいて$\mu$の$95$％区間は下記のように表すことができます。
$$
\large
\begin{align}
z_{\alpha=0.975} \leq & Z \leq z_{\alpha=0.025} \\
-1,96 \leq & \frac{\overline{X}-\mu}{\sigma / \sqrt{n}} \leq 1.96 \\
\overline{X} – 1.96 \frac{\sigma}{\sqrt{n}} \leq & \mu \leq \overline{X} + 1.96 \frac{\sigma}{\sqrt{n}}
\end{align}
$$

母比率の区間推定

$E[X_i]=p, V[X_i]=p(1-p)$に基づく標本列$X_1, X_2, …, X_n$の標本比率$\hat{p}=\overline{X}$に関して$n \to \infty$のとき、$\displaystyle E[\overline{X}] = p, V[\overline{X}] = \frac{p(1-p)}{n}$より下記が成立します。
$$
\large
\begin{align}
\hat{p} &= \overline{X} \sim \mathcal{N} \left( p, \frac{p(1-p)}{n} \right) \\
Z &= \frac{\hat{p}-p}{\sqrt{p(1-p) / n}} \sim \mathcal{N}(0,1)
\end{align}
$$

上記に基づいて母比率$p$の$95$％区間は下記のように表すことができます。
$$
\large
\begin{align}
z_{\alpha=0.975} \leq & Z \leq z_{\alpha=0.025} \\
-1,96 \leq & \frac{\hat{p}-p}{\sqrt{p(1-p) / n}} \leq 1.96 \quad (1) \\
\hat{p} – 1.96 \sqrt{\frac{\hat{p}(1-\hat{p})}{n}} \leq & p \leq \hat{p} + 1.96 \sqrt{\frac{\hat{p}(1-\hat{p})}{n}} \quad (2)
\end{align}
$$

$(1)$から$(2)$の変形にあたっては、$n$が十分大きいことに基づいて分散の$p$を$\hat{p}$で近似を行いました。この置き換えは母比率の推定や検定でよく出てくるので注意が必要です。

標本和の活用例

参考

中心極限定理に関しては下記でも詳しく取り扱いました。

当まとめでは統計検定$2$級の公式テキストの副教材に用いることができるように、統計学入門に関して取り扱います。当記事では「統計検定$2$級対応 統計学基礎」の$2.10.1$節「$\chi^2$分布」の内容に基づいて$\chi^2$分布の定義や確率密度関数のグラフ化に関して取りまとめました。
統計検定$2$級のテキストとの対応がわかりやすいように、目次を「統計検定$2$級対応 統計学基礎」と対応させました。学びやすさの観点からあえて目次を対応させましたが、当まとめは「統計の森」オリジナルのコンテンツであり、統計検定の公式とは一切関係ないことにご注意ください。

・統計検定$2$級対応・統計学入門まとめ
https://www.hello-statisticians.com/stat_basic

改訂版　日本統計学会公式認定　統計検定２級対応　統計学基礎

2,420円(11/05 19:33時点)

Amazon

$\chi^2$分布の概要

概要

必要な数学

確率密度関数の図示にあたって、指数関数やガンマ関数の理解が必要になります。統計検定$2$級範囲では$\chi^2$分布の確率密度関数は出てきませんが、「統計数値表」の形式で使用する必要があるので確率密度関数の式とグラフの描画に関しては抑えておくと良いと思います。

ガンマ関数の取り扱いに関しては下記で取りまとめました。

$\chi^2$分布

確率変数の対応

$X_i \sim \mathcal{N}(0,1)$が成立するとき、下記のように$Y$を定義します。
$$
\large
\begin{align}
Y = \sum_{i=1}^{n} X_i^2
\end{align}
$$

このとき$Y$は自由度$n$の$\chi^2$分布$\chi^2(n)$に従い、$Y \sim \chi^2(n)$のように表され表されます。

確率密度関数

確率密度関数の数式

自由度$n$の$\chi^2$分布$\chi^2(n)$の確率変数を$Y$、確率密度関数を$f(y)$とおくと、$f(y)$は下記のように表すことができます。
$$
\large
\begin{align}
f(y) = \frac{1}{2^{\frac{n}{2}} \Gamma \left( \frac{n}{2} \right)} y^{\frac{n}{2}-1} \exp \left( -\frac{y}{2} \right)
\end{align}
$$

上記はガンマ分布$\displaystyle \mathrm{Ga} \left( \frac{n}{2},2 \right)$の確率密度関数に一致するので、$\chi^2(n)$はガンマ分布$\displaystyle \mathrm{Ga} \left( \frac{n}{2},2 \right)$に一致します。

ガンマ関数

ガンマ関数$\Gamma(\alpha)$は下記のように定義されます。
$$
\large
\begin{align}
\Gamma(\alpha) = \int_{0}^{\infty} x^{\alpha-1} e^{-x} dx \quad (1)
\end{align}
$$

このとき、ガンマ関数$\Gamma(\alpha)$に関して以下の式が成立します。
$$
\large
\begin{align}
\Gamma(\alpha+1) &= \alpha \Gamma(\alpha), \quad (2) \\
\Gamma(1) &= 1, \quad (3) \\
\Gamma(n) &= (n-1)!, n \in \mathbb{N}, \quad (4) \\
\Gamma \left( \frac{1}{2} \right) &= \sqrt{\pi}, \quad (5)
\end{align}
$$

詳しい導出は下記で取り扱いました。

発展事項①

$\chi^2$分布の確率密度関数の導出にあたっては統計検定準$1$級や$1$級で出てくる変数変換などが必要で難しいので当記事では省略しました。詳しくは下記で取り扱いましたので、導出を確認する際は下記などをご確認ください。

確率密度関数の図示

以下では$\chi^2(1), \chi^2(3), \chi^2(10)$の$\chi^2$分布の図示を行います。それぞれの分布のガンマ関数は前項の式に基づいて下記のように計算できます。
$$
\large
\begin{align}
\Gamma \left( \frac{1}{2} \right) &= \sqrt{\pi} \\
\Gamma \left( \frac{3}{2} \right) &= \frac{1}{2} \Gamma \left( \frac{1}{2} \right) \\
&= \frac{\sqrt{\pi}}{2} \\
\Gamma \left( \frac{10}{2} \right) &= \Gamma(5) \\
&= (5-1)! = 4!
\end{align}
$$

上記より、確率密度関数の式に基づいて下記を実行することで$F$分布の確率密度関数を描くことができます。

import numpy as np
import matplotlib.pyplot as plt
import math

y = np.arange(0.1,20.1,0.01)

f_y = {}

f_y[0] = y**(1./2.-1) * np.e**(-y/2.) / (2**(1./2.) * np.sqrt(np.pi))
f_y[1] = y**(3./2.-1) * np.e**(-y/2.) * 2. / (2**(3./2.) * np.sqrt(np.pi))
f_y[2] = y**(10./2.-1) * np.e**(-y/2.) / (2**(10./2.) * math.factorial(4))

label_y = {}
label_y[0], label_y[1], label_y[2] = "n = 1", "n = 3", "n = 10,"

for i in range(3):
    plt.plot(y,f_y[i],label=label_y[i])

plt.legend()
plt.ylim([0.,0.5])
plt.show()

・実行結果

上図は「統計検定$2$級対応 統計学基礎」の図$2.9$に対応します。

発展事項②

標本分布の確率密度関数から「統計数値表」の作成にあたっては「数値積分」が用いられます。教科書などで取り扱われることは少ないですが、台形の公式などに基づいて近似値の計算ができるので、概要は抑えておくと良いかもしれません。

$\chi^2$分布の期待値・分散

自由度$n$の$\chi^2$分布の期待値$E[Y]$と分散$V[Y]$は下記のように表される。
$$
\large
\begin{align}
E[Y] &= n \\
V[Y] &= 2n
\end{align}
$$

上記の詳しい導出は下記で取り扱いました。

当まとめでは統計検定$2$級の公式テキストの副教材に用いることができるように、統計学入門に関して取り扱います。当記事では「統計検定$2$級対応 統計学基礎」の$1.1$節「変数の分類」の内容を元に質的変数・量的変数や、尺度などの統計学における重要な用語に関して取り扱いました。
統計検定$2$級のテキストとの対応がわかりやすいように、目次を「統計検定$2$級対応 統計学基礎」と対応させました。学びやすさの観点からあえて目次を対応させましたが、当まとめは「統計の森」オリジナルのコンテンツであり、統計検定の公式とは一切関係ないことにご注意ください。

・統計検定$2$級対応・統計学入門まとめ
https://www.hello-statisticians.com/stat_basic

改訂版　日本統計学会公式認定　統計検定２級対応　統計学基礎

2,420円(11/05 19:33時点)

Amazon

「変数の分類」の概要

概要

統計的な分析では下記のような表型のデータに基づく計算結果を元に分析を行います。

上記の詳細は下記より入手することができます。
http://www.tokyo-tosho.co.jp/books/978-4-489-02227-2/

表$1.1$の$1$行は個体・ケース・サンプルに対応し、$1$列は調査項目が対応します。特に調査項目のことを変数(variable)ということは抑えておくと良いです。当記事では以下、「変数」の分類に関して詳しく確認を行います。

必要な数学

用語の定義の確認が主なので、必要な数学知識は特にありません。

変数の分類

質的変数/量的変数

変数の種類はカテゴリで表される質的変数(qualitative variable)と、観測値で表される量的変数(quantitative variable)に大別されます。前節で取り扱った表では「近さ」、「間取り」、「方角」が質的変数、「家賃」、「大きさ」、「築年数」が量的変数に対応します。

尺度

変数はそれぞれの値が持つ性質に基づいて$4$つの尺度に分けて考えられることがあります。尺度には「名義尺度」、「順序尺度」、「間隔尺度」、「比例尺度」の$4$つがあり、それぞれ下記のように定義されます。

離散変数/連続変数