ブログ

当記事では「統計学を学ぶにあたって最低限抑えておきたい数学」の中から「階乗・順列(Permutation)・組合せ(Combination)」に関して取り扱います。順列と組合せが混同されやすいので、可能な限り直感的な理解ができるように取りまとめを行いました。
取りまとめにあたっては数学の解説に関してはなるべくシンプルに取り扱いますが、統計学への応用に関連した複雑な内容に関しては目次に「*」をつけました。「*」がついているものはやや難しいので、読み飛ばしても問題ありません。

・基本数学まとめ
https://www.hello-statisticians.com/math_basic

階乗

概要

$$
\large
\begin{align}
n! = 1 \times 2 \times 3 \times \cdots \times (n-1) \times n
\end{align}
$$

自然数$n$の階乗$n!$は上記のように定められます。階乗に基づいて$n$人の並べ方を計算することができます。

直感的理解

階乗の直感的理解にあたっては、「$n$人の並べ替え」を元に考えると良いです。「並べ替え」を考える場合は、$n$個の場所を先に考えて、「それぞれの場所に人を割り振る」イメージを持つとわかりやすいです。

たとえば$n$人にそれぞれ$1$〜$n$の番号を割り振るとき、上図では$1$番目の場所には$n$通りの中から$5$を選び割り振りが行われます。このことにより、$2$番目の場所には$5$以外の$n-1$通りから$12$が選ばれ、同様に$n$番目の場所まで割り振りを行います。

$n-1$番目の場所には$2,7$から$2$、$n$番目の場所には残った$7$が対応します。このように考えるとき、全体の並べ方は$n!$通りに対応すると考えることができます。

順列

概要

$$
\large
\begin{align}
{}_{n} P_m = (n-m+1) \times (n-m+2) \times (n-m+3) \times \cdots \times (n-1) \times n
\end{align}
$$

自然数$m, n, \, n \geq m$に関して順列${}_{n} P_{m}$は上記のように定められます。上記の式に基づいて$n$人の中から$m$人を選んで並べる際の並べ方などの計算を行うことができます。

直感的理解

順列の直感的理解は階乗の図と同様に行うことができます。

階乗の図では$n$個の場所を用意し、$n$人と対応させましたが、順列では「$m$個の場所に対応させる」と考えれば良いです。

組合せ

概要

$$
\large
\begin{align}
{}_{n} C_m = \frac{(n-m+1) \times (n-m+2) \times (n-m+3) \times \cdots \times (n-1) \times n}{m!}
\end{align}
$$

自然数$m, n, \, n \geq m$に関して組合せ${}_{n} C_{m}$は上記のように定められます。上記の式に基づいて$n$人の中から$m$人を選ぶ際の組合せを計算することができます。

直感的理解

組合せの直感的理解にあたっては「順列」の図で並べ替えを行わない場合を考えれば良いです。重複が$m!$通りあるので、順列の式を$m!$で割った式が組合せの式に一致します。

集合は抽象的なトピックであり単体で学ぶと難しそうな印象を受けるかもしれませんが、統計学では「同時確率分布」を考える際や「変数・ベクトル・行列の定義」を行う際などに頻出なので抑えておくと良いです。当記事では統計学を学ぶにあたって抑えておくとよいトピックを中心に集合に関して取りまとめました。

・基礎数学まとめ
https://www.hello-statisticians.com/math_basic

なお、当記事の取りまとめにあたっては「直感的理解」を重視しましたので、所々「厳密ではない」表現を用いている場合があります。正確には「集合」や「集合論」の教科書などを適宜参照ください。

基本トピック

要素と集合

「集合」は「複数の要素をまとめて取り扱ったもの」と大まかに理解すると良いです。たとえば「$1$以上$10$以下の偶数に対応する$2,4,6,8,10$」のように複数の要素をまとめて取り扱います。要素がない空集合や$1$つの場合などもありますが、「複数の要素をまとめて取り扱える」というのが「集合」を学ぶ利点の$1$つではあるので、大まかに考えるにあたっては「複数の要素をまとめて取り扱ったもの」のように考えると良いのではないかと思います。

ここで$1$以上$10$以下の偶数の集合を$A$とおくと、$A$は下記のように表すことができます。
$$
\large
\begin{align}
A = \{2,4,6,8,10\}
\end{align}
$$

ここで$A$を集合、$2,4,6,8,10$を要素と呼ぶことは必ず抑えておく必要があります。また、$2$のような要素が集合$A$に含まれることを記号$\in$を用いて$2 \in A$のように表記します。

和集合・積集合

必要条件・十分条件

集合の応用

積集合と同時確率分布

変数・ベクトル・行列の定義

変数・ベクトル・行列の定義にあたって集合の考え方を用いた表記は様々な文献で用いられるので必ず抑えておくとよい。表記にあたっては、$\mathbb{N},\mathbb{Z},\mathbb{R}$をそれぞれ自然数、整数、実数の集合と定め、実数$x$を$x \in \mathbb{R}$のように表す。

変数の場合は単に「実数$x$」などと表記するだけでもシンプルに表記できるが、ベクトル・行列の場合は次元を考える必要があり、単に「実数ベクトル$\mathbf{x}$」ではなく「$n$次元実数ベクトル$\mathbf{x}$」のように表記しなければならない。このときに、下記のような表記が用いられる。
$$
\large
\begin{align}
\mathbf{x} \in \mathbb{R}^{n}
\end{align}
$$

上記は「$n$次元の実数ベクトル$\mathbf{x}$」を定めることに一致する。同様に$m \times n$の実数行列$A$は下記のように定義できる。
$$
\large
\begin{align}
A \in \mathbb{R}^{m \times n}
\end{align}
$$

和を表す$\displaystyle \sum$と積を表す$\displaystyle \prod$は、$x_1, \cdots x_n$のように$n$個の標本を取り扱うにあたってはよく用いられます。一方で数式の記号が出てくるだけで難しく見えるようなので、当記事ではそれぞれの定義と具体的な使い方に関して取りまとめました。

・数学まとめ
https://www.hello-statisticians.com/math_basic

$\sum$の定義と使用例

$\sum$の定義

$$
\large
\begin{align}
\sum_{i=1}^{n} x_i = x_1 + x_2 + x_3 + \cdots + x_{n-1} + x_{n}
\end{align}
$$

和を表す$\displaystyle \sum$は上記のように定められる。「$\displaystyle \sum$の公式」で取り扱ったように、公式は複雑な式も取り扱うが、$\displaystyle \sum$自体は単に和をまとめた記号であるのでシンプルに考えると良い。

$\displaystyle \sum$の下に記した$i=1$と上に記した$n$は$i=1$から$i=n$までの和を表すが、省略される場合もあることに注意が必要である。また、集合$J=\{1,2,3,4,5\}$の要素$j$が$j \in J$のように表されることを元に、下記のように表記することもできる。
$$
\large
\begin{align}
\sum_{j \in J} x_j &= x_1 + x_2 + x_3 + x_4 + x_5 \\
J &= \{ 1,2,3,4,5 \}
\end{align}
$$

$\sum$の使用例

統計学における$\displaystyle \sum$の主な使用例には平均や分散の定義が挙げられる。標本$x_1, \cdots , x_n$が観測された時の標本平均$\bar{x}$と標本分散$S_x^2$は下記のように表される。
$$
\large
\begin{align}
\bar{x} &= \frac{1}{n} \sum_{i=1}^{n} x_i \\
S_x^2 &= \frac{1}{n} \sum_{i=1}^{n} (x_i-\bar{x})^2
\end{align}
$$

上記のように$n$個の観測値に対し、何らかの式に基づいて指標を計算する際に$\displaystyle \sum$を用いることで式をシンプルに表すことができる。

$\prod$の定義と使用例

$\prod$の定義

$$
\large
\begin{align}
\prod_{i=1}^{n} x_i = x_1 \times x_2 \times x_3 \times \cdots \times x_{n-1} \times x_{n}
\end{align}
$$

和を表す$\displaystyle \prod$は上記のように定められる。$\displaystyle \prod$は$\displaystyle \sum$と同様に単に積をまとめた記号であるのでシンプルに考えると良い。

$\prod$の使用例

統計学における$\displaystyle \prod$の主な使用例には最尤法が挙げられる。$f(x_1,x_2)=f(x_1)f(x_2)$が成立する場合に、同時確率密度関数$f(x_1,\cdots,x_n)$は下記のように表される。
$$
\large
\begin{align}
f(x_1,\cdots,x_n) = \prod_{i=1}^{n} f(x_i)
\end{align}
$$

また、上記の最大値問題を考えるにあたって$\displaystyle \prod$の対数関数を考える場合が多い。$\displaystyle \prod_{i=1}^{n}$の対数は下記のように変形を行うことができる。
$$
\large
\begin{align}
\log{\left[ \prod_{i=1}^{n} f(x_i) \right]} &= \log{[ f(x_1) \times f(x_2) \times f(x_3) \times \cdots \times f(x_{n-1}) \times f(x_{n})]} \\
&= \log{f(x_1)} + \log{f(x_2)} + \log{f(x_3)} + \cdots + \log{f(x_{n-1})} + \log{f(x_n)} \\
&= \sum_{i=1}^{n} \log{f(x_i)}
\end{align}
$$

最尤法に関する詳しい導出は下記などで演習形式で取り扱った。