統計学を取り扱う上で凸関数(convex function)や凸集合(convex set)は様々な状況で用いられます。凸関数に関してはイェンセンの不等式(Jensen’s inequality)が成立し、統計学では期待…
Hello Statisticians!
統計に関する用語、また、それと合わせて各種公式を解説します
統計学を取り扱う上で凸関数(convex function)や凸集合(convex set)は様々な状況で用いられます。凸関数に関してはイェンセンの不等式(Jensen’s inequality)が成立し、統計学では期待…
混合正規分布(Mixtures of Gaussians)は多峰の確率分布の表現にあたって、複数の正規分布を確率的に混合して表す分布です。当記事では混合正規分布の尤度関数を確認し、尤度最大化にあたって用いるEMアルゴリズ…
多クラスでの分類（1-of-K表現のモデル）などでよく出てくるカテゴリ分布のパラメータの共役事前分布を利用した推論を扱います。 カテゴリ分布(categorical distribution) カテゴリ分布とは、ベルヌー…
ディリクレ分布(Dirichlet distribution)は多項分布のパラメータの事後確率を考えるときに用いる共役事前分布です。当記事では多項分布の式を確認し、その共役事前分布のディリクレ分布の導入やディリクレ分布を…
ロジスティック回帰などに関連してオッズ(odds)という考え方が用いられますが、教科書などの解説ではオッズそのものの取り扱いがあまり多くありません。そこで当記事ではオッズという考え方を中心に取り扱い、一般的な使用例も確認…
数列の和の計算は基本的な数学のトピックである一方で、単に公式を抑えるだけではわからなくなりがちです。そこで当記事では数列の和の公式とその導出に関して取り扱いました。等差数列・等比数列の和の公式の導出は考え方の理解が中心で…
統計検定の準1級ワークブックなどに出てくるスピアマンの順位相関係数(Spearman correlation coefficient)は通常の相関係数の式から導出できるとされる一方で詳しい導出がないので、当記事ではスピア…
行列を考える際に「トレース(trace)」は正方行列(Square matrix)の対角成分の和を表す概念です。機械学習や統計学を学ぶにあたってトレースの記号が出てくるときがあるので当記事ではトレース(trace)の定義…
行列$A$の転置行列$A^{\mathrm{T}}$は様々な場面でよく出てきますが、$(AB)^{\mathrm{T}}=B^{\mathrm{T}}A^{\mathrm{T}}$などは詳しく確認していないとわからなくな…
多次元尺度構成法(MDS; Multi-Dimensional Scaling)個体間の類似度が与えられているときに、類似度に基づいてそれぞれの個体の位置を表現する手法の一つです。当記事では計量MDSの基本的な導出に関し…