多次元尺度構成法(MDS; Multi-Dimensional Scaling)は個体間の類似度が与えられているときに、類似度に基づいてそれぞれの個体の位置を表現する手法の一つです。当記事では計量MDSの基本的な導出に関…
Hello Statisticians!
統計に関する用語、また、それと合わせて各種公式を解説します
多次元尺度構成法(MDS; Multi-Dimensional Scaling)は個体間の類似度が与えられているときに、類似度に基づいてそれぞれの個体の位置を表現する手法の一つです。当記事では計量MDSの基本的な導出に関…
行列分解まとめ①では特異値分解(SVD; singular value decomposition)などの基本的な行列分解の手法に関してまとめました。②では近年用いられているFactorization Machinesや…
DeepLearningの学習でよく用いられるAdam(Adaptive moment)ですが、式が少々複雑なので直感的な理解が難しいです。当記事ではAdamを構成する主な考え方のmomentumとAdaGradなどを元…
DeepLearningなどの手法で近年よく用いられるクロスエントロピー(cross entropy)誤差ですが、実は多項分布に対して最尤法を用いることで導出を行うことができます。当記事では導出の大枠と関連で出てくるソフ…
正規分布(Normal Distribution)の平均$\mu$や分散$\sigma^2$はそれぞれ平均とばらつき度合いを表すパラメータとされますが、それぞれの値によって確率密度関数の形状がどのように変わるかに関して考…
正規方程式(normal equation)は回帰式に対して最小二乗法(least square method)などを用いてパラメータの推定を行う際に出てくる数式です。$y = \beta_0 + \beta_1 x$の…
行列・線形代数を学ぶにあたって様々な行列の名称が出てきますが、正方行列、正則行列、正規行列、正定値行列、直交行列、対称行列、エルミート行列など数多くの名称が出てくるので抑えておくのがなかなか大変です。そこで当記事では行列…
特異値分解(SVD; singular value decomposition)は行列を分解する手法の一つで、$n \times n$の行列にとどまらず$m \times n$の行列に用いることができます。当記事では特異…
超幾何分布(Hypergeometric distribution)は$2$種からなる有限の集団から無作為非復元サンプリングを行う際に考える分布である。当記事では超幾何分布の定義や期待値・分散の導出、有限母集団修正の修正…
機械学習(machine leanring)の大別にあたって「教師あり学習(Supervised Learning)」、「教師なし学習(Unsupervised Learning)」、「強化学習(Reinforcemen…