制約付き最適化問題の解法としてよく用いられる「ラグランジュの未定乗数法」だが、本論で議論されるというよりはAppendixなどで解説されることが多い。当記事では「パターン認識と機械学習(PRML)」の上巻のAppendi…
Hello Statisticians!
統計に関する用語、また、それと合わせて各種公式を解説します
制約付き最適化問題の解法としてよく用いられる「ラグランジュの未定乗数法」だが、本論で議論されるというよりはAppendixなどで解説されることが多い。当記事では「パターン認識と機械学習(PRML)」の上巻のAppendi…
多次元のベクトルから主要なベクトルを構築する主成分分析は分散共分散行列の固有値・固有ベクトルを用いて導出できることが知られている。とはいえ、関連の数式を確認すると、二次形式が出てくることでなかなか導出が難しい。そこで本稿…
乱数はゲームのプログラミングやMCMCなどを用いた近似解の計算など、様々な分野で用いられています。パッケージを用いた乱数の発生についてはよくまとめを見かける一方で、乱数生成の原理についてまとめてある記事は少ないです。そこ…
中心極限定理などに基づいて母集団の確率分布のパラメータの点推定・区間推定や、パラメータに関する仮説の検定を行う推測統計は、基本的な考え方は一貫している一方で推定の対象や分散の既知・未知などに置ける場合分けなど、関連する概…
確率モデルに基づいたシミュレーションを行う際に、確率モデルに現れる確率分布に従う乱数を生成することが必要になります。逆関数法(inverse transformation method)を使うことで、一様乱数から任意の確…
確率分布の再生性は二項分布、ポアソン分布、正規分布において成立しますが、導出にあたっては大きく分けると「①モーメント母関数を用いる手法」と「②畳み込み(convolution)を用いる手法」の二つが存在します。当記事では…
基礎的な統計学から一つ進んだ高度な統計学を考える上で重要なトピックである確率分布だが、基礎的な統計学で取り扱う確率密度関数(Probability Density Function)や累積分布関数(Cummulative…
確率分布の確率母関数や期待値の計算などの計算にあたって、マクローリン展開の級数から関数への変形を用いることが多い。関数から級数へのマクローリン展開は微分の値に基づいて計算すれば良いが、級数から関数への変換はある程度知って…
期待値と分散・共分散の定義 確率変数\(X\)に関する期待値を \(E[X]\)、分散を\(V[X]\)とする。サンプル数を\(n\)、サンプルの集合を\(\{x_1, x_2, …, x_i, …, x_n\}\)と表…