確率過程に関連して差分方程式(difference equation)の一般解などが出てくるが、「数列」で取り扱われる「隣接三項間漸化式」の一般化と考えることもできる。当記事ではどちらの観点からも理解できるように、取りま…
Hello Statisticians!
統計に関する用語、また、それと合わせて各種公式を解説します
確率過程に関連して差分方程式(difference equation)の一般解などが出てくるが、「数列」で取り扱われる「隣接三項間漸化式」の一般化と考えることもできる。当記事ではどちらの観点からも理解できるように、取りま…
共役事前分布(Conjugate Prior Distribution)はベイズ統計学に基づいてベイズの定理を用いるにあたって計算負荷を減らすことができるので抑えておくと良い。当記事では観測値に仮定される確率分布に対して…
エントロピー(entropy)は確率分布の類似度を計算するKLダイバージェンスなど、統計学や機械学習の分野で様々な形で用いられる。当記事では「Pattern Recognition and Machine Learnin…
スターリングの近似(Stirling’s approximation)は$t$分布の極限やエントロピーを考える際に出てくるなど応用範囲が広い一方で、式のみが出てくることが多く、解説されている機会が少ないように思われる。そ…
当記事では指数型分布族の式に関して一様最強力不偏検定(Uniformly Most Powerful Unbiased test)に関する補題を適用し、凸関数と直線の比較により両側検定の導出の解釈を行った。「現代数理統計…
当記事では一様最強力検定(Uniformly Most Powerful test)を考える際に用いられるネイマン・ピアソンの補題について取り扱った。そのままの形式では理解が難しいので、二項分布を用いた具体例を元に直感的…
統計的決定理論の基本的な定義に関しては下記で取り扱った。https://www.hello-statisticians.com/explain-terms-cat/stat_decision1.html一方で、統計的決定…
ROC曲線(Receiver Operating Characteristic curve)やそれに基づくAUC(Area Under the Curve)は様々な場面で用いられるが、これらは統計的決定理論や検定論に基づ…
三角関数の「加法定理」・「倍角の公式」・「極限、微分の公式」は高校数学の主要なトピックであり、様々な専門領域の基礎になるが、公式を適用することが中心になりがちで、導出まで抑えているケースが少ないと思われる。そこで当記事で…
大数の法則(law of large numbers)や確率収束(convergence in probability)を考えるにあたって、マルコフの不等式(Markov’s inequality)とチェビシ…