DeepLearningなどの手法で近年よく用いられるクロスエントロピー(cross entropy)誤差ですが、実は多項分布に対して最尤法を用いることで導出を行うことができます。当記事では導出の大枠と関連で出てくるソフ…
Hello Statisticians!
DeepLearningなどの手法で近年よく用いられるクロスエントロピー(cross entropy)誤差ですが、実は多項分布に対して最尤法を用いることで導出を行うことができます。当記事では導出の大枠と関連で出てくるソフ…
共役事前分布(Conjugate Prior Distribution)はベイズ統計学に基づいてベイズの定理を用いるにあたって計算負荷を減らすことができるので抑えておくと良い。当記事では観測値に仮定される確率分布に対して…
機械学習や統計解析の理論的な背景には「統計モデル」という考え方があります。 統計モデルを通して機械学習や統計分析を見ることで、様々な手法を俯瞰して理解することができます。例えば、最尤法とベイズ法の差異については、ベイズ法…
下記などで取り扱った、マルコフ連鎖の定常分布・パラメータ推定に関する問題演習を通した理解ができるように問題・解答・解説をそれぞれ作成しました。https://www.hello-statisticians.com/exp…
基本問題 基本的な最尤法の流れ ・問題正規分布$N(\mu, \sigma^2)$に従ってそれぞれ独立にサンプルが得られたと考える。このとき、正規分布$N(\mu, \sigma^2)$の確率密度関数$P(x|\mu,\…
当記事は「基礎統計学Ⅲ 自然科学の統計学(東京大学出版会)」の読解サポートにあたってChapter.4の「最尤法」の章末問題の解説について行います。※ 基本的には書籍の購入者向けの解答例・解説なので、まだ入手されていない…