タグ: 最尤法

スコア関数の定義とランジュバン・モンテカルロ(Langevin Monte Carlo)法

投稿日: 2023-09-032023-09-03 投稿者: lib-arts

ランジュバン・モンテカルロ(Langevin Monte Carlo)法は対数尤度の勾配であるスコア(score)を用いたサンプリング手法(MCMC)です。当記事ではスコア関数の定義とランジュバン・モンテカルロ法の数式に…

投稿日: 2023-05-112023-04-08 投稿者: lib-arts

当記事は「言語処理のための機械学習入門(コロナ社)」の読解サポートにあたってChapter.$1$の「必要な数学知識」の章末問題の解説について行います。基本的には書籍の購入者向けの解説なので、まだ入手されていない方は購入…

投稿日: 2022-12-062023-04-04 投稿者: yoichi_t

統計の森では、YouTubeチャンネル「統計の森ちゃんねる」を運営しています。統計の森ちゃんねるでは、当サイトの「統計学標準演習100選」の問題を解説する動画シリーズ「演習で理解する統計学シリーズ」を投稿しています。…

投稿日: 2022-06-072023-08-21 投稿者: lib-arts

DeepLearningなどの手法で近年よく用いられるクロスエントロピー(cross entropy)誤差ですが、実は多項分布に対して最尤法を用いることで導出を行うことができます。当記事では導出の大枠と関連で出てくるソフ…

投稿日: 2022-02-162022-09-30 投稿者: lib-arts

共役事前分布(Conjugate Prior Distribution)はベイズ統計学に基づいてベイズの定理を用いるにあたって計算負荷を減らすことができるので抑えておくと良い。当記事では観測値に仮定される確率分布に対して…

投稿日: 2021-11-082022-04-15 投稿者: yoichi_t

機械学習や統計解析の理論的な背景には「統計モデル」という考え方があります。統計モデルを通して機械学習や統計分析を見ることで、様々な手法を俯瞰して理解することができます。例えば、最尤法とベイズ法の差異については、ベイズ法…

投稿日: 2021-10-172023-01-12 投稿者: lib-arts

下記などで取り扱った、マルコフ連鎖の定常分布・パラメータ推定に関する問題演習を通した理解ができるように問題・解答・解説をそれぞれ作成しました。・標準演習$100$選https://www.hello-statistic…

投稿日: 2021-09-132023-04-02 投稿者: lib-arts

当記事では最尤法とGLM(Generalized Linear Model)の導出に関する演習について取り扱いました。簡単な回帰からロジスティック回帰やポアソン回帰までの計算の流れを詳しく確認できるように作成を行いました…

投稿日: 2021-06-212022-08-07 投稿者: lib-arts

当記事は「基礎統計学Ⅲ 自然科学の統計学(東京大学出版会)」の読解サポートにあたってChapter.$4$の「最尤法」の章末問題の解説について行います。基本的には書籍の購入者向けの解答例・解説なので、まだ入手されていない…