BFGS法は非線形の最適化の際によく用いられるアルゴリズムですが、準ニュートン法の$1$つと見なすことができます。当記事ではBFGS法・準ニュートン法の概要や数式理解、具体的な例に対して計算を行うPythonプログラムな…
Hello Statisticians!
統計に関する用語、また、それと合わせて各種公式を解説します
BFGS法は非線形の最適化の際によく用いられるアルゴリズムですが、準ニュートン法の$1$つと見なすことができます。当記事ではBFGS法・準ニュートン法の概要や数式理解、具体的な例に対して計算を行うPythonプログラムな…
「尤度」と「事前確率」に関してベイズの定理を適用することでパラメータの事後分布が得られます。当記事では事前分布の選定にあたって用いられることのあるジェフリーズの事前分布(Jeffreys prior distributi…
勾配ベクトルを用いた漸化式的に表される反復法を用いて最適解を計算する手法を最急降下法(Gradient Descent)といいます。当記事では最急降下法の数式と、ステップ幅の適応的計算にあたって用いられる直線探索について…
多変数の凸関数の制約なし最適化問題を取り扱うにあたっては多変数関数の勾配(gradient)やヘッセ行列(hessian matrix)を用いることで$1$次・$2$次の最適性条件を表すことができます。当記事ではそれぞれ…
数理統計学の検定論で出てくる検出力関数(power function)は一様最強力検定や一様最強力検定の理解にあたって重要な概念です。当記事では指数分布の両側検定の検出力関数を示し、$95$％両側検定における棄却域につい…
数理統計学の検定論で出てくる検出力関数(power function)は一様最強力検定や一様最強力検定の理解にあたって重要な概念です。当記事では不偏検定の導入の際に用いられる正規分布の母平均の両側検定を行う際の検出力関数…
一様最強力不偏検定で両側検定の両側の棄却域を計算のような連立方程式はそのまま解くことができないので、多次元ニュートン法が適用されます。当記事では多次元テイラー展開を用いた多次元ニュートン法の導出や、多次元ニュートン法を用…
ネイマン・ピアソンの補題で定義される尤度比(likelihood ratio)が標本や統計量の単調増加関数で得られるとき、単調尤度比といいます。当記事では確率密度関数が指数型分布族で表される際に、どのような場合に尤度比が…
当まとめでは統計検定$2$級の公式テキストの副教材に用いることができるように、統計学入門に関して取り扱います。当記事では「統計検定$2$級対応 統計学基礎」の$1.3.4$節「中央値・最頻値」の内容を元に、左右対称ではな…
物価のような価格を表す価格指数によく用いられるのがラスパイレス指数(Laspeyres index)です。ラスパイレス指数の定義式が難しく書かれることが多いことで難しく見えますが実際にはそれほど難しくないので、当記事では…