「統計学実践ワークブック」の$26$章で取り扱われる「多次元尺度法(MDS; Multi-Dimensional scaling)」の導出に関連して二重中心化(double centering)が唐突に出てくるので、当記…
Hello Statisticians!
統計に関する用語、また、それと合わせて各種公式を解説します
「統計学実践ワークブック」の$26$章で取り扱われる「多次元尺度法(MDS; Multi-Dimensional scaling)」の導出に関連して二重中心化(double centering)が唐突に出てくるので、当記…
「統計学実践ワークブック」の$8$章「統計的推定の基礎」のバイアスやジャックナイフ推定量に関する直感的な理解が難しいように思われたので、当記事では具体的に正規分布から標本を発生させることでいくつかの値の確認を行いました。…
確率分布の類似度を計算するにあたってKLダイバージェンスが用いられることが多いですが、式の解釈に関してわかりやすくまとめられていることが少ないように思われます。そこで当記事ではKLダイバージェンスの概略が把握できるように…
分類問題を考える際などに$1$of$K$表記を$N$個のサンプル毎に列挙することで$N \times K$行列を考えることがありますが、この際にトレースを用いて二乗和誤差が計算されることがあります。当記事ではトレースを用…
単位三角行列(Unit triangular matrix)の$T$に関して$|AT|=|TA|=|A|$が成立することは$|AB|=|A||B|$の導出などで用いられます。当記事では単位三角行列の$T$に関して$|AT…
行列式(determinants)に関する$|AB|=|A||B|$の公式は$|A|$を固有値で表す場合などの導出に用いるなど、様々な導出で必須の公式です。当記事では部分行列表記と単位三角行列を用いた$|AB|=|A||…
ベイズ線形回帰(Bayesian Linear Regression)におけるパラメータの事後確率と予測分布(Predictive distribution)の導出は正規分布の条件付き分布や周辺分布の計算を用いることで導…
多次元正規分布に対してベイズの定理を適用した際の条件付き確率や周辺確率の確率密度関数の式の導出を取り扱います。ここでの導出結果を元に予測分布(Predictive distribution)なども考えることができるので、…
多次元正規分布の周辺分布(Marginal distribution)の導出を取り扱います。「パターン認識と機械学習(PRML)」の上巻の$2.3.2$節を参考に取りまとめを行いました。積分消去やシューア補行列を用いた逆…
二次形式の平方完成(Completing the square)を行うにあたって、行列演算の取り扱いはいきなり出てくると対応が難しいです。そこで当記事では行列が出てくる際の平方完成はどのように行えるかに関して取りまとめま…