当記事ではLU分解を用いた「$1$次連立方程式の解法」と「逆行列」の導出の仕組みに関して詳しく確認し、確認した式を元にPythonでプログラムを作成します。特に逆行列は行列を扱う上で様々なところで用いられるので、仕組みの…
Hello Statisticians!
統計に関する用語、また、それと合わせて各種公式を解説します
当記事ではLU分解を用いた「$1$次連立方程式の解法」と「逆行列」の導出の仕組みに関して詳しく確認し、確認した式を元にPythonでプログラムを作成します。特に逆行列は行列を扱う上で様々なところで用いられるので、仕組みの…
当記事ではLU分解(LU decomposition)の原理の理解とPythonを用いた実装に関して取り扱います。LU分解は方程式を順に解く手法であり、手計算を行うと大変なのでPythonなどで計算を行うとスムーズですが…
当記事ではQR分解(QR decomposition)に基づくQR法を用いた固有値の近似計算の概要とPythonを用いた実装に関して取り扱います。QR分解に関してはいくつか手法がありますが、当記事ではグラム・シュミットの…
グラム・シュミットの正規直交化法(Gram–Schmidt orthonormalization)は線型独立な有限個のベクトルで構成される部分空間と同様の部分空間を持つ正規直交系を作り出す手法です。当記事では正射影の式を…
「統計学実践ワークブック」の$26$章で取り扱われる「多次元尺度法(MDS; Multi-Dimensional scaling)」の導出に関連して二重中心化(double centering)が唐突に出てくるので、当記…
「統計学実践ワークブック」の$8$章「統計的推定の基礎」のバイアスやジャックナイフ推定量に関する直感的な理解が難しいように思われたので、当記事では具体的に正規分布から標本を発生させることでいくつかの値の確認を行いました。…
確率分布の類似度を計算するにあたってKLダイバージェンスが用いられることが多いですが、式の解釈に関してわかりやすくまとめられていることが少ないように思われます。そこで当記事ではKLダイバージェンスの概略が把握できるように…
分類問題を考える際などに$1$of$K$表記を$N$個のサンプル毎に列挙することで$N \times K$行列を考えることがありますが、この際にトレースを用いて二乗和誤差が計算されることがあります。当記事ではトレースを用…
単位三角行列(Unit triangular matrix)の$T$に関して$|AT|=|TA|=|A|$が成立することは$|AB|=|A||B|$の導出などで用いられます。当記事では単位三角行列の$T$に関して$|AT…
行列式(determinants)に関する$|AB|=|A||B|$の公式は$|A|$を固有値で表す場合などの導出に用いるなど、様々な導出で必須の公式です。当記事では部分行列表記と単位三角行列を用いた$|AB|=|A||…