統計学 標準演習100選 〜確率、推測統計、回帰、応用、数理統計学〜

統計学の理解にあたって行っておくとよい重要な演習について、$100$題を厳選して取りまとめを行う予定です。
それぞれの主要トピックの導出の流れを取り扱ったり、解答・解説ありきで作成を行なったりなど、理解度の確認用の問題ではない場合も多いので、$1$周目については解答を読みながら理解する形式で進めると良いと思います。解法を抑えて類題が解ければ十分なものが多いです。

確率・確率分布

確率分布②

Q.$1$ 超幾何分布と母分散の有限修正
Q.$2$ 重複組合せと負の二項分布
Q.$3$ 多項分布
Q.$4$ コーシー分布
Q.$5$ 対数正規分布

確率分布①」は「基本演習$100$選」で取り扱いました。

区間推定

等比数列の和・マクローリン展開と離散確率分布の確率母関数

Q.$1$ 確率母関数の定義と期待値$E[X]$・分散$V[X]$の対応
Q.$2$ ベルヌーイ分布・二項分布の確率母関数とその活用
Q.$3$ マクローリン展開の式と係数の簡易的な導出
Q.$4$ $e^{x}$のマクローリン展開とポアソン分布の確率母関数の導出
Q.$5$ 幾何分布の確率母関数の導出
Q.$6$ 幾何分布の平均$E[X]$・分散$V[X]$の導出

モーメント・モーメント母関数・モーメント法

Q.$1$ モーメントの定義
Q.$2$ モーメント法
Q.$3$ モーメント母関数の導出
Q.$4$ ベルヌーイ分布・二項分布のモーメント母関数
Q.$5$ ポアソン分布のモーメント母関数と再生性の導出

中心極限定理・デルタ法

Q.$1$ 標本・確率変数の和と平均に関する中心極限定理
Q.$2$ 中心極限定理と推測統計
Q.$3$ 二項分布の極限と中心極限定理
Q.$4$
Q.$5$

標本分布

Q.$1$ $\chi^{2}$分布の確率密度関数の導出
Q.$2$ ガンマ分布に基づく$\chi^2$分布の平均・分散や$k$次モーメントの計算
Q.$3$ $t$分布の確率密度関数の導出
Q.$4$ $F$分布の確率密度関数の導出
Q.$5$ ガンマ分布に基づく$F$分布の期待値・分散の計算

事前分布・ベイズ

Q.$1$ ベイズの定理と事前分布・事後分布
Q.$2$ 二項分布の共役事前分布と事後分布の解釈
Q.$3$ ポアソン分布の共役事前分布と事後分布の解釈
Q.$4$ 正規分布の共役事前分布の設定と事後分布
Q.$5$ EAP推定量とMAP推定量
Q.$6$
Q.$7$ 予測分布

ハザード関数と微分方程式

Q.$1$ 微分方程式の基本変形
Q.$2$ ハザード関数の定義と指数分布の確率密度関数の導出
Q.$3$ ワイブル分布の確率密度関数の導出
Q.$4$ 指数分布と回帰式
Q.$5$ Cox比例ハザードモデル

多次元正規分布の定義式

Q.$1$ 直交行列
Q.$2$ 基底の変換
Q.$3$ 分散共分散行列と固有値・固有ベクトル
Q.$4$ 分散共分散行列と多次元正規分布の確率密度関数
Q.$5$ 多次元正規分布のサンプリング

多次元正規分布の平方完成

Q.$1$ $2$次元正規分布の条件付き確率
Q.$2$
Q.$3$
Q.$4$
Q.$5$

ノンパラメトリック法

ノンパラメトリック法

Q.$1$ $2$群の差の検定
Q.$2$
Q.$3$
Q.$4$
Q.$5$

数理統計学

モーメント母関数・特性関数の活用

変数変換

Q.$1$ 変数変換と置換積分
Q.$2$ 行列式$\det \mathbf{A}$の図形的解釈と平行四辺形の面積
Q.$3$ ヤコビ行列$\mathbf{J}$とヤコビアン$\det \mathbf{J}$
Q.$4$ ガウス積分
Q.$5$ 変数変換による標本分布の確率密度関数の導出
Q.$6$
Q.$7$ 累積分布関数の変数変換

回帰

最尤法・GLM

Q.$1$ 基本的な最尤法の流れ
Q.$2$ 指数型分布族の定義式と具体的な確率分布との対応
Q.$3$ 最小二乗法と最尤法
Q.$4$ 最尤法とGLM
Q.$5$ ロジスティック回帰の対数尤度の導出
Q.$6$ 合成関数の微分とロジスティック回帰のパラメータ推定
Q.$7$ ポアソン回帰の対数尤度と勾配の導出

応用

擬似乱数の生成と活用

Q.$1$ 線形合同法・乗算型合同法
Q.$2$ 具体的な分布への逆関数法の適用
Q.$3$ $M$系列とビット演算
Q.$4$ モンテカルロ積分と大数の法則
Q.$5$ ボックス・ミュラー法の導出と正規分布に従う乱数の生成
Q.$6$ ガンマ分布の形状パラメータ$\alpha$が整数の場合のサンプリング
Q.$7$ ガンマ分布の形状パラメータ$\alpha$が$($整数$+1/2)$の場合のサンプリング
Q.$8$ モンテカルロ法による推定と必要なサンプル数

マルコフ連鎖

Q.$1$ マルコフ連鎖の定義
Q.$2$ 状態確率ベクトル・確率行列・定常分布
Q.$3$ 遷移確率行列と定常分布の式
Q.$4$ マルコフ連鎖のパラメータ推定
Q.$5$ マルコフ連鎖と強化学習

MCMC法

Q.$1$
Q.$2$
Q.$3$
Q.$4$
Q.$5$

発展トピック

主成分分析(PCA)

Q.$1$ 二次形式の和を行列の積で表記する
Q.$2$ スカラーをベクトルで微分する
Q.$3$ ラグランジュの未定乗数法
Q.$4$ ベクトルの正射影と分散の表記
Q.$5$ 主成分ベクトルと寄与率の導出

フィッシャーの線形判別

Q.$1$ $2$クラス分類問題のシンプルな解法
Q.$2$ 郡内分散と群間分散の定義とその理解
Q.$3$ 郡内分散・群間分散と分散共分散行列
Q.$4$ フィッシャーの線形判別の導出
Q.$5$ フィッシャーの線形判別の具体例