統計学 標準演習100選 〜確率、推測統計、回帰、応用、数理統計学〜

統計学の理解にあたって行っておくとよい重要な演習について、$100$題を厳選して取りまとめを行う予定です。
それぞれの主要トピックの導出の流れを取り扱ったり、解答・解説ありきで作成を行なったりなど、理解度の確認用の問題ではない場合も多いので、1周目については解答を読みながら理解する形式で進めると良いと思います。解法を抑えて類題が解ければ十分なものが多いです。

確率・確率分布

等比数列の和・マクローリン展開と離散確率分布の確率母関数

Q.$1$ 確率母関数の定義と期待値$E[X]$・分散$V[X]$の対応
Q.$2$ ベルヌーイ分布・二項分布の確率母関数とその活用
Q.$3$ マクローリン展開の式と係数の簡易的な導出
Q.$4$ $e^{x}$のマクローリン展開とポアソン分布の確率母関数の導出
Q.$5$ 幾何分布の確率母関数の導出
Q.$6$ 幾何分布の平均$E[X]$・分散$V[X]$の導出

モーメント・モーメント母関数・モーメント法

Q.$1$ モーメントの定義
Q.$2$ モーメント法
Q.$3$ モーメント母関数の導出
Q.$4$ ベルヌーイ分布・二項分布のモーメント母関数
Q.$5$ ポアソン分布のモーメント母関数と再生性の導出

中心極限定理・デルタ法

Q.$1$ 標本・確率変数の和と平均に関する中心極限定理
Q.$2$ 中心極限定理と推測統計
Q.$3$ 二項分布の極限と中心極限定理
Q.$4$
Q.$5$

事前分布・ベイズ

Q.$1$
Q.$2$ 二項分布の共役事前分布と事後分布の解釈
Q.$3$ ポアソン分布の共役事前分布と事後分布の解釈
Q.$4$ 正規分布の共役事前分布の設定と事後分布
Q.$5$

ハザード関数と微分方程式

Q.$1$ 微分方程式の基本変形
Q.$2$ ハザード関数の定義と指数分布の確率密度関数の導出
Q.$3$ ワイブル分布の確率密度関数の導出
Q.$4$ 指数分布と回帰式
Q.$5$ Cox比例ハザードモデル

多次元正規分布の定義式

Q.$1$ 直交行列
Q.$2$ 基底の変換
Q.$3$ 分散共分散行列と固有値・固有ベクトル
Q.$4$ 分散共分散行列と多次元正規分布の確率密度関数
Q.$5$ 多次元正規分布のサンプリング

多次元正規分布の平方完成

Q.$1$ $2$次元正規分布の条件付き確率
Q.$2$
Q.$3$
Q.$4$
Q.$5$

ノンパラメトリック法

ノンパラメトリック法

Q.$1$ $2$群の差の検定
Q.$2$
Q.$3$
Q.$4$
Q.$5$

数理統計学

モーメント母関数・特性関数の活用

変数変換

Q.$1$ 変数変換と置換積分
Q.$2$ 行列式$\det \mathbf{A}$の図形的解釈と平行四辺形の面積
Q.$3$ ヤコビ行列$\mathbf{J}$とヤコビアン$\det \mathbf{J}$
Q.$4$ ガウス積分
Q.$5$ 変数変換による標本分布の確率密度関数の導出

十分統計量

Q.$1$ 十分統計量と二項分布
Q.$2$ 分解定理と十分統計量・最尤法
Q.$3$ 幾何分布と十分統計量
Q.$4$ ポアソン分布と十分統計量
Q.$5$

推定論

Q.$1$ ポアソン分布とクラメル・ラオの不等式
Q.$2$ フィッシャー情報量の定義とその変形
Q.$3$ 不偏標本分散とクラメル・ラオの不等式
Q.$4$
Q.$5$

検定論

Q.$1$ 検定論の基本トピック①
Q.$2$ 検定論の基本トピック②
Q.$3$
Q.$4$
Q.$5$

回帰

最尤法・GLM

Q.$1$ 基本的な最尤法の流れ
Q.$2$ 指数型分布族の定義式と具体的な確率分布との対応
Q.$3$ 最小二乗法と最尤法
Q.$4$ 最尤法とGLM
Q.$5$ ロジスティック回帰の対数尤度の導出
Q.$6$ 合成関数の微分とロジスティック回帰のパラメータ推定
Q.$7$ ポアソン回帰の対数尤度と勾配の導出

応用

擬似乱数の生成と活用

Q.$1$ 線形合同法・乗算型合同法
Q.$2$
Q.$3$
Q.$4$
Q.$5$

マルコフ連鎖

Q.$1$ マルコフ連鎖の定義
Q.$2$ 状態確率ベクトル・確率行列・定常分布
Q.$3$
Q.$4$ マルコフ連鎖のパラメータ推定
Q.$5$

発展トピック

主成分分析(PCA)

Q.$1$ 二次形式の和を行列の積で表記する
Q.$2$ スカラーをベクトルで微分する
Q.$3$ ラグランジュの未定乗数法
Q.$4$ ベクトルの正射影と分散の表記
Q.$5$ 主成分ベクトルと寄与率の導出

フィッシャーの線形判別

Q.$1$ $2$クラス分類問題のシンプルな解法
Q.$2$ 郡内分散と群間分散の定義とその理解
Q.$3$ 郡内分散・群間分散と分散共分散行列
Q.$4$ フィッシャーの線形判別の導出
Q.$5$ フィッシャーの線形判別の具体例