確率分布の類似度を計算するにあたってKLダイバージェンスが用いられることが多いですが、式の解釈は抽象的で理解が難しいです。当記事ではKLダイバージェンスの概略が把握できるように通常の確率化とSoftmax関数による確率化 … 続きを読む 「一様分布」と「Softmax関数による確率化」間のKLダイバージェンスの計算