最大エントロピー原理

3行要約

1. 与えられた制約条件下で、エントロピーを最大にする確率分布を選択すべきという指針である。
2. 情報が不足している場合に、最も偏りがなく不確実性が高い分布を採用することが合理的とされる。
3. 統計力学や自然言語処理、経済予測など、多様な分野でモデル推定の基礎となっている。