シャノンの情報源符号化定理

3行要約

1. 情報源から出力されるデータを、エントロピーに近いビット数まで圧縮可能であることを示す定理である。
2. データの冗長性を排除する限界を規定しており、可逆圧縮アルゴリズムの理論的根拠となっている。
3. ハフマン符号などの具体的な圧縮手法が、この定理の限界に近づくために開発された。