今北産業pedia

観測できない潜在変数を含む統計モデルにおいて、パラメータの最大尤度推定値を求める反復手法。

期待値を計算するEステップと、尤度を最大化するMステップを交互に繰り返して収束させる。

混合モデルの推定や欠損データの補完など、機械学習や統計学の幅広い分野で利用されている。

ベータ分布を多変量に拡張した連続確率分布で、多項分布の共役事前分布となる。

各成分が正で和が1になるベクトルを生成し、確率の分布を表現するのに適する。

機械学習のトピックモデル（LDA）やベイズ統計学で頻繁に利用される。

あらゆる問題に対して、常に他の手法より優れた万能な最適化アルゴリズムは存在しない。

特定の問題で高い性能を出す手法は、別の問題では必ず平均以下の性能になる。

機械学習において、モデルの選択が対象データに依存することを理論的に示した。

凸最適化問題を解くための反復手法で、目的関数を線形近似して解を更新する。

各ステップで線形問題を解くだけで済むため、制約条件が複雑な場合に効率的である。

機械学習のスパース学習や、交通流の割り当て問題などで広く利用されている。