全状態間の遷移が許されている(Ergodic)離散型HMMにおいて単語を出力シンボ ルとした場合、その構造はネットワーク文法記述と形式的に類似する。した がって大量の単語列データから、Baum-Welch アルゴリズムを使用して、 確率つきネットワーク文法を自動的に獲得できる可能性がある[28]。 しかし状態数を大きくするとメモリ量および計算量は増加するため、現実的に 計算が不可能になる。そのため従来の研究では状態数が少なく、認識性能や perplexityは単語のbigramと比較して良くない[57] [94] [37]。そこで本節では状態数が多いErgodic HMMを学習するために、 メモリ量および計算量を削減したBaum-Welchアルゴリズムを提案した。さらに、 得られた Ergodic HMMを言語モデルとして連続音声認識に用いた実験結果につ いても述べた。