HMMには,大きく分けてLeft-to-Right HMMとErgodic HMMが存在する. Left-to-Right HMMは,必ず状態を左から右に遷移するため,次の状態に遷移す ると前の状態には戻ることができない. Ergoic HMMは,次の状態に遷移しても 前の状態には戻ることができる場合があるモデルである.図 2に代表的なLeft-to-Right HMMの形を示す. このLeft-to-Right HMMは,状態数が4つ,自己ループが3つあるため 4状態3ループの Left-to-Right HMMと呼ばれる. また,図3に代表的なErgodic HMMの形を示す.
なお,Left-to-Right HMMは,集合平均と時間平均が一致しない(エルゴード性 が成立しない). 一方 Ergodic HMMは,集合平均と時間平均が一致する(エルゴー ド性が成立する).音声信号では,エルゴート性がないと仮定されるため,音声 認識では,Left-to-Right HMMが利用される[5][6]. しかし,言語モデルでは,エルゴート性を考慮して, Ergodic-HMMも利用される[7].