next up previous
次へ: モデルからの文法抽出 上へ: HMMによるモデル化 戻る: データの規模とモデル化の関係

タスクの変化とモデル化の関係

次にタスクの変化とモデル化の関係を調べるため、 2つのタスク(SET1SET2)を それぞれ状態数の異なる(2状態, 5状態, 8状態, 10状態) HMMでモデル化する。

実験はSET1SET2の全てのデータをモデル化の対象とした。

実験は、HMMの各状態数について、 尤度の変化が$10^{-5}$に収束するのを再推定の打ち切り条件として 10回ずつモデル化を繰り返す。

表 3: タスクの変化とモデル化の関係
SET1
状態数 2 5 8 10
entropy 3.27 2.43 2.23 2.38
SET2
状態数 2 5 8 10
entropy 3.18 2.41 2.27 2.14


このようにして算出した結果の平均値を3に示す。 エントロピーは、 状態数の増加によって単調に減少するのではなく、 タスクの種類に応じたある状態数で最小となる。



Jin'ichi Murakami 平成13年10月5日