尤度の計算

尤度とは，ある前提条件に従って結果が出現する場合に、逆に観察結果からみ て前提条件が「何々であった」と推測する尤もらしさを表す値である． HMMに おける尤度とは，入力シンボル系列とHMMのパラメータが与えられたとき，取り 得る全ての状態系列を考慮したときに，HMMが入力シンボル系列を出力する確率 である． Model A において，入力シンボル系列の尤度の計算は，以下のように 計算できる．

まず，入力シンボル系列を出力できる状態遷移を表4に載せる． 全部で3種類ある．

表: 入力シンボル系列を出力できる状態遷移

$t$		0		1		2		3
$O_t$		$\alpha$		$\alpha$		$\beta$		$\gamma$
path1:	0		0		1		2		3
path2:	0		1		1		2		3
path3:	0		1		2		2		3

それぞれの状態遷移における入力シンボル系列の確率を表に示す．

表: 各状態遷移の確率

path1:

$a_{0,0} \times b_0(O_0) \times a_{0,1} \times b_0(O_1) \times a_{1,2} \times b_1(O_2) \times a_{2,3} \times b_2(O_3)$

$= a_{0,0} \times b_0(\alpha) \times a_{0,1} \times b_0(\alpha) \times a_{1,2} \times b_1(\beta) \times a_{2,3} \times b_2(\gamma)$

$= 0.7 \times 0.7 \times 0.3 \times 0.7 \times 0.4 \times 0.3 \times 0.9 \times 0.8$

$= 0.00889$

path2:

$a_{0,1} \times b_0(O_0) \times a_{1,1} \times b_1(O_1) \times a_{1,2} \times b_1(O_2) \times a_{2,3} \times b_2(O_3)$

$= a_{0,1} \times b_0(\alpha) \times a_{1,1} \times b_1(\alpha) \times a_{1,2} \times b_1(\beta) \times a_{2,3} \times b_2(\gamma)$

$= 0.3 \times 0.7 \times 0.6 \times 0.4 \times 0.4 \times 0.3 \times 0.9 \times 0.8$

$= 0.00435$

path3:

$a_{0,1} \times b_0(O_0) \times a_{1,2} \times b_1(O_1) \times a_{2,2} \times b_2(O_2) \times a_{2,3} \times b_2(O_3)$

$= a_{0,1} \times b_0(\alpha) \times a_{1,2} \times b_1(\alpha) \times a_{2,2} \times b_2(\beta) \times a_{2,3} \times b_2(\gamma)$

$= 0.3 \times 0.7 \times 0.4 \times 0.4 \times 0.1 \times 0.1 \times 0.9 \times 0.8$

$= 0.000241$

尤度は，これらの状態遷移における確率を，すべて合計した値 $0.01349 (= 0.00889 + 0.00435 + 0.000241)$ である．

この例では，入力系列のシンボルの数が4つ ( $O_0 = \alpha , O_1 = \alpha , O_2 = \beta , O_3 = \gamma$ )であるため，取り得る状態 系列の数は3つである．しかし．入力系列のシンボルの数が多くなると，取り得 る状態遷移の数は，急激に増加する．そして，取り得る状態遷移の数は，入力 系列のシンボルの値に関係なく，シンボルの数だけで決まる．例えば，入力系 列のシンボルの数が6つ(例えば $O_0=\alpha,O_1=\alpha,O_2=\gamma,O_3=\beta,O_4=\beta,O_5=\gamma$ )にな ると，取り得る状態遷移の数は10になる．