言語モデル

言語モデルとは，人間が用いる言葉の自然な並びを確率としてモデル化したもの であり，膨大な量の単言語データを用いて単語の列や文字の列が起こる 遷移確率を付与したものである．統計翻訳では主に$N$ -gramを用いる． 例として「京都　に　行く 。」という文に対する2-gramモデルを式2.23に示す．

$$P(京都　に　行く　。) ＝ P(京都)P(に \vert 京都)P(行く \vert に)P(。 \vert 行く)$$ (2.23)