概要

ニューラル機械翻訳(NMT)とは，近年提案された機械翻訳の手法である．多くの細かい構成要素によって成立する従来の統計翻訳のシステムとは異なり，NMTは巨大なニューラルネットワークを一つ(もしくは少数)用いてシステムを構築する． NMTの手法には，Encoder-Decoderモデルおよびそれを拡張したAttentionモデルが提案されている．Encoder-Decoderモデルは入力の系列を固定長のベクトルに符号化(Encode)し，固定長のベクトルより出力の系列を復号化(decode)するモデルである．機械翻訳のタスクにおいて，Encoder-Decoderモデルの入出力系列の要素は単語のベクトル表現となる．AttentionモデルはEncoder-Decoderモデルにおいて出力系列を生成する際に，入力系列の参照を行う機構(Attention)を用いた手法であり，Encoder-Decoderモデルと比較して，長い入力に対するより妥当な出力を得られるとされている．