デコーダはまったく翻訳されていない仮説から探索を始める.そして,入力文J の中から翻訳されていないフレーズを選択し,翻訳モデルのフレーズ対を用いて翻訳候補を生 成する.このとき,翻訳候補の確率を計算し,その翻訳候補のスコアとする.こ れを,繰り返して翻訳を行う.
しかし,入力文が長くなると,用いるフレーズ対の組み合わせは膨大な数になる. そのため,全ての翻訳候補を探索し,最適な出力文を決定することは困難である. そこで,現在,計算量を減らす手法として,ビームサーチ法とマルチスタック法 を組み合わせた手法が一般に用いられている.