対比較を行う例を表3.1に示す. 日本語の入力文に対し手法Aと手法Bで日英翻訳を行う場合を考える. 手法Aと手法Bを比較すると,正しい翻訳をしている文は手法Bである. この場合,評価者によって,表3.2の選択肢から「手法B○」が選択される.
人手評価は評価者によって評価に差が出てくる可能性がある. しかし,正解文を用意しておき,参照して対比較評価を行うことで,信頼性を高める.
例1 | |
入力文 | これ は 卒業 論文 です 。 |
正解文 | This is a graduation thesis. |
手法A | This is a student yearbook. |
手法B | This is a thesis of graduation. |