next up previous contents
Next: 精度 Up: 考察 Previous: 考察   目次

評価のしやすさ・厳密性

入力に過去の発話を含むデータで評価することで,文脈がより分かりやすくなった. 評価200文中,84文の文脈が明確化した. 残り116文は,現在の発話のみで文脈が明確なものと, 明確化のために更に過去の発話が必要な文と, 現在の発話と過去の発話で話題の転換が起こった文である. また,応答を更に厳密に評価することが可能となった. 入力に過去の発話を含まない学習データにおいて,過去の発話を含むモデルと同様の評価を行った場合, 全ての手法において精度が低下したのは厳密性が向上したためである. 表7.1.1は評価のしやすさが向上した発話と応答の例である.


表 7.1.1: 評価のしやすさが向上した例
発話 応答
前期やった? eos スペイン語で まじで?
理由:前期の外国語の授業でスペイン語を選択したという発話だったことがわかる
何時待ち合わせ? eos 7時前くらい あ そうなんだ
理由:待ち合わせ時間を聞いていたことがわかる

また,応答(出力)の低頻度語処理をしないことにより, 応答に未知語が含まれなくなるため評価のしやすさが向上するとともに, 低頻度語置き換え無しの手法との同条件での比較が可能となった. 応答に未知語が含まれる場合,未知語が含まれない低頻度語置き換え無しの手法が最も精度がよくなる. 応答の低頻度語処理をしないことにより,低頻度語置き換え無しの手法と同じく 未知語が含まれない出力で比較することが可能となった.



2018-02-28