Improving Grammatical Error Correction via Pre-Training a Copy-Augmented Architecture with Unlabeled Data

[tm4roon]

Improving Grammatical Error Correction via Pre-Training a Copy-Augmented Architecture with Unlabeled Data

文法誤り訂正に関する研究。文中の間違った部分と正しい文を分類タスク・生成タスクのMulti-task learningを行う。文法誤り訂正タスクでは多くの場合、誤り文と訂正文の間で単語が一致する。そのため、Copy mechanismを導入している。また、コピーを学習させるために、事前学習としてノイズ除去タスクを行い、性能を改善している。

文献情報

• 著者: Wei Zhao, Liang Wang, Kewei Shen, Ruoyu Jia, Jingming Liu
• リンク: https://arxiv.org/abs/1903.00138
• 学会: NAACL2019