研究紹介 > -2. ニューラルネットワーク・ディープラーニングによる人工知能・自然言語処理 > ・・・機械翻訳
ニューラルネットワークに基づく機械翻訳
ニューラルネットワークに基づく機械翻訳方式には,
長所: 正確かつ流暢な訳文を生成できる反面、
短所: 大規模語彙の翻訳に弱い,という問題があります.
この問題を克服するために,
・ニューラルネットワークに基づく機械翻訳
・統計的機械翻訳
の二方式を併用する以下のアプローチを実現しました.
1. 訓練時: 大語彙部分の専門用語をトークンに置き換えて,語彙数を抑えた後で訓練を行います.
2-1. 翻訳時: 大語彙の専門用語を除いた地の文の部分はニューラルネット翻訳によって翻訳し,
2-2. 翻訳時: 大語彙の専門用語部分は統計的機械翻訳によって翻訳します.
また,ニューラルネットワークに基づく機械翻訳方式には,
もう一つの短所: 訳抜けが頻発する,という問題があります.
この問題を克服するために,
・翻訳結果を原文に逆翻訳し,訳抜け箇所を検出する
方式を併用するアプローチにより翻訳性能を改善しました.
関連論文
-
"Transformerによるニューラル機械翻訳におけるマルチホップ注意機構の提案"
- 飯田頌平, 崔鴻翌, 洪博軒, Yizhen Wei, 宇津呂武仁,永田昌明,
- 電子情報通信学会論文誌, Vol. J104--D, No.1, pp. 94-104, January 2021.
-
"ニューラル機械翻訳における大規模語彙および訳抜けへの対応の併用",
- 木村 龍一郎,龍 梓,飯田 頌平,宇津呂 武仁,三橋 朋晴,山本 幹雄, 言語処理学会第24回年次大会論文集, pp.877-880, March 2018.
-
"大規模名詞句フレーズのSMT訳への後処理型置き換えによるNMTの評価",
- 飯田 頌平,龍 梓,木村 龍一郎,宇津呂 武仁,三橋 朋晴,山本 幹雄, 言語処理学会第24回年次大会論文集, pp.635-638, March 2018.
-
Effect on Reducing Untranslated Content by Neural Machine Translation with a Large Vocabulary of Technical Terms,
- Ryuichiro Kimura, Zi Long, Takehito Utsuro, Tomoharu Mitsuhashi and Mikio Yamamoto, Proceedings of the 7th Workshop on Patent and Scientific Literature Translation, pp. 13-24, September 2017.
-
"Neural Machine Translation Model with a Large Vocabulary Selected by Branching Entropy"
- Zi Long, Takehito Utsuro, Tomoharu Mitsuhashi, and Mikio Yamamoto, arXiv:1704.04520 [cs.CL]
- Proceedings of the 16th Machine Translation Summit, pp.227-240, September, 2017.
- Zi Long, Takehito Utsuro, Tomoharu Mitsuhashi, and Mikio Yamamoto, arXiv:1704.04520 [cs.CL]
-
"Neural Machine Translation Model with a Large Vocabulary Selected by Branching Entropy"
- Zi Long, Takehito Utsuro, Tomoharu Mitsuhashi, and Mikio Yamamoto, arXiv:1704.04520v4 [cs.CL]
- (Submitted on 20 Jul 2017, ACL 2017 rejected)
- Zi Long, Takehito Utsuro, Tomoharu Mitsuhashi, and Mikio Yamamoto, arXiv:1704.04520v4 [cs.CL]
-
"Translation of Patent Sentences with a Large Vocabulary of Technical Terms Using Neural Machine Translation",
- Zi Long, Takehito Utsuro, Tomoharu Mitsuhashi, and Mikio Yamamoto, Proceedings of the 3rd Workshop on Asian Translation, pp.47-57, December 2016. presentation slide