tm4roon / survey

Survey on machine learning.

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Confidence Modeling for Neural Semantic Parsing

tm4roon opened this issue · comments

Confidence Modeling for Neural Semantic Parsing

本論文ではSemantic Parsingにおける出力の確信度/不確かさを測る方法として、次の3つの観点に着目している.

  • Model: テスト時にもDropoutを利用し、出力分布の摂動を測るなど.
  • Data: 入力文の一部にマスクをかけて、その際の出力分布の摂動を測るなど.
  • Input: 出力分布の分散やエントロピーを利用して測るなど.

また、不確かさが入力文のどの部分から発生しているのかを出力から逆算する、Uncertainty Backpropagationを提案している. 結果として、アテンション機構を利用するよりもうまく不確かさを検出できる.

文献情報