A semantics aware-transformer_model_of_relation_linking_for_knowledge_base_question_answering

A Semantics-aware Transformer
Model of Relation Linking for
Knowledge Base Question
Answering
Tahira Naseem, Srinivas Ravishankar, Nandana Mihindukulasooriya, Ibrahim Abdelaziz, Young-Suk Lee,
Pavan Kapanipathi, Salim Roukos, Alfio Gliozzo, Alexander Gray
ACL 2021 , @論文読み会, 紹介者: Yoshiaki Kitagawa
※スライド中の資料は論文から引用しています

Summary
 Task
 Relation Linking
 sentence (question)中の entity 間の
relation が KB のどの relation に該当する
かを当てる
 先行研究と比べてどこがすごいか？
 KB を問わない (not 特定の KB)
 question text だけでなく、AMR (Abstract
Meaning Representation)の情報を利用
 技術や手法のキモ
 シンプルな Neural Relation Linking Model
 AMR の活用
 どうやって有効だと検証したか？
 Wikidata, DBpedia から作成された4つのQAデータ
セットで、Precision, Recall, F 値を測定
 このデータセットでは entity と entity の relation がア
ノテートされている（はず）
 議論はあるか？
 TBD
 次に読むべき論文
 AMR [Lim et al., 2020]
 Slot Prediction [Kapa- nipathi et al., 2021]

Introduction
 Knowledge base question answering (KBQA) は様々なアプリケーションから注目されているタスクであ
る
 そのサブタスクとして以下がある
 question を構造化された query に変換する
 Entity Linking
 Relation Linking
 例文: Who founded the city where Pat Vincent died?
 founded (founder) や died (death place) は relation
 Pat Vincent は entity
 に map する必要がある

Contribution
 KBに依存しないRelation linking のシンプルなニューラルモデルを提案
 AMR を使えるようにした
 4つのデータセットで state-of-the-art

Semantics-aware Relation Linking のための AMR
 例文: Who founded the city where Pat Vincent
died? の AMR
 AMR は DAG で “who is doing what to whom“
を捉えることができる
 query の target である node は amr-unknown と
lable 付けされる

Overall system flow
 白: 入出力
 グレー: システム
 黒: 後述の提案モデル

Slot Prediction
 slot の定義: AMR graph の node のペア
 AMR の parse 結果の node と KB の entity はリンクする (BLINK entity linker)
 [Kapanipathi et al., 2021] の rule base の手法を採用（詳しくはここを見る）
 amr-unknown とその他の entity node の間の slot を抽出

overall architecture of our model
 FF 部分は重みは共有していないことに注意
 出力の nx1 のベクトルは question から抽出された relation と n個の KB の
relation 類似度が入った状態になっている

Training
 minimize cross-entropy loss で学習
 負例は gold 以外の relation から選択

参考資料
 論文: https://aclanthology.org/2021.acl-short.34.pdf

A semantics aware-transformer_model_of_relation_linking_for_knowledge_base_question_answering

More Related Content

What's hot (7)

Similar to A semantics aware-transformer_model_of_relation_linking_for_knowledge_base_question_answering (11)

More from Ace12358 (14)

A semantics aware-transformer_model_of_relation_linking_for_knowledge_base_question_answering