论文浅尝 | Improved Neural Relation Detection for KBQA
Yu M, Yin W, Hasan K S, etal. Improved Neural Relation Detection for Knowledge Base QuestionAnswering[J]. 2017.
論文鏈接:https://arxiv.org/pdf/1704.06194.pdf
概要
本文提出了一種基于不同粒度對關系和問題進行文本匹配的關系檢測的模型(HR-BiLSTM,Hierarchical Residual-BiLSTM)。并將這種關系檢測的模型應用到 KBQA 中,通過實體連接和關系檢測模塊的互補來提高整體的準確率。在實驗中,本文提出的模型能夠達到很好的結果。
?
關系檢測
關系檢測被作為一個文本匹配問題,即計算問題文本和不同關系文本的相似度,然后根據相似度對關系進行排序。本文提出了 HR-BiLSTM 模型來計算問題文本和關系文本的相似度,其結構如下
圖中主要包含兩個模塊。如圖所示,左半部分是問題的向量表示模塊,主要的方法是使用 stacked BiLSTM 提取得到問題的不同粒度的表示,然后通過殘差連接融合 stacked BiLSTM 中不同層次提取得到的隱藏層表示,最后通過 max pooling 得到定長的問題的向量表示。模型的右半部分是關系的向量表示模塊,關系文本對應的 relation-level(整個關系文本作為一個t oken)表示和 word-level(關系文本中的每一個詞語作為一個 token)表示分別被兩個不同的 BiLSTM 處理,得到對應的隱藏層表示,之后通過 max polling 得到定長的關系表示。問題和關系的相似度可以使用問題向量表示和關系向量表示之間的余弦距離表示,訓練的損失函數是 rank loss。
KBQA
使用關系檢測模型,可以進一步提高 KBQA 的準確率,主要的思路是在傳統的實體連接-關系檢測的兩步過程中,使用關系檢測的結果對實體連接的結果進行調整,具體算法如下所示
實驗結果
本文在 SimpleQuestion 和 WebQuestion 上進行了實驗。
關系檢測實驗結果如下所示
KBQA實驗結果如下所示
筆記整理:王旦龍,浙江大學碩士,研究方向為知識圖譜,文本分類。
OpenKG.CN
中文開放知識圖譜(簡稱OpenKG.CN)旨在促進中文知識圖譜數據的開放與互聯,促進知識圖譜和語義技術的普及和廣泛應用。
轉載須知:轉載需注明來源“OpenKG.CN”、作者及原文鏈接。如需修改標題,請注明原標題。
點擊閱讀原文,進入 OpenKG 博客。
總結
以上是生活随笔為你收集整理的论文浅尝 | Improved Neural Relation Detection for KBQA的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 论文浅尝 | Open world Kn
- 下一篇: 一篇文章带你熟悉 TCP/IP 协议(网