【二】情感对话 Control Globally,Understand Locally: A Global-to-Local Hierarchical Graph Network for ESConv
【二】情感支撐對話論文最近進展 Emotion Support Conversation
今天給大家分享一篇在IJCAI 2022的關于情感對話的論文。該論文由中科院信工所彭偉、胡玥老師團隊發(fā)表,主要思想是從認知的角度來挖掘用戶隱式表達的意圖信息,以及建模用戶的意圖、情感問題和對話歷史之間的關系。
相關情感支撐論文綜述整理指路 -> 點這里
GLHG:
Control Globally, Understand Locally: A Global-to-Local Hierarchical Graph Network for Emotional Support Conversation
分以下四部分介紹:
- Motivation
- Model
- Experiment
- Discussion
1、Motivation & Challenge
Motivation
- 我們的動機源于情感支持的基本原則,即希望對話系統(tǒng)能夠像人類一樣進行心理咨詢。
- 具體來說,系統(tǒng)需要探索求助者情緒問題的原因(全局),然后根據(jù)當前的對話(局部)分析其隱含的心理意圖,以指導提供支持性回應。
Challenge
- 落地到心理咨詢的復雜場景,如何在認知層面明確地捕捉用戶隱式表達的意圖是關鍵點。
- 捕獲之后,如何建模這些心理因素的關系是本文的核心問題。
例子:
如圖所示,用戶表達了自己情感焦慮的原因——需要支付信用卡賬單。從局部上來說,系統(tǒng)在每一輪對話都需要分析用戶的當前意圖是什么。
比如第二輪對話中,系統(tǒng)分析出尋求幫助的人表示他想多工作賺更多的錢。因此系統(tǒng)產(chǎn)生回復:我確信這需要奉獻和努力工作,但你可以爭取更多的工資。
2、Model
2.1 overview
模型整體結構包括三部分,多源編碼器,層次圖推理器以及全局引導的解碼器。
2.2 Multi-source Encoder
多源編碼器的目的在于捕獲和編碼三個信息源,包括對話歷史、全局cause和局部意圖。
對話歷史,全局cause,局部意圖編碼分別利用三個編碼器獲取其上下文語義信息。
其中 mslms_lmsl? 是根據(jù)常識預訓練模型COMET抽取出來的意圖信息。
如上圖所示:
通過給入一個頭節(jié)點以及對應的邊關系,可以通過常識預訓練語言模型 COMETCOMETCOMET 讓它輸出一個尾節(jié)點,也是以自然語言形式闡述的一個句子。因為這篇文章作者關注的是用戶的意圖信息。并且作者認為,只有更好的理解用戶的意圖,才能夠去更好的進行情感支撐的回復,所以作者只考慮使用意圖信息。對于其他邊關系的引入,可能會帶來噪音。
2.3 Hierarchical Graph Reasoner
圖推理器的目的在于組織不同層次的多源信息,并建模全局原因、局部意圖和對話歷史之間的相互作用。
節(jié)點:
Global Cause Embedding、Local Psychological Intention Embedding、Token Embedding、[SEP] Embedding
邊:
Local Connection 、 Global Connection 、Contextual Connection
三類節(jié)點的更新方式如下:
-
全局節(jié)點:
-
上下文節(jié)點:
- 局部節(jié)點:
2.4 Global-guide Decoder
全局引導解碼器生成支撐回復:
此外,為了保證全局節(jié)點的信息不會在更新的時候引入bias,作者提出了一種新的訓練目標來監(jiān)督全局cause向量的語義信息。
3、Experiment
4、Discussion
這篇文章主要的一個思想就是如何去挖掘用戶在不同情況之下的局部意圖,并且把這種隱含的意圖進行顯示化,融入到對話模型當中。從消融實驗也可以分析出來,捕獲到該類信息之后,如何去進行不同層次語義粒度的融合,也是一個比較關鍵的地方。
對于未來的工作,采用其他的心理狀態(tài)(如教育背景,用戶反饋信息等)來進行情感支持對話仍然是值得研究的。
但是作者在構圖的時候,對于不同類型的邊哪一種邊的影響是比較大的。這個或許還是值得探討的。也許交給正在閱讀的你來做了。
相關論文整理指路 -> 點這里
更多有趣MRC文章見:利用逆向思維的機器閱讀理解。
相關文獻
Bi-directional Cognitive Thinking Network for Machine Reading Comprehension 論文閱讀
證據(jù)推理網(wǎng)絡。
Hybrid Curriculum Learning for Emotion Recognition in Conversation
BERT用于文本分類方法
總結
以上是生活随笔為你收集整理的【二】情感对话 Control Globally,Understand Locally: A Global-to-Local Hierarchical Graph Network for ESConv的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 授时系统ntp服务器地址,国家授时中心的
- 下一篇: form表单提交后提示成功信息