直播 | ACL 2021论文解读:基于对抗学习的事件抽取预训练模型
「AI Drive」是由 PaperWeekly 和 biendata 共同發(fā)起的學(xué)術(shù)直播間,旨在幫助更多的青年學(xué)者宣傳其最新科研成果。我們一直認為,單向地輸出知識并不是一個最好的方式,而有效地反饋和交流可能會讓知識的傳播更加有意義,從而產(chǎn)生更大的價值。
本期 AI Drive,我們邀請到清華大學(xué)計算機系本科生王子奇,為大家在線解讀其發(fā)表于 ACL 2021 的最新工作:CLEVE: Contrastive Pre-training for Event Extraction。對本期主題感興趣的小伙伴,6 月 24?日(周四)晚 7 點,我們準時相約 PaperWeekly B 站直播間。
直播信息
微調(diào)預(yù)訓(xùn)練模型能顯著地提升事件抽取的表現(xiàn),然而現(xiàn)有的預(yù)訓(xùn)練方法并沒有特別關(guān)注事件特征,導(dǎo)致構(gòu)建的事件抽取模型不能充分利用大規(guī)模無監(jiān)督數(shù)據(jù)中的豐富事件信息。我們提出了一個基于對比學(xué)習(xí)的預(yù)訓(xùn)練框架 CLEVE,它包含一個文本編碼器和一個圖編碼器,兩個編碼器通過自監(jiān)督的對比學(xué)習(xí)來學(xué)習(xí)事件語義和事件結(jié)構(gòu)的表示。實驗表明,CLEVE 能讓預(yù)訓(xùn)練模型更好地從大型無監(jiān)督數(shù)據(jù)中學(xué)習(xí)事件知識和對應(yīng)的語義結(jié)構(gòu),從而在有監(jiān)督和無監(jiān)督兩個場景及 ACE 2005 和 MAVEN 兩個數(shù)據(jù)集上都取得了更好的效果。
論文標題:
CLEVE: Contrastive Pre-training for Event Extraction
論文鏈接:
https://arxiv.org/abs/2105.14485
代碼鏈接:
https://github.com/THU-KEG/CLEVE
本次分享的具體內(nèi)容有:?
背景介紹:當(dāng)前事件抽取的研究進展
研究動機:抓取觸發(fā)詞和?色之間的語義關(guān)系
相關(guān)工作:對抗學(xué)習(xí),AMR 解析
方法實現(xiàn):基于 AMR 解析和對抗學(xué)習(xí)的預(yù)訓(xùn)練模型
實驗結(jié)果:實驗結(jié)果分析和結(jié)論
總結(jié):論文總結(jié)與未來展望
嘉賓介紹
?王子奇?/ 清華大學(xué)本科生?
王子奇,清華大學(xué)計算機系大四本科生,本科期間在 THUNLP 實驗室進行相關(guān)科研工作,導(dǎo)師為劉知遠副教授。主要研究方向為信息抽取,事件抽取。曾在 EMNLP, ICLR 等頂級會議上發(fā)表若干文章。
直播地址?& 交流群
本次直播將在 PaperWeekly B 站直播間進行,掃描下方海報二維碼或點擊閱讀原文即可免費觀看。線上分享結(jié)束后,嘉賓還將在直播交流群內(nèi)實時 QA,在 PaperWeekly 微信公眾號后臺回復(fù)「AI Drive」,即可獲取入群通道。
B 站直播間:
https://live.bilibili.com/14884511
合作伙伴
????
現(xiàn)在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關(guān)注」訂閱我們的專欄吧
關(guān)于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學(xué)術(shù)平臺。如果你研究或從事 AI 領(lǐng)域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
總結(jié)
以上是生活随笔為你收集整理的直播 | ACL 2021论文解读:基于对抗学习的事件抽取预训练模型的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 商贷合同号是什么
- 下一篇: SIGIR 2021|重新思考Atten