近期我们在读的那些优质论文，你不了解下？
在碎片化閱讀充斥眼球的時代，越來越少的人會去關注每篇論文背后的探索和思考。
在這個欄目里，你會快速 get 每篇精選論文的亮點和痛點，時刻緊跟 AI 前沿成果。
點擊本文底部的「閱讀原文」即刻加入社區，查看更多最新論文推薦。
這是 PaperDaily 的第 132?篇文章@xwzhong 推薦
#Attention Mechanism
本文來自 LinkedIn，這是一篇 NLP 領域 Attention model 的綜述文章，論文詳細介紹了不同架構的網絡與 Attention 的結合、Attention如何提高模型的可解釋性和 Attention 的應用。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2944
@paperweekly 推薦
#Relation Classification
本文是清華大學劉知遠老師組發表于 AAAI 2019 的工作，論文提出文本與圖像的一大區別在于其多樣性和噪音更大，并提出了一種基于混合注意力的原型網絡結構。
具體來說，作者首先使用 instance-level 的 attention 從支撐集中選出和 query 更為貼近的實例，同時降低噪聲實例所帶來的影響。然后 feature-level 的實例能夠衡量特征空間中的哪些維度對分類更為重要，從而為每種不同的關系都生成相適應的距離度量函數，從而使模型能夠有效處理特征稀疏的問題。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2926
源碼鏈接
https://github.com/thunlp/HATT-Proto
@paperweekly 推薦
#Contextual Representations
本文是華盛頓大學和 AllenAI 發表于 NAACL 2019 的工作，論文主要研究的問題是預訓練詞表示的語言知識和可遷移性。作者探索了不同上下文表示的語言知識及其可遷移性，并且還基于 Transformer 模型，將不同層的輸出標量加以混合取得了更好的效果。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2956
源碼鏈接
https://github.com/nelson-liu/contextual-repr-analysis
@boom 推薦
#Neural Machine Translation
本文是 CMU 發表于 NAACL 2019 的工作。模仿人類從簡單的知識學習到復雜知識的學習方式，NMT 方向提出了一個從學習簡單的語句翻譯到復雜語句翻譯的框架，能夠在翻譯速度上提升百分之 70，BLEU 的得分提高 2.2 個點。
本文提出了學習語句的難度和機器的學習能力兩個概念，使得機器只學習難度低于其能力的語句的翻譯，然后逐步提升難度；主要應用于數據的預處理上面，所以可以應用于各種 NMT 模型上。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2950
@jingyihiter?推薦
#Text Generation
本文是阿里巴巴發表于 ICASSP 2019 的工作。為了提高生成文本多樣性、解決傳統 CVAE 中的 KL 散度 vanish 問題，本文提出了一個直接的優化目標，此優化目標指導編碼器變成最優編碼器增強模型的表達能力。
該方法全稱為自標注 CVAE (self labeling CVAE)，文中給出了一個“一對多”（生成多種文本）的數據集，實驗表明在兩個數據集（開放域對話生成和推薦系統句子生成）上與 SOTA 算法相比提高了生成文本的多樣性。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2919
@SRIN 推薦
#Graph Embeddings
本文是 CMU、NYU、FAIR 和 Google 發表于 NeurIPS 2018 的工作，論文的主要貢獻在于將學習特征之間的關系圖作為遷移學習 representation。
作者研究的是遷移學習中的表示問題，學習用表征兩個元素之間的關系的圖表示，而不是用特征向量表示。作者提出了一種新的無監督隱藏圖學習框架，從大規模的未標記數據中訓練一個神經網絡來輸出隱藏圖型，并將該網絡遷移到提取下游任務的圖結構來加強對它的訓練。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2911
源碼鏈接
https://github.com/YJHMITWEB/GLoMo-tensorflow
@O3oBigFace 推薦
#Multimodal Machine Learning
本文是 CMU 發表于 TPAMI 2019 的綜述性文章，不同于以往對多模態學習的分類，將多模態的近期研究成果按照應用類型劃分。對其中的每一種分類進行了詳細的描述。本文是近期多模態領域中最詳細最完整最新穎的一篇綜述，可以看出 CMU 在 multimodal 這方面的造詣很深。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2868
@xiaotian311 推薦
#Object Tracking
本文是林雪平大學、ETH 和起源人工智能研究院發表于 CVPR 2019 的工作，論文著眼于解決目標跟蹤過程中的定位精度不夠問題。作者將目標跟蹤分為目標分類和目標評價兩個網絡部分，前者分類用于粗定位，后者用于精細定位，即兩階段跟蹤。
目標估計網絡使用了 ECCV 2018 的 IoUNet 結構，基于大數據集離線訓練，訓練時最大化與 gt 的 IoU；目標分類網絡使用了深度回歸網絡結構，由兩層卷積層構成，在線訓練，根據輸出的 map 選擇候選框交給目標估計網絡，并且提出了新的快速在線訓練方法。實驗表明，本文方法的性能超過了 DaSiamRPN，GPU 下達到 30 fps。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2923
源碼鏈接
https://github.com/visionml/pytracking
@danieljf24 推薦
#Video Retrieval
本文是浙江工商大學、人民大學、浙江大學和阿里巴巴發表于 CVPR 2019 的工作，論文主要探討零示例視頻檢索。在這種檢索范例中，用戶在沒有示例的情況下，僅通過自然語句描述其即席查詢需求。考慮到視頻是幀序列而查詢是詞序列，我們需要建立一個有效的序列到序列的跨模態匹配。
現有方法以基于概念為主，通過分別從查詢和視頻中提取相關概念，從而建立兩種模態之間的關聯。相比之下，本文采用了一種無需概念建模的方法，提出對偶深度編碼網絡，首次使用具有相似架構的多層編碼網絡同時對句子和視頻進行量化編碼和表示學習，在多個極具挑戰性的評測集（MSR-VTT，TRECVID 2016和2017 Ad-hoc Video Search）上超過了現有結果。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2921
源碼鏈接
https://github.com/danieljf24/dual_encoding
@Kralkatorrik 推薦
#Face Recognition
本文來自京東和中科院自動化所。人臉識別中有兩種常見的從 loss 方面促進 feature discriminative 的方法：mining-based 和 margin-based 損失函數，這兩種方法都存在其局限性。這篇文章提出了 SV-Softmax loss 能夠將兩種方法結合，并彌補他們的缺陷，在各個數據集上都取得了 SOTA 的效果。
▲ ?論文模型：點擊查看大圖論文鏈接
https://www.paperweekly.site/papers/2872
源碼鏈接
https://github.com/tiandunx/SV-X-Softmax
@CLAYxxliu 推薦
#Generative Adversarial Networks
當前現有的很多 GAN 結構在訓練的時候并不穩定，很容易就會發生模式崩塌的現象。在本文文中，作者提出一個新穎 GAN 框架稱為進化對抗網絡（E-GAN）。
該框架摒棄了單一的生成器的設定，將生成器當做一個族群，每個單個的生成器就是一個體，而每個個體的變異的方式是不同的。作者利用一種評價機制來衡量生成的樣本的質量和多樣性，這樣只有性能良好的生成器才能保留下來，并用于進一步的培訓。
通過這種方式，E-GAN 克服了個體對抗性訓練目標的局限性，始終保留了對 GANs 的進步和成功做出貢獻的最佳個體。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2904
源碼鏈接
https://github.com/WANG-Chaoyue/EvolutionaryGAN
@shoujin 推薦
#Recommender Systems
本文是第一篇全面深入總結 session-based recommendations 的綜述文章，值得推薦。文章系統總結了目前一種新型推薦范式：session-based recommendations 的特點、挑戰和目前取得的進展，對整個推薦系統研究領域和相關的工業界人員提供了一個全面了解推薦系統領域最新研究進展的機會。
該文從問題本質和相關的數據特征入手，為 session-based recommendations 建立了一個層次化模型來深入理解里面存在的各種數據復雜性和潛在挑戰，然后采用了兩個不同維度對現有研究成果進行了系統分類和總結，最后提出了展望。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2884
@Xiaoha0607 推薦
#Search Ranking
本文來自 Airbnb，論文主要介紹了 Airbnb 搜索排序系統的演進以及深度學習的應用。文章給出了深度學習在搜索目標問題的實踐經驗談，尤其在特征工程、特征重要性分析方面有很多 insight 值得借鑒。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2952
@Glimmer123 推薦
#Continual Lifelong Learning
本文來自漢堡大學、羅徹斯特理工大學和赫瑞-瓦特大學，論文詳細介紹了持續終身學習領域相關概念（比如災難性遺忘），總結三個主要的研究領域，是持續終身學習領域比較好的綜述。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2934
@QAQ 推薦
#Convolutional Neural Network
本文來自 Facebook AI、新加坡國立大學和奇虎 360，論文提出 OctConv 用于壓縮低頻信息，分別處理高低頻兩個部分的數據，并在二者之間進行信息交換，從而減少卷積運算對存儲和計算量的消耗。替代傳統卷積，在提升效果的同時，節約計算資源的消耗。即插即用，無需修改原來的網絡架構，不用調整超參數。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2954
源碼鏈接
https://github.com/terrychenism/OctaveConv/
@NeoTheSunshine?推薦
#Graph Embeddings
本文通過實驗證明，現有的 GNN 及其相關變體仍然存在對圖結構表達能力不足的問題。為了進一步提升模型的表達能力，作者提出一種帶有 gating mechanism 的輔助模塊 Graph Warp Module，它可以通用使用在 GNN 上而無須改變原有模型結構。通過實驗證明了可以使用帶有 GWM (Graph Warp Module) 的 GNN 來達到 state-of-the-art generalization performance。
▲?論文模型：點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/2881
#推 薦 有 禮#
本期所有入選論文的推薦人
均將獲得PaperWeekly紀念周邊一份
▲?深度學習主題行李牌/卡套 + 防水貼紙
?禮物領取方式?
推薦人請根據論文詳情頁底部留言
添加小助手領取禮物
*每位用戶僅限領取一次
想要贏取以上周邊好禮？
點擊閱讀原文即刻推薦論文吧！
點擊以下標題查看往期推薦：?
??開學綜合癥有救了！17篇最新AI論文不容錯過
??NLP、CV、ML方向最新論文清單
??本周值得讀的15篇AI論文，還有源碼搭配服用
??近期值得讀的10篇GAN進展論文
??近期必讀的12篇「推薦系統」相關論文
??知識圖譜合輯：從NeurIPS 2018到AAAI 2019
#投 稿 通 道#
?讓你的論文被更多人看到?
如何才能讓更多的優質內容以更短路徑到達讀者群體，縮短讀者尋找優質內容的成本呢？答案就是：你不認識的人。
總有一些你不認識的人，知道你想知道的東西。PaperWeekly 或許可以成為一座橋梁，促使不同背景、不同方向的學者和學術靈感相互碰撞，迸發出更多的可能性。
PaperWeekly 鼓勵高校實驗室或個人，在我們的平臺上分享各類優質內容，可以是最新論文解讀，也可以是學習心得或技術干貨。我們的目的只有一個，讓知識真正流動起來。
??來稿標準：
? 稿件確系個人原創作品，來稿需注明作者個人信息（姓名+學校/工作單位+學歷/職位+研究方向）?
? 如果文章并非首發，請在投稿時提醒并附上所有已發布鏈接?
? PaperWeekly 默認每篇文章都是首發，均會添加“原創”標志
? 投稿郵箱：
? 投稿郵箱：hr@paperweekly.site?
? 所有文章配圖，請單獨在附件中發送?
? 請留下即時聯系方式（微信或手機），以便我們在編輯發布時和作者溝通
?
現在，在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域，歡迎在公眾號后臺點擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。
▽ 點擊 |?閱讀原文?| 獲取更多論文推薦
與50位技術專家面對面20年技術見證，附贈技術全景圖總結
以上是生活随笔為你收集整理的近期我们在读的那些优质论文，你不了解下？的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： PFLD：简单高效的实用人脸关键点检测算
- 下一篇： CVPR 2019 | 旷视研究院提出新