「論文訪談間」是由 PaperWeekly 和中國(guó)中文信息學(xué)會(huì)社會(huì)媒體處理專委會(huì)（SMP）聯(lián)合發(fā)起的論文報(bào)道欄目，旨在讓國(guó)內(nèi)優(yōu)質(zhì)論文得到更多關(guān)注和認(rèn)可。

?

謠言一般是指未經(jīng)核實(shí)的陳述或說(shuō)明，它往往與某一事件相關(guān)，在大眾之間廣泛傳播。而隨著社交媒體的發(fā)展，謠言可以通過(guò)社交媒體以核裂變的方式快速傳播，這往往會(huì)引發(fā)諸多不安定因素，并對(duì)經(jīng)濟(jì)和社會(huì)產(chǎn)生巨大的影響。

謠言從產(chǎn)生到傳播直至造成危害，往往會(huì)經(jīng)歷一段時(shí)間的演化，在這期間會(huì)有大量的相關(guān)信息伴隨源信息而發(fā)布。圖 1 描述的是在 Twitter 上傳播的一則謠言——“一個(gè) 17 歲黑人小孩因偷竊糖果被警察擊斃”。

我們以源消息的發(fā)布作為時(shí)間原點(diǎn)，不難發(fā)現(xiàn)該信息一經(jīng)發(fā)布便在 Twitter 上引發(fā)軒然大波，但遺憾的是，直至發(fā)布 24 小時(shí)后才有消息證實(shí)該信息為謠言。然而，此時(shí)該謠言已經(jīng)在社交媒體上廣泛傳播，并造成不可挽回的影響。因此，本文旨在研究社交媒體中謠言的早期檢測(cè)。

謠言的早期檢測(cè)通常是指謠言剛產(chǎn)生的幾小時(shí)內(nèi)，即謠言在這期間被發(fā)現(xiàn)，其可控性強(qiáng)，產(chǎn)生的危害性弱。現(xiàn)有研究成果大多集中在如何更準(zhǔn)確的進(jìn)行謠言檢測(cè)，其往往忽視了謠言檢測(cè)的時(shí)效性需求。少數(shù)涉及早期謠言檢測(cè)的，也只是簡(jiǎn)單比較不同靜態(tài)檢測(cè)點(diǎn)上的準(zhǔn)確率，即僅用預(yù)先定義好的固定檢測(cè)點(diǎn)前的數(shù)據(jù)進(jìn)行檢測(cè)，并比較準(zhǔn)確率。

實(shí)際上，靜態(tài)檢測(cè)點(diǎn)并不是明智之舉，不同的謠言在社交媒體上的爆點(diǎn)時(shí)間并不相同，有些謠言會(huì)因?yàn)闀r(shí)間的設(shè)置過(guò)早而無(wú)法保證檢測(cè)準(zhǔn)確率，有些謠言則會(huì)因?yàn)樵O(shè)置過(guò)晚而無(wú)法保證其檢測(cè)時(shí)效性。因此，謠言的判別應(yīng)依照不同的事件，動(dòng)態(tài)地設(shè)置檢測(cè)點(diǎn)，從而實(shí)現(xiàn)謠言的早期發(fā)現(xiàn)。

為了解決這一問(wèn)題，本文提出了一個(gè)基于強(qiáng)化學(xué)習(xí)的謠言早期檢測(cè)模型，該模型將社交媒體中發(fā)布的帖子按其發(fā)布時(shí)間以信息流的形式進(jìn)行輸入。每當(dāng)一個(gè)新帖子到來(lái)，模型都會(huì)對(duì)其進(jìn)行判別，并將判別結(jié)果輸入到強(qiáng)化學(xué)習(xí)模塊，強(qiáng)化學(xué)習(xí)模塊利用獎(jiǎng)勵(lì)機(jī)制對(duì)當(dāng)前檢測(cè)結(jié)果進(jìn)行判斷，并根據(jù)準(zhǔn)確率來(lái)進(jìn)行策略選擇。如果準(zhǔn)確率滿足要求，則輸出判別結(jié)果，否則繼續(xù)監(jiān)聽。通過(guò)這種方式，不僅實(shí)現(xiàn)了謠言的早期發(fā)現(xiàn)，同時(shí)還能保證檢測(cè)的準(zhǔn)確率。

模型

不失一般性，我們用E表示一個(gè)待檢測(cè)的事件，它往往有一系列相關(guān)的帖子構(gòu)成，其中表示源信息，表示截至當(dāng)前時(shí)間點(diǎn)最新發(fā)布的帖子。謠言早期判別模型的設(shè)計(jì)目標(biāo)就是為了盡可能早的判別 E 是否是一個(gè)謠言。?

謠言早期判別模型（Early Rumor Detection，ERD）主要包括兩個(gè)部分：檢測(cè)點(diǎn)模塊（Checkpoint Module，CM）和謠言檢測(cè)模塊（Rumor Detection Module，RDM）。

其中謠言檢測(cè)模塊用于判別某一事件是否為謠言，而檢測(cè)點(diǎn)模塊用于判斷是否觸發(fā) RDM。這里 CM 扮演了一個(gè)重要的角色，它用來(lái)決定何時(shí)對(duì)相關(guān)事件進(jìn)行判別。該模型的創(chuàng)新之處在于利用強(qiáng)化學(xué)習(xí)方法來(lái)發(fā)現(xiàn)最優(yōu)的檢測(cè)點(diǎn)，同時(shí)采用交替學(xué)習(xí)的方式優(yōu)化兩個(gè)模塊，可以在保證準(zhǔn)確率的前提下，盡早識(shí)別謠言。模型框架如下圖所示。

謠言檢測(cè)模塊

謠言檢測(cè)模塊主要用于檢測(cè)某事件是否為謠言。具體地，首先將待檢測(cè)的帖子序列進(jìn)行分詞并以詞向量形式進(jìn)行表示，同時(shí)使用全連接神經(jīng)網(wǎng)絡(luò)和 maxpooling 運(yùn)算提取每個(gè)帖子的特征。需要注意的是由于通常帖子量很大，連續(xù)的帖子會(huì)按照一定數(shù)量以帖子集合形式輸入。

其次，采用 GRU 循環(huán)神經(jīng)網(wǎng)絡(luò)來(lái)學(xué)習(xí)帖子集合的序列特征。

最后，采用 softmax 輸出謠言檢測(cè)的結(jié)果。

檢測(cè)點(diǎn)模塊

與現(xiàn)有設(shè)置靜態(tài)檢查點(diǎn)的方法不同，CM 通過(guò)學(xué)習(xí)觸發(fā) RDM 所需的帖子數(shù)量來(lái)確定檢測(cè)點(diǎn)，進(jìn)而對(duì)相關(guān)事件進(jìn)行謠言識(shí)別。為此，我們利用深層強(qiáng)化學(xué)習(xí)來(lái)確定最佳檢查點(diǎn)。我們以 RDM 的準(zhǔn)確率作為獎(jiǎng)勵(lì)，同時(shí)將不觸發(fā) RDM 的次數(shù)作為懲罰。通過(guò)這種方式，CM 可以學(xué)習(xí)到如何在準(zhǔn)確率和時(shí)效性之間進(jìn)行權(quán)衡。

具體的，在強(qiáng)化學(xué)習(xí)模塊中，CM 將 GRU 中產(chǎn)生的隱藏狀態(tài)作為輸入，使用雙層前饋網(wǎng)絡(luò)計(jì)算 action-value 函數(shù)。為此，我們采用 Q-learning 方法來(lái)進(jìn)行計(jì)算，action-value 的最優(yōu)函數(shù) Q* 可以定義為在狀態(tài) s 下采取行動(dòng) a 以獲得最大的獎(jiǎng)勵(lì)值 r。

其中 r 是獎(jiǎng)勵(lì)值，γ 是 discount rate，選擇所有 action 序列中的最優(yōu)值 a’，使之滿足期望最大化。?

在這個(gè)過(guò)程中，CM 會(huì)根據(jù)當(dāng)前狀態(tài)，計(jì)算出不同 action 的獎(jiǎng)勵(lì)估計(jì)值。

這里 action 集合主要包括繼續(xù)輸入待檢測(cè)帖子和停止謠言檢測(cè)，并以謠言檢測(cè)模塊給出的結(jié)果正確與否來(lái)計(jì)算實(shí)際獎(jiǎng)勵(lì)值。

這里 M 是一個(gè)遞增的數(shù)，在每次判斷正確后，M 值都會(huì)累積遞增。-P 是一個(gè)固定的懲罰系數(shù)，-ε 是一個(gè)固定的微小懲罰系數(shù)，來(lái)促使檢測(cè)點(diǎn)模塊確定較早的檢測(cè)點(diǎn)。

聯(lián)合訓(xùn)練

在模型訓(xùn)練過(guò)程中，我們會(huì)一并訓(xùn)練 RDM 以及 CM 模塊，其訓(xùn)練過(guò)程類似于生成對(duì)抗網(wǎng)絡(luò)。具體的，我們會(huì)先預(yù)訓(xùn)練謠言檢測(cè)模塊（RDM），使其達(dá)到一定的準(zhǔn)確率，進(jìn)而來(lái)評(píng)估檢測(cè)點(diǎn)模塊。

隨后，交替訓(xùn)練兩個(gè) CM 與 RDM 模型：檢測(cè)點(diǎn)模塊計(jì)算出來(lái)的新的檢測(cè)點(diǎn)會(huì)反饋給下一個(gè)謠言檢測(cè)模塊，即檢測(cè)點(diǎn)模塊以謠言檢測(cè)模塊評(píng)估的結(jié)果學(xué)習(xí)到好的檢測(cè)點(diǎn)，謠言檢測(cè)模塊適應(yīng)新的檢測(cè)點(diǎn)以給出正確結(jié)果。

實(shí)驗(yàn)結(jié)果

本文在兩個(gè)公開數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)來(lái)驗(yàn)證模型的準(zhǔn)確性和時(shí)效性，分別是基于微博和 Twitter 的謠言數(shù)據(jù)集，兩個(gè)數(shù)據(jù)集的相關(guān)統(tǒng)計(jì)指標(biāo)請(qǐng)見表 1。

實(shí)驗(yàn)中，我們首先對(duì)模型的準(zhǔn)確性進(jìn)行比較。與現(xiàn)有模型相比，我們的模型 RDM（僅謠言檢測(cè)模塊采用完整的信息）的準(zhǔn)確率在兩個(gè)數(shù)據(jù)集上都更具優(yōu)勢(shì)，如表 3、表 4 所示。此外，與現(xiàn)有最好的模型相比，ERD（結(jié)合了檢測(cè)點(diǎn)模塊并使用動(dòng)態(tài)檢測(cè)點(diǎn)）也表現(xiàn)相當(dāng)。

我們進(jìn)一步對(duì)模型進(jìn)行時(shí)效性驗(yàn)證。由于當(dāng)前謠言檢測(cè)方法中很少涉及時(shí)效性的實(shí)驗(yàn)，我們主要和 GRU-2 模型進(jìn)行比較。在 GRU-2 中，其采用了人為設(shè)置的靜態(tài)時(shí)間點(diǎn)方式，即事件發(fā)生后的第十二小時(shí)為檢測(cè)節(jié)點(diǎn)。

在實(shí)驗(yàn)中，我們按照 6 小時(shí)作為一個(gè)時(shí)間間隔對(duì)其進(jìn)行劃分，將全部消息按照時(shí)間劃分為 8 個(gè)間隔。圖 6 展示的是不同時(shí)間間隔的謠言識(shí)別百分比，圖 7 顯示的是在各個(gè)時(shí)間間隔中的謠言識(shí)別準(zhǔn)確率。

圖 6 和圖 7 中的虛線分別表示 GRU-2 在 12 小時(shí)靜態(tài)檢測(cè)點(diǎn)上的判別結(jié)果。ERD 模型可以在 6 小時(shí)內(nèi)識(shí)別出大部分事件，其遠(yuǎn)遠(yuǎn)早于 12 小時(shí)（實(shí)驗(yàn)中微博檢測(cè)點(diǎn)平均為 7.5 小時(shí)，Twitter 平均為 3.4 小時(shí)）。不僅如此，圖 7 顯示相較于 GRU-2，ERD 模型在各個(gè)時(shí)間間隔的準(zhǔn)確率更高。

此外，為了驗(yàn)證 CM 的有效性，我們將 ERD 和 RDM 做了比較，結(jié)果如圖 8 所示。其中 RDM 采用了設(shè)定靜態(tài)檢測(cè)點(diǎn)的方法，可見在微博數(shù)據(jù)集上 ERD 僅 7.5 小時(shí)的結(jié)果就與 RDM 在 24 小時(shí)的準(zhǔn)確率相當(dāng)，而在 Twitter 上 ERD 更是能夠提前近 20 小時(shí)達(dá)到與 RDM 相當(dāng)?shù)臏?zhǔn)確率。

表 3 是本文對(duì) PARL 模型做的消融實(shí)驗(yàn)的結(jié)果，可以觀察到：每個(gè)組件層都對(duì)提升分?jǐn)?shù)預(yù)測(cè)的精度起到了正面的影響。

為了進(jìn)一步對(duì)方法進(jìn)行定性分析，我們?cè)诒?5 中展示了一個(gè)來(lái)自微博謠言事件的例子。謠言始于 2012 年 8 月 18 日發(fā)布的消息，聲稱大閘蟹含有有害激素和毒素。在發(fā)布后的 12 小時(shí)內(nèi)，230 萬(wàn)用戶通過(guò)轉(zhuǎn)發(fā)、評(píng)論或質(zhì)疑原文的方式參與了消息的散播。此謠言迅速蔓延，并對(duì)中國(guó)水產(chǎn)養(yǎng)殖業(yè)造成重大經(jīng)濟(jì)損失。在 24 小時(shí)后，謠言被正式駁回，但從表 5 中我們可以看到，ERD 在 34 分鐘內(nèi)就檢測(cè)到謠言。

總結(jié)

本文提出了一種基于深度強(qiáng)化學(xué)習(xí)的早期謠言檢測(cè)模型 ERD。與之前設(shè)置靜態(tài)檢測(cè)點(diǎn)的方法不同，ERD 可以通過(guò)強(qiáng)化學(xué)習(xí)的方法來(lái)動(dòng)態(tài)設(shè)定檢測(cè)點(diǎn)，以最少的信息來(lái)進(jìn)行判別，進(jìn)而實(shí)現(xiàn)謠言的早期發(fā)現(xiàn)。

我們分別在 Twitter 以及微博數(shù)據(jù)集中進(jìn)行實(shí)驗(yàn)驗(yàn)證，ERD 可以分別用 3.4 小時(shí)以及 7.5 小時(shí)進(jìn)行謠言的判別，與之前 12 小時(shí)相比大大提前了。同時(shí) ERD 可以取得 93.3% 以及 85.8% 的準(zhǔn)確率，與當(dāng)前最優(yōu)模型水平相當(dāng)。

以下是相關(guān)數(shù)據(jù)集鏈接：

微博數(shù)據(jù)集：

http://alt.qcri.org/~wgao/data/rumdect.zip

Twitter數(shù)據(jù)集：

https://figshare.com/articles/PHEME_dataset_of_rumours_and_non-rumours/4010619

關(guān)于作者

周凱敏，畢業(yè)于國(guó)際關(guān)系學(xué)院，師從李斌陽(yáng)副教授。主要研究文本不確定性識(shí)別，社交媒體中的謠言檢測(cè)和用戶意圖識(shí)別等。原就職于義語(yǔ)智能科技（上海）有限公司，本文即主要于公司實(shí)習(xí)期間，在學(xué)校和公司大力支持下所完成的。

舒暢，義語(yǔ)智能CTO & CEO。英國(guó)諾丁漢大學(xué)人工智能博士，英國(guó)布里斯托大學(xué)機(jī)器學(xué)習(xí)碩士，獲北京航空航天大學(xué)、英國(guó)赫爾大學(xué)雙學(xué)士，師從國(guó)際機(jī)器學(xué)習(xí)泰斗級(jí)教授Nello Cristianini。曾在日本國(guó)立情報(bào)研究所（NII）擔(dān)任訪問(wèn)研究員，廣州市高端人才，現(xiàn)擔(dān)任中科院計(jì)算所上海分所&義語(yǔ)智能人工智能自然語(yǔ)言處理聯(lián)合實(shí)驗(yàn)室主任，中國(guó)中文信息學(xué)會(huì)青年工作委員會(huì)委員之一，社交媒體處理委員之一。在COLING，NAACL等頂尖國(guó)際會(huì)議和雜志期刊上發(fā)表過(guò)多篇論文，在國(guó)內(nèi)擁有多項(xiàng)人工智能相關(guān)專利。

李斌陽(yáng)，國(guó)際關(guān)系學(xué)院副教授，碩導(dǎo)。研究興趣包括自然語(yǔ)言處理、情感分析和社會(huì)計(jì)算，累計(jì)發(fā)表論文50余篇。擔(dān)任中國(guó)中文信息學(xué)會(huì)社交媒體專委會(huì)副秘書長(zhǎng)、青年工作委員會(huì)委員，人工智能學(xué)會(huì)青工委委員。長(zhǎng)期擔(dān)任相關(guān)領(lǐng)域國(guó)際權(quán)威學(xué)術(shù)期刊審稿人和重要學(xué)術(shù)會(huì)議程序委員會(huì)委員(TPC)。曾獲教育部科技進(jìn)步二等獎(jiǎng)（第三完成人），香港科技資訊優(yōu)秀獎(jiǎng)。

劉杰漢，博士，DeepBrain義語(yǔ)智能首席科學(xué)家。主要研究方向?yàn)镹LP和主題模型，英國(guó)倫敦國(guó)王學(xué)院博士后，澳大利亞墨爾本大學(xué)機(jī)器學(xué)習(xí)博士及學(xué)士，現(xiàn)任澳大利亞墨爾本大學(xué)人工智能導(dǎo)師，曾在IBM澳大利亞研究院擔(dān)任高級(jí)研究員，在日本國(guó)立情報(bào)研究所（NII）擔(dān)任訪問(wèn)研究員。在ACL，COLING，NAACL，EMNLP等頂尖自然語(yǔ)言處理國(guó)際會(huì)議和雜志期刊上共發(fā)表論文近40篇，在國(guó)內(nèi)及國(guó)外擁有多項(xiàng)人工智能相關(guān)專利。

主辦單位

點(diǎn)擊以下標(biāo)題查看更多往期內(nèi)容：?

• 目標(biāo)檢測(cè)小tricks之樣本不均衡處理

• 圖神經(jīng)網(wǎng)絡(luò)綜述：模型與應(yīng)用

• 推薦系統(tǒng)閱讀清單：最近我們?cè)谧x哪些論文？

• 小樣本學(xué)習(xí)（Few-shot Learning）綜述
  

• 萬(wàn)字綜述之生成對(duì)抗網(wǎng)絡(luò)（GAN）

• 基于深度學(xué)習(xí)的推薦模型—PARL
  

• 基于雙層注意力機(jī)制的異質(zhì)圖深度神經(jīng)網(wǎng)絡(luò)

• 基于小樣本學(xué)習(xí)的意圖識(shí)別冷啟動(dòng)

  
  

#投 稿 通 道#

?讓你的論文被更多人看到?

如何才能讓更多的優(yōu)質(zhì)內(nèi)容以更短路徑到達(dá)讀者群體，縮短讀者尋找優(yōu)質(zhì)內(nèi)容的成本呢？答案就是：你不認(rèn)識(shí)的人。

總有一些你不認(rèn)識(shí)的人，知道你想知道的東西。PaperWeekly 或許可以成為一座橋梁，促使不同背景、不同方向的學(xué)者和學(xué)術(shù)靈感相互碰撞，迸發(fā)出更多的可能性。

PaperWeekly 鼓勵(lì)高校實(shí)驗(yàn)室或個(gè)人，在我們的平臺(tái)上分享各類優(yōu)質(zhì)內(nèi)容，可以是最新論文解讀，也可以是學(xué)習(xí)心得或技術(shù)干貨。我們的目的只有一個(gè)，讓知識(shí)真正流動(dòng)起來(lái)。

??來(lái)稿標(biāo)準(zhǔn)：

? 稿件確系個(gè)人原創(chuàng)作品，來(lái)稿需注明作者個(gè)人信息（姓名+學(xué)校/工作單位+學(xué)歷/職位+研究方向）?

? 如果文章并非首發(fā)，請(qǐng)?jiān)谕陡鍟r(shí)提醒并附上所有已發(fā)布鏈接?

? PaperWeekly 默認(rèn)每篇文章都是首發(fā)，均會(huì)添加“原創(chuàng)”標(biāo)志

? 投稿郵箱：

? 投稿郵箱：hr@paperweekly.site?

? 所有文章配圖，請(qǐng)單獨(dú)在附件中發(fā)送?

? 請(qǐng)留下即時(shí)聯(lián)系方式（微信或手機(jī)），以便我們?cè)诰庉嫲l(fā)布時(shí)和作者溝通

?

現(xiàn)在，在「知乎」也能找到我們了

進(jìn)入知乎首頁(yè)搜索「PaperWeekly」

點(diǎn)擊「關(guān)注」訂閱我們的專欄吧

關(guān)于PaperWeekly

PaperWeekly 是一個(gè)推薦、解讀、討論、報(bào)道人工智能前沿論文成果的學(xué)術(shù)平臺(tái)。如果你研究或從事 AI 領(lǐng)域，歡迎在公眾號(hào)后臺(tái)點(diǎn)擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。

▽ 點(diǎn)擊 |?閱讀原文?| 獲取最新論文推薦

總結(jié)

以上是生活随笔為你收集整理的谣言止于智者：基于深度强化学习的谣言早期检测模型的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。