Stanford NLP 解讀 ACL 2018 論文——用于調(diào)試 NLP 模型的語(yǔ)義等價(jià)對(duì)立規(guī)則

本文作者：王雪佩

2019-02-23 20:13

專(zhuān)題：ACL 2018

導(dǎo)語(yǔ)：新鮮出爐的論文解讀~

雷鋒網(wǎng) AI 科技評(píng)論按，近日，斯坦福自然語(yǔ)言處理小組發(fā)布了一篇博文，重點(diǎn)討論了由 Ribeiro、Marco Tulio、Sameer Singh 和 Carlos Guestrin 寫(xiě)的論文「Semantically equivalent adversarial rules for debugging nlp models」（用于調(diào)試 NLP 模型的語(yǔ)義等價(jià)對(duì)立規(guī)則）。該論文是 2018 年 ACL 論文，被發(fā)表在《計(jì)算語(yǔ)言學(xué)協(xié)會(huì)第 56 屆年度會(huì)議論文集》2018 年第 1 卷：長(zhǎng)篇論文中。雷鋒網(wǎng)(公眾號(hào)：雷鋒網(wǎng))?AI 科技評(píng)論將這片博文編譯整理如下。

魯棒性是工程中的一個(gè)核心問(wèn)題。正如吊橋一樣，它需要抵御強(qiáng)風(fēng)，這樣它就不會(huì)像塔科馬窄橋那樣倒塌。它也需要像核反應(yīng)堆一樣可以容錯(cuò)，這樣福島第一核電站事件就不會(huì)發(fā)生。

當(dāng)我們?cè)絹?lái)越依賴(lài)一種技術(shù)——吊橋、核電，或者是 NLP 模型時(shí)，我們必須提高對(duì)這項(xiàng)技術(shù)的信任水平。魯棒性正是我們?cè)谶@些系統(tǒng)上所需要的。

Jia&Liang 在 2017 年的早期研究表明，NLP 模型很容易受到文本中人類(lèi)微小干擾的影響——簡(jiǎn)單的添加或刪除可以打破模型，迫使其產(chǎn)生無(wú)意義的答案。其他研究，如 belinkov&bisk 的研究、ebrahimi 等人的研究，顯示了系統(tǒng)的不穩(wěn)定，即刪除或替換一個(gè)字符就足以破壞模型。在序列數(shù)據(jù)中引入噪聲并不總是壞事：Xie 等人 4 的早期工作表明，使用單詞或者字符級(jí)擾動(dòng)（噪聲）訓(xùn)練機(jī)器翻譯或語(yǔ)言模型實(shí)際上提高了性能。

然而，在 Ian Goodfellow 的最初概念中，很難將這些受干擾的例子稱(chēng)為「對(duì)抗性的例子」。本文提出了一種用兩個(gè)性質(zhì)來(lái)描述文本中一個(gè)對(duì)立的例子的方法：

兩個(gè)句子的語(yǔ)義等價(jià)性：SemEq(x,x′)

擾動(dòng)標(biāo)簽預(yù)測(cè)：f（x）≠f（x′）

在我們的討論中，人們指出，從語(yǔ)言學(xué)的角度來(lái)看，很難定義「語(yǔ)義等價(jià)」，因?yàn)槲覀儗?duì)「意義」沒(méi)有一個(gè)精確而客觀的定義。也就是說(shuō)，即使兩個(gè)句子對(duì)某個(gè)特定任務(wù)能產(chǎn)生相同的效果，它們也不需要是同義詞。在「What Is a Paraphrase」中可以找到對(duì)英語(yǔ)釋義的更細(xì)微的討論？這是 Bhagat & Hovy 在 2012 年發(fā)表的一篇文章，在文中，語(yǔ)義等價(jià)被認(rèn)為是人類(lèi)判斷的「等價(jià)物」。

語(yǔ)義等價(jià)難點(diǎn)（SEAs）

Ribeiro 等人認(rèn)為只有滿(mǎn)足這兩個(gè)條件的序列才是文本中真正的對(duì)立例子。它們使用指示函數(shù)將此條件轉(zhuǎn)換為連接形式：

「Pivoting」是 Bannard 和 Callison-Burch 在 2005 年提出的一種統(tǒng)計(jì)機(jī)器翻譯技術(shù)。本文以 Lapata 等人 2017 年發(fā)表的多語(yǔ)種釋義論文中定義的釋義可能性來(lái)衡量語(yǔ)義等價(jià)性。如果兩個(gè)英語(yǔ)字符串 e1?和 e2?可以翻譯成同一個(gè)法語(yǔ)字符串 f，那么可以假定這兩個(gè)字符串的意思是相同的。

?

圖 1

?

圖 2

pivot 方案由圖 1 的生成模型描述，假設(shè) e1?和 e2?之間存在條件獨(dú)立性，給定 f:p（e2?| e1，f）=p（e2?| f）。圖 2 的模型描述了 Multipivot：它將一個(gè)英語(yǔ)句子翻譯成多個(gè)法語(yǔ)句子，然后再重新翻譯成英語(yǔ)生成釋義。multipivoting 的反向翻譯可以是一個(gè)簡(jiǎn)單的解碼器平均值——每個(gè)解碼器使用一個(gè)法語(yǔ)字符串，下一個(gè)英語(yǔ)標(biāo)記的總輸出概率是每個(gè)解碼器概率的加權(quán)和。雷鋒網(wǎng)

釋義概率重新加權(quán)

假設(shè)釋義模型中的非規(guī)范化邏輯為 ?(x′|x)，假設(shè) ∏x 是模型可以生成的給定 x 的一組釋義，那么特定釋義的概率表示如下：

注意在分母中，所有生成的句子（包括生成的原始句子）共享這個(gè)概率。如果一個(gè)句子有許多容易產(chǎn)生的釋義（用高?值表示），那么 p(x|x) 和所有其他 p(x′|x) 都會(huì)很小，用 p(x′|x) 除以 p(x|x) 將得到一個(gè)較大的值（接近 1）。對(duì)于一個(gè)難以釋義的句子，p(x|x) 應(yīng)該比 p(x′|x) 大得多，此時(shí)用 p(x′|x) 除以 p(x|x) 將得到一個(gè)較小的值（接近 0）。

基于這種直覺(jué)，Ribeiro 等人建議計(jì)算語(yǔ)義得分 S(x,x′) 作為釋義質(zhì)量的衡量標(biāo)準(zhǔn)：

生成滿(mǎn)足方程式 1 的對(duì)立句子的簡(jiǎn)單方法是：要求釋義模型生成句子 x 的釋義。可以嘗試這個(gè)式子，看是否會(huì)改變模型的預(yù)測(cè)結(jié)果：f（x′）≠f（x）。

語(yǔ)義等價(jià)對(duì)抗規(guī)則（SEARs）

SEAs 是為每一個(gè)示例獨(dú)立產(chǎn)生的對(duì)抗性示例。在這一步中，作者制定了將這些本地 SEAs 轉(zhuǎn)化為全局規(guī)則（SEARs）的步驟。本文定義的規(guī)則是一個(gè)簡(jiǎn)單的離散變換 r=(a→c)。例如，r=(movie→film) 可以變成 r("Great movie!") = "Great film!"。

給定一對(duì)文本（x，x′），其中 SEA（x，x′）=1，Ribeiro 等人選擇將 x 轉(zhuǎn)換為 x′ 的文本的最小連續(xù)跨度，包括鄰近上下文（文本前后各一個(gè)單詞），并用 POS（語(yǔ)音的一部分）標(biāo)簽對(duì)序列進(jìn)行注釋。最后一步是生成生詞和它們的 POS 標(biāo)簽組合的產(chǎn)物，下面的例子可以看到它是如何一步一步做到這點(diǎn)的：

"What color is the tray?" -> "Which color is the tray?"

步驟 1: (What -> Which)

步驟 2: (What color -> Which color)

步驟 3: (What color -> Which color), (What NOUN -> Which NOUN), (WP color -> Which color), (What color -> WP color)

因?yàn)檫@個(gè)過(guò)程適用于每對(duì)（x，x′），并且我們假設(shè)人們只愿意通過(guò) B 規(guī)則，Ribeiro 等人建議通過(guò)篩選使|R|≤B，那么標(biāo)準(zhǔn)將會(huì)是：

• 產(chǎn)生語(yǔ)義等價(jià)句子的概率很高：這是通過(guò)式子??來(lái)衡量的。簡(jiǎn)單地說(shuō)，通過(guò)應(yīng)用這個(gè)規(guī)則，語(yǔ)料庫(kù)中的大多數(shù) x 可以翻譯成語(yǔ)義上等價(jià)的釋義。在論文中，δ=0.1。

• 釋義的數(shù)量多：規(guī)則 r 還必須生成可以更改模型預(yù)測(cè)結(jié)果的釋義。此外，釋義相互之間的語(yǔ)義相似性也應(yīng)該很高，這一點(diǎn)可以用來(lái)評(píng)估。

• 沒(méi)有冗余：規(guī)則應(yīng)多樣化，并覆蓋盡可能多的 x 。

為了滿(mǎn)足上面的第 2、3 條標(biāo)準(zhǔn)，Ribeiro 等人提出了一種子模型優(yōu)化目標(biāo)，該目標(biāo)可以用貪心算法來(lái)實(shí)現(xiàn)，在理論上保證常數(shù)因子的最優(yōu)解。

算法的整體描述如下：

實(shí)驗(yàn)與驗(yàn)證

Ribeiro 等人關(guān)注的關(guān)鍵指標(biāo)是翻轉(zhuǎn)的百分比，它的定義為，在驗(yàn)證集中，有多少例子被正確地預(yù)測(cè)，但是在使用規(guī)則后預(yù)測(cè)是錯(cuò)誤的。

在討論過(guò)程中，對(duì)這個(gè)度量標(biāo)準(zhǔn)的意見(jiàn)是，它并沒(méi)有指出有多少示例受到這個(gè)規(guī)則的影響。例如，在 VQA 數(shù)據(jù)集中，將"color" 更改為"colour" 的規(guī)則可能只有 2.2% 的翻轉(zhuǎn)率，但這可能是因?yàn)樵?VQA 的驗(yàn)證集中，只有 2.2% 的實(shí)例包含單詞「color」。因此，事實(shí)上，此規(guī)則在生成對(duì)抗性示例中有 100% 的成功率。

這篇論文展示了一些非常好的離散規(guī)則，這些規(guī)則可以生成對(duì)抗性的文本示例如下：

人參與實(shí)驗(yàn)

Ribeiro 等人對(duì)人類(lèi)進(jìn)行了實(shí)驗(yàn)。把人類(lèi)帶到實(shí)驗(yàn)中有兩個(gè)目的：人類(lèi)可以判斷規(guī)則是否真的能產(chǎn)生意譯（超出了 Lapata 等人提供的語(yǔ)義評(píng)分模型）；人類(lèi)可以判斷規(guī)則引起的干擾是否真的有意義。

他們首先評(píng)估了 SEA 的質(zhì)量：對(duì)于驗(yàn)證集中 100 個(gè)正確預(yù)測(cè)的示例，他們創(chuàng)建了三組比較：1）完全由人類(lèi)創(chuàng)造；2）完全由 SEA 模型生成；3）通過(guò)算法生成 SEA，但是用人類(lèi)相似性判斷的標(biāo)準(zhǔn)替換 S(x,x′)。

結(jié)果顯示，SEA 的成績(jī)勉強(qiáng)超過(guò)人類(lèi)（18% VS 16%），但結(jié)合人類(lèi)的判斷，HSEA 的表現(xiàn)遠(yuǎn)超人類(lèi)（24% VS 13%）。

隨后他們?cè)u(píng)估了全局規(guī)則?SEARs。這一次，他們邀請(qǐng)「專(zhuān)家」使用交互式 Web 界面創(chuàng)建全局規(guī)則。他們將專(zhuān)家定義為參加過(guò)一個(gè)研究生級(jí)別的 NLP 或 ML 課程的學(xué)生、教師。嚴(yán)格來(lái)說(shuō)，專(zhuān)家應(yīng)該是語(yǔ)言學(xué)專(zhuān)業(yè)的學(xué)生。

專(zhuān)家可以看到關(guān)于規(guī)則創(chuàng)建的即時(shí)反饋：他們知道在 100 個(gè)示例中，有多少示例受到規(guī)則的干擾，有多少示例的預(yù)測(cè)標(biāo)簽受到干擾。為了進(jìn)行公平的比較，他們被要求創(chuàng)建盡可能多的規(guī)則，并從中選出最好的 10 個(gè)。此外，每個(gè)專(zhuān)家都有大約 15 分鐘的時(shí)間來(lái)創(chuàng)建規(guī)則。他們還被要求評(píng)估 SEARs 并選出 10 個(gè)對(duì)保持語(yǔ)義等價(jià)性最有意義的規(guī)則。

結(jié)果并不令人驚訝，SEARs 在達(dá)到一個(gè)高翻轉(zhuǎn)百分比方面表現(xiàn)得好得多。人與機(jī)器結(jié)合的結(jié)果優(yōu)于只有人或者只有機(jī)器。他們還比較了專(zhuān)家創(chuàng)建規(guī)則與評(píng)估機(jī)器創(chuàng)建的規(guī)則所需的平均時(shí)間（秒）。

最后，論文給出了一個(gè)簡(jiǎn)單的解決這些 bug 的方法：他們可以簡(jiǎn)單地使用這些人為接受的規(guī)則來(lái)干擾訓(xùn)練集，并且能夠在 VQA 上將錯(cuò)誤率從 12.6% 降低到 1.4%，在情感分析上從 12.6% 降低到 3.4%。

總結(jié)

本文采用釋義模型來(lái)評(píng)估語(yǔ)義相似度，生成語(yǔ)義等價(jià)的句子。如文中所述，基于機(jī)器翻譯的釋義只會(huì)對(duì)句子造成局部干擾，而人類(lèi)創(chuàng)造的語(yǔ)義等價(jià)句子會(huì)產(chǎn)生更顯著的干擾。

另一個(gè)局限是基于梯度的對(duì)抗性示例生成更具指導(dǎo)性，而本文提出的方法似乎是一種簡(jiǎn)單的試錯(cuò)方法（不斷生成釋義，直到一個(gè)釋義干擾模型預(yù)測(cè)）。另一方面，這種方法適用于沒(méi)有梯度訪(fǎng)問(wèn)的黑盒模型，因此比基于梯度的方法更通用。

本文提供了一個(gè)清晰的框架，并明確地提出了對(duì)抗性文本示例應(yīng)遵循的特征。這個(gè)定義與計(jì)算機(jī)視覺(jué)中的對(duì)抗性例子非常兼容。然而，這個(gè)框架只涵蓋了一種特定類(lèi)型的對(duì)抗性示例。這種方法沒(méi)有涉及到的一個(gè)明顯的對(duì)抗性例子是添加或刪除句子之類(lèi)的操作，而這對(duì)于攻擊 QA 模型很重要。

參考文獻(xiàn)：

Jia, Robin, and Percy Liang. "Adversarial examples for evaluating reading comprehension systems." arXiv preprint arXiv:1707.07328 (2017).?

Belinkov, Yonatan, and Yonatan Bisk. "Synthetic and natural noise both break neural machine translation." arXiv preprint arXiv:1711.02173(2017).?

Ebrahimi, Javid, et al. "HotFlip: White-Box Adversarial Examples for Text Classification." arXiv preprint arXiv:1712.06751 (2017).?

Xie, Ziang, et al. "Data noising as smoothing in neural network language models." arXiv preprint arXiv:1703.02573 (2017).?

Goodfellow, Ian J., Jonathon Shlens, and Christian Szegedy. "Explaining and harnessing adversarial examples (2014)." arXiv preprint arXiv:1412.6572.?

Mallinson, Jonathan, Rico Sennrich, and Mirella Lapata. "Paraphrasing revisited with neural machine translation." Proceedings of the 15th Conference of the European Chapter of the Association for Computational Linguistics: Volume 1, Long Papers. Vol. 1. 2017.?

Colin Bannard and Chris Callison-Burch. 2005. Paraphrasing with bilingual parallel corpora. In Proceedings of the 43rd Annual Meeting of the Association for Computational Linguistics, pages 597–604, Ann Arbor, Michigan.?

via：https://nlp.stanford.edu/blog/reading-group-blog-semantically-equivalent-adversarial-rules-for-debugging-nlp-models-acl-2018-/

總結(jié)

以上是生活随笔為你收集整理的Stanford NLP 解读 ACL 2018 论文——用于调试 NLP 模型的语义等价对立规则的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。