華為諾亞方舟實驗室主任李航：神經符號處理開啟自然語言處理新篇章

本文作者：王金許

2017-07-26 19:29

導語：?深度學習（神經處理）給自然語言處理帶來了革命性的進步，基于深度學習的機器翻譯等任務的性能優良大幅度的提升。面向未來，自然語言處理技術將如何發展和演進？

雷鋒網按：深度學習（神經處理）給自然語言處理帶來了革命性的進步，基于深度學習的機器翻譯等任務的性能優良大幅度的提升。面向未來，自然語言處理技術將如何發展和演進？在哪些方面會有新突破？7 月 23 日，第二屆語言與智能高峰論壇在北京舉行，華為諾亞方舟實驗室主任李航以《神經符號處理開啟自然語言處理新篇章》為題作了報告，就自然語言領域的發展、神經符號處理對自然語言處理的影響等方面闡述了他的看法。?

李航博士，華為諾亞方舟實驗室主任，北京大學、南京大學客座教授，IEEE Fellow、ACM 杰出科學家，研究方向包括信息檢索、自然語言處理、統計機器學習以及數據挖掘。

以下為李航博士演講內容實錄，雷鋒網(公眾號：雷鋒網)做了不改變原意的編輯。

今天想跟大家一起看一下，我們現在一個主要研究方向，也希望跟大家一起推動這個研究方向，它是神經符號處理。

神經符號處理是未來自然語言處理非常重要的一個方向，這個報告大概分以下幾個部分：

一，對自然語言領域做一個概述。從我的角度把最近幾個報告的主要觀點，再重新梳理一下。

二，為什么我們覺得神經符號處理是未來重要的一個研究方向，它的主要應用就是更廣義的問答（我們叫智能信息知識管理系統）。同時，介紹一些業界相關工作和我們自己做的一些研究。

三，拋磚引玉，大家一起探討一些相關問題。

自然語言處理的終極目標是做自然語言理解，就是讓計算機能夠理解人類的語言。具體來說有兩個方面：像人一樣能夠去說話；像人一樣能去閱讀。理解大概有兩層定義：基于表示的；基于行為的。

如果計算機系統聽到一句話，它能夠對應它內部的表示，我們就認為這個計算機理解了這個語言。或者是基于行為的，機器人聽到一句話，能夠按照話的內容去做一些行為，就認為這個機器人理解了這個自然語言。我們這個領域終極目標就是，期望我們能夠開發出這個技術，使計算機能達到這樣的智能識別。

但我們也知道，語言其實是一個非常復雜的現象，不做自然語言處理、人工智能，可能人類自己都不知道，我們自己的語言是這么復雜的一個現象。讓我來總結的話，語言有五個特性，使得我們把語言放在計算機上，變得非常具有挑戰性。

• 既有規律又有很多例外；

• 組合性；

• 遞歸性，造成了語言非常復雜；

• 比喻性；

語言的本質就是產生新的語言進行表示，其實都是在做比喻。所以，比喻性是語言非常重要的特性。語言的理解跟世界知識是密切相關的，如果你撇開了知識這些東西談語言，其實都是無從談起的。

• 交互性。

我們人類的語言其實是人跟外界做互動的一種手段，離開了對外環境的交互，談論語言其實也是沒有意義的。所以，因為語言有這么復雜的特性，使得我們在計算機上去實現自然語言理解，非常具有挑戰性的。這就相當于這些特性使得我們要用現在的技術做計算的話，基本上都是做全局搜索，全局的這種計算還不知道該怎么做。這是非常復雜，具有挑戰性的。

主要原因有以下幾點：

原因一，最近寫的一篇文章，在計算機學會通訊上，叫做迎接自然語言處理新時代，有這樣一些觀點，做了比較詳細的介紹和總結。而在去年在中文信息處理大會上報告的內容，也是這個觀點。

原因二，我們現在總結看的話，為什么自然語言處理這么難，因為本質的原因就是，我們還不知道，是不是能夠用數學的模型刻畫語言現象，這個是自然語言處理的本質。這件事情可能不可能做我們不知道，我們只能是部分地實現這個目標。

所以，這是為什么自然語言處理（甚至是廣義的人工智能）都非常具有挑戰性的原因。

現實當中大家采用的辦法，我們不叫自然語言理解，而是叫自然語言處理。我們的策略是，把人類做語言理解的這個復雜過程進行簡化。

第一個，我們現在能去做的事情。人類要是理解語言的話，比如人做這種問答，問我姚明身高是多少，我想一想可能是 2 米 29。我回答的這個過程，可能包含了多個步驟。比如語言的分析、理解、推理、知識的檢索，最后做判斷，最后產生我的回答，是一個非常復雜的過程。

但是，我們現在要用計算機來做這種智能問答或者知識問答的時候，其實我們大幅度地簡化了這個過程。就是只做分析、檢索和生成。今天大會里面有很多老師做報告，介紹自然語言處理相關的技術，基本上做問答的時候，都是把這個問答的過程簡化。?

第二個，現在自然語言處理，非常主流的做法就是數據驅動。我們主要的核心技術是機器學習，現在是用深度學習來做。同時，我們把人的知識放進去。深度學習的重要的特點是，整個技術其實是一種機器學習，但是它的模型是從人的大腦處理機制中得到啟發，然后我們定義這個模型。

所以，現在人工智能、自然語言處理，我們采用的基本工具是機器學習，盡量能夠把人的知識導入進來，同時讓這個模型盡量去參考跟人一樣的處理機制，實現自然語言處理。

現實當中，我們看到深度學習、大數據，確實給自然語言處理帶來了很多新契機。這條路到目前為止看，是最有希望能夠再往前推進的一條路。

這個觀點前年在一次大會上我作報告介紹的觀點，也是在計算機學會通訊上有寫過一篇文章，簡論 AI，就是這里面介紹的觀點。?

大家也看到，我們現在的自然語言處理包括人工智能都是這樣一個過程。基于數據，我們的系統有了用戶，之后我們根據數據改進算法、改進系統，使系統的性能不斷提高。在人工智能閉環的時候，我們就可以不斷地去給用戶提供更好的服務，使得我們這個系統變得更加智能化。

我們看一些自然語言處理技術，就是說數據驅動，自然語言處理大概有五類技術，我們用數學建模，用統計機器學習辦法建模，基本上就是這五類模型。主要的應用、方法基本上都屬于這五類技術。

• 分類。文字的序列，我們要打印標簽，這是我們常做的最基本的自然語言處理。

• 匹配。兩個文字序列都匹配，看它們匹配的程度，最后輸出一個非負的實數值，判斷這兩個文字序列它們的匹配程度。

• 翻譯。把一個文字序列，轉換成另外一個文字序列。

• 結構預測。你給我一個文字序列，讓它形成內部結構的一個信息。

• 序列決策過程。在一個復雜的動態變化環境里面，我們怎么樣不斷去決策。比如描述序列決策過程的馬爾可夫隨機過程，這是一個有效的、非常常用的數學工具。

我們看自然語言處理的大部分問題，基本上做得比較成功、實用的都是基于這樣的技術做出來的。比如：分類，有文本分類、情感分析；匹配，有搜索、問答、單輪對話、基于檢索的單輪對話；翻譯，有機器翻譯、語音識別、手寫體識別、基于生成方法的單輪對話；結構預測，有專名識別、詞性標注、語意分析；序列決策過程，有多輪對話。

我們看到所有的這些重要的自然語言應用，其實是這五種最基本的技術，基本上都能夠做得還不錯。不過，自然語言處理我們現在做得并不完美，離理想中的情況還差得非常遠。

這是從另一個角度看這個問題，我們把它叫做技術的上界和需求的下界。這個綠線表示技術能夠達到的性能上界，比如機器翻譯、專名識別，不可能達到一個上界。這個藍線表示，用戶對需求要求的下界。用戶肯定是有一個最基本的要求，你這個機器翻譯如果達不到，或者太低的話，我們是不能夠給用戶提供滿意服務的，用戶是不會去用這個自然語言處理系統的。所以，一定有一個用戶要求的最低下界，對任何一個實際的應用，都可能有這樣的一個下界。?

我們這個技術的上界就是，如果能夠碰到需求要求的下界的話，實際上這個系統就有可能被用戶用起來。大家覺得這個已經能夠滿足實際的需求了，否則的話，你這個做得再好，用戶要求的下界更高，實際的技術也不可能實用。自然語言處理，大家現在在做的事情就是剛才看的這個綠線部分，怎么樣不斷往上提高，使技術的上界——紅色的這部分，能夠再往上提高，使得我們有更多的技術能夠去滿足用戶需求，使得用戶能夠使用起來。

我們可以看到，現實當中自然語言處理很熱，上午還有人問，自然語言處理里面哪些技術已經比較實用了，可以看到機器翻譯和語音識別已經越來越實用化。但是我們可以清楚地看到，這個機制和人做的機器翻譯、或者人去做語言識別完全不是一回事。我們還是用數學模型、數據驅動的方法。這個模型是參考了人類大腦的機制，用大數據做出這樣的東西。

這塊的話，我們還會看到有很多新的技術，比如說，Sequence Learning（序列學習）這樣的技術，不斷有新技術出來改進。至少現在看，主流的研究方向、發展方向是這個，但是我們已經越來越能夠碰到用戶需求要求的下界，所以我們這些技術能夠變得越來越實用化。單獨對話包括單獨的這種問答，也是越來越實用化。

我們看到各種各樣的工業產品、服務出來，能夠單輪對話。或者相對來說已經比較成熟，未來能做得越來越好。但是，多輪對話還是相對比較有挑戰。最主要的原因是，多人對話的數據還非常缺少。其實數據驅動這個模型做好的話，沒有足夠的數據，就是一個很大的挑戰。現在做研究也是非常困難。

所以，我們可以看到，未來自然語言的發展，可能會有大的改變。我們剛才說這五種最基本技術，大家不斷往前推進，能夠使得技術上界不斷往上提高，整個業界趨勢是這樣的。

下面看一下神經符號處理。

自然語言的本質特點就是符號，符號表示的一個最重要的優點就是它可解釋性和可操作性好。我們在計算機上進行符號處理的話，就會用符號來表示我們所有的東西。但是，我們同時也看到，自然語言的特性，它本身是具有歧義性，有不確定性。我們如果把語言搬到計算機，多半都還擁有噪音。

另一方面，我們看到深度學習，更廣義的統計學習能夠比較成功的原因就是，這些機器學習方法它能夠很好地應對不確定性、處理好語言里面的歧義和噪音。另一方面，我們叫神經表示（向量表示），用向量來表示語義，它有很強大的優勢。

我們現在可以明顯看到，符號表示和神經表示其實是互補的。大家自然會想到這樣一個問題，我們能不能把這兩個結合起來，這就是我們說的神經符號處理。我們希望通過這樣的手段，能夠把自然語言處理能做得更好，把這個技術往前推動。

不過我說的話，大家可能不太相信。正好今年年初的時候去了一個大學訪問，拜訪了深度學習大師 Yoshua Bengio 教授，我還專門跟他探討了他對神經符號處理的看法，這是他基本的 Comments，不是原話，總結一下就是有三點：

第一，如果把符號放到神經網絡里面，他覺得這很難，可能不 Work。神經網絡本身就是一個向量矩陣表示的東西，在這個模型里，把符號塞進去其實是挺難塞的。

第二，如果把符號處理和神經處理在外圍有效地、不斷地結合起來，這是很有道理的，是可以考慮的。

第三，他說這種問答對話，其實應該是一個重要的應用。

至少我們也得到他的認可，最基本的觀點跟 Bengio 教授的想法也是一致的。

我們下面看一下，智能信息知識管理系統。大家可以認為這是一個知識問答系統，但是我這樣叫的原因是它跟我們一般的問答系統還略微有點不同，我們希望一定程度上，參考人類大腦的機制。

這個系統有幾個模塊，有語言處理單元、中央處理單元、短期記憶、長期記憶。比如說我們來了一個問句，語言處理單元對它進行分析，把這個結果放到短期記憶力，然后在長期記憶力找到相關的知識或者信息，接著把檢索到的內容放到短期記憶力，最后再通過語言處理單元產生出回答。這個是我們在使用過程當中的系統。

還有學習，這塊我們希望用深度學習技術，進行端到端的系統構建。這個系統本身同樣有語言處理單位、中央處理單元、短期記憶、長期記憶。我們在學習的過程中進行假設，這個輸入是大量的信息知識和問答數據，就是有非結構化數據、結構化數據，也有大量問答，就是一問一答，形成這樣的訓練數據。我們最理想的狀況，只使用完全數據驅動的方法，端到端地自動構建整個問答系統。我們構建整個長期記憶里面的信息和知識，這是我們所構想的，或者建議大家考慮這樣的智能信息知識處理系統。

它有幾個特點。首先，能夠不斷去積累信息和知識。這點跟我們人是相似的。能夠去不斷地看到新知識加到自己長期記憶里。同時，如果有人用自然語言來問問題的時候，它能夠準確地回答。當自己不知道的時候，就說我不知道。我們人也是這樣，不是什么都知道，就是我們不知道的時候，能夠準確地告訴用戶我不知道。

其次，希望這個系統盡量完全沒有人干預，而是自動地去能夠把它建立起來。這樣的系統將來會非常有用，而且非常強大。大家可以想象，我們如果身邊有一個智能助手，有什么問題你不知道，過去問它，它可能會告訴你，這個會有多么方便。當然這個愿景不光是我在這兒說的，我們也可以看到業界很多人描述出了類似愿景。

我覺得這非常重要，如果人類能夠做到這一點的話，就是一個質的飛躍。人類發明了語言，是第一個質的飛躍，有了語言，大家可以交流、傳遞信息，互相傳授知識。第二個質的飛躍就是，我們如果有一個智能系統放在自己身邊，我想要問什么知識都能準確告訴我。

然后，換另外一個角度看，計算機有兩個地方是非常強大的：計算能力和存儲能力。計算能力已經發揮得淋漓盡致了，但是存儲能力發揮到一半，概念上講，它能存儲無窮多的信息，計算機現在可以把人類所有的知識信息全部存儲下來。但是我們現在遇到的瓶頸是我們不能有效地去訪問這些信息。這塊如果我們在自然語言處理、人工智能研究方面有重大突破的話，我們真的是可以把整個人類的能力又推進一步。

大家可以從另一個角度看，我們這樣的智能系統很理想，現實當中其實已經有這樣的雛形，也不是說幾乎是渺茫的。現在的搜索引擎，一定程度上已經扮演了這樣的角色，搜索引擎有爬蟲、索引、機器學習機制幫助我們去做排序，給我反饋結果。一定程度上已經在做類似的事情了，但只是沒有做得更好，我們相信這是一個演進過程，會不斷地往前推動，技術不斷地會進步。我們相信，未來的話擁有這樣一個智能助手能夠幫助到我們。

我們再看一下，為什么神經符號處理和智能信息管理是密切結合的。這個跟 Bengio 教授的想法是相關的。這個技術和這個應用有一些天然的關系，另一方面的話，它倆真正是互補、強烈相關的。

我們可以考慮用這樣的技術，神經符號處理實現智能信息知識管理系統。就是說，你先來了一個問題，通過語言處理模塊，它有編碼器和解碼器，編碼器把這個問題轉換成中間的表示，中間表示放在短期記憶里，這個問題是有兩部分，既有符號表示又有神經表示。現在自然語言處理內，很多系統類似在做這樣的事情，大家可能沒有明確說這個事。

知識信息都放在長期記憶里，也是有兩種表示，既有信息表示又有符號表示。但這兩者中間的話也是分開的，其實應該是密切相關的，但是這個怎么去做，還有很多要去解決的問題。

但是，我們可以想象，長期記憶里的信息和知識，都是既有符號表示又有神經表示。做問答的時候來了個問題，做了分析有了內部表示以后，可以通過在短期記憶里的表示，通過表示之間的匹配，在長期記憶里找到相關的信息和知識，在短期記憶里也產生對應的符號和神經表示。這時候還有一個解碼器，把這個表示轉換成自然語言、答案，這樣我們就可以構建一個非常智能的自然語言問答系統。

這個想法其實大家已經在各個層面上看到很多了，相關的工作有很多。例如：語義分析，Semantic Parsing，在 Semantic Parsing 里面要做的事情，就要把自然語言的語句，轉換成結構化內容的表示，這個 Semantic Parsing?到目前為止，最主要的想法還是通過人寫的規則，定義語法、定義模型，然后做語意的解析。但是，我們假設完全不用人來參與，更要去學習內部的表示該怎么去做。

還有，CMU 的這個項目大家知道，叫 Never Ending Language Learning（NELL），這些想法就是，互聯網里抓取的知識，不斷擴大知識，開始的時候，有最基本的 Ontology（本體論）。然后有一些例子，比如北京是中國的首都，這樣的例子，希望從互聯網里面找到更多的知識，把它加入到 Ontology 里去，希望這個過程機器能夠不斷抓取，抓取的準確率和效率能夠不斷提升。這是 NELL 這個項目。

還有 Facebook 的 Memory Network，能做一些簡單的問答，比如里面有一個系統用自然語言的，比如—John is in the playground.—Bob is in the office.—John picked up the football.—Bob went to the kitchen.然后就問這個系統，Where is the football？回答 Playground 就是對的。

Facebook 推出這種模型的話，可以去做這樣簡單的問答。當然現在準確率還不是特別高，它最基本的想法就是，把這些用自然語言表示的信息，能夠把它放到長期記憶里，這個長期記憶也是神經表示，把內容表示放到里面，來了一個新問題，把新問題直接轉換成神經表示然后再做匹配，找到相關答案，然后返回回來。現在這個模型還比較簡單，但是這個方向很多人都已經在做了。

還有大家也知道，Differentiable Neural Computers 這樣的模型，它基本的想法也是，覺得現在神經網絡很弱的地方，就是沒有長期記憶，希望能夠更好地利用長期記憶。長期記憶在 DNBD 的模型里，它實際上就是一個大矩陣，每一行向量其實是比較深的一個語義表示。這個模型本身有三種神經網絡，能夠去控制訪問這個長期記憶機制，因為有長期記憶的話，一個重要事情是要從長期記憶里進行讀取。這個讀取的控制，有三個神經網絡能夠去進行。我們大家也在朝這個方向在做。

下面簡短介紹一下，我們在諾亞方舟實驗室做的一些基礎研究。有呂正東博士、尚利峰博士，還有其他合作的老師一起做的工作。

主要有兩個工作，都是研究我們順著這個思路來做的。

第一個是在知識圖譜里面進行知識問答。假設我們有大量數據，比如說姚明身高是多少，2 米 29，我們能夠有這種觀點，說出答案的話，具體是對應著知識庫里的哪一個單元，我們有大量數據的話，我們的目標就是有一個學習系統，就是學習神經網絡的，然后構建自動問答系統。來了一個新問句的話，我們能夠從數據庫、知識庫里面找到答案。然后就這么產生自然語言回答，這是我們現在做的一個工作。

這種 Setting 如果大家能夠做得非常好的話，真正就能夠自動地構建這個問答系統，一個知識庫的例子，能夠自動地構建問答系統。

這個思想的話，基本上也是剛才我介紹的我們想做的這種神經符號處理的思想。就是來了問句以后，我們有編碼器，轉換成內部的表示，它既有符號，又有神經表示（向量表示），這個三角是一個符號，這個黃色長條表示神經表示（向量），我們這個知識庫里的單元圖，也是由符號單元圖表示，也有對應向量表示。整個知識，有兩種表示，問答過程中，確實像剛才描述一樣，我們在知識庫里找到答案，產生中間表示，解碼器通過答案還有編碼器產生問句的表示，最后產生一個回答。

我們剛開始從知識圖庫里面找到答案，第二個可能就是關系數據庫。我們的知識不是在網絡表示里面給的，而是在數據庫的表里給出，這樣我們其實也可以做類似事情。就是我們提出了一個模型，可以把這個關系數據庫既做符號表示又做神經表示。有這樣一個長期記憶力的整個知識表示。來了問句以后，把它轉換成中間的神經表示，然后去做檢索、匹配找到答案，最后產生答案。這塊的話，我們進一步改進了這個模型，希望能夠更或地結合符號和神經處理。

下面就是對報告的總結，今天跟大家一起看的神經符號處理，我覺得是重要的研究方向。要我來說的話，是自然語言處理未來發展最重要的方向之一。

它最主要的應用，應該是這種廣義的知識問答，這塊智能的信息和知識管理。我們也都看到，業界大家都是往這個方向走，已經取得了一些成果，但是真正把這些技術實用化，還有很多具體的問題要去解決，還有很多實際的工作需要去做。但是，我覺得，我們對這個方向還是充滿信心，還是覺得將來會是非常令人振奮的。

問：您剛才報告中有一句話我覺得非常好，就是我們現在要懷疑一下，人工智能能不能用數學模擬到人的智能的情況。這里我想聊一下當今比較熱門的 Chatbot，大家在做對話的時候，都是局限于單輪對話，或者說不特定領域的，對多輪對話和開放領域的問答，我們都做得非常不好，對于多輪對話開放性的問題，您覺得人工智能目前它能夠實現到一個什么樣的程度？以及用目前的技術的話，它有個大致的解決時間嗎？

李航：我覺得還是數據是一個瓶頸，現在大家都沒有數據，其實一定程度上，不管大公司小公司，大家數據都不夠，因為多輪對話的時候，它的復雜度一下子增加很多。它不是一個簡單地從單輪到多輪，大數據增加了一些，它應該是指數級地增加這些大數據。

我個人觀點是，Open Domain 的這種閑聊，做成多輪是很難的。可能都沒有什么短期看到的可能性。但是如果基于任務驅動的，有一定的數據以后，應該是能夠做的，真的需要有數據才能夠往前推動。

問：您剛才提到兩種表示方式，一種是傳統符號的表示方式，現在是知識圖譜中間的一種表示，另外一種是向量化的表示。我覺得向量化的表示方式一種好處是，雖然我覺得我們有很多知識，很難用目前這種邏輯符號方式來描述，用向量化的表示方法，不一定很準，但可以從大量語料里頭學習到一定的東西，我們雖然不知道它是對的。但對于傳統符號很難表示的這種情況下，像您剛才說的這種，怎么來互相結合？

李航：應用驅動比較難，你就不知道用向量表示到底是不是合理，那只有通過最后應用的結果進行判斷。其實大家對知識的理解，我們自己日常工作生活當中使用的一些知識都是下意識的，真的是不知道它具體是個什么樣形式，有什么樣內容。這些東西，如果我們放在計算機里就會發現，語言有眾多歧義，知識有更多不確定性。

這些東西就是你說的，我們現在只能在一些頁目能看到，可以怎么把它表示出來。比如說，我們現在默認 Binding 還是非常簡單粗暴的方法。但在這里面能看到，它能解決一些問題，就說明應用啟動能夠幫助我們找到這些更好的表示方法，更好地去學習這些表示方法。

反正我覺得對知識的認識有兩個很重要：一個是應用驅動，一個是具體的領域。

一定要把領域跟應用分清楚。當然你也可以說我就是 General Domain，那也是一個，但是一般來說知識要用的話，可能是在金融、醫療甚至更細的領域這樣去做，能更加在現實當中能夠用起來，也更容易去對這種應用的評價，看這個表示方法到底好不好。

雷鋒網后續還將發布芝加哥伊利諾伊大學劉兵教授的演講內容實錄，敬請期待。

總結

以上是生活随笔為你收集整理的华为诺亚方舟实验室主任李航：神经符号处理开启自然语言处理新篇章的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。