主題：

DeepMind的提議：把傳統的貝葉斯因果網絡和知識圖譜，與深度強化學習融合

一、提出“圖網絡”

????????圖靈獎得主Judea Pearl指出的深度學習無法做因果推理的核心問題。

????????圖靈獎得主、貝葉斯網絡之父Judea Pearl，在ArXiv發布了他的論文《機器學習理論障礙與因果革命七大火花》，論述當前機器學習理論局限，并給出來自因果推理的7大啟發。Pearl指出，當前的機器學習系統幾乎完全以統計學或盲模型的方式運行，不能作為強AI的基礎。他認為突破口在于“因果革命”，借鑒結構性的因果推理模型，能對自動化推理做出獨特貢獻。

????????DeepMind聯合谷歌大腦、MIT等機構27位作者發表重磅論文，提出“圖網絡”（Graph network），將端到端學習與歸納推理相結合，有望替換深度學習，克服深度學習無法進行關系推理的問題。

二、AI的學派和成果

????????機器學習界有三個主要學派，符號主義（Symbolicism）、連接主義（Connectionism）、行為主義（Actionism）。

• 符號主義的起源，注重研究知識表達和邏輯推理。

????????經過幾十年的研究，目前這一學派的主要成果，一個是貝葉斯因果網絡，另一個是知識圖譜。

????????貝葉斯因果網絡的旗手是 Judea Pearl 教授，2011年的圖靈獎獲得者。但是據說 2017年 NIPS 學術會議上，老爺子演講時，聽眾寥寥。2018年，老爺子出版了一本新書，“The Book of Why”，為因果網絡辯護，同時批判深度學習缺乏嚴謹的邏輯推理過程。而知識圖譜主要由搜索引擎公司，包括谷歌、微軟、百度推動，目標是把搜索引擎，由關鍵詞匹配，推進到語義匹配。

• 連接主義的起源是仿生學，用數學模型來模仿神經元。

????????Marvin Minsky 教授因為對神經元研究的推動，獲得了1969年圖靈獎。把大量神經元拼裝在一起，就形成了深度學習模型，深度學習的旗手是 Geoffrey Hinton 教授。深度學習模型最遭人詬病的缺陷，是不可解釋。

• 行為主義把控制論引入機器學習，最著名的成果是強化學習。

????????強化學習的旗手是 Richard Sutton 教授。近年來Google DeepMind 研究員，把傳統強化學習，與深度學習融合，實現了 AlphaGo，戰勝當今世界所有人類圍棋高手。

DeepMind 前天發表的這篇論文，提議把傳統的貝葉斯因果網絡和知識圖譜，與深度強化學習融合，并梳理了與這個主題相關的研究進展。

三、DeepMind的技術指向“關系”

????????作為行業的標桿，DeepMind的動向一直是AI業界關注的熱點。最近，這家世界最頂級的AI實驗室似乎是把他們的重點放在了探索“關系”上面，6月份以來，接連發布了好幾篇“帶關系”的論文，比如：

• 關系歸納偏置（Relational inductive bias for physical construction in humans and machines）
• 關系深度強化學習（Relational Deep Reinforcement Learning）
• 關系RNN（Relational Recurrent Neural Networks）
• 論文比較多，但如果說有哪篇論文最值得看，那么一定選這篇——《關系歸納偏置、深度學習和圖網絡》。

---

而圖網絡是操作關系的最佳推手。

四、圖網絡構成概要

????????在論文里，作者探討了如何在深度學習結構（比如全連接層、卷積層和遞歸層）中，使用關系歸納偏置（relational inductive biases），促進對實體、對關系，以及對組成它們的規則進行學習。

????????他們提出了一個新的AI模塊——圖網絡（graph network），是對以前各種對圖進行操作的神經網絡方法的推廣和擴展。圖網絡具有強大的關系歸納偏置，為操縱結構化知識和生成結構化行為提供了一個直接的界面。

????????作者還討論了圖網絡如何支持關系推理和組合泛化，為更復雜、可解釋和靈活的推理模式打下基礎。

總結

以上是生活随笔為你收集整理的人工智能：CNN过时了，有人提出GNN的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。