（本文由科學大院根據譚鐵牛院士在中科院第十九次院士大會上的報告整理而成，首發于科學大院）

尊敬的各位院士、各位同仁，會場的各位同學以及各位網友大家好！今天非常榮幸有機會跟大家匯報一下我本人關于人工智能的一些粗淺想法。我報告的題目是《人工智能：天使還是魔鬼？》。

我想既不是聳人聽聞也不是嘩眾取寵，因為人工智能在普遍被看好的同時，確實富有爭議。對于人工智能提出爭議的都不是等閑之輩，都是重量級人物。近些年不斷上映的關于人工智能、機器智能的科幻大片，的確留給我們很多懸念和問題：人工智能到底是天使還是魔鬼？因為這些科幻大片里面，有些把人工智能塑造為暖男的大白，也有一些塑造成給我們帶來恐慌的機器人。

我覺得要回答這個問題，有必要搞清楚人工智能的基本概念、以及人工智能目前能夠做什么和不能做什么，還有未來發展走向。

人工智能的基本概念和發展歷程

人工智能的概念和這個詞ArtificialIntelligence，是1956年在達特茅斯學院暑期研討班上，一個叫約翰。麥卡錫的年輕人提出的，當時研討班的主題就是怎么用機器模擬人的智能。當然人工智能相關研究并不是從1956年才開始，之前就有，只是人工智能的概念是那時候提出來的。

人工智能研究的主要目的就是探尋智能本質，研究出具有類人智能的智能機器，比如讓機器或者計算機會聽、會看、會說、會想、會決策，跟人一樣。人工智能的概念提出到今天62年過去了，62年發展歷程風風雨雨、曲曲折折，從起步時大家的興奮、到后來提出了一些讓人期待但不可實現的目標、接下來的反思，一直到互聯網出現以后大數據的涌現，使得人工智能走上一個新的高潮。

62年的發展歷程，我覺得留給我們很多的啟示。特別是在今天，人工智能如日中天，火遍全球的當下，實事求是地設定科學目標顯得尤為重要。1956年的研討會有十個年輕人參加，其中一個很樂觀，認為到2000年，也就是上世紀末的時候，人工智能有可能達到人的智能，這顯然太樂觀了。62年確實是一個曲折的發展過程，但是進步是有目共睹的，無論是在理論層面、關鍵技術還是具體應用。

人工智能的發展現狀人工智能的發展現狀

過去二十年我一直在研究虹膜識別，這是人工智能的一個特定領域。瞳孔和眼白之間的中間區域叫做虹膜區域，1936年眼科醫生發現每個人虹膜上的花紋都不一樣，一歲半以后定形終身不變。目前我們國家很多煤礦的礦工考勤就在大量使用這個技術。黑龍江的一個煤礦，最早他們找到我說能不能用指紋識別，后來發現指紋會脫皮，如果刷臉，上班沒有問題，下班煤礦工人就不行了；而虹膜識別沒有問題。現在國內很多煤礦都在用這個技術。特別讓我高興的是，兩周以前中央電視臺報道，虹膜識別可以用于尋找丟失兒童。

這也是一個人工智能能解決的問題：確定你看到的互聯網照片有沒有被篡改或者被修改。下圖從左到右四組照片，相信各位無論是坐第一排還是后面都看不出來差別。我只告訴大家有一排是修改過的，相信大家用肉眼看不出來。這個特定問題人沒有辦法完成，而人工智能根據圖像內容分析可以自動實現篡改檢測。人工智能看到篡改部分是綠顏色的，那么第二排圖像是修改過的。

這有什么用途？講一個我幾年前的親身經歷。2015年有一天我收到一封信，里面有一張糟糕的照片，把別的男人的頭換成我的頭，要我一周之內給他寄二十萬。我想這個人顯然寄錯人了，所以各位如果你們有一天也收到這樣照片，我可以馬上給你驗證一下，如果假的我第一時間告訴你，真的我們好好商量怎么處理。特定領域人工智能的成功應用可以舉很多例子，這只是掛一漏萬。

可以說，專用人工智能取得突破性進展，很大程度（特別是這幾年）取決于統計學習或者機器學習的進步。特別是人工智能領域現在火爆的深度學習，尤其是人工智能的深度神經網絡。深度學習其實一點都不神秘，只是借鑒了人的大腦在處理信息過程當中的層次化過程。因為深度學習的涌現，大家可以從曲線看到，用于圖像分類的標識人工智能或者深度學習識別力已經低于人的錯誤率，也就是說識別力高于人。包括跟環境的交互，找出最好策略，這就是所謂強化學習。以及我們經常講魔高一尺道高一丈，在博弈中學習，使得學習能力不斷提高，這就是生成對抗學習。這是目前人工智能發展現狀，專用人工智能取得突破性進展和人工智能特別火的重要原因就是深度學習、機器學習。

人工智能創新創業如火如荼人工智能創新創業如火如荼

另外一個值得一提的現狀是，技術生態或者創新生態備受關注。科技巨頭紛紛推出自己的開源系統、技術軟件平臺和硬件平臺，原因是什么？他們沒有忘記信息技術和信息產業發展的歷史帶給他們的啟示。所以從傳統的IT操作系統硬件，到現在移動互聯網再到新時代的人工智能、IT，無論是谷歌也好、微軟也好、百度也好、IBM也好，都要全面轉向人工智能。人工智能創新創業如火如荼。

去年一年全球新成立的人工智能創業公司就有一千多家，人工智能領域獲得的投資達150多億美元，同比增長140%以上，確實是如火如荼。在應用方面，可以說“智能+”已經成為一種創新的范式，將各行各業滲透。當然有的是炒作，把傳統的數據分析，貼上人工智能的標簽。但是人工智能發展迅速是一個客觀現狀。

人工智能已經加速成為國家戰略，我可以舉很多這樣的例子。過去幾年，最早被大家熟悉的“德國工業4.0”，核心就是人工智能；到2018年5月10日，美國白宮組織AI研討會，成立AI專門委員會，確保人工智能領域美國第一。

人工智能仍處于起步階段

我前面跟各位的匯報是很多專用人工智能領域取得的突破性進展。經常有人誤解，專用人工智能等于通用人工智能，如果有這樣的誤解很容易說現在人工智能不得了。什么是通用人工智能或者什么是通用智能系統？我們人的大腦就是一個通用智能系統。同樣一個大腦，我學習以后可以下圍棋也可以下象棋，能夠舉一反三、融會貫通、思考學習、規劃決策，可以說一腦百用。目前的人工智能還有很多不能做的事，而有的事對人來說非常簡單。

我舉一個具體的例子，現在即使最先進的圖象識別算法都無法識別出圖像里那只斑點狗。語音翻譯現在已經很好了，但大家看這簡單的三句話：他吃食堂，他吃面條，他吃大碗。昨天晚上我特意上網用谷歌翻譯這幾句，翻譯不出來，機器翻譯把大碗、食堂“吃掉”了。我也試了一下，“那輛白車是黑車”和“能穿多少穿多少”，谷歌翻譯也翻譯不出來。

看到“歡迎新老師生前來就餐”的橫標，相信人類理解起來沒有歧義，但是人工智能算法就會有。人類看到這個橫標不僅知其然還知其所以然，知道可能是新學期開始或者新食堂開張，但人工智能還做不到。對這個特定問題，它“知其然”都做不到或者至少有歧義。這些局限是因為人工智能還有很多瓶頸。

深度學習很火，但是很大程度上它是黑箱狀況。我們還不能完全從數據上論證為什么那么有效，不能完全確保這個多層深層神經網絡訓練是收斂的，所以有數據瓶頸，深度學習要提供大量已經標注數據，還需要大量的人工；還有它不能舉一反三、不能解釋，“知其然不知其所以然”，與人類存在很大差距。正因為這些差距，人工智能未來發展還有巨大創新空間。

人工智能的春天剛剛開始人工智能的春天剛剛開始

可以說人工智能春天剛剛開始，我提出這一個觀點是因為人類社會經歷機械化、電氣化、信息化的時代以后，正在向智能化社會邁進。人類進入智能化社會以后當然需要智能技術、人工智能支撐和引領。人工智能有望引領新一輪科技革命。世界著名科學家格特納說人工智能是未來最具顛覆性的技術。具體講有八個宏觀發展趨勢我認為值得關注：

第一個是專用走向通用，這是必然的發展趨勢。所以因此有人認為，通用智能被認為是人工智能皇冠上面的明珠，大家都很關心這個競爭焦點。

我注意到，美國軍方也開始規劃通用智能的研究。他們認為通用人工智能和自主武器，是顯然優于現有人工智能技術體系發展方向。它只是朝通用人工智能邁了一小步。

第二個，為什么不認同機器人和人類或者人工智能與人類智能是零和博弈，因為人工智能另外一個重要發展趨勢，是機器智能到人機混合智能。人類智能和人工智能各有所長，可以互補。所以人工智能一個非常重要的發展趨勢，是FromAI（ArtificialIntelligence）toAI（AugmentedIntelligence），兩個AI含義不一樣。

第三個趨勢叫做從“人工+智能”到自主智能系統。為了讓深度學習提高性能，需要大量已經標注好的數據。比如給人工智能一幅圖像，告訴它圖像中哪一塊是人、哪一塊是草地、哪一塊是天空，都要人工標注好，非常費時費力。有人說目前的人工智能有多少智能，取決于輻射多少人工，這話不太精確但大體有這個含義。下一步發展趨勢是怎樣以極少人工來獲得最大程度的智能，人類看書可以學習到知識，機器還做不到。人工采集和標注大樣本訓練數據，是這些年來深度學習取得成功的一個重要基礎或者重要人工基礎。所以有人開始試圖創建自動機器學習算法，來降低AI的人工成本。

第四個是學科交叉將成為人工智能創新源泉。前面我提到深度學習現在很火爆，它只是借鑒了大腦的原理：信息分層，層次化處理。所以，跟腦科學交叉融合非常重要。實際上無論是《Nature》和《Science》都有這方面成果報道。比如《Nature》發表了一個研究團隊開發的一種能自主學習的人工突觸，它能提高人工神經網絡的學習速度。但大腦到底怎么處理外部視覺信息或者聽覺信息的，很大程度還是一個黑箱，這就是腦科學面臨的挑戰。這兩個學科的交叉有巨大創新空間。

第五個是一個明顯的趨勢，人工智能產業將蓬勃發展，國際上一個比較有名的咨詢公司預測，2016到2025年人工智能的產業規模幾乎直線上升；我們國家發展規劃提出，2030年人工智能核心產業規模將超過1萬億，帶動相關產業規模超過10萬億，這個產業是蓬勃發展的，前景顯然是非常大的。

第六個大家很關注人工智能可能帶來的社會問題和相關倫理問題，因此人工智能的法律法規一定會更加健全。聯合國還專門成立了人工智能機器人中心這樣的監察機構。前不久，歐盟25個國家簽署人工智能合作宣言，共同面對人工智能在倫理法律方面挑戰。我們學部也列了這方面的一個題目。

歐洲25個國家簽署《人工智能合作宣言》，共同面對人工智能在倫理、法律等方面的挑戰

第七個，人工智能將成為更多國家的戰略選擇。一些國家已經把人工智能上升為國家戰略，越來越多國家一定會做出同樣舉措。包括智利，加拿大，韓國等等。

最后一條就是人工智能的教育會全面普及。教育部專門發布了高校人工智能的行動計劃。國務院新的人工智能發展規劃也指出，要支持開展形式多樣的人工智能科普活動。美國科技委員會也有這樣的內容。所以這是大家值得關注的另外一個方面。

對于人工智能的未來發展方向，我只是掛一漏萬，以我個人粗淺認識覺得這八個方面值得關注。這里面既有科學研究層面，也有產業應用層面，也有國家戰略和政策法規層面。所以在科學研究層面我覺得特別值得關注是：從專用到通用，從人工智能到人機融合、混合。然后是借鑒腦科學。

總結一下我今天的報告：

第一，人工智能經過六十多年發展已經取得重大進展，但總體上還處于初級階段。

第二，人工智能既具有巨大理論與技術創新空間，也具有廣闊應用前景。相信你們也許在琢磨我沒有明確回答題目中提出的問題，人工智能到底是天使還是魔鬼？

下面就是我的答案：高科技本身沒有天使和魔鬼之分，人工智能也是如此，這一把雙刃劍是天使還是魔鬼取決于人類自身。人工智能在天使手里是天使，在魔鬼手里就是魔鬼。因此我們有必要未雨綢繆形成合力，確保人工智能正面效應，確保人工智能造福于人類。謝謝大家。

來源：科學大院

大數據周刊

郵箱:tougao@bigdatamag.cn

電話:010-57524293

眾論大數據 引領大時代

長按二維碼關注

總結

以上是生活随笔為你收集整理的院士揭秘人工智能是天使还是魔鬼？的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。