图解人工智能机器学习深度学习的关系和区别
圖解人工智能機器學(xué)習(xí)深度學(xué)習(xí)的關(guān)系和區(qū)別,先直觀看下圖的關(guān)系:
AI(Artificial Intelligence.人工智能)、機器學(xué)習(xí)(machine learning)、深度學(xué)習(xí)(Deep learning)
人工智能和機器學(xué)習(xí)和深度學(xué)習(xí)的區(qū)別:機器學(xué)習(xí)是人工智能的一種實現(xiàn)方法,而且在許多的應(yīng)用領(lǐng)域應(yīng)用的非常成功,所以現(xiàn)在比較流行; 說到機器學(xué)習(xí),就不得不提深度學(xué)習(xí),深度學(xué)習(xí)是機器學(xué)習(xí)中的一個組成分支,深度學(xué)習(xí)是機器學(xué)習(xí)研究中的一個新的領(lǐng)域,其動機在于建立、模擬人腦進行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò),它模仿人腦的機制來解釋數(shù)據(jù),例如圖像,聲音和文本。
深度學(xué)習(xí)是無監(jiān)督學(xué)習(xí)的一種。深度學(xué)習(xí)的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究。含多隱層的多層感知器就是一種深度學(xué)習(xí)結(jié)構(gòu)。
深度學(xué)習(xí)通過組合低層特征形成更加抽象的高層表示屬性類別或特征,以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。
Deep learning本身算是machine learning的一個分支,簡單可以理解為neural network的發(fā)展。
大約二三十年前,neural network曾經(jīng)是ML領(lǐng)域特別火熱的一個方向,但是后來確慢慢淡出了,原因包括以下幾個方面:
1)比較容易過擬合,參數(shù)比較難tune,而且需要不少trick;
2)訓(xùn)練速度比較慢,在層次比較少(小于等于3)的情況下效果并不比其它方法更優(yōu);
所以中間有大約20多年的時間,神經(jīng)網(wǎng)絡(luò)被關(guān)注很少,這段時間基本上是SVM和boosting算法的天下。
但是,一個癡心的老先生Hinton,他堅持了下來,并最終(和其它人一起B(yǎng)engio、Yann.lecun等)提成了一個實際可行的deep learning框架。
Deep learning與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)之間有相同的地方也有很多不同。
二者的相同在于deep learning采用了神經(jīng)網(wǎng)絡(luò)相似的分層結(jié)構(gòu),系統(tǒng)由包括輸入層、隱層(多層)、輸出層組成的多層網(wǎng)絡(luò),只有相鄰層節(jié)點之間有連接,同一層以及跨層節(jié)點之間相互無連接,每一層可以看作是一個logistic regression模型;
這種分層結(jié)構(gòu),是比較接近人類大腦的結(jié)構(gòu)的。而為了克服神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的問題,DL采用了與神經(jīng)網(wǎng)絡(luò)很不同的訓(xùn)練機制。
傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中,采用的是back propagation的方式進行,簡單來講就是采用迭代的算法來訓(xùn)練整個網(wǎng)絡(luò),隨機設(shè)定初值,計算當(dāng)前網(wǎng)絡(luò)的輸出,然后根據(jù)當(dāng)前輸出和label之間的差去改變前面各層的參數(shù),直到收斂(整體是一個梯度下降法)。
而deep learning整體上是一個layer-wise的訓(xùn)練機制。
這樣做的原因是因為,如果采用back propagation的機制,對于一個deep network(7層以上),殘差傳播到最前面的層已經(jīng)變得太小,出現(xiàn)所謂的gradient diffusion(梯度擴散)。
?
人工智能的三大法寶: 大數(shù)據(jù),計算能力和算法。 因為我們知道,人工智能其實是通過不斷的吃數(shù)據(jù),自動的處理數(shù)據(jù)變聰明的,而且數(shù)據(jù)訓(xùn)練的越多,其準(zhǔn)備度越高。無論是個人企業(yè)都逃離不了上面的三大區(qū)域。 隨著工業(yè)的現(xiàn)代化,人類的分工也越來越密切,一個人試圖掌握一切知識的能力所付出的成本也越來越高。如果你覺得你對數(shù)據(jù)的處理比較在行的話,就可以在大數(shù)據(jù)的獲取和分類方面鉆研的更深,其實也是投入了人工智能行業(yè)的懷抱的;如果你或者貴公司是做硬件設(shè)備的,或者有大型分布式處理的設(shè)計和使用經(jīng)驗的話,在人工智能的計算方面進行拓展也是非常不錯的;如果你覺得你的算法和數(shù)學(xué)功底很好的話,那么可以在算法方面進行深入的造詣。同時,肯定還有一部分人需要結(jié)合上面的三大法寶進行應(yīng)用開發(fā)和參數(shù)調(diào)優(yōu),實際應(yīng)用AI去解決生產(chǎn)生活的一些問題,這也是一個不錯的轉(zhuǎn)型的方向。
?
------------------------------
?本人微信公眾帳號: 心禪道(xinchandao)
?
本人微信公眾帳號:雙色球預(yù)測合買(ssqyuce)
?
總結(jié)
以上是生活随笔為你收集整理的图解人工智能机器学习深度学习的关系和区别的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: OpenLayers 3+Geoserv
- 下一篇: 大学士带你领略“大院大所”黑科技!