從Theano到Lasagne：基于Python的深度學(xué)習(xí)的框架和庫

[日期：2015-08-03]

來源：http://creative-punch.net/? 作者：Creative Punch

[字體：大?中?小]

　　深度學(xué)習(xí)是機器學(xué)習(xí)和人工智能的一種形式，利用堆積在彼此頂部的神經(jīng)網(wǎng)絡(luò)的多個隱藏層來嘗試形成對數(shù)據(jù)更深層次的“理解”。

　　最近，深度神經(jīng)網(wǎng)絡(luò)以“Deep Dreams”形式在網(wǎng)站中如雨后春筍般出現(xiàn)，或是像谷歌研究原創(chuàng)論文中描述的那樣：Inceptionism。

　　在這篇文章中，我們將討論幾個不同的深度學(xué)習(xí)框架，庫以及工具。

　　Python深度學(xué)習(xí)

　　Theano

　　主頁：http://deeplearning.net/software/theano/

　　Github網(wǎng)址：https://github.com/Theano/Theano

　　Theano不僅是這篇文章中將要討論的其他框架的核心庫，于其自身而言，它也是一個強大的庫，幾乎能在任何情況下使用，從簡單的logistic回歸到建模并生成音樂和弦序列或是使用長短期記憶人工神經(jīng)網(wǎng)絡(luò)對電影收視率進行分類。

　　Theano大部分代碼是使用Cython編寫，Cython是一個可編譯為本地可執(zhí)行代碼的Python方言，與僅僅使用解釋性Python語言相比，它能夠使運行速度快速提升。最重要的是，很多優(yōu)化程序已經(jīng)集成到Theano庫中，它能夠優(yōu)化你的計算量并讓你的運行時間保持最低。

　　如果速度的提升還不能滿足你，它還內(nèi)置支持使用CUDA在GPU上執(zhí)行那些所有耗時的計算。所有的這一切僅僅只需要修改配置文件中的標(biāo)志位即可。在CPU上運行一個腳本，然后切換到GPU，而對于你的代碼，則不需要做任何變化。

　　同時我們應(yīng)該注意到，盡管Theano使用Cython和CUDA對其性能大大提升，但你仍然可以僅僅使用Python語言來創(chuàng)建幾乎任何類型的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

　　Pylearn2

　　主頁：http://deeplearning.net/software/pylearn2/

　　Github網(wǎng)址：https://github.com/lisa-lab/pylearn2

　　Pylearn2和Theano由同一個開發(fā)團隊開發(fā)，Pylearn2是一個機器學(xué)習(xí)庫，它把深度學(xué)習(xí)和人工智能研究許多常用的模型以及訓(xùn)練算法封裝成一個單一的實驗包，如隨機梯度下降。

　　你也可以很輕松的圍繞你的類和算法編寫一個封裝程序，為了能讓它在Pylearn2上運行，你需要在一個單獨的YAML格式的配置文件中配置你整個神經(jīng)網(wǎng)絡(luò)模型的參數(shù)。

　　除此之外，它還有很多數(shù)據(jù)集及其預(yù)編譯好的軟件包，所以，你現(xiàn)在就可以直接使用MNIST數(shù)據(jù)集開始做實驗了!

　　Blocks

　　Github網(wǎng)址：https://github.com/mila-udem/blocks

　　Blocks是一個非常模塊化的框架，有助于你在Theano上建立神經(jīng)網(wǎng)絡(luò)。目前它支持并提供的功能有：

　　構(gòu)建參數(shù)化Theano運算，稱之為“bricks”。

　　在大型模型中使用模式匹配來選擇變量以及“bricks”。

　　使用算法優(yōu)化模型。

　　訓(xùn)練模型的保存和恢復(fù)。

　　在訓(xùn)練過程中檢測和分析值(訓(xùn)練集以及測試集)。

　　圖形變換的應(yīng)用，如dropout。

　　Keras

　　主頁：http://keras.io/

　　Github網(wǎng)址：https://github.com/fchollet/keras

　　Keras是一個簡約的、高度模塊化的神經(jīng)網(wǎng)絡(luò)庫，設(shè)計參考了Torch，基于Theano和Python語言編寫，支持GPU和CPU。它的開發(fā)側(cè)重于實現(xiàn)快速試驗和創(chuàng)造新的深度學(xué)習(xí)模型。

　　如果你需要具有以下功能的深度學(xué)習(xí)庫，采用Keras就恰到好處：

　　可以很容易地、快速地建立原型(通過總體模塊化，極簡化并且可擴展化)。

　　支持卷積網(wǎng)絡(luò)和遞歸網(wǎng)絡(luò)，以及兩者的組合。

　　支持任意連接方式(包括多輸入多輸出訓(xùn)練)。

　　Keras庫與其他采用Theano庫的區(qū)別是Keras的編碼風(fēng)格非常簡約、清晰。它把所有的要點使用小類封裝起來，能夠很容易地組合在一起并創(chuàng)造出一種全新的模型。

總結(jié)

以上是生活随笔為你收集整理的从Theano到Lasagne：基于Python的深度学习的框架和库的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。