亚马逊:自动选择AI模型,进化论方法效率更高!
【新智元導(dǎo)讀】亞馬遜稱,進(jìn)化論可以幫助AI模型的選擇。選擇架構(gòu)是構(gòu)建AI模型的關(guān)鍵步驟。研究人員表示,鑒定遺傳算法和協(xié)同進(jìn)化算法的性能指標(biāo)取決于彼此之間的相互作用,是尋找最佳(或接近最佳)AI模型架構(gòu)的最實(shí)用方法,可以適用于任何計(jì)算模型。
選擇架構(gòu)是構(gòu)建任何AI模型的關(guān)鍵步驟,但是說起來容易做起來難。除了由“ AutoML”系統(tǒng)生成的可根據(jù)基本任務(wù)概述工作的內(nèi)容之外,關(guān)于模型架構(gòu)的設(shè)計(jì)還要結(jié)合歷史先例、領(lǐng)域內(nèi)的知識(shí)以及反復(fù)試驗(yàn)的獲得的知識(shí)。
在上周于慕尼黑舉行的國(guó)際人工神經(jīng)網(wǎng)絡(luò)國(guó)際會(huì)議上發(fā)表的一篇論文(“關(guān)于函數(shù)逼近的界限”)中,來自亞馬遜的研究人員探索出了一種可適用于任何計(jì)算模型的技術(shù),條件是該模型可以計(jì)算出與圖靈機(jī)相同的功能。(這里的“圖靈機(jī)”是指定義抽象機(jī)的模型,可以根據(jù)規(guī)則來操縱符號(hào)。)
“無論使用哪種學(xué)習(xí)算法,選擇哪種體系結(jié)構(gòu)或調(diào)整訓(xùn)練參數(shù)(例如批規(guī)模或?qū)W習(xí)率),選擇神經(jīng)體系結(jié)構(gòu)都不可能為給定的機(jī)器學(xué)習(xí)問題提供最佳解決方案,”Alexa AI機(jī)器學(xué)習(xí)平臺(tái)服務(wù)組織的研究工程師,論文的主要作者溫特表示。“只有考慮到盡可能多的可能性,才能確定一種在理論上保證計(jì)算準(zhǔn)確性的體系結(jié)構(gòu)。”
為此,研究團(tuán)隊(duì)評(píng)估了函數(shù)逼近問題的解決方案,這是AI算法搜索參數(shù)以逼近目標(biāo)函數(shù)輸出的方式的數(shù)學(xué)抽象方法。研究人員將其重新制定為發(fā)現(xiàn)一個(gè)估計(jì)目標(biāo)函數(shù)輸出的已知函數(shù)序列的問題,以獲取更大的系統(tǒng)建模優(yōu)勢(shì)。
研究人員的研究表明,應(yīng)該選擇AI模型的組成部分,以確保它們具有“圖靈等效性”。研究人員認(rèn)為,最好通過自動(dòng)搜索來識(shí)別模型,使用程序來設(shè)計(jì)特定任務(wù)的AI模型架構(gòu)。這種搜索中的算法會(huì)首先生成用于解決問題的其他候選算法,然后將性能最佳的候選者彼此組合并再次進(jìn)行測(cè)試。
“本文中……可立即應(yīng)用的結(jié)果是鑒定遺傳算法,更具體地說,是協(xié)同進(jìn)化算法,其性能指標(biāo)取決于彼此之間的相互作用,這是尋找最佳(或接近最佳)架構(gòu)的最實(shí)用方法,”論文作者寫道。“基于經(jīng)驗(yàn),許多研究人員得出的結(jié)論是,協(xié)同進(jìn)化算法提供了構(gòu)建機(jī)器學(xué)習(xí)系統(tǒng)的最佳方法。但是本文中的函數(shù)逼近框架有助于為他們的直覺提供更安全的理論基礎(chǔ)。”
亞馬遜并不是唯一一個(gè)倡導(dǎo)采用進(jìn)化方法進(jìn)行AI架構(gòu)搜索的機(jī)構(gòu)。今年7月,Uber為名為EvoGrad的進(jìn)化算法開源了開發(fā)資源庫(kù)。去年10月,Google推出了AdaNet,這是一種用于組合機(jī)器學(xué)習(xí)算法以獲得更好的預(yù)測(cè)觀點(diǎn)的工具。
參考鏈接:
https://venturebeat.com/2019/09/23/amazon-researchers-say-evolutionary-approach-improves-the-selection-of-ai-models/
總結(jié)
以上是生活随笔為你收集整理的亚马逊:自动选择AI模型,进化论方法效率更高!的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 30段极简Python代码:这些小技巧你
- 下一篇: 人脸识别领域相关金融标准将出台