Nature子刊:清华研究团队盘点类脑计算芯片简史
再過幾天,馬斯克就要官宣其腦機接口的最新進展了。
他此前接受采訪表示,「Neuralink 準備在一年內將腦機接口植入人體」。
人類對大腦的探索從未終止,近年來受神經啟發式的計算芯片也取得了舉世矚目的進展。
近日,清華大學的研究人員回顧了神經啟發式計算芯片的最新進展,以洞悉迄今為止取得的進展,提出仍需克服的挑戰。
他們發表在《自然·電子學》上的評論文章還概述了一系列共同設計原則,這些原則可以為新的神經啟發性電路、設備和算法的開發提供思路。
鏈接:https://www.nature.com/articles/s41928-020-0435-7
神經啟發式計算芯片的「大地震」
近年來,全球許多研究團隊一直在研究受人腦啟發的計算技術,比如深度學習算法。盡管人們認為某些技術在更廣泛的應用中很有前途,但是常規硬件有時候并不能支撐其計算負荷,因此會限制這些技術的性能。
為了克服現有硬件的局限性,同時要確保受大腦啟發的計算技術取得最佳結果,一種可能的解決方案便是創建新的電子組件,以更好地反映人腦的結構。
一類受神經啟發的計算芯片是專門為模仿人和其他動物的大腦神經結構的人工智能應用而設計的。
清華大學的研究人員在他們的新論文中仔細研究了神經啟發性計算芯片設計的最新發展,并反思了他們在該領域的努力中所汲取的一些教訓。
基于 NVM 的神經啟發計算芯片的未來路線圖
上個世紀 80 年代,隨著用于超大規模集成電路(VLSI)技術的發展以及對計算能力的強烈需求,人們開始對神經啟發式計算芯片產生極大的興趣。
但是神經啟發式計算硬件的想法可以追溯到 1957 年 Perceptron7 的問世,Perceptron7 是一臺專用模擬計算機。
1961 年,ADALINE8 通過將分立的可變電阻器組裝到能夠進行訓練的自適應硬件感知器中而構建。但是由于沒有高密度設備集成的能力,這些原始硬件的規模巨大,而所包含的突觸設備的數量卻非常有限。
超大規模集成電路
當 HP Labs 在 2008 年首次從實驗上建立了憶阻器的概念與固態電子器件的聯系,利用基本的設備來開發神經啟發式的計算芯片,一場根本性的革命就開始了。
2010 年,一種模擬演示突觸功能的憶阻器被創造出來,這是探索基于 NVM 的神經啟發式計算的首次嘗試。
從那時起,各國研究人員針對基于 NVM 的神經啟發式計算的設備、體系結構、芯片和算法投入了越來越多的研究工作。
神經啟發計算芯片的里程碑
評估神經啟發式計算芯片的有效性的四個指標
除了概述評估大腦啟發式芯片的重要指標外,Wu 和他的同事還介紹了一套共同設計原則,可以作為該領域未來研究的參考。這些原則主要基于其過去的研究發現和觀察結果。
研究人員提出的協同設計工具是他們研究中最重要的部分。在實際的神經啟發式計算芯片設計中,如果沒有這種協同設計工具,就很難獲得高性能的芯片。
例如,可用作突觸存儲器的非易失性存儲器(NVM)設備通常具有固有的內在特性,而這些非理想狀態會降低芯片的性能。
但是要降低器件的非理想狀態,需要付出很多努力,而且我們無法完全消除它們。因此清華大學研究人員設計的協同設計工具不僅在設備上,而且在電路或系統上可以幫助優化芯片的性能。
論文第一作者 Huaqiang Wu 表示,「本文的想法來自我們先前設計神經啟發性計算芯片的嘗試。在過去的研究中,我們發現很難在單個級別(例如設備或電路級別)上優化這些芯片的性能,并且需要使用涵蓋廣泛領域的共同設計策略來優化此類芯片從設備到算法的各種元素。」
研究人員主要研究了神經啟發的計算芯片在支持算法,增強神經網絡或人工神經網絡方面的潛力。
Wu 強調了工程師在評估神經啟發式計算芯片的有效性的四個指標:計算密度、能效、計算精度、芯片學習能力。
評估神經啟發式計算芯片的有效性的四個指標
在回顧過去的研究中,研究人員發現這些指標對于神經啟發性計算芯片的設計和優化至關重要,因為它們最能代表芯片的獨特功能,以及與傳統芯片相比潛在的優勢。
比如,計算密度是一種反映芯片面積效率的指標。它使工程師能夠確定芯片一次可以存儲多少信息,以及它們內存是否足以運行大規模神經網絡。
可以從上圖中看出,與基于 CMOS 的芯片相比,基于 NVM 的芯片具有明顯的優勢。
因此,NVM 是大規模神經啟發計算芯片未來主流技術的非常有希望的候選者。
目前已經開發了幾種基于 NVM 的小型芯片,從 1000 個單元到 100 萬個單元。
然而,集成多個大型模擬 NVM 陣列的神經啟發計算芯片的實現仍然面臨許多挑戰。從設備到芯片再到算法,還需要進行大量的研究工作。
Wu 表示,「希望我們的工作將幫助非專業讀者找到更多有關神經啟發性計算芯片的信息,同時也將促進這一研究領域的更大發展。」
目前,清華大學研究人員正計劃制定其他指南,以加快和促進人工智能和受神經啟發的電子領域的研究。他們的這篇論文可以為那些研究受大腦啟發的芯片的工程師提供總體路線圖。
Wu 最后表示,在我們未來的研究中,我們可以將設計神經啟發性計算芯片分為兩部分:
1 在設備制造和技術集成部分,我們將優化設備性能,制造新的神經啟發設備,并探索三維神經啟發計算芯片。
2 在芯片和系統部分,我們將開發共同設計工具并設計通用的神經啟發計算芯片,尤其是基于 NVM 的內存計算芯片。
參考鏈接:
https://www.nature.com/articles/s41928-020-0435-7
https://techxplore.com/news/2020-08-advancements-neuro-inspired-chips.html
總結
以上是生活随笔為你收集整理的Nature子刊:清华研究团队盘点类脑计算芯片简史的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: TikTok的起诉书来了:信息量巨大!美
- 下一篇: 茅台酒心巧克力上市后遭爆炒 非官方渠道价