HBM3内存子系统传输速率惊人,带宽突破1TB/S!
記者 | 鄧曉娟
8月25日,內存IP廠商Rambus推出HBM3內存接口子系統。內含完全集成的PHY和數字控制器,傳輸速率達8.4Gbps;可為AI/ML和高性能計算(HPC)等應用和解決方案提供1TB/s的帶寬速率;采用標準的16通道設置,可達到1024位寬接口,實現更高的顆粒度,相比當前高端HBM2E內存子系統高出兩倍以上;同時,Rambus的HBM3還支持2、4、8、12和16 HBM3 DRAM堆棧,信道密度達32Gb。
一、在數據傳輸速率、帶寬、密度上都有獨特優勢,不僅僅是更小的尺寸
隨著AI/ML領域里越來越多的廠商不斷發力,內存產品設計的復雜性也快速上升,對帶寬也提出了更高的要求,神經網絡、AI訓練等在內存帶寬需求上面臨著越來越高的挑戰。
同時,AI/ML訓練對于內存帶寬的需求是無止境的,一些前沿訓練模型現已擁有數以十億的參數。這無疑是對內存IP行業的一個大挑戰。
回顧HBM的性能演進歷程,最早的HBM1數據傳輸速率大概能達到1Gbps左右,而在2016年時,HBM2帶來最高的數據傳輸速率可達到2Gbps;到了2018年,HBM2E時代的最高傳輸速率已經可以達到3.6Gbps了,而后逐漸上升到3.6Hbps。
?HBM性能演進
Rambus IP核產品營銷高級總監Frank Ferro表示,HBM3也會與之前的HBM產品一樣,會經歷一個發力的過程。HBM3目前擁有的8.4Gbps的傳輸速率,在持續發力后也會在傳輸速率上有更大的提升。并且Rambus選擇8.4Gbps的速率也是出于未來產品規劃的一些考量,可以為客戶提供更高的設計裕度,為未來的產品開發做好后續準備。
二、Rambus HBM3內存子系統主要架構及技術優勢
據Frank介紹,在HBM3-Ready內存子系統產品架構上,頂層設置了4塊DRAM內存條,通過TSV堆疊的方式疊加在一起,下方是SoC,再往下是中介層,在中階層下面是綠色的封裝。這些部分組成了整個2.5D的系統架構。
?2.5D/3D系統架構的HBM3內存?
而作為一個完整的內存子系統產品,僅僅提供IP是不夠的。所以Rambus在提供IP的同時也提供泛IP和整個系統的具體設計,包括經過驗證的PHY及數字控制器。
除此之外,2.5D系統架構的HBM內存目前在市面上還是比較新的,優先使用這些新技術的客戶需要更多的支持,所以Rambus在中介層和封裝上也會提供更好的參考設計支持和框架。提供Rambus系統和SI/PI專家技術支持,為ASIC設計人員提供幫助,確保設備和系統具有最優的信號和電源完整性。這些都是整個內存子系統領域非常重要的環節。
對于AI/ML、HPC等領域的客戶而言,他們對TB級帶寬有著非常強的需求。Frank表示,Rambus本次推出的HBM3-Ready內存子系統可以滿足其在TB級帶寬領域加速的性能標準;完全繼承的HBM3內存接口子系統IP解決方案包括了經過優化的PHY和控制器,為客戶提供中介層和封裝的物理參考設計,簡化設計流程,從而幫助客戶加快產品上市時間。
三、發力HBM3的原因
如今,HBM3的整體發展進度是比行業預期要更晚一些的,不少業內人士認為,內存顆粒和接口IP是限制HBM3技術突破的主要原因。對此,Frank認為,DRAM與HBM的發展是相輔相成、共同促進的。對比之下,其實從DDR4到DDR5過渡的時間很長,但HBM技術迭代的速度非常快,也印證了HBM領域整體發展的迅速。
這背后對應的主要邏輯是:HBM的發展很大程度上是由不斷上升的帶寬需求驅動的,而對帶寬的需求幾乎沒有上限。換句話說,目前來看HBM的發展可能不會遇到障礙。無論是HBM2高達4Gbps的數據傳輸速率,還是前一段時間海力士發布的5.2Gbps數據傳輸速率的HBM3產品,其實都證實了大家對HBM領域的看好,這也是Rambus對HBM抱有高期望的幾大原因之一。
同時,盡管目前HBM3的速率已經可以達到8.4Gbps,但對比GDDR DRAM已經達到16或者18Gbps的速率而言還是有差距的。簡單來說,HBM發展的限制目前集中在中介層上。在HBM2的時代,中介層本身的技術是有限制的,即一代和二代的中介層最高只能做到兩層,它涉及的線寬、金屬層的厚度都是非常有限的。隨著中介層技術的發展,其本身的厚度、金屬層和線寬都有了一定的增加,這也進一步推動了HBM未來的發展。
總地來說,HBM現在依舊處于相對早期的階段,所以未來還有很長一段路要走。
Frank還表示,Rambus發力HBM3也有著主要的差異化優勢:
- 擁有全系列由集成和優化后的PHY和存儲器控制器組成的內存子系統
- 當前業界最高的數據傳輸速率(8.4 Gbps)和帶寬
- 系統級設計支持,包括中介層和封裝參考設計
以及擁有著豐富的HBM生產經驗:
- 自2017年以來,Rambus一直致力于生產和提供HBM解決方案
- 市場份額排名第一的HBM IP供應商,贏得超過50個設計訂單
另外,Rambus大中華區總經理蘇雷也表示,從行業背景上我們可以窺見,數據中心的快速增長正驅動著技術的需求和發展。在大數據時代下,數據量持續激增,年復合增長達到35%,各種數據開始加速向云遷移,帶來了云服務的蓬勃發展,并最終驅動了數據中心的持續增長。另外物聯網設備的數量也日益增加,開啟了萬物互聯的時代,越來越多的數據開始運行在外部,從而讓業內對數據安全的擔憂日益增加。最后,在大數據的處理方面,AI/ML的使用率也將日益提升,預計到2025年,全球數據使用量將達到175ZB,并且有超過25%的服務器出貨將會專供與人工智能領域。
總結
以上是生活随笔為你收集整理的HBM3内存子系统传输速率惊人,带宽突破1TB/S!的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 开源数据库兴起,你需要了解的三件事
- 下一篇: Web 自动化神器,批量下载美图,可直接