搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙
南趣百科網11月14日消息,NVIDIA第一次披露了下一代AI/HPC加速器的情況,架構代號Blackwell,核心編號GB200,加速器型號B100。
NVIDIA第一次公開確認,B100將在2024年發布,但未出更具體的時間表。
此前曝料稱,B100原計劃2024年第四季度推出,但因為AI需求太火爆,已經提前到第二季度,現已進入供應鏈認證階段。
NVIDIA表示,B100加速器可以輕松搞定1730億參數的大語言模型,是現在H200的兩倍甚至更多。
雖然這不代表原始計算性能,但也足以令人望而生畏。
同時,B100還將帶來更高級的HBM高帶寬內存規格。
回顧歷史,Pascal P100、Ampere A100、Hopper H100、H200分別首發應用HBM2、HBM2e、HBM3、HBM3e。
接下來的B100肯定趕不上HBM4(規范還沒定呢),但必然會在堆疊容量、帶寬上繼續突破,大大超越現在的4.8TB/s。
Blackwell架構同時也會用于圖形工作站和桌面游戲,傳聞有GB202、GB203、GB205、GB206、GB207等不同核心,但是對于RTX 50系列,NVIDIA始終三緘其口,幾乎肯定到2025年才會發布。
2024年就將是RTX 40 SUPER系列的天下了,明年初的CES 2025首發三款型號RTX 4080 SUPER、RTX 4070 Ti SUPER、RTX 4070 SUPER。
總結
以上是生活随笔為你收集整理的搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 安卓影像之光!vivo X100系列成了
- 下一篇: 每公里只需0.33元!五菱首款轿车星光即