英伟达发布人工智能芯片HGX H200
                                                            生活随笔
收集整理的這篇文章主要介紹了
                                英伟达发布人工智能芯片HGX H200
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.                        
                                風君子博客11月10日消息,據外媒報道,當地時間周一,英偉達發布了人工智能(AI)芯片HGX H200,該GPU利用Hopper架構來加速人工智能應用。
據外媒報道,H200是去年發布的H100 GPU的后續產品。H100是英偉達首款基于Hopper架構打造的GPU,此前是英偉達最強大的人工智能GPU芯片。
英偉達稱,H200是首款提供HBM3e內存的GPU。得益于HBM3e, H200可提供141GB內存和每秒4.8TB的帶寬,可加速生成式人工智能和大型語言模型(LLM),同時可以處理人工智能和超級計算工作負載所需的大量數據。
該公司還表示,H200的推出將帶來進一步的性能飛躍,包括在Llama 2(一個具有700億參數的LLM)上的推理速度比 H100快了近一倍。預計在未來的軟件更新中,H200的性能將進一步領先和提高。
英偉達表示,全球系統制造商和云服務提供商將從2024年第二季度開始使用H200。(小狐貍)
總結
以上是生活随笔為你收集整理的英伟达发布人工智能芯片HGX H200的全部內容,希望文章能夠幫你解決所遇到的問題。
 
                            
                        - 上一篇: 2019-03-18-算法-进化(有效的
- 下一篇: 4nm 之战:AMD 正洽谈迁移部分订单
