增強型固態硬盤支持人工智能工作負載

Enhanced SSDs support AI workloads

多倫多——關于人工智能（AI）和機器學習工作負載所需的內存和架構已經有很多討論，而Micron技術最新的高性能和高容量固態硬盤（SSD）將flash牢牢地放在其中。
該公司剛剛發布了其9300系列，該系列使用NVM-Express（NVMe）協議，針對數據密集型應用，讀寫吞吐量均為3.5gbps。

Micron的產品線經理Cliff Smith告訴EE Times：“在企業和云計算領域，延遲變得越來越重要，因為應用程序的響應時間非常重要，因此您的基礎設施可以在給定的服務器存儲平臺上響應更多的用戶請求。”。

總的來說，這就是9300系列的目標市場。除了性能外，這類客戶的其他賣點包括功耗比公司上一代NVMe SSD低28%，容量高達15.36 TB，有32個NVMe命名空間，以盡可能高效地使用存儲空間。

但更具體地說，9300系列的性能和容量使其能夠滿足人工智能和機器學習的需求。史密斯說，吞吐量和容量使固態硬盤能夠快速接收大數據集。“當你為學習算法加載工作負載時，你只是在寫。我們將能夠非常迅速地寫出這些數據。”。一旦數據集被放入，學習算法就接管了，這就是不斷的閱讀和訓練。“開發訓練有一個訣竅，讓它不斷地讀取數據集。”

Micron仍在努力完善的一項能力是并行化提取、轉換和加載（ETL）過程，在這種情況下，可以將大量的信息從數據池移動到更快的SSD，然后再轉移到GPU復合體中。這將加快學習和生成一個可以投入生產進行推理的模型。然而，史密斯數據公司說，由于并行處理，科學家們不能長時間地喝咖啡休息。“這兩個過程在今天是連續的，因為性能原因，歸根結底是由于軟件原因。”

今天，機器學習順序作為ETL過程緩存數據集到SSD，然后到GPU，但Micron認為在不久的將來，這可以并行完成

Micron的高級技術營銷經理Jason Echols說，nvme9300系列的延遲和吞吐量使數據能夠超快速地傳送到gpu上的高吞吐量和低延遲的專用內存，例如3D-Xpoint。“你越是能讓那些并行的核心繼續工作，你就越能讓所有這些并行的核心保持供電。”

ForwardInsights首席分析師Gregory
Wong表示，9300系列可以解決兩個與人工智能相關的工作負載—機器學習和推理。對于前者，它可能在大數據集中翻騰，那里有“成噸”的面孔可供學習。面部識別是推斷的一部分，這是一個例子，人工智能的工作量可能需要在邊緣發生。“這臺機器已經從這個龐大的數據集中學習到了，現在他們必須將其投入使用，”他說，如果這是一個監控應用程序，你希望這種推斷能夠快速、現場地進行——系統不能查詢云端進行人臉匹配。

Wong說，Micron9300系列的容量和非常低的延遲是AI工作負載所必需的，盡管延遲低于基于Intel Optane的SSD所能提供的。但考慮到Optane對于大型數據集來說價格太高，Micron的產品在有大量數據需要處理時非常有意義。

在某些情況下，高容量可能是一個缺點，因為如果遇到問題，重建需要很長時間——你不會希望過大的固態硬盤在自動駕駛車中進行推理，而且你不能將數據傳送到云端并返回以進行實時決策，即使使用5G網絡，因為總有可能出現延遲甚至停機。“汽車必須能夠做出反應，因為這不僅僅是延遲，還有連接質量。”

我們還需要幾年的時間才能在公路上實現自主駕駛，同時，黃說，在需要即時推理的情況下，數據中心和邊緣的各種內存和存儲技術都需要處理大量的人工智能工作負載，包括固態硬盤。

總結

以上是生活随笔為你收集整理的增强型固态硬盘支持人工智能工作负载的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。