Ascend昇腾计算
生活随笔
收集整理的這篇文章主要介紹了
Ascend昇腾计算
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
Ascend昇騰計算
Ascend昇騰計算,是基于昇騰系列處理器構建的全棧AI計算基礎設施及應用,包括昇騰系列芯片、系列硬件、芯片使能、AI框架、應用使能等。華為Atlas人工智能計算解決方案,基于昇騰系列AI處理器,通過模塊、板卡、小站、服務器、集群等豐富的產品形態(tài),打造面向“端、邊、云”的全場景AI基礎設施方案,涵蓋數(shù)據(jù)中心解決方案、智能邊緣解決方案,覆蓋深度學習領域推理和訓練全流程。
圖1. Ascend 系統(tǒng)架構
Ascend算子加速方案特性及優(yōu)點
昇騰AI處理器的加速實現(xiàn)方式是以各種算子為粒度進行調用(OP-based),即通過AscendCL調用一個或幾個D親和算子組合的形式,代替原有GPU的實現(xiàn)方式。其邏輯模型如圖2所示。
圖2. PyTorch框架邏輯模型
當前選擇在線對接適配方案的主要原因有一下幾點:
- 最大限度的繼承PyTorch框架動態(tài)圖的特性。
- 最大限度的繼承GPU在PyTorch上的使用方式,可以使用戶在移植到昇騰AI處理器設備上時,在開發(fā)方式和代碼重用方面做到最小的改動。
- 最大限度的繼承PyTorch原生的體系結構,保留框架本身出色的特性,比如自動微分、動態(tài)分發(fā)、Debug、Profiling、Storage共享機制以及設備側的動態(tài)內存管理等。
- 擴展性好。在打通流程的通路之上,對于新增的網(wǎng)絡類型或結構,只需涉及相關計算類算子的開發(fā)和實現(xiàn)。框架類算子,反向圖建立和實現(xiàn)機制等結構可保持復用。
- 與GPU的使用方式和風格保持一致。用戶在使用在線對接方案時,只需在Python側和Device相關操作中,指定device為昇騰AI處理器,即可完成用昇騰AI處理器在PyTorch對網(wǎng)絡的開發(fā)、訓練以及調試,用戶無需額外進一步關注昇騰AI處理器具體的底層細節(jié)。這樣可以確保用戶的最小化修改及完成平臺遷移,遷移成本較低。
總結
以上是生活随笔為你收集整理的Ascend昇腾计算的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 使用Runtime执行推理(C++)
- 下一篇: Ascend Pytorch算子适配层开