最近英偉達(dá)發(fā)布了最新GPU-A100，當(dāng)我們先后經(jīng)歷了K系列、M系列、P系列、V系列之后，這一次的A系列發(fā)布又會(huì)帶來哪些影響，未來行業(yè)的走勢(shì)如何，新入行的同學(xué)究竟選擇哪個(gè)領(lǐng)域入門比較合適。今天我將從3個(gè)方向?yàn)榇蠹乙灰黄饰?#xff0c;

• 計(jì)算力變強(qiáng)了，會(huì)給行業(yè)帶來什么影響

• 計(jì)算力變便宜了，會(huì)給行業(yè)帶來什么影響

• 英偉達(dá)的野心在哪里，對(duì)行業(yè)有什么影響

1 計(jì)算力變強(qiáng)的影響

這次新的GPU在算力方面變強(qiáng)的幅度是比較夸張的，根據(jù)官方數(shù)據(jù)顯示，在Bert模型的場(chǎng)景下，訓(xùn)練和預(yù)測(cè)都有大幅度的提升。

同時(shí)新的機(jī)器搭載了三星的40G的超大HBM2顯存。這些信號(hào)意味著什么呢？意味著計(jì)算框架的算力層面價(jià)值在弱化。過去提到TensorFlow、PyTorch，大家比的是哪種框架在分布式場(chǎng)景下更快，因?yàn)楫?dāng)模型的訓(xùn)練量大到單機(jī)很難在短時(shí)間內(nèi)收斂，因?yàn)楫?dāng)模型大小大到單機(jī)內(nèi)存沒法承載之后，只能依賴分布式的方案去解決問題。

今天，A100即使在單機(jī)情況下也提供了可能過去可能2到5臺(tái)機(jī)器的分布式能力。也就是說，今天單機(jī)的能力變強(qiáng)了。在計(jì)算框架層面，未來更多地需要從計(jì)算力優(yōu)化的角度轉(zhuǎn)向如何提升用戶體驗(yàn)，提供更簡(jiǎn)單的開發(fā)接口。

所以，未來深度學(xué)習(xí)的開發(fā)會(huì)變得更簡(jiǎn)單，得益于框架的向用戶體驗(yàn)轉(zhuǎn)型。另外，框架級(jí)別的優(yōu)化工作以及各種模型量化工作，將只在部分超大規(guī)模的應(yīng)用場(chǎng)景下有意義。

如果把AI拆分成三層，最下方是計(jì)算力為代表的芯片GPU，中層是計(jì)算框架，最上層的是CV、ASR、推薦、NLP等業(yè)務(wù)算法。對(duì)于新入行的同學(xué)，更多地關(guān)注最上層的業(yè)務(wù)會(huì)比較保險(xiǎn)，因?yàn)榭蚣軐拥膬r(jià)值會(huì)隨著計(jì)算力的增強(qiáng)而弱化（在巨頭公司不會(huì)有這樣的情況，這里泛指整個(gè)行業(yè)）。

2 計(jì)算力變便宜的影響

GPU發(fā)布會(huì)提到了一個(gè)觀點(diǎn)，就是計(jì)算力的發(fā)展跟不上目前計(jì)算量的發(fā)展需求。這句話其實(shí)要延伸一下，并不是說之前V100卡不夠快，一定要更快的卡才能滿足用戶的業(yè)務(wù)，而是V100太貴了，很多客戶買不起。

英偉達(dá)應(yīng)該也是意識(shí)到了這個(gè)問題，所以來了一個(gè)Slogan：“The more you buy, the more you save.”「現(xiàn)在，你只需要十分之一的硬件成本，二十分之一電力消耗就能做同樣的事。The more you buy, the more you save !」黃仁勛說道。

計(jì)算力變便宜了，后續(xù)會(huì)對(duì)行業(yè)有什么影響呢？我們看到，雖然總體A100計(jì)算力增強(qiáng)了，但是單機(jī)8卡的GPU機(jī)器貌似比以前貴了，搭載8卡的DGX要賣到19.9萬美元，極高的價(jià)格。這個(gè)價(jià)格會(huì)讓很多腰部以下的互聯(lián)網(wǎng)廠商放棄自建IDC GPU集群，從而選擇上云，因?yàn)橘I幾臺(tái)機(jī)器就要小1千萬。一家300人左右的互聯(lián)網(wǎng)公司每年的IT成本也就1千萬。所以對(duì)于云廠商來講，關(guān)鍵是如何能讓昂貴的單點(diǎn)計(jì)算機(jī)器的資源更彈性。怎么能滿足客戶彈性的需求，是云廠商后續(xù)要重點(diǎn)關(guān)注的，基于K8S的實(shí)現(xiàn)如何做到資源的最大限度利用，是關(guān)鍵。

3 英偉達(dá)的野心對(duì)行業(yè)影響

雖然GPU已經(jīng)在AI的計(jì)算力方面幾乎形成了壟斷，但是2020財(cái)年，英偉達(dá)的利潤(rùn)總體出現(xiàn)下滑。這就意味著，單純最底層的芯片級(jí)別的技術(shù)演進(jìn)，很難形成高增長(zhǎng)，缺少軟件附加值。另外，新的A100技術(shù)架構(gòu)，只有50倍左右的算力提升空間。當(dāng)計(jì)算力的提升到了瓶頸，英偉達(dá)又將怎么發(fā)展。

英偉達(dá)最新的舉措可以看一些端倪，在框架層面開始做很多文章，比如推出了語音交互框架Jarvis。后續(xù)英偉達(dá)一定會(huì)向上層的應(yīng)用拓展業(yè)務(wù)，這樣就觸碰到了PyTorch、TensorFlow的領(lǐng)地，跟FaceBook和Google展開直接競(jìng)爭(zhēng)。Google現(xiàn)在也在自己研制TPU芯片用來制衡GPU。后續(xù)的競(jìng)爭(zhēng)可能不再是框架或者計(jì)算力的單點(diǎn)競(jìng)爭(zhēng)，而是生態(tài)的競(jìng)爭(zhēng)。

所以，今天只會(huì)TensorFlow或PyTorch都是不保險(xiǎn)的，未來可能有新的框架進(jìn)來。亙古不變的是上層的業(yè)務(wù)實(shí)現(xiàn)方式，了解CV的流程、ASR的流程、推薦的業(yè)務(wù)流程，這些業(yè)務(wù)的流程短時(shí)間內(nèi)不會(huì)有大的變化，而且會(huì)兼容各種引擎和框架的發(fā)展，學(xué)好這些是安身立命的根本。

PS：本文只是作者自己YY，周末閱讀新聞的感想，權(quán)當(dāng)消遣。

《新程序員》：云原生和全面數(shù)字化實(shí)踐50位技術(shù)專家共同創(chuàng)作，文字、視頻、音頻交互閱讀

總結(jié)

以上是生活随笔為你收集整理的独家解析英伟达最新GPU-A100对AI行业带来的影响的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。