英伟达首款边缘计算AI平台EGX重磅发布!实时处理,高性能、可扩展
新智元報(bào)道
來(lái)源:新智元綜合報(bào)道
編輯:肖琴
【新智元導(dǎo)讀】英偉達(dá)最新發(fā)布首款面向邊緣設(shè)備的 AI 平臺(tái) Nvidia EGX,將 AI 帶到了網(wǎng)絡(luò)的邊緣。該平臺(tái)可以實(shí)時(shí)感知、理解和處理數(shù)據(jù),而無(wú)需先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。
在今天臺(tái)北電腦展COMPUTEX 2019 上,英偉達(dá)帶來(lái)了一項(xiàng)重大發(fā)布:推出首款面向邊緣設(shè)備的 AI 平臺(tái) Nvidia EGX。
此外,發(fā)布會(huì)還公布了另幾項(xiàng)好消息,包括將最先進(jìn)的RTXGPU 帶到了筆記本電腦上,免費(fèi)提供帶有實(shí)時(shí)光線追蹤的體驗(yàn)版游戲等。
新的Nvidia EGX平臺(tái),將AI帶到了網(wǎng)絡(luò)的邊緣。該平臺(tái)可以實(shí)時(shí)感知、理解和處理數(shù)據(jù),而無(wú)需先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。
將AI應(yīng)用到智能手機(jī)、傳感器和工廠機(jī)器等邊緣設(shè)備上,是AI技術(shù)發(fā)展的下一步。最早的AI算法非常復(fù)雜,只能在運(yùn)行在云端數(shù)據(jù)中心的強(qiáng)大機(jī)器上處理,這意味著要通過(guò)網(wǎng)絡(luò)發(fā)送大量信息。但這是不可取的,因?yàn)檫@樣做需要大量帶寬,并且會(huì)導(dǎo)致更高的延遲,使得“實(shí)時(shí)”非常難。
“在[物聯(lián)網(wǎng)]傳感器的增長(zhǎng)推動(dòng)下,計(jì)算行業(yè)發(fā)生了巨大的變化,”英偉達(dá)企業(yè)與邊緣計(jì)算高級(jí)主管Justin Boitano在新聞發(fā)布會(huì)上表示。“有用于觀察世界的攝像頭,用于聆聽(tīng)世界的麥克風(fēng),還有一些設(shè)備可以讓機(jī)器探測(cè)到現(xiàn)實(shí)世界正在發(fā)生什么。”
這些都意味著需要分析的原始數(shù)據(jù)量正在呈指數(shù)增長(zhǎng)。
“我們很快就會(huì)到達(dá)一個(gè)交叉點(diǎn),在這個(gè)交叉點(diǎn),邊緣的計(jì)算能力比數(shù)據(jù)中心更強(qiáng),”Boitano說(shuō)。
企業(yè)真正想要的是讓AI在數(shù)據(jù)產(chǎn)生的地方執(zhí)行,無(wú)論是在制造設(shè)施、零售店還是倉(cāng)庫(kù)。領(lǐng)先的科技公司一直試圖解決的問(wèn)題,包括最近英特爾也推出了其首款面向邊緣計(jì)算的 10納米“Ice Lake”芯片,此外,許多初創(chuàng)公司也推出了這類芯片。
但英偉達(dá)進(jìn)軍AI領(lǐng)域的舉動(dòng)引人注目,因?yàn)橛ミ_(dá)的GPU被廣泛認(rèn)為是最好的AI處理硬件之一。其中包括用于深度學(xué)習(xí)的Tesla V100,以及能夠?qū)崟r(shí)進(jìn)行光線追蹤的 Quadro GV100。
英偉達(dá)邊緣 AI 平臺(tái)三大特性
新的NVIDIA EGX平臺(tái)專為邊緣新型的高吞吐量AI應(yīng)用而設(shè)計(jì),其中數(shù)據(jù)來(lái)源可實(shí)現(xiàn)即時(shí)或保證響應(yīng)時(shí)間,同時(shí)減少云帶寬。
EGX平臺(tái)是可擴(kuò)展的。可以從基于Jetson Nano處理器的輕型服務(wù)器擴(kuò)展到基于NVIDIA T4的邊緣服務(wù)器的微型數(shù)據(jù)中心,前者每秒可執(zhí)行0.5萬(wàn)億次操作,僅需幾瓦特;后者每秒可執(zhí)行10,000萬(wàn)億次操作。芯片的節(jié)能能力對(duì)AI來(lái)說(shuō)非常重要,因?yàn)閭鹘y(tǒng)硬件在運(yùn)行這類任務(wù)時(shí)耗電量巨大。
Justin Boitano表示,到2025年,全球?qū)⒂屑s1500億臺(tái)機(jī)器傳感器和“物聯(lián)網(wǎng)”設(shè)備,因此對(duì)NGX這樣的平臺(tái)的需求將是巨大的。他說(shuō),其中許多傳感器將用于“智能城市”等項(xiàng)目,并將輸出需要在現(xiàn)場(chǎng)處理的數(shù)據(jù),原因包括需要更低的延遲、實(shí)時(shí)響應(yīng)、數(shù)據(jù)主權(quán)規(guī)則或隱私方面的擔(dān)憂。
“無(wú)論是視覺(jué)方面還是在語(yǔ)言方面上,AI確實(shí)是所有行業(yè)的殺手級(jí)應(yīng)用,”Boitano說(shuō)。
如果人們真的想要充分利用這些芯片,那么合作關(guān)系也很重要。出于這個(gè)原因,Nvidia 正在將運(yùn)行在EGX上的Nvidia Edge Stack軟件與Red Hat公司的OpenShift Kubernetes容器編排平臺(tái)相整合,以使其與現(xiàn)代軟件應(yīng)用程序兼容。
該平臺(tái)還集成了來(lái)自Mellanox technologies Ltd.的安全、存儲(chǔ)和網(wǎng)絡(luò)技術(shù)。英偉達(dá)計(jì)劃在年底前以69億美元的價(jià)格收購(gòu)這家公司。
總結(jié)而言,NVIDIA EGX具有以下特性:
1、高性能和可擴(kuò)展
EGX從小型的NVIDIA®Jetson Nano™開(kāi)始,幾瓦的功率就可以提供每秒0.5萬(wàn)億次(TOPS)的處理操作,用于圖像識(shí)別等任務(wù)。此外,EGX可擴(kuò)展到所有的NVIDIA T4服務(wù)器,提供超過(guò)10,000 TOPS,可以為數(shù)百名用戶提供實(shí)時(shí)語(yǔ)音識(shí)別和其他復(fù)雜的AI 體驗(yàn)。
2、混合云和多云物聯(lián)網(wǎng)
NVIDIA EGX在架構(gòu)上與主要云提供的NVIDIA AI計(jì)算兼容。在云上開(kāi)發(fā)的AI應(yīng)用可以運(yùn)行在NVIDIA EGX上,反之亦然。NVIDIA Edge Stack連接主要的云物聯(lián)網(wǎng)服務(wù),客戶可以通過(guò)AWS IoT Greengrass和微軟的Azure IoT Edge遠(yuǎn)程管理他們的服務(wù)。
3、企業(yè)級(jí)和安全性
NVIDIA Edge Stack在領(lǐng)先的企業(yè)級(jí)Kubernetes容器編排平臺(tái)Red Hat OpenShift上進(jìn)行了優(yōu)化。Mellanox Smart NIC可以卸載和加速軟件定義的網(wǎng)絡(luò),從而在不影響 CPU性能的情況下實(shí)現(xiàn)更高級(jí)別的隔離和安全性。
Mellanox的首席技術(shù)官M(fèi)ichael Kagan說(shuō):“Mellanox Smart NIC和交換機(jī)為從邊緣到超大規(guī)模數(shù)據(jù)中心的數(shù)據(jù)訪問(wèn)提供了理想的I/O連接。”
NGX還與運(yùn)行在主要云基礎(chǔ)設(shè)施服務(wù)(如AWS和Microsoft Azure)上的AI應(yīng)用程序兼容,并可以連接到物聯(lián)網(wǎng)服務(wù),如AWS Greengrass和Azure IoT Edge等。
筆記本電腦也可以用英偉達(dá)最先進(jìn)的專業(yè)級(jí) GPU
作為Computex 2019新聞發(fā)布會(huì)的一部分,英偉達(dá)宣布了全新的“筆記本電腦品牌認(rèn)證推廣計(jì)劃”,即Nvidia RTX Studio。
首款支持的是Quadro RTX 5000,與臺(tái)式機(jī)版本相同,有3072顆CUDA核心、48顆 RT核心、384顆Tensor核心和16GB GDDR6 RAM,專為那些從事大量圖形或視頻工作的專業(yè)人士而設(shè)計(jì)。
首批共有7家合作伙伴公司(華碩,戴爾,惠普,微星,雷蛇,技嘉和宏碁)的一共17款筆記本電腦由,這些筆記本電腦將搭載新的Quadro GPU,都以“RTX Studio”的名稱命名。
用英偉達(dá)GeForce軟件與技術(shù)總經(jīng)理Jason Paul的話說(shuō),這些筆記本將能夠“隨時(shí)隨地”提供“桌面級(jí)性能”。英偉達(dá)還宣稱這些筆記本的運(yùn)行速度比同等級(jí)的MacBook Pro快7倍,配備32GB RAM和AMD的Pro Vega 20 GPU。
One More Thing:快來(lái)玩帶光線追蹤的《雷神之錘2》
在今年GDC上,英偉達(dá)展示了實(shí)時(shí)光線追蹤加強(qiáng)版的《雷神之錘2》demo,新技術(shù)加持后的老游戲魅力大放異彩,收獲了非常多的關(guān)注。
今天在Computex上,英偉達(dá)宣布將從6月6日起免費(fèi)向玩家提供《雷神之錘2 RTX》的體驗(yàn)版本,大家可以親身體驗(yàn)堪稱游戲革命的實(shí)時(shí)光線追蹤技術(shù)了!
據(jù)介紹,這個(gè)體驗(yàn)版總共只有三關(guān),之后可以通過(guò)NVIDIA官網(wǎng)或Steam下載。NVIDIA內(nèi)部的Lightspeed Studios為游戲加入了更真實(shí)的光影效果,比如即時(shí)光線、間接照明、水面反光等視覺(jué)元素在作品中都可以找到。
總結(jié)
以上是生活随笔為你收集整理的英伟达首款边缘计算AI平台EGX重磅发布!实时处理,高性能、可扩展的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: ARM发布全新架构CPU、GPU及AI内
- 下一篇: 智能云·芯世界, 探索中国芯、云十年大势