效率 每秒_每秒看懂超过5.3亿张图片!异构计算是如何发挥AI效率的?
簡介: 潘岳介紹,阿里云提供了超大規模的云上異構計算集群,每秒可支撐100億億次的異構運算,能夠在1秒內看懂超過5.3億張圖片;識別3.3億秒/9.2萬小時長的語音,相當于聽寫了1723本《紅樓夢》長篇小說或者26萬篇短篇小說;1秒內可以翻譯4千萬句話,相當于翻譯了42本《哈姆雷特》。
12月17日, GTC China 2020大會上,阿里云異構計算產品負責人潘岳表示,人工智能行業需求發生了明顯的變化,云上AI業務的推理需求占比首次超過50%,阿里云GPU云服務器從四年前的gn4到今年新發布的gn7,單實例異構算力提升了100倍。
異構計算是最能發揮AI效率的計算方式。潘岳介紹,阿里云提供了超大規模的云上異構計算集群,每秒可支撐100億億次的異構運算,能夠在1秒內看懂超過5.3億張圖片;識別3.3億秒/9.2萬小時長的語音,相當于聽寫了1723本《紅樓夢》長篇小說或者26萬篇短篇小說;1秒內可以翻譯4千萬句話,相當于翻譯了42本《哈姆雷特》。
4年前,云上80%的AI需求來自訓練業務。但在2020年,云上AI推理業務的占比已經超過一半。潘岳表示,這也標志著阿里云異構計算進入新的階段,即軟硬一體的云上異構基礎設施。
具體來說,用戶不僅需要深度學習框架軟件,更需要與之適配的硬件來發揮GPU的算力,例如阿里云神龍AI加速引擎 AIACC 和FastGPU等極速部署工具,就通過池化算力帶來靈活的計算調度,云服務器從特定配置向serverless方向發展。可幫助客戶在訓練場景下提升2倍到10倍的性能,在推理場景下提升2倍到4倍的性能,節省至少50%的成本。
以知名人工智能芯片企業地平線為例。阿里云AIACC團隊,和地平線研發團隊緊密合作,將基于阿里云異構計算的分布式訓練性能提升4倍,讓地平線算法研發效率得以顯著的提升,成本得以大幅下降。
“AI業務從最早的推理占比不到20%,到今天占比過半;原來只有人工智能初創公司探索,到落地各行各業;云上異構業務從單一深度學習訓練場景,到今天的訓練推理、云桌面、圖形圖像設計等多元化場景。阿里云異構計算是企業數字化、智能化轉型的見證者,也是實踐者。”潘岳表示。
原文鏈接:https://developer.aliyun.com/article/780442
總結
以上是生活随笔為你收集整理的效率 每秒_每秒看懂超过5.3亿张图片!异构计算是如何发挥AI效率的?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 查看某个方法在哪里被调用_一篇文章带你查
- 下一篇: 成员缩写_「gnps,nbcs」是什么意