高通相信,CloudAI100的性能優(yōu)勢可以讓它在深度學習芯片市場上占據(jù)上風。高通有信心在產(chǎn)品性能、AI處理、數(shù)據(jù)處理等方面成為強大的領導者。
昨天,高通在舊金山召開了年度人工智能日(AIDay)大會。在本次會議上,該公司揭開了三款芯片的神秘面紗,而這三款芯片可以用于智能手機、平板電腦以及其他移動設備。然而,這些芯片只是開胃菜,重頭戲是一款專為邊緣計算設計的新產(chǎn)品——QualcommCloudAI100。
產(chǎn)品管理高級副總裁KeithKressin說,“我們設計這個全新的信號處理器旨在為AI推理服務,”他還補充道,產(chǎn)品將在明年下半年開始生產(chǎn)。
CloudAI100集成了一系列開發(fā)工具,包括編譯器、調(diào)試器、分析器、監(jiān)視器、芯片調(diào)試器和量化器。此外,它還支持包括ONNX、Glow和XLA在內(nèi)的運行時,以及Google的TensorFlow,F(xiàn)acebook的PyTorch、Keras、MXNet,百度的PaddlePaddle和微軟的CognitiveToolkit等機器學習框架。
高通估計,這款產(chǎn)品的峰值性能是驍龍855和驍龍820的3至50倍。公司還聲稱,與傳統(tǒng)的FPGA相比,它在推理方面的平均速度要快10倍左右。此外,以TOPs(高性能芯片常用的性能指標)衡量,CloudAI100的運算速度可以“遠遠超過”100TOPs。相比之下,驍龍855的最快只有7TOPs。
Kressin解釋說:“FPGA或GPU通常可以更有效地進行AI推理處理,因為GPU是并行的,而CPU是串行的,并行芯片更適合AI處理。不過,GPU最初是為處理圖形而生,我們要專門設計一個芯片來加速AI,才能得到更加顯著的提升。從CPU到FPGA或GPU,經(jīng)過了一個數(shù)量級的改進,定制AI加速器能再加一個數(shù)量級改進?!?/p>
高通進軍云計算領域之前,它的主要競爭對手華為發(fā)布了業(yè)界最高性能Arm架構處理器鯤鵬920。在SPECint(一個由12個程序組成的基準測試套件,旨在測試整數(shù)性能)中,該芯片的得分超過了930分,比行業(yè)基準高出將近25%,而功耗比行業(yè)現(xiàn)有廠商提供的產(chǎn)品低30%。
高通的競爭對手可不止華為一個。
今年1月,在拉斯維加斯舉行的消費電子展上,英特爾詳細介紹了即將推出的Nervana神經(jīng)網(wǎng)絡處理器(NNP-I)。據(jù)報道,該處理器的AI訓練性能將達到競爭對手顯卡的10倍。谷歌去年推出了專用推理芯片EdgeTPU。阿里巴巴去年12月宣布,計劃在今年下半年推出首款自主研發(fā)的AI推理芯片。
在FPGA方面,亞馬遜最近推出了自己的AI云加速芯片,名為AWSInferentia。微軟也在ProjectBrainwave中展示了類似的產(chǎn)品。今年3月,F(xiàn)acebook發(fā)布了用于AI推理的服務器芯片KingsCanyon。本月,英特爾宣布推出Agilex系列芯片,優(yōu)化AI和大數(shù)據(jù)工作。
但高通相信,CloudAI100的性能優(yōu)勢可以讓它在深度學習芯片市場上占據(jù)上風。預計到2025年,該市場規(guī)模將達到6630萬美元。
“很多公司都把網(wǎng)絡硬件放在邊緣,形成一個內(nèi)容傳輸網(wǎng)絡,這個網(wǎng)絡可以完成云游戲或是AI處理等不同類型的任務。這個趨勢非常關鍵。因為這樣一來,無論是終端用戶的輸入技術,還是云端,都會有高通的參與?!?/p>
高通還有另一個潛在優(yōu)勢——生態(tài)系統(tǒng)的支持。
去年11月,高通承諾向一家專注于edgeAI和on-deviceAI的初創(chuàng)基金提供1億美元,資金將用于自動駕駛汽車、機器人、計算機視覺和物聯(lián)網(wǎng)等領域。去年5月,它與微軟合作開發(fā)了一個visionAI工具包,輔助嵌入在系統(tǒng)芯片中的AI加速器。
“就市場規(guī)模而言,推理正在催生一個大型芯片市場,”Kressin表示,“隨著時間的推移,我們預計,在2018年至2025年期間,市場規(guī)模大約會擴大10倍。我們非常有信心,高通在產(chǎn)品性能、AI處理、數(shù)據(jù)處理等方面,將會成為強大的領導者?!?/p>