英偉達公司周一早些時候推出了新的英偉達EGX平臺,將人工智能引入網(wǎng)絡邊緣,該平臺能夠?qū)崟r感知、理解和處理數(shù)據(jù),而無需首先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。
將人工智能應用于智能手機、傳感器和工廠機器等邊緣設備是該技術(shù)不斷發(fā)展的下一個階段。最早的人工智能算法非常復雜,只能在云數(shù)據(jù)中心運行的強大機器上處理,這意味著需要通過網(wǎng)絡發(fā)送大量信息。但這是不可取的,因為它需要大量帶寬并導致更高的延遲,而且使得“實時”人工智能難以實現(xiàn)。
企業(yè)真正想要的是可以在數(shù)據(jù)產(chǎn)生的地方執(zhí)行的人工智能,無論是制造工廠、零售商店還是倉庫。幾家科技公司都在試圖解決這個問題,最近的嘗試是英特爾公司今天推出的“冰湖”芯片——這是該公司首款10納米芯片,此外還有數(shù)十家創(chuàng)業(yè)公司也瞄準了這個領域。
但是英偉達進入人工智能邊緣是值得注意的,因為該公司的圖形處理單元被廣泛認為是最好的人工智能處理硬件。其中包括用于深度學習的TeslaV100和QuadroGV100,它可以實時進行光線跟蹤,即創(chuàng)建逼真圖像的過程。
新的英偉達EGX平臺可以從基于JetsonNano處理器的輕型服務器——能夠以幾瓦的功耗每秒鐘處理0.5萬億次操作,擴展到基于邊緣服務器NVIDIAT4機架的微型數(shù)據(jù)中心——可以每秒完成10,000萬億次操作。芯片的節(jié)能功能對于人工智能來說非常重要,因為傳統(tǒng)的硬件運行此類任務時,耗電量非常巨大。
在媒體簡報中,英偉達企業(yè)和邊緣計算高級主管JustinBoitano表示,對NGX之類的平臺的需求將會很大,因為到2025年,世界上將有大約1500億臺機器傳感器和“物聯(lián)網(wǎng)”設備。他表示有很多這樣的傳感器將被用于“智能城市”等計劃,并將生成需要在現(xiàn)場進行處理的數(shù)據(jù)——這主要是出于更低延遲和實時響應的需求,數(shù)據(jù)主權(quán)法規(guī)的要求或?qū)﹄[私問題的考慮。
Boitano表示:“人工智能確實是所有行業(yè)在視覺和言語方面的殺手級應用?!?/p>
如果真的想要充分利用這些芯片,合作伙伴關(guān)系也很重要。處于這個原因,英偉達正在整合NVIDIAEdgeStack軟件,而不是讓EGX運行在RedHat的OpenShiftKubernetes容器編排平臺上以實現(xiàn)與現(xiàn)代軟件應用程序的兼容。
該平臺還集成了MellanoxTechnologies股份有限公司的安全、存儲和網(wǎng)絡技術(shù),英偉達計劃在年底前以69億美元的價格收購MellanoxTechnologies股份有限公司。
Mellanox首席技術(shù)官MichaelKagan表示:“MellanoxSmartNIC和交換機為數(shù)據(jù)訪問提供了理想的I/O連接,可從邊緣擴展到超大規(guī)模數(shù)據(jù)中心?!?/p>
英偉達正在與至少13家不同的服務器制造商合作銷售EGX平臺,包括思科系統(tǒng)公司、戴爾EMC、惠普企業(yè)公司和聯(lián)想集團控股有限公司等大牌制造商。
NGX還兼容運行在主要云基礎架構(gòu)服務(如AmazonWebServices和MicrosoftAzure)上的人工智能應用程序,并且可以連接到物聯(lián)網(wǎng)服務,例如AWSIoTGreengrass和AzureIoTEdge。