Azure Maia 是一款AI 加速器芯片,用于OpenAI 模型、ChatGPT、Bing、GitHub Copilot 等AI 工作負載,Azure Maia 100 則是該系列第一代產(chǎn)品,采取5 納米制程生產(chǎn)。
Azure Cobalt 為Arm架構的云端運算處理器,配備128 個運算核心,與目前幾代Azure Arm 芯片相比,效能提升40%,為Microsoft Teams、Azure SQL 等服務提供支援,這2 款芯片均由臺積電生產(chǎn),微軟已在設計第二代版本。
領導團隊開發(fā)新芯片的微軟AHSI(Azure Hardware Systems and Infrastructure)副總裁Rani Borkar 指出,微軟已在Bing 和Office 產(chǎn)品測試新款AI 芯片,微軟主要AI 合作伙伴、ChatGPT 開發(fā)商OpenAI 也以GPT 3.5 Turbo 進行測試。Azure Maia 和Azure Cobalt 預計明年初正式用于微軟數(shù)據(jù)中心,成為Azure 云端運算服務的一部分。
Rani Borkar 接受外媒采訪表示,對具規(guī)模的微軟而言,優(yōu)化和整合硬件的每個要素可提供最佳運算效能,同時避免供應鏈瓶頸,Azure Maia 和Azure Cobalt 可為客戶提供基礎設施新的選擇。
自研芯片可獲得硬件性能和價格優(yōu)勢,同時避免公司過度依賴任何一家供應商。目前AI 產(chǎn)業(yè)高度依賴NVIDIA GPU因此凸顯問題,亞馬遜和Google 已有自研芯片的具體成果,亞馬遜2015 年收購以色列芯片新創(chuàng)Annapurna Labs,為客戶提供云端和AI 芯片的服務,Google 從2018 年起允許客戶采用自研芯片TPU(Tensor Processing Unit),微軟急起直追終于跟上腳步。
除此之外,微軟稱,作為定制芯片的補充,微軟正在拓展與芯片供應商的合作伙伴關系,為客戶提供基礎設施選項。
微軟表示,將在微軟智能云Azure中添加AMDMI300X加速虛擬機(VMs)。ND MI300虛擬機(VMs)將采用AMD最新的GPU——AMD Instinct MI300X,旨在加速AI工作負載的處理,以實現(xiàn)高范圍的AI模型訓練和生成式推理。
為英偉達H100 Tensor Core GPU打造的全新NC H100 v5虛擬機系列開放預覽,將提高大中型AI訓練和生成式推理的性能、可靠性和效率。微軟稱還發(fā)布了ND H200 v5虛擬機系列計劃,這是一款AI優(yōu)化虛擬機,配備了即將推出的英偉達H200 Tensor Core GPU。
微軟過去曾開發(fā)客制化芯片,包括與AMD 合作設計Xbox 處理器,以及為HoloLens 和Xbox Kinect 運動控制器開發(fā)專用芯片。隨著Azure Maia 和Azure Cobalt 正式發(fā)表,微軟自研芯片版圖更加完整。