報(bào)道指出，英特爾在其Gaudi 3白皮書(shū)中披露了上述信息，其中HL-328將于6月24日推出，HL-388將于9月24日推出。根據(jù)英特爾公布的資料顯示，Gaudi 3在FP16/BF16上可以達(dá)到1835 TFLOPS，相比英偉達(dá)H100在大模型訓(xùn)練方面快40%、推理能效高50%。
具體硬件規(guī)格方面，中國(guó)特供版的Gaudi 3與原版相比，具有相同的96MB SRAM片上存儲(chǔ)，128GB HBM2e高帶寬存儲(chǔ)，帶寬為3.7TB/s，擁有PCIe 5.0 x16介面和解碼標(biāo)準(zhǔn)。但由于美國(guó)對(duì)于AI芯片的出口管制規(guī)則限制，使得這類高性能AI的綜合運(yùn)算性能(TPP)需要低于4800才能出口到中國(guó)，這意味中國(guó)特供版的Gaudi 3的16bit性能不能超過(guò)150 TFLOPS。
顯然，中國(guó)特供版的Gaudi 3 需要大幅降低AI性能，才能合規(guī)出口到中國(guó)。因此中國(guó)特供版Gaudi 3 需要大幅削減內(nèi)核數(shù)量(原版擁有8個(gè)矩陣數(shù)學(xué)引擎和64個(gè)張量?jī)?nèi)核)和工作頻率，最終可能需要其AI性能降低約92%才能符合美國(guó)的出口管制要求。
由于中國(guó)特供版Gaudi 3 AI性能的降低，這也將使得其TDP(熱設(shè)計(jì)功耗)大幅降低。根據(jù)曝光的資料顯示，中國(guó)特供版Gaudi 3的OAM卡和PCIe卡的TDP均為450瓦，而原版PCIe卡(HL-338)的TDP高達(dá)600瓦，原版OAM卡(HL-325L、HL-335)的TDP更是高達(dá)900瓦。
可以預(yù)見(jiàn)的是，英特爾專為中國(guó)市場(chǎng)推出的“特供版”Gaudi 3的OAM兼容夾層卡(HL-328)和PCle加速卡(HL-388)的AI性能將會(huì)與英偉達(dá)針對(duì)中國(guó)市場(chǎng)推出的AI加速卡H20相當(dāng)，它具有 148 TFLOPS 的 FP16/ BF16 性能，略低于 150 TFLOPS 的限制。但是，在HBM容量及帶寬上，英特爾中國(guó)特供版Gaudi 3將低于英偉達(dá)H20，這也使得其在與英偉達(dá)H20的競(jìng)爭(zhēng)當(dāng)中可能將處于劣勢(shì)，當(dāng)然具體也要看定價(jià)是否有優(yōu)勢(shì)。
網(wǎng)站客服
粵公網(wǎng)安備 44030402000946號(hào)