英偉達(dá)成最大贏家?
ChatGPT等AI應(yīng)用需要基于大量模型訓(xùn)練,它能如此睿智基于對(duì)天量數(shù)據(jù)的“吃透”,背后是強(qiáng)大算力的支撐,以GPT-3模型為例,其存儲(chǔ)知識(shí)的能力來(lái)源于1750億參數(shù),訓(xùn)練所需的算力高達(dá)3650PFLOPS-day。
中信建投研報(bào)的數(shù)據(jù)顯示,此前用于AI訓(xùn)練的算力增長(zhǎng)符合摩爾定律,大約每20個(gè)月翻一番;深度學(xué)習(xí)的出現(xiàn)加速了性能的擴(kuò)展,用于AI訓(xùn)練的算力大約每6個(gè)月翻一番;而目前大規(guī)模模型出現(xiàn),其訓(xùn)練算力是原來(lái)的10到100倍。
這也難怪OpenAI在大煉GPT-3之前,讓微軟花10億美元給自己獨(dú)家定制了一臺(tái)當(dāng)時(shí)全世界排名前五的超級(jí)計(jì)算機(jī)。ChatGPT在2月7日宣布由于滿負(fù)荷運(yùn)行而暫停服務(wù),主要原因是網(wǎng)絡(luò)等資源的限制,且此前ChatGPT也出現(xiàn)多次宕機(jī),這體現(xiàn)了AI應(yīng)用對(duì)算力的旺盛需求。
ChatGPT主要涉及AI自然語(yǔ)言處理相關(guān)技術(shù),底層算力芯片以高性能GPU為主。國(guó)內(nèi)一名人工智能公司高管告訴《科創(chuàng)板日?qǐng)?bào)》記者,該類芯片中英偉達(dá)占據(jù)主要市場(chǎng),英偉達(dá)的芯片為大模型訓(xùn)練做了很多優(yōu)化,“很好用”,它才是這次ChatGPT熱潮的最大贏家。
從芯片技術(shù)角度來(lái)看,鯤云科技創(chuàng)始人兼CEO牛昕宇告訴《科創(chuàng)板日?qǐng)?bào)》記者,英偉達(dá)的CUDA架構(gòu)最初用于游戲GPU,相比于CPU更適用于大規(guī)模并行計(jì)算,基于其CUDA生態(tài),積累了完善的開(kāi)發(fā)者生態(tài)。這一輪人工智能產(chǎn)業(yè)發(fā)展的初期,市面上沒(méi)有專門的AI加速芯片和硬件產(chǎn)品,開(kāi)發(fā)者發(fā)現(xiàn)其產(chǎn)品可以應(yīng)用于AI的訓(xùn)練和推理過(guò)程,就多采用其產(chǎn)品。
另外,英偉達(dá)的產(chǎn)品在通用性和算力密度方面有優(yōu)勢(shì),而且因?yàn)樗惴P途薮?,?duì)系統(tǒng)級(jí)的多芯片互聯(lián)合作,高帶寬的網(wǎng)絡(luò)貯存要求以指數(shù)級(jí)的增長(zhǎng),英偉達(dá)對(duì)此早有布局,以收購(gòu)和研發(fā)整合的手段,已形成完整成熟的解決方案。
在此番半導(dǎo)體產(chǎn)業(yè)下行周期下,英偉達(dá)成為跌跌不休半導(dǎo)體股中的“逆行者”。年初至今,該公司股票已經(jīng)漲超55%,反映了投資者在ChatGPT熱潮下對(duì)英偉達(dá)的看好。
就芯片采購(gòu)問(wèn)題,《科創(chuàng)板日?qǐng)?bào)》記者以投資者身份致電云從科技,相關(guān)人士?jī)H表示,公司和國(guó)產(chǎn)芯片公司有深度的適配,而且以前也有一些庫(kù)存,芯片這一塊不會(huì)受到國(guó)際芯片供應(yīng)量影響。
不僅要自主“大模型” 還要芯片技術(shù)彎道超車
目前,全球主要科技公司已經(jīng)相繼公布了各自在ChatGPT領(lǐng)域的進(jìn)展,先且不論各家接下來(lái)投入程度高低以及這些類ChatGPT產(chǎn)品“錢”景如何,可以預(yù)見(jiàn)的是,手握關(guān)鍵底層芯片的公司們,無(wú)疑將從這次ChatGPT浪潮中受益。
浙商證券認(rèn)為,ChatGPT熱潮席卷全球、AIGC將產(chǎn)生巨大算力市場(chǎng)的背景下,芯片需求將迎來(lái)量?jī)r(jià)齊升。
不過(guò),在產(chǎn)業(yè)界看來(lái),ChatGPT從西太平洋興起,而后席卷至至大洋彼岸的中國(guó),這給我國(guó)科技行業(yè)敲響警鐘。
海銀資本創(chuàng)始合伙人王煜全在2月7日發(fā)聲稱,中國(guó)不僅需要產(chǎn)生自主“大模型”,也應(yīng)當(dāng)在人工智能上進(jìn)行芯片技術(shù)的“彎道超車”。
他認(rèn)為,今天非常主流的CPU、GPU芯片生態(tài),是美國(guó)政府和眾多歐美科技企業(yè)花了30多年時(shí)間逐步培育、發(fā)展起來(lái)的。這個(gè)領(lǐng)域,從最上游的指令集、芯片設(shè)計(jì)軟件,到下游制造需要的光刻機(jī),都已經(jīng)有非常成熟的布局。除了表面上能看到的各種技術(shù)專利、行業(yè)標(biāo)準(zhǔn),還有大量沉淀在業(yè)內(nèi),很難快速傳播和復(fù)制的制造、生產(chǎn)經(jīng)驗(yàn),已經(jīng)形成了壁壘森嚴(yán)的體系。
“今天芯片產(chǎn)業(yè)面臨的問(wèn)題不是科研問(wèn)題,更不是資本運(yùn)作的問(wèn)題,而是在成熟的產(chǎn)業(yè)生態(tài)體系里,我們沒(méi)有占到核心關(guān)鍵點(diǎn),更沒(méi)有核心掌控力?!蓖蹯先Q。
具體到產(chǎn)業(yè),王煜全號(hào)召,系統(tǒng)芯片異構(gòu)計(jì)算時(shí)代,芯片企業(yè)、人工智能企業(yè)和產(chǎn)生大量數(shù)據(jù)的應(yīng)用企業(yè),這三方要深度合作,“這樣芯片的制造水平未必是最好,但芯片訓(xùn)練的模型是最好的”。
人工智能發(fā)展多年,近年間的商業(yè)化進(jìn)程在加快,但“針對(duì)AI底層算力的研究更早?!迸j坑罡嬖V記者,對(duì)ChatGPT這類大模型的訓(xùn)練,包括商業(yè)巨頭和頭部的研發(fā)機(jī)構(gòu)都有持續(xù)在投入,像國(guó)內(nèi)的百度、智源、華為、阿里等,其投入規(guī)模至今應(yīng)該超百億,主要是數(shù)據(jù)、硬件和人才的持續(xù)投入,可預(yù)知的是還有很長(zhǎng)的路要走,大模型應(yīng)用正處于行業(yè)爆發(fā)的前夜,可以拭目以待。
芯片領(lǐng)域,“雖然英偉達(dá)占據(jù)先發(fā)優(yōu)勢(shì),但其他的廠商也在迎頭趕上?!迸j坑罘Q,像百度、寒武紀(jì)、燧原、壁仞、鯤云等都有高性能的AI算力產(chǎn)品推出,百度的paddlepaddle生態(tài)也在完善中,鯤云也通過(guò)多個(gè)垂直行業(yè)的規(guī)模落地積累了生態(tài)和應(yīng)用基礎(chǔ)。