時(shí)間:2024-02-01 16:11:26來源:
新一代AI基礎(chǔ)設(shè)施針對(duì)產(chǎn)業(yè)用戶,采用“大中心+節(jié)點(diǎn)”模式,構(gòu)建覆蓋整個(gè)區(qū)域的算力網(wǎng)絡(luò),通過建設(shè)和運(yùn)營聯(lián)動(dòng)推動(dòng)區(qū)域經(jīng)濟(jì)一體化和智能化發(fā)展。Model as a Service(MaaS)成為核心,通過云服務(wù)提供高效的大模型服務(wù),加速AI應(yīng)用部署周期,降低企業(yè)應(yīng)用大模型服務(wù)的成本,促進(jìn)AI與各行業(yè)的深度整合。
一、AI 新基建開啟“三浪變革”
2023年迎來“知識(shí)生產(chǎn)力變革”第一浪,以大語言模型為核心,實(shí)現(xiàn)知識(shí)工程的生產(chǎn)力變革,類似于中世紀(jì)的印刷革命。大語言模型具有超高速學(xué)習(xí)能力,可在人機(jī)協(xié)同模式下顯著提高知識(shí)學(xué)習(xí)、搜索、傳播速度和準(zhǔn)確性。
第二浪則是“軟件變革”,智能編程助手如商湯科技“代碼小浣熊”通過覆蓋軟件開發(fā)生命周期,實(shí)現(xiàn)超過50%開發(fā)效率提升。中國程序員數(shù)量居全球第二,中文成為最佳開發(fā)語言。大語言模型還支持多軟件串行、多模型協(xié)同組合,應(yīng)用于AI Agent、MoE架構(gòu)、綜合型智能客服等領(lǐng)域。新一代AI原生軟件應(yīng)用正在普及,青少年在新興AI軟件與MaaS模型化創(chuàng)新思維中成長(zhǎng)。
大語言模型智能編程助手,賦能軟件開發(fā)提效降本
第三浪是“AI計(jì)算變革”,隨著大語言模型規(guī)模不斷擴(kuò)大,AI算力需求呈指數(shù)級(jí)增長(zhǎng),對(duì)線性增長(zhǎng)的區(qū)域基礎(chǔ)設(shè)施提出挑戰(zhàn)。在此矛盾下,AI算力基礎(chǔ)設(shè)施正迎來技術(shù)工程創(chuàng)新,以不斷降低成本、提高效率。這使得AI成為賦能千行百業(yè)的通用型基礎(chǔ)設(shè)施,同時(shí)“百模大戰(zhàn)”演變?yōu)锳I產(chǎn)業(yè)專業(yè)化分工。根據(jù)AI Now的報(bào)告,大模型算力需求每1-2個(gè)月翻一番,呈現(xiàn)出超越傳統(tǒng)架構(gòu)的指數(shù)級(jí)增長(zhǎng)。由于“AI超級(jí)需求曲線”領(lǐng)先傳統(tǒng)架構(gòu)的AI算力供給,產(chǎn)生短期市場(chǎng)現(xiàn)象,如AI芯片產(chǎn)能瓶頸和價(jià)格上漲。未來,通過大規(guī)模智能基建資源的投入和技術(shù)創(chuàng)新,預(yù)計(jì)在未來3年解決大模型訓(xùn)練成本、GPU供應(yīng)、通訊瓶頸等核心挑戰(zhàn),從而降低AI計(jì)算整體成本,釋放全民生成智能應(yīng)用的創(chuàng)新潛力。
大模型算力的成本壓力
二、大模型、生成式 AI 推動(dòng) AI 2.0 時(shí)代到來
AI 2.0時(shí)代以生成式AI為主導(dǎo),不再局限于以往模式檢測(cè)和規(guī)則遵循,而是通過大模型訓(xùn)練實(shí)現(xiàn)類似人類創(chuàng)造過程,從而實(shí)現(xiàn)從“分類器”向“生成器”的本質(zhì)性變化。預(yù)測(cè)顯示,到2027年,生成式AI將占全球人工智能支出的42%,達(dá)到1800億美元,復(fù)合增長(zhǎng)率高達(dá)169.7%。大模型作為生成式AI發(fā)展基礎(chǔ),中國市場(chǎng)已發(fā)布超過300個(gè)大模型。企業(yè)對(duì)生成式AI的顛覆性潛力認(rèn)可度提高,Gartner預(yù)測(cè)到2026年,超過80%的企業(yè)將使用生成式AI的API或模型,或在生產(chǎn)環(huán)境中部署支持生成式AI應(yīng)用,相較于2023年初的不到5%比例有顯著提升。生成式AI正在由熱議走向?qū)嶋H應(yīng)用,其潛在的價(jià)值創(chuàng)造力巨大。據(jù)麥肯錫預(yù)測(cè),生成式AI有望為全球經(jīng)濟(jì)創(chuàng)造約7萬億美元的價(jià)值,提高AI的總體經(jīng)濟(jì)效益約50%,其中中國預(yù)計(jì)貢獻(xiàn)約2萬億美元,接近全球總量的1/3。
生成式 AI 驅(qū)動(dòng) AI 市場(chǎng)規(guī)?;l(fā)展,并帶來全新經(jīng)濟(jì)效益
1、生成式 AI 推進(jìn)產(chǎn)業(yè)規(guī)?;珹I 無處不在愿景加速實(shí)現(xiàn)
生成式AI迅速增長(zhǎng),企業(yè)從以往的點(diǎn)狀、創(chuàng)新應(yīng)用逐步過渡到在業(yè)務(wù)流程各環(huán)節(jié)部署生成式AI,以提升競(jìng)爭(zhēng)優(yōu)勢(shì)。據(jù)麥肯錫調(diào)研,1/3的企業(yè)表示其組織在至少一個(gè)業(yè)務(wù)職能中經(jīng)常使用生成式AI應(yīng)用。企業(yè)通過加強(qiáng)在生成式AI領(lǐng)域的投資來推動(dòng)這一實(shí)現(xiàn),企業(yè)在ICT領(lǐng)域投資正在調(diào)整,將更多預(yù)算投入到生成式AI領(lǐng)域,從中獲得客觀的收益。據(jù)IDC的調(diào)研,已有24%的中國企業(yè)在生成式AI上投資,69%的企業(yè)正在篩選潛在應(yīng)用場(chǎng)景或開始測(cè)試和概念驗(yàn)證。預(yù)計(jì)到2026年,40%的中國企業(yè)將掌握生成式AI的使用,共同開發(fā)數(shù)字產(chǎn)品和服務(wù),實(shí)現(xiàn)與競(jìng)爭(zhēng)對(duì)手相比兩倍的收入增長(zhǎng)。
各地區(qū)、行業(yè)和資歷級(jí)別的受訪者表示,他們已經(jīng)在使用生成式 AI
企業(yè)正在調(diào)整人工智能(AI)戰(zhàn)略,以適應(yīng)生成式AI的爆發(fā)式增長(zhǎng),使其覆蓋整個(gè)公司業(yè)務(wù)流程。在AI 1.0時(shí)代,企業(yè)通常制定長(zhǎng)遠(yuǎn)規(guī)劃,采用碎片化布局。然而,AI 2.0時(shí)代的生成式AI帶來日新月異的變化,企業(yè)戰(zhàn)略強(qiáng)調(diào)短期目標(biāo)、快速行動(dòng),并逐漸覆蓋關(guān)鍵業(yè)務(wù)。戰(zhàn)略的關(guān)鍵變化包括對(duì)用例的重新考慮,從以前的預(yù)測(cè)分析和自動(dòng)化應(yīng)用場(chǎng)景轉(zhuǎn)向內(nèi)容生成和創(chuàng)造。隨著生成式AI成為不可或缺的生產(chǎn)力工具,培訓(xùn)員工負(fù)責(zé)任地使用這些工具也成為關(guān)注的焦點(diǎn)。
AI 2.0 時(shí)代,企業(yè)需要重新制定 AI 戰(zhàn)略
通過擁抱生成式AI,企業(yè)實(shí)現(xiàn)與員工之間的協(xié)同創(chuàng)新。生成式AI擴(kuò)大人類專業(yè)知識(shí)、創(chuàng)造力和知識(shí)范圍,提高工作效率。最重要的是,生成式AI使得創(chuàng)新的可能性變得更為清晰,幫助人類在短時(shí)間內(nèi)探索更多解決方案可能性,并以最小化成本撬動(dòng)更多的價(jià)值。據(jù)Gartner預(yù)測(cè),到2026年,將有超過1億人與“機(jī)器人同事(合成虛擬同事)”協(xié)同工作。
2、產(chǎn)業(yè)鏈成熟分化,基礎(chǔ)設(shè)施成為 AI 產(chǎn)業(yè)發(fā)展基座和保障
企業(yè)積極采用大模型和生成式AI推動(dòng)AI應(yīng)用向產(chǎn)業(yè)深水區(qū)快速發(fā)展。面對(duì)多樣化的業(yè)務(wù)需求和標(biāo)準(zhǔn),AI產(chǎn)業(yè)鏈正迅速成熟和分化,上下游的產(chǎn)業(yè)角色和環(huán)節(jié)不斷增加,需要新型基礎(chǔ)設(shè)施來更好地支持這一發(fā)展。其中的關(guān)鍵影響包括:
1)智能算力成為AI產(chǎn)業(yè)發(fā)展的核心支持要素
企業(yè)傾向于使用AI就緒的數(shù)據(jù)中心或GPU集群進(jìn)行大模型訓(xùn)練,以縮短部署時(shí)間并降低設(shè)施的長(zhǎng)期投資成本。智能算力適用于大模型訓(xùn)練,已成為推動(dòng)算力增長(zhǎng)的主要?jiǎng)恿Α8鶕?jù)IDC的預(yù)測(cè),中國智能算力規(guī)模到2027年預(yù)計(jì)將達(dá)到1117.4 EFLOPS。在2022年到2027年的期間,中國的智能算力規(guī)模年復(fù)合增長(zhǎng)率為33.9%,而同期通用算力規(guī)模的年復(fù)合增長(zhǎng)率為16.6%。
中國智能算力規(guī)模及預(yù)測(cè),2020-2027,基于 FP16 計(jì)算,EFLOPS
2)人工智能生產(chǎn)范式轉(zhuǎn)向以大模型為核心的開發(fā)路徑
在AI 1.0時(shí)代,AI應(yīng)用開發(fā)主要通過精細(xì)而復(fù)雜的編碼來表達(dá)邏輯,隨著業(yè)務(wù)場(chǎng)景從通用發(fā)展到碎片化,這種模式變得昂貴且面臨準(zhǔn)確性挑戰(zhàn),制約了AI產(chǎn)業(yè)發(fā)展。而在AI 2.0時(shí)代,基于強(qiáng)化學(xué)習(xí)和基模型與人工反饋相結(jié)合,AI應(yīng)用開發(fā)進(jìn)入規(guī)模化階段。通過微調(diào)基模型以適應(yīng)業(yè)務(wù)邏輯,輔以提示詞工程,可以更迅速、低成本、高精度地覆蓋更廣泛的業(yè)務(wù)場(chǎng)景,使AI產(chǎn)業(yè)迎來一個(gè)高速發(fā)展、無處不在的新時(shí)代。
AI 2.0 時(shí)代,人工智能的生產(chǎn)范式發(fā)生了根本性改變
3)作為新的生產(chǎn)力工具,生成式 AI 應(yīng)用發(fā)展進(jìn)入大航海時(shí)代
隨著基模型的迅速成熟,生成式AI應(yīng)用迎來爆發(fā)性增長(zhǎng)。最初以ChatGPT、Midjourney等為代表的文本和圖像應(yīng)用迅速擴(kuò)展了用戶群。接著,音頻生成、視頻生成、多模態(tài)生成等應(yīng)用以及面向不同行業(yè)和用戶群體的工具類應(yīng)用(如代碼生成、Copilot、數(shù)字人、營銷工具、聊天助手等)紛紛涌現(xiàn)。到2023年11月OpenAI推出GPTs并計(jì)劃推出GPT Store,使用戶能夠無需編碼,結(jié)合自身指令、外部知識(shí)和能力創(chuàng)建定制版本的應(yīng)用。這種個(gè)性化的開發(fā)模式以及清晰的商業(yè)化計(jì)劃,將生成式AI應(yīng)用的主導(dǎo)地位從少數(shù)AI廠商擴(kuò)展到大量AI開發(fā)者。
AI 2.0 時(shí)代,人工智能產(chǎn)業(yè)迎來更加繁榮的“大航海時(shí)代”
三、AI 2.0 時(shí)代對(duì) AI 基礎(chǔ)設(shè)施提出了全新要求
進(jìn)入 AI 2.0 時(shí)代,傳統(tǒng)針對(duì)移動(dòng)互聯(lián)時(shí)代應(yīng)用、以 CPU為中心的云計(jì)算基礎(chǔ)設(shè)施,無法滿足大模型訓(xùn)練、生成式 AI 應(yīng)用爆發(fā)所帶來的挑戰(zhàn),這些新的挑戰(zhàn)對(duì) AI 基礎(chǔ)設(shè)施的關(guān)鍵環(huán)節(jié)都提出全新的要求,包括算力、算法平臺(tái)、數(shù)據(jù),以及圍繞三個(gè)環(huán)節(jié)的工程系統(tǒng)建設(shè)。
1、傳統(tǒng)計(jì)算基礎(chǔ)設(shè)施無法滿足大模型、生成式 AI 的新要求
大模型訓(xùn)練和生成式AI應(yīng)用對(duì)GPU或異構(gòu)計(jì)算的需求大幅增加,傳統(tǒng)CPU算力已無法滿足。這不僅對(duì)GPU集群計(jì)算效率和穩(wěn)定性提出多方面要求,而且算力不再是簡(jiǎn)單的堆砌,而是需要進(jìn)行復(fù)雜的系統(tǒng)性工程優(yōu)化。同時(shí)面臨龐大的投資壓力,如何在保持系統(tǒng)穩(wěn)定性和高效率之間取得平衡成為一個(gè)關(guān)鍵問題。
1)以GPU為核心的AI算力需求爆發(fā)性增長(zhǎng)
以O(shè)penAI GPT-3為例,訓(xùn)練一次1750億參數(shù)的模型大約需要3640PFlops-day的算力,使用1024塊A100(GPU)進(jìn)行34天的訓(xùn)練。隨著模型參數(shù)的不斷增加,大模型訓(xùn)練需求呈持續(xù)遞增的趨勢(shì)。過去四年大模型參數(shù)年均復(fù)合增長(zhǎng)約為400%,相應(yīng)的AI算力需求增長(zhǎng)超過15萬倍,遠(yuǎn)超摩爾定律的增速。例如,GPT-4的參數(shù)量大約是GPT-3的500倍,需要使用約2萬至3萬張A100(GPU),并花費(fèi)大約一個(gè)月的時(shí)間進(jìn)行訓(xùn)練。除大模型訓(xùn)練,生成式AI應(yīng)用的高并發(fā)推理也將進(jìn)一步推高算力需求,未來可能遠(yuǎn)遠(yuǎn)超過訓(xùn)練階段的算力需求。
AI 算力需求呈指數(shù)級(jí)增長(zhǎng),用以滿足大模型開發(fā)和實(shí)踐
2)高性能和高效率成為算力基礎(chǔ)設(shè)施的關(guān)鍵
為更好支持大模型訓(xùn)練,采用多機(jī)多卡構(gòu)成大集群進(jìn)行分布式訓(xùn)練成為不可或缺的選擇。然而大集群并非等同于大算力。分布式訓(xùn)練中,由于網(wǎng)絡(luò)通信或數(shù)據(jù)緩存等問題,效率下降成為一個(gè)普遍挑戰(zhàn)。特別是在千億至萬億參數(shù)規(guī)模的大模型中,通信時(shí)間可能占比高達(dá)50%,互聯(lián)不暢將影響大模型訓(xùn)練效率,制約算力集群的進(jìn)一步擴(kuò)展。因此,要求集群必須擁有高速互聯(lián)的網(wǎng)絡(luò)連接且網(wǎng)絡(luò)基礎(chǔ)設(shè)施需具備高度可靠性。在并行訓(xùn)練中,網(wǎng)絡(luò)堵塞可能由于負(fù)載不均勻而成為系統(tǒng)短板,影響數(shù)十個(gè)甚至全部GPU節(jié)點(diǎn)的信息同步。此外,大模型訓(xùn)練時(shí)通常通過Checkpoint保存模型參數(shù),以實(shí)現(xiàn)連續(xù)性。然而,在傳統(tǒng)訓(xùn)練方式下,當(dāng)模型參數(shù)數(shù)量較大時(shí),Checkpoint寫入時(shí)間會(huì)變得較長(zhǎng),降低GPU利用率。以GPT-3模型為例,文件系統(tǒng)寫入速度為15GB/s時(shí),一次Checkpoint需時(shí)2.5分鐘,造成相應(yīng)資源浪費(fèi)。因此,支持大模型訓(xùn)練的算力資源,不僅需要在集群硬件層面提升,還需要結(jié)合軟件層面進(jìn)行優(yōu)化設(shè)計(jì)。
大模型訓(xùn)練任務(wù)的穩(wěn)定性,隨著訓(xùn)練集群規(guī)模的擴(kuò)張而遞減
3)獨(dú)占式、大規(guī)模、長(zhǎng)時(shí)間訓(xùn)練對(duì) GPU 集群穩(wěn)定性提出更高要求
大模型訓(xùn)練在龐大GPU集群上需要較長(zhǎng)時(shí)間,若單個(gè)節(jié)點(diǎn)發(fā)生故障,整個(gè)訓(xùn)練會(huì)中斷,而故障的原因和位置難以迅速確定。以Meta的OPT-17B訓(xùn)練為例,理論上在1,000個(gè)80G A100上訓(xùn)練3,000億個(gè)單詞需要33天,實(shí)際訓(xùn)練卻用90天,期間發(fā)生112次故障,主要是硬件故障,導(dǎo)致手動(dòng)重啟35次,自動(dòng)重啟約70次。節(jié)點(diǎn)故障不僅延長(zhǎng)訓(xùn)練時(shí)間,也帶來算力資源的浪費(fèi)。因此,保證集群訓(xùn)練的穩(wěn)定性至關(guān)重要,對(duì)集群建設(shè)提出更高的要求。這包括集群是否具備實(shí)時(shí)監(jiān)測(cè)故障、斷點(diǎn)續(xù)訓(xùn)、故障節(jié)點(diǎn)自動(dòng)隔離等能力,以及在故障發(fā)生時(shí)是否能夠快速定位和迅速恢復(fù)。
2、數(shù)據(jù)質(zhì)量和效率決定大模型的高質(zhì)量發(fā)展之路
大模型性能和價(jià)值觀取決于高質(zhì)量數(shù)據(jù),但數(shù)據(jù)獲取、清洗、標(biāo)注等工作面臨更大挑戰(zhàn),需要更高效的AI數(shù)據(jù)管理流程以滿足大模型時(shí)代新需求。此外,大模型訓(xùn)練和應(yīng)用可能涉及用戶隱私和敏感數(shù)據(jù),因此需要有效的數(shù)據(jù)治理手段來保障隱私和數(shù)據(jù)安全。
構(gòu)建性能強(qiáng)大且價(jià)值對(duì)齊的大模型至關(guān)重要,而數(shù)據(jù)質(zhì)量和效率是關(guān)鍵因素。由于不同來源的數(shù)據(jù)質(zhì)量差異較大,包括重復(fù)、無效、虛假或敏感數(shù)據(jù),這些問題會(huì)直接影響模型性能和產(chǎn)生的價(jià)值。為保障數(shù)據(jù)質(zhì)量和價(jià)值對(duì)齊,需要對(duì)原始數(shù)據(jù)進(jìn)行清洗、標(biāo)注等預(yù)處理工作。傳統(tǒng)的“作坊式”數(shù)據(jù)處理方式已無法滿足大模型時(shí)代的需求,因此需要打造高效的“智能化數(shù)據(jù)處理流水線”以彌補(bǔ)傳統(tǒng)方式的高成本和低效率。
隨著生成式AI的使用,企業(yè)面臨更為突出的用戶隱私和數(shù)據(jù)安全問題。上傳企業(yè)代碼庫或以往營銷數(shù)據(jù)等操作可能涉及用戶隱私和企業(yè)核心機(jī)密,若不妥善保護(hù)可能導(dǎo)致嚴(yán)重?cái)?shù)據(jù)泄露,對(duì)用戶和企業(yè)造成不可逆的損害。在大模型訓(xùn)練和交互過程中,如何高效進(jìn)行數(shù)據(jù)治理,隔離和保護(hù)上傳數(shù)據(jù),成為亟需解決的問題。用戶選擇AI軟件供應(yīng)商時(shí),數(shù)據(jù)安全性是至關(guān)重要的參考指標(biāo)。
3、大模型需要全新的 AI 平臺(tái)服務(wù)模式
大模型應(yīng)用能夠幫助企業(yè)更高效率的實(shí)現(xiàn)商業(yè)目標(biāo),但對(duì)于絕大多數(shù)企業(yè)而言,自研大模型成本高且模型設(shè)計(jì)、訓(xùn)練、調(diào)優(yōu)等環(huán)節(jié)對(duì)開發(fā)人員專業(yè)能力要求較高。MaaS(Model as a Service大模型即服務(wù))代表著一種全新的 AI云服務(wù)范式,其將大模型作為 AI 基礎(chǔ)設(shè)施的核心組成,以云服務(wù)方式提供給開發(fā)人員和企業(yè)進(jìn)行更高效的工業(yè)化開發(fā)。目前,包括微軟、華為、百度、商湯等廠商均推出 MaaS 服務(wù)。
MaaS 平臺(tái)幫助企業(yè)更好的調(diào)用大模型能力
MaaS極大地加速了AI應(yīng)用開發(fā)過程,提高創(chuàng)新迭代速度。該平臺(tái)將預(yù)訓(xùn)練好的大模型與開發(fā)工具、數(shù)據(jù)管理等功能封裝在一起,使企業(yè)能夠在不從零開始自建大模型的情況下,迅速調(diào)用AI功能,縮短了新產(chǎn)品、新服務(wù)、新模式上線的時(shí)間,加速創(chuàng)新的迭代速度,提升企業(yè)的市場(chǎng)競(jìng)爭(zhēng)力。
此外,MaaS降低企業(yè)的成本投入,推動(dòng)AI與各行各業(yè)的深度融合。在AI 1.0時(shí)代,小模型的應(yīng)用受限且開發(fā)成本高,AI在傳統(tǒng)行業(yè)的滲透率僅為4%。而大模型時(shí)代采用“基礎(chǔ)大模型+微調(diào)”的方法提高了場(chǎng)景適用性,同時(shí)MaaS模式降低了AI開發(fā)的成本和專業(yè)門檻,促使企業(yè)更積極地推進(jìn)與業(yè)務(wù)相結(jié)合的AI創(chuàng)新,推動(dòng)AI與行業(yè)的深度融合,提高了行業(yè)AI應(yīng)用的滲透率。
此服務(wù)模式還促進(jìn)了大模型生態(tài)體系的建立,推動(dòng)大模型應(yīng)用規(guī)?;涞亍aaS主要由技術(shù)實(shí)力強(qiáng)、AI專家資源豐富的廠商提供,通過平臺(tái)的開放性和開源社區(qū)的參與,吸引更多企業(yè)和開發(fā)者參與,形成多元化的大模型應(yīng)用開發(fā)生態(tài),以滿足更廣泛、更細(xì)分場(chǎng)景的AI需求,從而推動(dòng)應(yīng)用規(guī)模化的實(shí)現(xiàn)。
四、新一代 AI 基礎(chǔ)設(shè)施的定義、特點(diǎn)和價(jià)值
AI 2.0時(shí)代需要重新構(gòu)思基礎(chǔ)設(shè)施,以更精細(xì)化的設(shè)計(jì)和重構(gòu)來支持大模型的訓(xùn)練與推理,以及生成式AI應(yīng)用的規(guī)?;涞?。這一新一代AI基礎(chǔ)設(shè)施將以大模型能力輸出為核心平臺(tái),綜合整合算力資源、數(shù)據(jù)服務(wù)和云服務(wù),專注于最大程度提升大模型和生成式AI應(yīng)用的性能。其關(guān)鍵要素包括數(shù)據(jù)準(zhǔn)備與管理、大模型訓(xùn)練、推理、模型能力調(diào)用以及生成式AI應(yīng)用的部署。企業(yè)可以通過利用新一代AI基礎(chǔ)設(shè)施來開發(fā)和運(yùn)行生成式AI業(yè)務(wù)和客戶應(yīng)用程序,同時(shí)進(jìn)行基模型和行業(yè)模型的訓(xùn)練與微調(diào)。
新一代 AI 基礎(chǔ)設(shè)施主要由算力、MaaS 及相關(guān)工具構(gòu)成
在實(shí)際應(yīng)用中,廠商會(huì)提供圍繞大模型開發(fā)實(shí)踐的咨詢類服務(wù),以解決用戶在訓(xùn)練和使用大模型時(shí)面臨的技術(shù)問題。算力基礎(chǔ)設(shè)施方面,為大模型訓(xùn)練和推理提供全面的計(jì)算、存儲(chǔ)等產(chǎn)品及服務(wù),具有“大算力、高協(xié)同、強(qiáng)擴(kuò)展”的基本特性。這包括由高性能異構(gòu)集群組成的算力底座,具備高互聯(lián)的計(jì)算網(wǎng)絡(luò)、高性能的文件存儲(chǔ)和大規(guī)模的AI算力資源,以及具備強(qiáng)大的線性擴(kuò)展能力,提供彈性靈活的云原生服務(wù)。
MaaS平臺(tái)層為大模型應(yīng)用提供完整的服務(wù)和工具鏈體系,包括基礎(chǔ)大模型庫、大模型生產(chǎn)平臺(tái)、數(shù)據(jù)管理平臺(tái)、應(yīng)用程序開發(fā)等。MaaS平臺(tái)層可以提供預(yù)構(gòu)建的基礎(chǔ)大模型及API,一站式大模型開發(fā)工具及服務(wù),AI原生應(yīng)用開發(fā)工具,以及預(yù)構(gòu)建的高質(zhì)量數(shù)據(jù)集及AI數(shù)據(jù)管理服務(wù),以滿足用戶在不同業(yè)務(wù)場(chǎng)景下的需求。這有助于降低客戶使用成本,加速大模型在不同行業(yè)領(lǐng)域的快速落地。
1、新一代 AI 基礎(chǔ)設(shè)施的主要特點(diǎn)
1)新一代 AI 基礎(chǔ)設(shè)施不是傳統(tǒng)云的 AI 化,兩者具有明顯定位和發(fā)展路徑的差別。新一代 AI 基礎(chǔ)設(shè)施主要面向產(chǎn)業(yè)用戶,為超大模型研發(fā)訓(xùn)練、區(qū)域行業(yè)及應(yīng)用孵化創(chuàng)新提供 AI 基座,并跟隨產(chǎn)業(yè)區(qū)域落地向周邊輻射,通過可持續(xù)運(yùn)營帶動(dòng)區(qū)域經(jīng)濟(jì)智能化發(fā)展。
新一代 AI 基礎(chǔ)設(shè)施面對(duì)的是不同于傳統(tǒng)云的業(yè)務(wù)要求
智算中心以“建運(yùn)一體”的方式,充分發(fā)揮基礎(chǔ)設(shè)施效益,不僅是AI基礎(chǔ)設(shè)施物理載體,更是集公共算力服務(wù)、數(shù)據(jù)開放共享、智能生態(tài)建設(shè)和產(chǎn)業(yè)創(chuàng)新聚集的綜合服務(wù)平臺(tái)。智算中心建設(shè)不僅要注重在產(chǎn)業(yè)生態(tài)為導(dǎo)向的規(guī)劃下進(jìn)行,還需要強(qiáng)調(diào)對(duì)區(qū)域產(chǎn)業(yè)、科研等應(yīng)用場(chǎng)景的支撐。選擇合理的建設(shè)和運(yùn)營模式,并在建成后實(shí)現(xiàn)可持續(xù)運(yùn)營,有助于幫助當(dāng)?shù)馗玫叵懔Y源,促進(jìn)智能產(chǎn)業(yè)生態(tài)發(fā)展和AI人才培養(yǎng)。
在AI算力網(wǎng)絡(luò)布局上,采用“大中心+節(jié)點(diǎn)”模式,構(gòu)建跨地域互補(bǔ)、協(xié)同調(diào)度的超大規(guī)模AI算力網(wǎng)絡(luò)。通過“大中心”布局低成本大規(guī)模算力集群,滿足萬億參數(shù)模型訓(xùn)練與部署的需求;同時(shí),在產(chǎn)業(yè)基礎(chǔ)好的區(qū)域落地算力節(jié)點(diǎn),以滿足產(chǎn)業(yè)訓(xùn)練和推理一體的算力需求。通過節(jié)點(diǎn)布局與大中心的聯(lián)動(dòng)擴(kuò)展,實(shí)現(xiàn)跨地域支撐訓(xùn)推算力協(xié)同調(diào)度。
2、新一代 AI 基礎(chǔ)設(shè)施創(chuàng)造社會(huì)價(jià)值
新一代 AI 基礎(chǔ)設(shè)施降低大模型開發(fā)和應(yīng)用的門檻,在政企服務(wù)、產(chǎn)業(yè)和科研創(chuàng)新等方面創(chuàng)造更大的社會(huì)價(jià)值。具體來看包括三方面:
新一代 AI 基礎(chǔ)設(shè)施賦能政務(wù)、產(chǎn)業(yè)和科研創(chuàng)新價(jià)值
1)政務(wù)智能化提升
“一模通辦”為政務(wù)服務(wù)注入大模型能力。通過整合分散的政務(wù)應(yīng)用,使用性能強(qiáng)大、底座統(tǒng)一的大模型,實(shí)現(xiàn)“一模通辦”以提升地方政府治理能力。這推動(dòng)了各類智能惠企和便民服務(wù)的高效實(shí)施,使企業(yè)和市民更輕松地享受城市公共服務(wù)。政務(wù)大模型在處理海量政務(wù)數(shù)據(jù)時(shí)能夠迅速洞察熱點(diǎn)事件,分析政策落地情況,為政策的制定和實(shí)施提供支持,從而提升社會(huì)治理水平。另外,統(tǒng)一的便民咨詢窗口通過政務(wù)大模型能夠準(zhǔn)確快速地識(shí)別市民需求,提高政務(wù)服務(wù)效率。
2)產(chǎn)業(yè)創(chuàng)新激發(fā)
“大模型+MaaS”模式助力區(qū)域智能化。利用大模型激發(fā)區(qū)域產(chǎn)業(yè)創(chuàng)新,加速傳統(tǒng)產(chǎn)業(yè)智能化轉(zhuǎn)型。例如,在農(nóng)業(yè)領(lǐng)域,結(jié)合遙感農(nóng)業(yè)大模型實(shí)現(xiàn)農(nóng)業(yè)技術(shù)的升級(jí)和推廣。同時(shí),AI基礎(chǔ)設(shè)施賦能工業(yè)大模型的研發(fā)和應(yīng)用,實(shí)現(xiàn)工業(yè)AI的規(guī)模生產(chǎn)。
3)科學(xué)研究賦能
“AI for Science”新范式推動(dòng)科學(xué)發(fā)展。大模型技術(shù)在科學(xué)研究領(lǐng)域帶來重大突破,如在生物計(jì)算領(lǐng)域的AlphaFold2覆蓋98.5%的人類蛋白質(zhì)組,以及全球中期天氣預(yù)報(bào)大模型“風(fēng)烏”首次實(shí)現(xiàn)在高分辨率上對(duì)核心大氣變量進(jìn)行超過10天的有效預(yù)報(bào)。大模型對(duì)原子運(yùn)動(dòng)、醫(yī)學(xué)圖像、天文圖像等進(jìn)行預(yù)測(cè)和模擬,加速科學(xué)實(shí)驗(yàn)的自動(dòng)化和智能化,推動(dòng)科學(xué)研究的新范式“AI for Science”取得更多突破。
中國傳動(dòng)網(wǎng)版權(quán)與免責(zé)聲明:凡本網(wǎng)注明[來源:中國傳動(dòng)網(wǎng)]的所有文字、圖片、音視和視頻文件,版權(quán)均為中國傳動(dòng)網(wǎng)(m.u63ivq3.com)獨(dú)家所有。如需轉(zhuǎn)載請(qǐng)與0755-82949061聯(lián)系。任何媒體、網(wǎng)站或個(gè)人轉(zhuǎn)載使用時(shí)須注明來源“中國傳動(dòng)網(wǎng)”,違反者本網(wǎng)將追究其法律責(zé)任。
本網(wǎng)轉(zhuǎn)載并注明其他來源的稿件,均來自互聯(lián)網(wǎng)或業(yè)內(nèi)投稿人士,版權(quán)屬于原版權(quán)人。轉(zhuǎn)載請(qǐng)保留稿件來源及作者,禁止擅自篡改,違者自負(fù)版權(quán)法律責(zé)任。
產(chǎn)品新聞
更多>以簡(jiǎn)驅(qū)繁,精準(zhǔn)智控 | 維智S1系列新一代...
2024-11-01
新品發(fā)布:CD300系列總線型伺服驅(qū)動(dòng)器
2024-10-31
2024-10-31
2024-10-31
新勢(shì)能 新期待|維智B1L直線伺服驅(qū)動(dòng)器
2024-10-31
纖薄之間,化繁為簡(jiǎn)|合信全新simple系...
2024-10-29
推薦專題
更多>