【中國傳動(dòng)網(wǎng) 市場(chǎng)分析】 人工智能應(yīng)用的蓬勃發(fā)展對(duì)算力提出了非常迫切的要求。由于摩爾定律已經(jīng)失效，定制計(jì)算將成為主流方向，因而新型的AI芯片開始層出不窮，競(jìng)爭也日趨白熱。參與這一競(jìng)爭的不光是傳統(tǒng)的半導(dǎo)體芯片廠商，大型的互聯(lián)網(wǎng)和終端設(shè)備企業(yè)依托于自身龐大的應(yīng)用規(guī)模，直接從自身業(yè)務(wù)需求出發(fā)，參與到AI芯片的開發(fā)行列。這其中以英偉達(dá)為代表的GPU方案已經(jīng)形成規(guī)模龐大的生態(tài)體系，谷歌的TPU則形成了互聯(lián)網(wǎng)定義AI芯片的標(biāo)桿，其余各家依托各自需求和優(yōu)勢(shì)，提出了多類解決方案。本文將簡要梳理目前各家技術(shù)進(jìn)展?fàn)顟B(tài)，結(jié)合人工智能應(yīng)用的發(fā)展趨勢(shì)，對(duì)影響AI芯片未來發(fā)展趨勢(shì)的主要因素做出一個(gè)粗淺探討。

AI計(jì)算芯片現(xiàn)狀

目前AI芯片領(lǐng)域主要的供應(yīng)商仍然是英偉達(dá)，英偉達(dá)保持了極大的投入力度，快速提高GPU的核心性能，增加新型功能，保持了在AI訓(xùn)練市場(chǎng)的霸主地位，并積極拓展嵌入式產(chǎn)品形態(tài)，推出Xavier系列。互聯(lián)網(wǎng)領(lǐng)域，谷歌推出TPU3.0，峰值性能達(dá)到100pflops，保持了專用加速處理器的領(lǐng)先地位。同時(shí)華為、百度、阿里、騰訊依托其龐大應(yīng)用生態(tài)，開始正式入場(chǎng)，相繼發(fā)布其產(chǎn)品和路線圖。此外，F(xiàn)PGA技術(shù)，因其低延遲、計(jì)算架構(gòu)靈活可定制，正在受到越來越多的關(guān)注，微軟持續(xù)推進(jìn)在其數(shù)據(jù)中心部署FPGA，Xilinx和Intel倆家不約而同把FPGA未來市場(chǎng)中心放到數(shù)據(jù)中心市場(chǎng)。Xilinx更是推出了劃時(shí)代的ACAP，第一次將其產(chǎn)品定位到超越FPGA的范疇。相較云端高性能AI芯片，面向物聯(lián)網(wǎng)的AI專用芯片門檻要低很多，因此也吸引了眾多小體量公司參與。

▌NVIDIA：Xavier

2018年1月，英偉達(dá)發(fā)布了首個(gè)自動(dòng)駕駛處理器——Xavier。這款芯片具有非常復(fù)雜的結(jié)構(gòu)，內(nèi)置六種處理器，超過90億個(gè)晶體管，可以處理海量數(shù)據(jù)。Xavier的GMSL（千兆多媒體串行鏈路）高速IO將其與迄今為止最大陣列的激光雷達(dá)、雷達(dá)和攝像頭傳感器連接起來。

2018年3月，NVIDIA發(fā)布首款2-petaFLOPS系統(tǒng)——DGX-2。它整合了16個(gè)完全互聯(lián)的GPU，使深度學(xué)習(xí)性能提升10倍。有了DGX-2，模型的復(fù)雜性和規(guī)模不再受傳統(tǒng)架構(gòu)限制的約束。與傳統(tǒng)的x85架構(gòu)相比，DGX-2訓(xùn)練ResNet-50的性能相當(dāng)于300臺(tái)配備雙英特爾至強(qiáng)GoldCPU服務(wù)器的性能，后者的成本超過270美元。

自2016年首次發(fā)布TPU以來，Google持續(xù)推進(jìn)，2017年發(fā)布TPU2.0，2018年3月GoogleI/O大會(huì)推出TPU3.0。其每個(gè)pod的機(jī)架數(shù)量是TPU2.0的兩倍；每個(gè)機(jī)架的云TPU數(shù)量是原來的兩倍。據(jù)官方數(shù)據(jù)，TPU3.0的性能可能是TPU2.0的八倍，高達(dá)100petaflops。

圖：TPU1&2&3參數(shù)對(duì)比圖

2018年10月，華為正式發(fā)布兩款A(yù)I芯片：昇騰910和昇騰310。預(yù)計(jì)下一年第二季度正式上市。華為昇騰910采用7nm工藝，達(dá)芬奇架構(gòu)，半精度（FP16）可達(dá)256TeraFLOPS，整數(shù)精度（INT8）可達(dá)512TeraOPS，自帶128通道全高清視頻解碼器H.264/265，最大功耗350W。華為昇騰310采用12nmFFC工藝，達(dá)芬奇架構(gòu)，半精度（FP16）可達(dá)8TeraFLOPS，整數(shù)精度（INT8）可達(dá)16TeraOPS，自帶16通道全高清視頻解碼器H.264/265，最大功耗8W。

2018年5月，寒武紀(jì)推出第一款智能處理板卡——MLU100。搭載了寒武紀(jì)MLU100芯片，為云端推理提供強(qiáng)大的運(yùn)算能力支撐。等效理論計(jì)算能力高達(dá)128TOPS，支持4通道64bitECCDDR4內(nèi)存，并支持多種容量。1M是第三代機(jī)器學(xué)習(xí)專用芯片，使用TSMC7nm工藝生產(chǎn)，其8位運(yùn)算效能比達(dá)5Tops/watt（每瓦5萬億次運(yùn)算）。寒武紀(jì)1M處理器延續(xù)了前兩代IP產(chǎn)品（1H/1A）的完備性，可支持CNN、RNN、SOM等多種深度學(xué)習(xí)模型，此次又進(jìn)一步支持了SVM、K-NN、K-Means、決策樹等經(jīng)典機(jī)器學(xué)習(xí)算法的加速。這款芯片支持幫助終端設(shè)備進(jìn)行本地訓(xùn)練，可為視覺、語音、自然語言處理等任務(wù)提供高效計(jì)算平臺(tái)。

2017年12月，地平線自主設(shè)計(jì)研發(fā)了中國首款嵌入式人工智能視覺芯片——旭日1.0和征程1.0。旭日1.0是面向智能攝像頭的處理器，具備在前端實(shí)現(xiàn)大規(guī)模人臉檢測(cè)跟蹤、視頻結(jié)構(gòu)化的處理能力，可廣泛用于智能城市、智能商業(yè)等場(chǎng)景。征程1.0是面向自動(dòng)駕駛的處理器，可同時(shí)對(duì)行人、機(jī)動(dòng)車、非機(jī)動(dòng)車、車道線交通標(biāo)識(shí)等多類目標(biāo)進(jìn)行精準(zhǔn)的實(shí)時(shí)監(jiān)測(cè)和識(shí)別，實(shí)現(xiàn)FCW/LDW/JACC等高級(jí)別輔助駕駛功能。

2018年10月，比特大陸正式發(fā)布邊緣計(jì)算人工智能芯片BM1880，可提供1TOPS@INT8算力。推出面向深度學(xué)習(xí)領(lǐng)域的第二代張量計(jì)算處理器BM1682，峰值性能達(dá)3TFLOPSFP32。

BM1682的算豐智能服務(wù)器SA3、嵌入式AI迷你機(jī)SE3、3D人臉識(shí)別智能終端以及基于BM1880的開發(fā)板、AI模塊、算力棒等產(chǎn)品。BM1682芯片量產(chǎn)發(fā)布，峰值算力達(dá)到3TFlops，功耗為30W。

2018年7月，百度AI開發(fā)者大會(huì)上李彥宏正式宣布研發(fā)AI芯片——昆侖。這款A(yù)I芯片適合對(duì)AI、深度學(xué)習(xí)有需求的廠商、機(jī)構(gòu)等。借助著昆侖AI芯片強(qiáng)勁的運(yùn)算性能，未來有望應(yīng)用到無人駕駛、圖像識(shí)別等場(chǎng)景中去。

▌阿里：研發(fā)Ali-NPU、成立平頭哥半導(dǎo)體芯片公司

2018年4月，阿里巴巴達(dá)摩院宣布正在研發(fā)的一款神經(jīng)網(wǎng)絡(luò)芯片——Ali-NPU。其主要用途是圖像視頻分析、機(jī)器學(xué)習(xí)等AI推理計(jì)算。9月，在云棲大會(huì)上，阿里巴巴正式宣布合并中天微達(dá)摩院團(tuán)隊(duì)，成立平頭哥半導(dǎo)體芯片公司。

▌Xilinx：ACAP、收購深鑒科技

2018年3月，賽靈思宣布推出一款超越FPGA功能的新產(chǎn)品——ACAP（自適應(yīng)計(jì)算加速平臺(tái)）。其核心是新一代的FPGA架構(gòu)。10月，發(fā)布最新基于7nm工藝的ACAP平臺(tái)的第一款處理器——Versal。其使用多種計(jì)算加速技術(shù)，可以為任何應(yīng)用程序提供強(qiáng)大的異構(gòu)加速。VersalPrime系列和VersalAICore系列產(chǎn)品也將于2019年推出。

2018年7月，賽靈思宣布收購深鑒科技。

AI芯片發(fā)展面臨的矛盾、問題、挑戰(zhàn)

目前AI芯片發(fā)展面臨4大矛盾：圍繞這些矛盾，需要解決大量相關(guān)問題和挑戰(zhàn)。

▌大型云服務(wù)商與AI芯片提供商的矛盾

技術(shù)路線上，面向通用市場(chǎng)的英偉達(dá)持續(xù)推進(jìn)GPU技術(shù)發(fā)展，但是大型云服務(wù)商也不愿陷入被動(dòng)，結(jié)合自身規(guī)模龐大的應(yīng)用需求，比較容易定義一款適合的AI芯片，相應(yīng)的應(yīng)用打磨也比較好解決。同時(shí)，新的芯片平臺(tái)都會(huì)帶來生態(tài)系統(tǒng)的分裂。但是對(duì)于普通用戶，競(jìng)爭會(huì)帶來價(jià)格上的好處。由于AI算力需求飛速提升，短期內(nèi)AI芯片市場(chǎng)還會(huì)進(jìn)一步多樣化。

▌中美矛盾

中國依托于龐大市場(chǎng)規(guī)模，以及AI應(yīng)用技術(shù)的大力投資，非常有機(jī)會(huì)在AI相關(guān)領(lǐng)域取得突破。但是受到《瓦森那協(xié)議》以及近期中美貿(mào)易戰(zhàn)等因素影響，中美在集成電路產(chǎn)業(yè)層面展開了激烈的競(jìng)爭。AI芯片有機(jī)會(huì)為中國帶來破局的機(jī)會(huì)，因此后期可以預(yù)期，國內(nèi)會(huì)有更多的資金投入到AI芯片領(lǐng)域。

▌專用與通用間的矛盾

云端市場(chǎng)由于各大巨頭高度壟斷，會(huì)形成多個(gè)相對(duì)封閉的AI芯片方案。而邊緣端市場(chǎng)由于高度分散，局部市場(chǎng)難以形成完整的技術(shù)生態(tài)體系，生態(tài)建設(shè)會(huì)圍繞主流核心技術(shù)拓展，包括ARM、Risc-V、NVDLA等。各大掌握核心技術(shù)的廠商，也會(huì)迎合這一趨勢(shì)，盡可能占領(lǐng)更大的生態(tài)份額，積極開放技術(shù)給中小企業(yè)開發(fā)各類AI芯片。

▌AI芯片創(chuàng)新與設(shè)計(jì)工具及生態(tài)之間的矛盾

以FPGA為例，學(xué)界和業(yè)界仍然沒有開創(chuàng)性的方法簡化FPGA的開發(fā)，這是現(xiàn)階段制約FPGA廣泛使用的最大障礙。和CPU或GPU成熟的編程模型和豐富的工具鏈相比，高性能的FPGA設(shè)計(jì)仍然大部分依靠硬件工程師編寫RTL模型實(shí)現(xiàn)。RTL語言的抽象度很低，往往是對(duì)硬件電路進(jìn)行直接描述，這樣，一方面需要工程師擁有很高的硬件專業(yè)知識(shí)，另一方面在開發(fā)復(fù)雜的算法時(shí)會(huì)有更久的迭代周期。因此，F(xiàn)PGA標(biāo)榜的可編程能力與其復(fù)雜的編程模型之間，形成了鮮明的矛盾。近五到十年來，高層次綜合（HighLevelSynthesis-HLS）一直是FPGA學(xué)術(shù)界研究的熱點(diǎn)，其重點(diǎn)就是希望設(shè)計(jì)更加高層次的編程模型和工具，利用現(xiàn)有的編程語言比如C、C++等，對(duì)FPGA進(jìn)行設(shè)計(jì)開發(fā)。

在工業(yè)界，兩大FPGA公司都選擇支持基于OpenCL的FPGA高層次開發(fā)，并分別發(fā)布了自己的API和SDK等開發(fā)工具。這在一定程度上降低了FPGA的開發(fā)難度，使得C語言程序員可以嘗試在FPGA平臺(tái)上進(jìn)行算法開發(fā)，特別是針對(duì)人工智能的相關(guān)應(yīng)用。盡管如此，程序員仍然需要懂得基本的FPGA體系結(jié)構(gòu)和設(shè)計(jì)約束，這樣才能寫出更加高效的OpenCL/HLS模型。因此，盡管有不少嘗試OpenCL/HLS進(jìn)行產(chǎn)品開發(fā)的公司，但是目前國內(nèi)實(shí)際能夠掌握這類設(shè)計(jì)方法的公司還是非常稀缺。各家專用AI芯片廠商，都需要建立自己相對(duì)獨(dú)立的應(yīng)用開發(fā)工具鏈，這個(gè)投入通常比開發(fā)芯片本身還要龐大，成熟周期也慢很多。Xilinx對(duì)深鑒的收購有效補(bǔ)充了其在AI應(yīng)用開發(fā)方面的工具短板。近期Intel開源了OpenVINO，也是在推動(dòng)其AI及FPGA生態(tài)。也有少數(shù)在FPGA領(lǐng)域有長期積累的團(tuán)隊(duì)，例如深維科技在為市場(chǎng)提供定制FPGA加速方案，可以對(duì)應(yīng)用生態(tài)產(chǎn)生有效促進(jìn)作用。

面對(duì)不同的需求，AI計(jì)算力最終將會(huì)駛向何方？

主要云服務(wù)商以及終端提供商都會(huì)圍繞自家優(yōu)勢(shì)產(chǎn)品平臺(tái)發(fā)展AI芯片，云端AI芯片投入巨大，主流技術(shù)快速進(jìn)化，國內(nèi)企業(yè)需要重視AI芯片的隱性投入：設(shè)計(jì)開發(fā)工具、可重用資源和生態(tài)伙伴。不過近期不大可能迅速形成整合的局面，競(jìng)爭會(huì)進(jìn)一步加劇。在端上，基于DSA/RISC-V的AI芯片更多出現(xiàn)在邊緣端AI+IoT，百花齊放。

三大類技術(shù)路線各有優(yōu)劣，長期并存。

GPU具有成熟的生態(tài)，在AI領(lǐng)域具有顯著的先發(fā)優(yōu)勢(shì)，目前保持高速增長態(tài)勢(shì)。

以GoogleTPU為代表的專用AI芯片在峰值性能上較GPU有一定優(yōu)勢(shì)。確定性是TPU另一個(gè)優(yōu)勢(shì)。CPU和GPU需要考慮各種任務(wù)上的性能優(yōu)化，因此會(huì)有越來越復(fù)雜的機(jī)制，帶來的副作用就是這些處理器的行為非常難以預(yù)測(cè)。而使用TPU能輕易預(yù)測(cè)運(yùn)行一個(gè)神經(jīng)網(wǎng)絡(luò)并得出模型與推測(cè)結(jié)果需要多長時(shí)間，這樣就能讓芯片以吞吐量接近峰值的狀態(tài)運(yùn)行，同時(shí)嚴(yán)格控制延遲。不過，TPU的性能優(yōu)勢(shì)使得它的靈活性較弱，這也是ASIC芯片的常見屬性。充分針對(duì)性優(yōu)化的架構(gòu)也可以得到最佳的能效比。但是開發(fā)一款高性能專用芯片的投入是非常高昂的，通常周期也需要至少15個(gè)月。

FPGA以及新一代ACAP芯片，則具備了高度的靈活性，可以根據(jù)需求定義計(jì)算架構(gòu)，開發(fā)周期遠(yuǎn)遠(yuǎn)小于設(shè)計(jì)一款專用芯片。但是由于可編程資源必不可少的冗余，F(xiàn)PGA的能效比以及價(jià)格通常比專用芯片要差很多。但是ACAP的出現(xiàn)，引入了AI核的優(yōu)點(diǎn)，勢(shì)必會(huì)進(jìn)一步拉近與專用芯片的差距。隨著FPGA應(yīng)用生態(tài)的逐步成熟，F(xiàn)PGA的優(yōu)勢(shì)也會(huì)逐漸為更多用戶所了解。

總而言之，AI芯片的“戰(zhàn)國時(shí)代”大幕已經(jīng)拉開，各路“諸侯”爭相割據(jù)一方，謀求霸業(yè)，大家難以獨(dú)善其身，合縱連橫、百家爭鳴將成為常態(tài)。這也必定會(huì)是一個(gè)英雄輩出的時(shí)代。