|底層智能駕駛芯片成為國內(nèi)競爭焦點

汽車智能化的趨勢日益明顯，底層智能駕駛芯片成為國內(nèi)公司競爭的焦點。成立于2022年1月的奕行智能定位于汽車AI計算芯片公司，其核心團隊擁有多年的車載芯片和AI行業(yè)經(jīng)驗，現(xiàn)已經(jīng)完成了累計數(shù)億元的融資。目前其產(chǎn)品主要聚焦于智能汽車的AI場景。今年奕行智能計劃推出兩款基于AI計算架構(gòu)的端側(cè)算力產(chǎn)品，明年將計劃推出更大規(guī)模的大算力芯片產(chǎn)品。

劉琿指出，智能汽車對應(yīng)的AI應(yīng)用場景非常豐富，而智能駕駛又是車上AI應(yīng)用場景中對模型泛化和通用性要求最高。在智駕領(lǐng)域里能夠把通用做好的產(chǎn)品除英偉達以外并不多，因此圍繞通用性這個需求特點智駕芯片的市場機遇還是比較大的。智駕場景從當(dāng)前輔助駕駛階段，到正在落地的開放道路的部分自動駕駛，再到更遠未來全局智能交通系統(tǒng)驅(qū)動的高階無人駕駛。在一次次重構(gòu)中，不僅革新人們的出行方式，更是在推動底層的軟硬件迭代和重構(gòu)。

比如在智駕領(lǐng)域的算法從過去基于CNN算法的多個不同任務(wù)的感知的網(wǎng)絡(luò)向以Transformer為基礎(chǔ)框架的BEV大模型演進。在特斯拉證明BEV的可行并成功量產(chǎn)后，BEV技術(shù)正被各大車廠作為今明兩年重大落地的新一代算法模型。然而BEV作為新一代自動駕駛感知算法，在傳統(tǒng)AI加速芯片部署上會存在一定難度?！癟ransformer的算法特點讓過去圍繞CNN模型定制的AI芯片很難高效部署”，Transformer模型對訪存要求相對傳統(tǒng)CNN算法會高出很多，同時Transformer內(nèi)的非線性層有非常高的精度要求，相應(yīng)需要更多的浮點計算資源。其次Attention模塊是一個matmul-softmax-matmul的結(jié)構(gòu)，在序列長度比較大時，Reduce維度的計算對Vector（向量）計算資源要求非常多。此外BEV模型里Grid Sample算法里還有一些類似聚合、分散的特殊算子。所有這些計算需求在傳統(tǒng)的AI芯片在硬件上難以滿足，使得對于BEV這種復(fù)雜的大模型部署難以高性價比的方式量產(chǎn)落地。

劉琿還提到另一個挑戰(zhàn)，作為一個端側(cè)設(shè)備，車載芯片的成本和功耗都是有約束的，怎么在算力紅線下，提高NPU的硬件效率和可編程性顯得尤為重要。從提高效率層面需要NPU硬件與編譯器協(xié)同設(shè)計，通過更好的優(yōu)化和部署計算任務(wù)來更高效地填滿硬件，從而提升硬件的利用率，同時還要考慮如何更加方便快捷調(diào)用每一單位的算力。因此這就需要提升NPU的可編程性，包括從硬件體系架構(gòu)上打造充分可編程的硬件和軟件上構(gòu)造抽象層次更高的編程界面。

從高緯度來看，自動駕駛應(yīng)用場景不斷演進，對AI計算架構(gòu)的需求也在不斷演進。早期ADAS的應(yīng)用場景簡單，算法模型較單一，所以與算法綁定高度定制的AI核被市場接受，能夠快速解決應(yīng)用場景有與無的問題；第二個階段（也就是現(xiàn)階段）是NOA應(yīng)用啟動時代，模型種類及數(shù)量的增多，加之泛化要求變高，使得通用型較強的GPGPU在率先布局NOA應(yīng)用的高端車上成為主要的解決方案。但隨著時間推移，NOA應(yīng)用普及及車廠對降本增效的訴求愈發(fā)強烈，因此，第三階段在滿足第二階段和成本效益的情況下，能夠兼顧通用性和能效的GP-DSA架構(gòu)將會成為產(chǎn)業(yè)主流。劉琿認為，“從中長期來看，一個在領(lǐng)域內(nèi)通用性更強，又能比GPGPU效率更高、能進化的DSA的AI計算架構(gòu)會越來越有希望?！?/p>

從全球視野來看，目前有很多大廠已經(jīng)開始布局定制開發(fā)自己的AI計算架構(gòu)與硬件內(nèi)核。值得關(guān)注的是幾家頭部大廠如Google、Meta、Tesla以及頭部的獨角獸公司如Tenstorrent等都不約而同的采用RISC-V指令集來構(gòu)建整個AI計算體系。與這些公司類似，奕行智能在國內(nèi)率先把RISC-V用在百Tops以上的大算力AI并行計算領(lǐng)域，通過在內(nèi)核上構(gòu)建強大的指令和數(shù)據(jù)并行，使奕行智能的整個計算架構(gòu)的性能達到行業(yè)領(lǐng)先的水平。劉琿表示，使用RISC-V并非要替代作為自動駕駛芯片主處理器的ARM內(nèi)核，而是結(jié)合RISC-V的架構(gòu)開放性和可擴展性將其用在AI計算領(lǐng)域，通過結(jié)合RISC-V通用性與DSA核架構(gòu)的效率，使其能在兩者上有較好的兼顧。同時結(jié)合微架構(gòu)上的創(chuàng)新，使得整個內(nèi)核能在相比GPU更小的算力能獲得數(shù)倍于GPU的智駕網(wǎng)絡(luò)推理性能。

（圖片來源知乎）

在大模型芯片部署中，編譯器是AI模型能夠以最高性能和最低功耗高效運行的關(guān)鍵，AI領(lǐng)域應(yīng)用的大量出現(xiàn)也促進著領(lǐng)域編譯的發(fā)展?！敖鉀QMemory Bound需要硬件微架構(gòu)與軟件編譯器聯(lián)合優(yōu)化?！跋裨S多其他的科技指標一樣，AI芯片的計算性能也有理論上的極限，從Roofline Model可以看出平均帶寬需求和峰值計算能力像天花板一樣是整個系統(tǒng)計算的能力上限，以計算強度上限Imax為界，劃分出AI芯片的兩個瓶頸區(qū)域，即圖中橘色的內(nèi)存受限區(qū)（Memory Bound）和圖中藍色的計算受限區(qū)（Compute Bound）。劉琿提到要想讓增加的算力真正能提高系統(tǒng)性能必須讓算法所處的區(qū)域落在計算受限區(qū)域，這需要通過軟硬協(xié)同設(shè)計的方式來達成，這就像暢通的交通除了需要基于交通流量合理設(shè)計的硬件基礎(chǔ)設(shè)施，也需要有基于硬件基礎(chǔ)設(shè)施合理設(shè)計的交通調(diào)度系統(tǒng)。

最后，劉琿也提到GPU架構(gòu)把大的計算任務(wù)切分給多個小核并且軟件基于Kernel執(zhí)行數(shù)據(jù)來回在DDR與片內(nèi)交互，這樣導(dǎo)致的問題是更多的數(shù)據(jù)交互的開銷和功耗。奕行智能的AI芯片與之不同的是針對智駕模型的微架構(gòu)設(shè)計優(yōu)化以更少的數(shù)據(jù)交互開銷來完成計算任務(wù)并使大部分的計算駐留片上完成，從而獲得更加好的PPA。

“大模型”時代的到來，讓AI產(chǎn)業(yè)與包括汽車在內(nèi)的傳統(tǒng)行業(yè)或新興產(chǎn)業(yè)產(chǎn)生了更多交集，AI進一步的發(fā)展和成熟更是為自動駕駛技術(shù)帶來了巨大的推動力。未來奕行將持續(xù)在AI計算架構(gòu)這塊領(lǐng)域上進行更多的創(chuàng)新與探索，幫助更多合作伙伴解決當(dāng)前自動駕駛在AI模型的推理性能、能效、模型泛化的支持、AI編程的易用性、硬件操作的自由度以及成本上等多個維度的核心痛點，加快AI技術(shù)在自動駕駛領(lǐng)域的落地應(yīng)用與創(chuàng)新發(fā)展。

編輯：黃飛