甲子光年發(fā)布2023中國(guó)科技產(chǎn)業(yè)50條判斷，存算一體為大模型時(shí)代AI計(jì)算注入顛覆性力量

甲子光年創(chuàng)始人&CEO張一甲在大會(huì)開幕式上發(fā)布了甲子智庫趨勢(shì)報(bào)告《致追風(fēng)趕月的你：2023中國(guó)科技產(chǎn)業(yè)50條判斷》。其中第17條判斷指出，存算一體芯片可以打破存儲(chǔ)墻、能耗墻，用架構(gòu)創(chuàng)新賦能大模型時(shí)代AI計(jì)算。

億鑄科技作為一家致力于用存算一體架構(gòu)設(shè)計(jì)AI大算力芯片的公司，被列為該報(bào)告中“新質(zhì)生產(chǎn)力”的代表，并在大會(huì)上從AI算力芯片企業(yè)的角度分享了觀點(diǎn)。

億鑄科技創(chuàng)始人、董事長(zhǎng)兼CEO熊大鵬博士在《探索AI軟硬件適配之路，共創(chuàng)算力服務(wù)新未來》圓桌論壇上表示：“大模型爆火之后，存算一體獲得了更多的關(guān)注與機(jī)會(huì)，其原因之一是因?yàn)榇嫠阋惑w芯片的裸算力相比傳統(tǒng)架構(gòu)的AI芯片，能帶來十倍以上的提升?！?span style="text-indent:2em;">但存算一體的貢獻(xiàn)并不只是提升AI芯片算力，它還解決了大模型時(shí)代AI計(jì)算的最大痛點(diǎn)——在巨大的模型參數(shù)量面前，數(shù)據(jù)搬運(yùn)的帶寬不夠，也就是“存儲(chǔ)墻”的問題。

傳統(tǒng)架構(gòu)的AI芯片在大模型計(jì)算中，每一次推理計(jì)算都需要搬運(yùn)整個(gè)模型參數(shù)，大量的數(shù)據(jù)卡在傳遞系數(shù)的“讀”上，還導(dǎo)致了“能耗墻”的問題。

而存算一體正是“解藥”。熊大鵬博士介紹道：“存算一體不需要搬運(yùn)參數(shù)，所以實(shí)際運(yùn)算效率也會(huì)比傳統(tǒng)架構(gòu)好很多。再加上其裸算力的提升，可以說在大模型時(shí)代具有非常強(qiáng)的優(yōu)勢(shì)。

據(jù)國(guó)盛證券研究所預(yù)計(jì)，不考慮模型效率提升對(duì)算力需求的下降，也不考慮模型訓(xùn)練的標(biāo)識(shí)符（token）的增長(zhǎng)；

中性預(yù)期下，ChatGPT日活穩(wěn)定在1億人次左右、ChatGPT每3個(gè)月模型參數(shù)翻倍、同時(shí)假設(shè)全球市場(chǎng)將出現(xiàn)10個(gè)左右類似于ChatGPT的商用大模型，而比特幣挖礦耗電量保持當(dāng)前狀態(tài)，則大約4年后，AIGC大模型耗電量將超過比特幣挖礦耗電量。

樂觀和悲觀預(yù)期下，這一數(shù)字則分別為1.6年和7.5年。注意，此時(shí)只是考慮了類似于ChatGPT的商用大模型，而實(shí)際可能出現(xiàn)可能消耗更多算力的多模態(tài)商用大模型，如果考慮到這一點(diǎn)，AIGC耗電量的增長(zhǎng)將會(huì)更快。”

所以實(shí)現(xiàn)高能效比的算力芯片成為國(guó)家重點(diǎn)關(guān)注的挑戰(zhàn)。

2023年10月22日，在安徽省合肥市召開的第二十五屆中國(guó)科協(xié)年會(huì)主論壇上，中國(guó)科協(xié)發(fā)布了2023重大科學(xué)問題、工程技術(shù)難題和產(chǎn)業(yè)技術(shù)問題。排在前沿科學(xué)問題第一位的就是：如何實(shí)現(xiàn)低能耗人工智能？

存算一體的AI芯片發(fā)展路徑是目前可商業(yè)落地的最佳路徑之一。

億鑄科技面向數(shù)據(jù)中心、云計(jì)算、中心側(cè)服務(wù)器、自動(dòng)駕駛及邊緣計(jì)算等場(chǎng)景，將憶阻器ReRAM和存算一體架構(gòu)相結(jié)合，借助全數(shù)字化技術(shù)路徑應(yīng)用創(chuàng)新、存算一體超異構(gòu)系統(tǒng)級(jí)創(chuàng)新等多項(xiàng)創(chuàng)新優(yōu)勢(shì)，從根本上解決大模型快速發(fā)展所凸顯的算力挑戰(zhàn)，為AI大算力芯片發(fā)展打開了新通路。

未來，隨著存算一體技術(shù)的不斷發(fā)展，我們可以期待更多的創(chuàng)新和突破，在賦能AIGC應(yīng)用實(shí)現(xiàn)與落地的同時(shí)，迎接綠色算力新未來。

審核編輯：黃飛

?