RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

中科馭數(shù)CEO鄢貴海:從計(jì)算系統(tǒng)的三個(gè)視角重新審視DPU的核心價(jià)值

中科馭數(shù) ? 來(lái)源:中科馭數(shù) ? 作者:中科馭數(shù) ? 2024-06-28 14:27 ? 次閱讀

信息技術(shù)日新月異的浪潮中,DPU正逐漸嶄露頭角。當(dāng)前,DPU發(fā)展的核心驅(qū)動(dòng)力來(lái)自于什么?DPU技術(shù)是否已經(jīng)足夠成熟到廣泛應(yīng)用?市場(chǎng)上頭部玩家參與到這一創(chuàng)新技術(shù)的市場(chǎng)角逐之中?在算力時(shí)代,DPU應(yīng)該如何找準(zhǔn)價(jià)值定位?而中科馭數(shù)作為國(guó)內(nèi)DPU先行者,又將如何解題,引領(lǐng)DPU行業(yè)進(jìn)入到一個(gè)全新的高度?

6月19日,在中科馭數(shù)2024產(chǎn)品發(fā)布會(huì)上,中科馭數(shù)CEO鄢貴海發(fā)表了《重新定義DPU》主題演講,為我們深入探索DPU發(fā)展問(wèn)題打開了一扇窗口,讓我們帶著這些問(wèn)題,一起走進(jìn)鄢老師的演講實(shí)錄。

以下為演講文字實(shí)錄:

全文6462字|閱讀約16分鐘

01

我芯所向

馭數(shù)人是有信念、有追求、有敬畏、有技術(shù)的“四有新人

六年前,中科馭數(shù)團(tuán)隊(duì)帶著對(duì)科技創(chuàng)新無(wú)比堅(jiān)定的信念、對(duì)發(fā)展自主可控核心技術(shù)的不懈追求,對(duì)變幻莫測(cè)的市場(chǎng)的深深敬畏,和對(duì)未來(lái)智能計(jì)算技術(shù)趨勢(shì)的研判,從實(shí)驗(yàn)室勇敢地邁出了科技創(chuàng)業(yè)的穩(wěn)健步伐。我們也成為了有信念、有追求、有敬畏、有技術(shù)的“四有新人”。

我們馭數(shù)人有一個(gè)執(zhí)念:不僅要把DPU做成一個(gè)產(chǎn)品,更要把“馭數(shù)”做成一個(gè)品牌,做成一個(gè)在數(shù)字時(shí)代、助力數(shù)字中國(guó)的品牌。馭數(shù)應(yīng)該成為這個(gè)時(shí)代——趁勢(shì)而上的企業(yè)。

然而我們清晰地知道,趨勢(shì)并不能確保馭數(shù)的成功,時(shí)代只會(huì)給真正創(chuàng)新的企業(yè)以回報(bào),只會(huì)給效率至上的企業(yè)生存空間。

創(chuàng)新,就是某種意義上的以弱勝?gòu)?qiáng)。集中資源、聚其一點(diǎn),突破核心技術(shù),用敢干務(wù)實(shí)的態(tài)度,克服千難萬(wàn)難,夯實(shí)從0到1的過(guò)程。我們只聚焦DPU,不為任何風(fēng)口所動(dòng)。在研發(fā)DPU的過(guò)程中,也從來(lái)不抱怨環(huán)境,因?yàn)槲覀冎兰夹g(shù)創(chuàng)新的底色就是——攻堅(jiān)克難。

效率,就是以快勝慢。時(shí)間就是金錢,效率就是生命。緩慢穩(wěn)健是大象的專屬權(quán)利。創(chuàng)新性企業(yè),必須用一年走過(guò)別人三年的路,才有可能在市場(chǎng)競(jìng)爭(zhēng)中贏得生存空間。在復(fù)雜大型芯片每代產(chǎn)品普遍3~5年的研發(fā)周期中,我們用6年的時(shí)間,完成了三代芯片的迭代,平均每代芯片迭代僅有不到2年的時(shí)間。同時(shí)在成本控制上,也遠(yuǎn)小于行業(yè)的平均值。

其秘訣,就是全棧技術(shù)自主研發(fā),重硅前驗(yàn)證,快速迭代。用理論來(lái)指導(dǎo)實(shí)踐,而非盲目地訴諸于通過(guò)工程試錯(cuò)來(lái)優(yōu)化設(shè)計(jì),把理論優(yōu)勢(shì)用到極致。

02

DPU是當(dāng)下算力基礎(chǔ)設(shè)施的核心創(chuàng)新

被稱為數(shù)據(jù)中心“第三大支柱”

DPU是當(dāng)下算力基礎(chǔ)設(shè)施的核心創(chuàng)新之一。如果把CPU比作大腦、那么GPU就好比是肌肉、而DPU就是神經(jīng)中樞。

CPU承載了應(yīng)用生態(tài),決定了計(jì)算系統(tǒng)是否可以通用,GPU提供了高密度各類精度的算力,決定了系統(tǒng)是否有足夠的“力量”,DPU負(fù)責(zé)數(shù)據(jù)在各種CPU和GPU之間高效流通,決定了系統(tǒng)是否能協(xié)同工作。

DPU就是構(gòu)建數(shù)據(jù)網(wǎng)絡(luò)的“根結(jié)點(diǎn)”,掛載了各種計(jì)算、存儲(chǔ)資源的“葉節(jié)點(diǎn)”,無(wú)論這些處理器核是真實(shí)的物理核,還是虛擬化的核。

DPU很舊,舊到可以完全取代傳統(tǒng)網(wǎng)卡的功能。網(wǎng)卡俗稱為“網(wǎng)絡(luò)適配器”,其唯一的功能就是接收網(wǎng)絡(luò)發(fā)來(lái)的數(shù)據(jù)和把數(shù)據(jù)通過(guò)網(wǎng)絡(luò)發(fā)送出去,實(shí)現(xiàn)“上網(wǎng)”,好比交通的——綠皮車時(shí)代,解決全國(guó)主要城市基本通鐵路的問(wèn)題。

然而,DPU也很新,新到被稱為這個(gè)十年最重要的創(chuàng)新,被寄予了數(shù)據(jù)中心三大支柱芯片之一的定位,戴上了“PU”的王冠。好比數(shù)據(jù)網(wǎng)絡(luò)的——高鐵時(shí)代,已經(jīng)不僅僅是連通城市問(wèn)題, 而是徹底重構(gòu)了地理位置的邏輯距離了。

03

全球掀起DPU發(fā)展浪潮

產(chǎn)業(yè)頭號(hào)玩家爭(zhēng)先”搶灘“DPU賽道

過(guò)去五年DPU技術(shù)高速發(fā)展,特別是近三年。

短短幾年時(shí)間對(duì)于一種具備巨大產(chǎn)業(yè)化價(jià)值的芯片技術(shù)而言并不算長(zhǎng),但是對(duì)于一種新的大類芯片類型,數(shù)家國(guó)際芯片業(yè)巨頭短時(shí)間內(nèi)組織研發(fā)力量并投入巨資“搶灘”式發(fā)布DPU產(chǎn)品也不是常見的現(xiàn)象。

NVIDIA于2020年發(fā)布了代號(hào)為BlueField 2的DPU產(chǎn)品,并高調(diào)宣稱這是數(shù)據(jù)中心場(chǎng)景下的“第三顆支柱型芯片(原文為the third pillar)”,同年Marvell發(fā)布了代號(hào)為OCTEON的DPU產(chǎn)品,主打5G基帶處理,攜手Facebook打造高性能的OpenRAN解決方案。

次年另一個(gè)芯片巨頭Intel攜全新的重磅產(chǎn)品IPU(Infrastructure Processing Unit)加入了對(duì)DPU市場(chǎng)的爭(zhēng)奪。前思科高管創(chuàng)立的科技公司Pensando在2020年HotChips會(huì)議上首次披露了其DPU的設(shè)計(jì),主打P4,同時(shí)對(duì)PCIe設(shè)備虛擬化、存儲(chǔ)、信任根、加解密進(jìn)行了方案的支持,從技術(shù)來(lái)看甚至有領(lǐng)先后續(xù)披露DPU產(chǎn)品的行業(yè)巨頭廠商的勢(shì)頭(該公司于2022年被AMD高價(jià)并購(gòu))。

在國(guó)內(nèi)的DPU產(chǎn)品方面,中科馭數(shù)也在一年半前(2022年)成功流片了一顆標(biāo)志性的DPU芯片,并且在網(wǎng)絡(luò)時(shí)延指標(biāo)和吞吐性能都處于業(yè)界同期較為領(lǐng)先的水平。阿里云也發(fā)布了CIPU產(chǎn)品、天翼云、移動(dòng)云也分別發(fā)布了自研的DPU加速卡產(chǎn)品,還有移動(dòng)云、天翼、云豹等,在此不一一列舉了。據(jù)不完全統(tǒng)計(jì),涉及DPU產(chǎn)品的公司有數(shù)十家。

可以說(shuō),在對(duì)DPU關(guān)注熱度而言,國(guó)內(nèi)并不亞于國(guó)外。

04

AI算力的發(fā)展加速DPU成熟

DPU是“順”算力基礎(chǔ)設(shè)施的“勢(shì)”而為

按照Gartner的技術(shù)成熟度曲線Hype Cycle的規(guī)律,針對(duì)一項(xiàng)新技術(shù)從創(chuàng)新、發(fā)展、過(guò)熱、回歸、沉淀、再進(jìn)入正常規(guī)?;瘧?yīng)用的常規(guī)發(fā)展路徑,我們?cè)谶^(guò)去2021年Gartner發(fā)布的Hype Cycle里出現(xiàn)了DPU,即“下一代SmartNICs,DPUs,IPUs”。該技術(shù)處于Hype Cycle的創(chuàng)新期,預(yù)測(cè)僅需要5~10年到達(dá)成熟期。而現(xiàn)在距離預(yù)測(cè)最早成熟期還有兩年。而AI算力的加速發(fā)展,正在加速DPU的成熟。

近年在OpenAI主導(dǎo)的GPT模型取得了突破性進(jìn)展已經(jīng)成為共識(shí),甚至有專家認(rèn)為ChatGPT已經(jīng)通過(guò)了經(jīng)典的圖靈測(cè)試,人們已經(jīng)找到了從AI到AGI的“金鑰匙”,而“AIGC”將是新一輪的內(nèi)容生成、更是財(cái)富生成的密碼。于是乎一夜之間,大模型遍地開花,僅中國(guó)有信息披露的就超過(guò)70家,可謂之盛況空前。OpenAI幾乎以一己之力把人工智能的發(fā)展掛上了高速檔。

目前人工智能發(fā)展的三要素:數(shù)據(jù)、算法、算力,在這一輪AI大模型的洗禮下,仍然重要,但是這些要素配給的挑戰(zhàn)程度不同了。

在數(shù)據(jù)層面,人類社會(huì)雖然有五千年文明,但真正有大量數(shù)據(jù)沉淀的時(shí)間不超過(guò)200年,真正的數(shù)據(jù)爆發(fā)已經(jīng)是以計(jì)算機(jī)和互聯(lián)網(wǎng)的發(fā)明為標(biāo)志的第三次產(chǎn)業(yè)革命之后的事了。也正是隨著人類社會(huì)從電氣化向數(shù)字化的轉(zhuǎn)變,數(shù)據(jù)的爆發(fā)式增長(zhǎng)才真正到來(lái)——而這滿打滿算只不過(guò)短短五十年的時(shí)間。以當(dāng)前視角下所謂的“海量”數(shù)據(jù),對(duì)于大模型訓(xùn)練而言,若非算力約束,是完全有能力消化的。

對(duì)于算法層面,雖然對(duì)創(chuàng)新有非常高的要求,幾乎都要走在科學(xué)的“無(wú)人區(qū)”才有可能“偶遇”突破口,但是一旦突破,驗(yàn)證了可行性,就可以迅速的普及開來(lái),當(dāng)前大語(yǔ)言模型(LLM)的空前熱度就是證明。OpenAI的GPT取得技術(shù)突破后一旦發(fā)布,就會(huì)迅速成為各個(gè)行業(yè)的一種共性技術(shù)基礎(chǔ)。

而對(duì)于算力而言,相較于數(shù)據(jù)、算法層面的“軟約束”,算力面臨的是摩爾定律、登納德縮放定律、能耗指標(biāo)的物理“硬約束”。例如,就算訓(xùn)練GPT4的語(yǔ)料都具備,重新訓(xùn)練一次類GPT4大模型的算力需求、訓(xùn)練時(shí)間、綜合成本也會(huì)讓人望而生畏。甚至有專家斷言,從既有算力儲(chǔ)備的角度看,短期內(nèi)在國(guó)內(nèi)具備從0開始研發(fā)大模型的廠商不超過(guò)兩家。

算力就是AI時(shí)代的“面包”!如何解決算力問(wèn)題,成為了人工智能技術(shù)發(fā)展面臨的最嚴(yán)峻的挑戰(zhàn),特別是在當(dāng)前高端算力芯片進(jìn)口受控的局面下。

DPU作為專注于解決算力基礎(chǔ)設(shè)施層各種數(shù)據(jù)流量負(fù)載的芯片,其發(fā)展的主要驅(qū)動(dòng)力也必然來(lái)自于對(duì)算力基礎(chǔ)設(shè)施的更高要求——正所謂順勢(shì)而為。

05

從計(jì)算系統(tǒng)的三個(gè)視角審視DPU核心價(jià)值

為數(shù)字經(jīng)濟(jì)構(gòu)造更高效、更大規(guī)模的算力底座

算力的問(wèn)題不僅是單一算力芯片的問(wèn)題,更是一個(gè)計(jì)算系統(tǒng)性的問(wèn)題。有研究表明,即便是配備了較先進(jìn)GPU的AI訓(xùn)練集群,受限于調(diào)度策略,數(shù)據(jù)共享,計(jì)算依賴等因素,僅30%系統(tǒng)計(jì)算資源利用率的現(xiàn)象并不罕見。如果再考慮在云計(jì)算環(huán)境下的多租戶等復(fù)雜場(chǎng)景,資源被高度虛擬化、池化,一方面消耗了大量的CPU資源,一方面給網(wǎng)絡(luò)、存儲(chǔ)、系統(tǒng)安全等增加了很大的復(fù)雜度,結(jié)果就是留給客戶應(yīng)用的計(jì)算資源不僅減少了,而且性能也被降級(jí)。

傳統(tǒng)意義上的“數(shù)據(jù)中心稅”已經(jīng)不僅僅是20~30%的資源開銷問(wèn)題,而是“算力經(jīng)濟(jì)”是否行得通的問(wèn)題!

我們需要采用系統(tǒng)性視角,革新我們的計(jì)算系統(tǒng)設(shè)計(jì),而DPU是解決這一問(wèn)題的關(guān)鍵。

為什么?答案就在我們看待計(jì)算系統(tǒng)的三個(gè)視角中:

視角一:DPU要解決的首要問(wèn)題其實(shí)還是各種算力資源的高效使用的問(wèn)題,包括CPU的資源的釋放,CPU與GPU以及GPU之間的高效通信、容器間通信、容器與虛擬機(jī)、Bare-Metal的統(tǒng)一調(diào)度與管理 等等。甚至可以認(rèn)為DPU就是新一代算力基礎(chǔ)設(shè)施的“基帶”處理器(BP),解決資源的管理、數(shù)據(jù)通信問(wèn)題;相應(yīng)地,CPU和GPU可類比為“應(yīng)用”處理器(AP),解決的是上層應(yīng)用的執(zhí)行問(wèn)題。這里的“基帶”是以網(wǎng)絡(luò)為核心,類比在ISO七層協(xié)議的表示層/會(huì)話層以下的協(xié)議層,AP主要是應(yīng)用層及其之上承載的豐富的各種應(yīng)用。簡(jiǎn)言之,“BP+AP”就是新一代算力芯片的核心構(gòu)成,——正所謂CPU-GPU-DPU “三U一體”。

視角二:DPU是“算網(wǎng)”融合的關(guān)鍵。“網(wǎng)”這一端的核心作用是傳輸數(shù)據(jù),核心的功能是路由和交換,但這并不是DPU的重心?!熬W(wǎng)”端的核心指標(biāo)帶寬和延遲,目前看其實(shí)并不是系統(tǒng)性能的瓶頸所在,在服務(wù)器的“算”端能不能線速的處理那么高帶寬的數(shù)據(jù)才是性能的瓶頸所在。DPU之所以仍要處理一些路由轉(zhuǎn)發(fā)業(yè)務(wù)的原因其實(shí)是由于虛擬化技術(shù)的使用,本地資源被虛擬成了各種可獨(dú)立運(yùn)行的計(jì)算資源節(jié)點(diǎn)(例如容器、虛擬機(jī)),在行為上與一個(gè)物理節(jié)點(diǎn)沒(méi)有區(qū)別,這些虛擬節(jié)點(diǎn)仍然有網(wǎng)絡(luò)互聯(lián)的需求,仍然有相互間訪問(wèn),這也是網(wǎng)絡(luò)在“算”端的延伸,所以也就有了OVS,SRIOV,Virt-IO等技術(shù)的需求。可以說(shuō)是用“算”來(lái)實(shí)現(xiàn)“網(wǎng)”的功能——這不就是“算網(wǎng)融合”最具體的表現(xiàn)形式嗎!

視角三:基礎(chǔ)設(shè)施處理器的基礎(chǔ)性體現(xiàn)在網(wǎng)絡(luò)、存儲(chǔ)、安全、計(jì)算加速等服務(wù),DPU可以承接自原來(lái)的CPU所支持的底層或獨(dú)立功能,即通常理解的“卸載”CPU的基礎(chǔ)層功能,特別是讓操作系統(tǒng)很多內(nèi)核態(tài)的服務(wù)遷移到DPU上,通過(guò)硬件輔助的手段來(lái)獲得更高的性能,這也決定了DPU不僅邏輯上應(yīng)該更靠近CPU,物理上也應(yīng)該更緊密才好?,F(xiàn)在備受矚目的CXL互聯(lián)協(xié)議,也為DPU進(jìn)一步靠近CPU提供了更方便的途徑。進(jìn)一步可以預(yù)測(cè),維持直接相連節(jié)點(diǎn)間存儲(chǔ)數(shù)據(jù)一致性的高速互連網(wǎng)絡(luò)將會(huì)是DPU的核心能力之一。

總之,從功能上看,DPU將進(jìn)一步推動(dòng)算和網(wǎng)的融合,構(gòu)造更加高效、更大規(guī)模的算力底座。

06

革命的產(chǎn)品一定不是單純指標(biāo)的升級(jí)

而是深度契合了技術(shù)趨勢(shì)的發(fā)展

DPU到底值多少錢?

從DPU的價(jià)值判斷上看,應(yīng)該怎樣理解DPU之于未來(lái)的計(jì)算系統(tǒng)的作用和價(jià)值,DPU的價(jià)值是否可以通過(guò)替代多少個(gè)CPU/GPU核、降低幾微秒網(wǎng)絡(luò)延遲來(lái)體現(xiàn)呢?

答案是肯定的,但這僅僅是“管中窺豹”,只見一斑!

革命的產(chǎn)品一定不是單純指標(biāo)的升級(jí),而是深度契合了技術(shù)趨勢(shì)的發(fā)展。汽車提升一下速度固然好,但是汽車做得再快,也不可能支撐航空產(chǎn)業(yè)的發(fā)展。

價(jià)值蘊(yùn)含在趨勢(shì)中。當(dāng)前,DPU的發(fā)展契合哪些趨勢(shì)呢?我們認(rèn)為至少有三個(gè)重要的趨勢(shì)值得關(guān)注:

趨勢(shì)一:當(dāng)前正處于人工智能時(shí)代的爆發(fā)前夜。

不可思議!短短30年產(chǎn)生三輪大的科技革命的奇跡即將成為現(xiàn)實(shí)。

2000年的互聯(lián)網(wǎng),把世界變平了;2010年代的移動(dòng)互聯(lián)網(wǎng),改變了人們生產(chǎn)和生活方式,也為數(shù)字化、智能化做出了必要積累;2020年代的人工智能,大模型的劇烈演進(jìn),已經(jīng)讓人們看到了AGI的曙光,同時(shí)潛在失控風(fēng)險(xiǎn)也讓一些人感到深深的不安。我們中國(guó)人非常有“先見之明”,在40年前將計(jì)算機(jī)稱之為“電腦”,真的越來(lái)越像“腦”。深度學(xué)習(xí)的發(fā)明人、圖靈獎(jiǎng)得主Hinton明確表達(dá)了自己的觀點(diǎn):今天的深度學(xué)習(xí)可能已經(jīng)有了意識(shí)。OpenAI的首席科學(xué)家,Hinton的高徒Ilya Sutskever也明確的表達(dá)建立完全自主的機(jī)器是完全有可能的,現(xiàn)在的當(dāng)務(wù)之急是如何確保機(jī)器的目標(biāo)和人類的目標(biāo)一致,而避免電影《終結(jié)者》中的場(chǎng)景成為現(xiàn)實(shí)。

盡管無(wú)論是腦科學(xué)還是認(rèn)知科學(xué),人們現(xiàn)在還是無(wú)法解釋大腦為什么會(huì)產(chǎn)生智能。愛因斯坦說(shuō)“我們無(wú)法用提出問(wèn)題的思維來(lái)解決問(wèn)題”,是否可以理解為我們用人類智能來(lái)研究出的這些科學(xué)原理和經(jīng)驗(yàn)法則,是不可能解決人類智能的問(wèn)題的。相反,如果我們無(wú)法知道它的原理,也搞不清楚它的機(jī)制,但是結(jié)果卻超出預(yù)期,反而有可能是“智能”的原因。

有觀點(diǎn)認(rèn)為智能并不蘊(yùn)含在算法中,而在數(shù)據(jù)中。深度學(xué)習(xí)、大模型只是基于簡(jiǎn)單的計(jì)算規(guī)則,把數(shù)據(jù)的復(fù)雜性轉(zhuǎn)換成了模型的復(fù)雜性,從而將蘊(yùn)含在數(shù)據(jù)中的智能嵌入到了模型中。天量的數(shù)據(jù),堪比人腦神經(jīng)元數(shù)量的模型規(guī)模,注定了算力需求必然暴漲。而迭代出的更好的模型對(duì)數(shù)據(jù)又會(huì)有更大的胃口,更大參數(shù)規(guī)模的模型;更大的算力意味著更高的智能。至此,算力與智能的正循環(huán)徹底啟動(dòng)了,難以逆轉(zhuǎn)。

趨勢(shì)二:盡管摩爾定律已經(jīng)放緩,但是單芯片規(guī)模還在不斷上升?!癝uper Computer on a single Chip”已經(jīng)成為現(xiàn)實(shí)。Chiplet技術(shù)使得單個(gè)封裝芯片的規(guī)??梢圆粩嘣龃螅唤档土悸?。英偉達(dá)的GH200處理器單個(gè)芯片提供約4PFLOPS的算力(FP8精度),功率消耗控制在1000瓦。作為對(duì)比,在2010年Top500第一名的天河1A超級(jí)計(jì)算機(jī),算力也不過(guò)2.57PFLOPS(全精度)。就目前而言,單芯片的算力還在指數(shù)增長(zhǎng),這就意味著單個(gè)芯片的IO性能要求必然更高了。否則,就會(huì)面臨“茶壺里面煮餃子——倒不出來(lái)”的尷尬。

趨勢(shì)三:算力的供給方式多樣化與靈活性持續(xù)增強(qiáng),降低客戶的算力成本。從IaaS,PaaS、SaaS到FaaS,對(duì)資源的供給方式和抽象層次一直在不斷的變化,背后的整體趨勢(shì)是越來(lái)越弱化應(yīng)用支撐的差異性,資源的粒度也越來(lái)越細(xì)化。從最早的以一臺(tái)帶著虛擬的CPU、內(nèi)存、網(wǎng)絡(luò)、存儲(chǔ)資源和操作系統(tǒng)的虛擬機(jī)服務(wù),到只提供函數(shù)級(jí)的服務(wù);費(fèi)用從按天/月租用虛擬機(jī)的方式計(jì)費(fèi),和利用率無(wú)關(guān),到按照調(diào)用函數(shù)的次數(shù)來(lái)計(jì)費(fèi),pay as you go,這代表著算力資源的形式、組織方式、供給粒度都產(chǎn)生了巨大的變化,從粗放一直向集約化演進(jìn)。這對(duì)計(jì)算系統(tǒng)的部署、服務(wù)、運(yùn)維都提出了巨大的挑戰(zhàn)。

從資源管理的角度看,無(wú)論哪個(gè)層面的操作系統(tǒng),都在建立在統(tǒng)一的視圖的基礎(chǔ)上,通過(guò)層次化抽象、封裝、模擬等技術(shù)來(lái)實(shí)現(xiàn)。例如虛擬機(jī)、容器和Bare Metal,都可作為計(jì)算節(jié)點(diǎn),共享相同的物理資源池,并且有可能需要相互通信。這些計(jì)算節(jié)點(diǎn)會(huì)隨著應(yīng)用的需求按需動(dòng)態(tài)申請(qǐng)部署,協(xié)同工作,完成任務(wù)后即刻原地釋放了。這個(gè)管理的開銷是極大的。

大家一定對(duì)這三個(gè)趨勢(shì)的價(jià)值有自己的判斷。而相應(yīng)的,對(duì)DPU的價(jià)值判斷,我相信大家已經(jīng)有了答案!

以上三個(gè)趨勢(shì)有內(nèi)在因果關(guān)系。當(dāng)算力成為了剛需,必然導(dǎo)致第二個(gè)趨勢(shì)——單芯片越來(lái)越大,IO的需求越來(lái)越高,隨之管理這些資源也會(huì)越來(lái)越復(fù)雜。

其實(shí)不難理解,城市擴(kuò)大了,如果基礎(chǔ)設(shè)施和治理機(jī)制跟不上,就會(huì)出現(xiàn)“大城市病”,芯片變大了沒(méi)有配套好基礎(chǔ)設(shè)施和治理機(jī)制,也會(huì)出現(xiàn)“大芯片病”。

我們不能采用線性的思維來(lái)解決這個(gè)問(wèn)題。城市擴(kuò)大一倍,所有車道數(shù)量并不能簡(jiǎn)單的也擴(kuò)大一倍,而是需要地鐵、輕軌、立交橋等新型的基礎(chǔ)設(shè)施和相應(yīng)的高效流控機(jī)制。同樣的道理,解決“大芯片病”也一樣,也需要技術(shù)創(chuàng)新才有可能解決。

07

打通數(shù)據(jù)中心算力的“堰塞湖”

以架構(gòu)決勝、軟件護(hù)城、平臺(tái)上門重新定義DPU

馭數(shù)的目標(biāo)是為算力基礎(chǔ)設(shè)施提供一流的DPU產(chǎn)品,解決算力資源的彈性擴(kuò)展、高效互連、加速計(jì)算、統(tǒng)一運(yùn)維等關(guān)鍵問(wèn)題,打通數(shù)據(jù)中心算力的“堰塞湖”。

我們將——

架構(gòu)決勝——用最先進(jìn)的芯片架構(gòu)來(lái)重新定義DPU芯片架構(gòu);

軟件護(hù)城——用最高兼容性來(lái)重新定義DPU的軟件系統(tǒng);

平臺(tái)上門——用最低的成本讓客戶接入DPU規(guī)模化部署與業(yè)務(wù)驗(yàn)證。

為了實(shí)現(xiàn)這些目標(biāo),DPU已經(jīng)不僅僅是一顆芯片,而是芯片、軟件、平臺(tái)的一體化工程,馭數(shù)將徹底重新定義DPU!

08

以”芯云計(jì)劃“全面進(jìn)化算力基礎(chǔ)設(shè)施

做到手中有芯,心里有云

在2025年,中科馭數(shù)會(huì)完成K3芯片的發(fā)布,仍然采用我們最新的KPU架構(gòu),KISA2.0指令集,兼容KISA1.0,集成RISC-V輕量級(jí)控制核,處理帶寬將是K2Pro的四倍,達(dá)到800G,延遲低于1微秒,功耗比K2-Pro的下降40%。

在軟件方面,我們將逐步向各大開源社區(qū)開源我們的HADOS教育版,同時(shí)推出企業(yè)版HADOS 4.0,在性能、功能、穩(wěn)定性方面全面升級(jí)。

在云平臺(tái)方面,我們也將進(jìn)一步擴(kuò)容馭云,推出馭云2.0,節(jié)點(diǎn)規(guī)模從400個(gè)節(jié)點(diǎn)突破到1000個(gè)節(jié)點(diǎn),同時(shí)在集群部署、運(yùn)維、調(diào)優(yōu)、一體化、可視化方面達(dá)到更高的高度。

這些內(nèi)容將構(gòu)成馭數(shù)在算力基礎(chǔ)設(shè)施領(lǐng)域的“芯云計(jì)劃”。我們做芯,是為了服務(wù)云。手中有芯,心里有云。

中科馭數(shù)也會(huì)繼續(xù)為行業(yè)做貢獻(xiàn),持續(xù)深度參與行業(yè)標(biāo)準(zhǔn)的制定,力爭(zhēng)參與和牽引標(biāo)準(zhǔn)突破100項(xiàng)。同時(shí),我們也會(huì)繼續(xù)重視知識(shí)產(chǎn)權(quán)保護(hù),筑牢科創(chuàng)根基。到2025年末,累計(jì)提交發(fā)明專利1000項(xiàng)、軟件著作權(quán)1000項(xiàng)。

而這一切,都離不開我們生態(tài)伙伴的支持與信任。這也是我們馭數(shù)的信條——協(xié)作創(chuàng)造價(jià)值,創(chuàng)新引領(lǐng)未來(lái)。

09

希望人們以后像記住Intel=CPU,Nvidia=GPU一樣,

記得 馭數(shù)=DPU!

回顧歷史,50多年前的1971年,當(dāng)Intel發(fā)布了首顆成功的CPU產(chǎn)品,我們還沒(méi)有改革開放。

20多年前的1997年,Nvidia發(fā)布了讓它起死回生的GeForce系列GPU,宣告自己成為了GPU的發(fā)明者,而當(dāng)時(shí)對(duì)于科技創(chuàng)新而言,我們還處于濃濃的“做不如買,買不如租”的氛圍中。

4年前,當(dāng)DPU成為了風(fēng)口浪尖的熱點(diǎn)時(shí),我們已經(jīng)提前出發(fā)了2年。這一次,我們終于有希望不僅是起得早,還能趕上早集。

我們更希望,人們以后像記住Intel=CPU,Nvidia=GPU一樣,記得馭數(shù)=DPU。

我們今天發(fā)布的所有成果,是中科馭數(shù)團(tuán)隊(duì)2千多個(gè)日夜艱苦奮戰(zhàn)的結(jié)果,就在現(xiàn)在,我們還有同事在客戶的現(xiàn)場(chǎng)開展交付調(diào)試,還有同事奔赴在去往各個(gè)客戶交付場(chǎng)景的高鐵、飛機(jī)上。

感謝大家的熱情參與,期待與您在不久的將來(lái),再次相聚,再會(huì)!




審核編輯 黃宇
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 云計(jì)算
    +關(guān)注

    關(guān)注

    39

    文章

    7774

    瀏覽量

    137351
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    357

    瀏覽量

    24169
  • 中科馭數(shù)
    +關(guān)注

    關(guān)注

    0

    文章

    118

    瀏覽量

    3985
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    中科數(shù)受邀出席華泰證券金融科技峰會(huì)

    近日中科數(shù)作為創(chuàng)新生態(tài)伙伴,受邀參與華泰證券在香港舉辦的2024年度金融科技峰會(huì)。中科數(shù)創(chuàng)始
    的頭像 發(fā)表于 12-13 15:19 ?204次閱讀

    中科數(shù)受邀出席中國(guó)科學(xué)院大學(xué)校友論壇

    分享《DPU——連接算力基礎(chǔ)設(shè)施的“樞紐”》主題演講,以其深厚的學(xué)術(shù)背景與豐富的行業(yè)經(jīng)驗(yàn),向與會(huì)嘉賓分享中科數(shù)DPU芯片如何成為鏈接和優(yōu)化
    的頭像 發(fā)表于 09-29 09:45 ?313次閱讀

    中科數(shù)亮相2024金證科技節(jié)

    上,中科數(shù)低時(shí)延網(wǎng)絡(luò)產(chǎn)品線負(fù)責(zé)人袁曉飛發(fā)表了題為《國(guó)產(chǎn)低延遲網(wǎng)卡及NDPP平臺(tái)解決方案》的主題演講,探索DPU在金融計(jì)算的最佳實(shí)踐。
    的頭像 發(fā)表于 09-29 09:43 ?343次閱讀

    中科數(shù)華中總部項(xiàng)目落戶光谷

    近日,國(guó)內(nèi)DPU芯片領(lǐng)域的領(lǐng)軍企業(yè)——中科數(shù)(北京)科技有限公司與東湖高新區(qū)正式簽署合作協(xié)議,標(biāo)志著中科
    的頭像 發(fā)表于 09-19 17:35 ?546次閱讀

    中科數(shù)分析DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實(shí)際應(yīng)用

    CCF Chip 2024,精彩不能停!7月21日下午,中科數(shù)在第二屆中國(guó)計(jì)算機(jī)學(xué)會(huì)(CCF)芯片大會(huì)的“
    的頭像 發(fā)表于 08-02 11:21 ?698次閱讀

    中科數(shù)聯(lián)合處理器芯片全國(guó)重點(diǎn)實(shí)驗(yàn)室獲得“CCF芯片大會(huì)最佳論文獎(jiǎng)”

    在第二屆中國(guó)計(jì)算機(jī)學(xué)會(huì)芯片大會(huì)上,中科數(shù)與中國(guó)科學(xué)院計(jì)算技術(shù)研究所處理器芯片全國(guó)重點(diǎn)實(shí)驗(yàn)室共同完成的一項(xiàng)成果《GRACE: An End-
    的頭像 發(fā)表于 08-02 11:09 ?605次閱讀

    中科數(shù)HADOS 3.0:以四大架構(gòu)革新,全面擁抱敏捷開發(fā)理念,引領(lǐng)DPU應(yīng)用生態(tài)

    一家成功的大算力芯片公司,其核心壁壘必須是軟硬兼?zhèn)涞?,既要有芯片架?gòu)的強(qiáng)大技術(shù)壁壘,更要有持久投入的、生態(tài)兼容完備的軟件護(hù)城河。HADOS,就是中科數(shù)的軟件護(hù)城河。
    的頭像 發(fā)表于 07-09 14:26 ?369次閱讀
    <b class='flag-5'>中科</b><b class='flag-5'>馭</b><b class='flag-5'>數(shù)</b>HADOS 3.0:以四大架構(gòu)革新,全面擁抱敏捷開發(fā)理念,引領(lǐng)<b class='flag-5'>DPU</b>應(yīng)用生態(tài)

    中科數(shù)DPU是構(gòu)建高效智算中心基礎(chǔ)設(shè)施的必選項(xiàng)

    日前,在江蘇省未來(lái)網(wǎng)絡(luò)創(chuàng)新研究院、網(wǎng)絡(luò)通信與安全紫金山實(shí)驗(yàn)室舉辦的“2024智算網(wǎng)絡(luò)技術(shù)與應(yīng)用創(chuàng)新峰會(huì)”上,中科數(shù)作為DPU算力基礎(chǔ)設(shè)施領(lǐng)軍企業(yè),受邀出席本次峰會(huì)。
    的頭像 發(fā)表于 07-08 10:51 ?701次閱讀

    中科數(shù)發(fā)布第DPU芯片K2 Pro,較上一代能耗降低30%

    基于該芯片的自研芯片架構(gòu)和專用的指令集技術(shù)。 ? 該公司表示,之所以發(fā)布一整套技術(shù)而非單顆芯片,是因?yàn)樗鼈兿嗷ヒ蕾?、相互增?qiáng),共同構(gòu)成了一個(gè)高效、靈活且功能強(qiáng)大的DPU解決方案。 ? 中科
    的頭像 發(fā)表于 07-01 07:32 ?3541次閱讀

    芯片軟件全上陣 DPU“全家桶”來(lái)了!中科數(shù)成功舉辦2024產(chǎn)品發(fā)布會(huì)

    6月19日,中科數(shù)2024產(chǎn)品發(fā)布會(huì)在北京中關(guān)村展示中心正式舉辦。聚焦自研DPU核心技術(shù),中科
    的頭像 發(fā)表于 06-23 11:09 ?841次閱讀
    芯片軟件全上陣 <b class='flag-5'>DPU</b>“全家桶”來(lái)了!<b class='flag-5'>中科</b><b class='flag-5'>馭</b>數(shù)成功舉辦2024產(chǎn)品發(fā)布會(huì)

    中科數(shù)發(fā)布高性能DPU芯片K2-Pro

    在信息技術(shù)領(lǐng)域,每一次芯片技術(shù)的突破都代表著行業(yè)的一次飛躍。近日,DPU領(lǐng)域的領(lǐng)軍企業(yè)中科數(shù)宣布,成功研發(fā)并發(fā)布了其第
    的頭像 發(fā)表于 06-21 11:41 ?766次閱讀

    重新定義DPU——中科數(shù)2024產(chǎn)品發(fā)布會(huì),6月19日誠(chéng)邀蒞臨!

    數(shù)據(jù)中心正經(jīng)歷著前所未有的變革,DPU作為數(shù)據(jù)中心第顆主力芯片,正引領(lǐng)行業(yè)步入一個(gè)高效、靈活的算力新時(shí)代。 中科
    的頭像 發(fā)表于 06-18 16:17 ?545次閱讀

    中科數(shù)云、超低時(shí)延網(wǎng)絡(luò)案例雙雙入選第七屆數(shù)字中國(guó)建設(shè)峰會(huì)數(shù)字化轉(zhuǎn)型典型應(yīng)用案例

    方案入選。 作為國(guó)內(nèi)領(lǐng)先的DPU芯片及解決方案提供商,中科數(shù)基于自研KPU芯片架構(gòu)率先在國(guó)內(nèi)完成了
    的頭像 發(fā)表于 05-28 09:21 ?379次閱讀
    <b class='flag-5'>中科</b><b class='flag-5'>馭</b><b class='flag-5'>數(shù)</b><b class='flag-5'>馭</b>云、超低時(shí)延網(wǎng)絡(luò)案例雙雙入選第七屆數(shù)字中國(guó)建設(shè)峰會(huì)數(shù)字化轉(zhuǎn)型典型應(yīng)用案例

    中科數(shù)自研第二代DPU芯片K2獲得行業(yè)認(rèn)可

    近日,中科數(shù)自研第二代DPU芯片K2在眾多云生態(tài)創(chuàng)新應(yīng)用技術(shù)產(chǎn)品中脫穎而出,成功入選由中國(guó)云產(chǎn)業(yè)聯(lián)盟暨中關(guān)村云計(jì)算產(chǎn)業(yè)聯(lián)盟發(fā)布的“2023
    的頭像 發(fā)表于 01-18 09:20 ?1076次閱讀

    首個(gè)交通場(chǎng)景實(shí)例!中科數(shù)正式向重慶交開投交付國(guó)產(chǎn)網(wǎng)絡(luò)DPU卡解決方案

    ! 按重慶交通開投集團(tuán)數(shù)字化轉(zhuǎn)型規(guī)劃,數(shù)字平臺(tái)項(xiàng)目旨在建設(shè)統(tǒng)一通用的技術(shù)平臺(tái),為業(yè)務(wù)應(yīng)用提供高效、彈性的網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)資源及通用、共享的IT技術(shù)平臺(tái)能力。在運(yùn)營(yíng)商集成的整體解決方案中, 中科
    的頭像 發(fā)表于 12-26 10:45 ?606次閱讀
    首個(gè)交通場(chǎng)景實(shí)例!<b class='flag-5'>中科</b><b class='flag-5'>馭</b><b class='flag-5'>數(shù)</b>正式向重慶交開投交付國(guó)產(chǎn)網(wǎng)絡(luò)<b class='flag-5'>DPU</b>卡解決方案
    RM新时代网站-首页