RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DPU走進巨頭視線

ss ? 來源:Ai芯天下 ? 作者:Ai芯天下 ? 2020-11-09 11:30 ? 次閱讀

最近幾年,隨著系統(tǒng)中的CPU承受越來越多的網(wǎng)絡(luò)和存儲工作負載,DPU已成為以數(shù)據(jù)為中心加速計算模型的第三個成員。

那么,DPU能否真正承擔起與CPU、GPU一樣的計算重要性,實現(xiàn)數(shù)據(jù)中心的一次巨大革新?其創(chuàng)新點到底在哪里?這些仍然是我們要去回顧和考察的問題。

DPU將成未來計算支柱之一

DPU,是Data Processing Unit的縮寫,也就是所謂的數(shù)據(jù)處理單元。

DPU的主要作用就在于替代了數(shù)據(jù)中心原本用來處理分布式存儲和網(wǎng)絡(luò)通信的CPU處理器資源。

目前服務(wù)器要處理的資料日益增多,除了原有的加解密、封包壓縮外,加速器也讓服務(wù)器要處理的資料量變得更龐大,就會造成原有CPU在處理安全能力表現(xiàn)上出現(xiàn)瓶頸。

如果有了DPU的出現(xiàn),就可以先在DPU將大量的信息先做消化,接著再傳遞給CPU做其他的分配,如此一來能減少CPU約30%的消耗。

在DPU之前,智能網(wǎng)卡(SmartNIC)正在網(wǎng)絡(luò)安全和網(wǎng)絡(luò)互連協(xié)議方面逐漸取代CPU。

而現(xiàn)在DPU的出現(xiàn),相當于是智能網(wǎng)卡的升級替代版本。

一方面增強了智能網(wǎng)卡對網(wǎng)絡(luò)安全和網(wǎng)絡(luò)協(xié)議的處理能力;

一方面又整合和加強了分布式存儲的處理能力。

從而在這兩個領(lǐng)域更好地替代CPU,從而釋放CPU的算力給到其他更多應(yīng)用。

所有的這些DPU功能對于實現(xiàn)隔離的裸機云原生計算至關(guān)重要,它也將定義下一代云規(guī)模計算。

DPU走進巨頭視線的原因

①DPU更安全,因為控制平面可以在系統(tǒng)內(nèi)和系統(tǒng)集群之間與數(shù)據(jù)平面分離。DPU可以執(zhí)行原本需要CPU處理的網(wǎng)絡(luò)、存儲和安全等任務(wù)。CPU的不少運算能力可以被釋放出來,去執(zhí)行廣泛的企業(yè)應(yīng)用。

②DPU釋放了服務(wù)器的容量,以便它們可以恢復到應(yīng)用程序計算。在一些具有大量I / O和沉重虛擬化的系統(tǒng)上內(nèi)核成本縮減一半,因此吞吐量提高了2倍。

③DPU豐富的、靈活和可編程的加速引擎可減輕和改善AI機器學習應(yīng)用的性能。

④DPU能充當數(shù)據(jù)中心的“第三插槽”,補充CPU和GPU,同時在單位功率和空間內(nèi)帶來前所未有的好處。該公司還表示,這些好處是安全可靠的。

⑤高幀率、高動態(tài)范圍顯示,這些其實都需要頂級的DPU來實現(xiàn)。

⑥對于智能汽車來說,未來的超大屏當然也需要強力的DPU和VPU來支撐。

⑦DPU引入機器學習算法,可對數(shù)據(jù)進行智能管理、控制和分析,從而減少閃存擦寫次數(shù),延長SSD使用壽命;還可減少盤內(nèi)計算和總線數(shù)據(jù)量,減輕主機CPU的負擔。

英偉達最為看重DPU并發(fā)力

英偉達在DPU上的技術(shù)突破,來自于去年收購以色列芯片制造公司Mellanox之后,在這家公司的硬件基礎(chǔ)上開發(fā)出BlueFeild系列的兩款DPU——英偉達BlueField-2 DPU與BlueField-2X DPU。

BlueField-2 DPU具有英偉達Mellanox Connext-6 SmartNIC的所有特點,與8個64位的A72ARM處理器內(nèi)核一起,實現(xiàn)可完全編程,并能提供每秒200千兆比特的數(shù)據(jù)傳輸速率,從而加速關(guān)鍵數(shù)據(jù)中心的安全、網(wǎng)絡(luò)和存儲任務(wù)。

最核心的一點是單個BlueField-2 DPU可以提供相當于消耗125個CPU內(nèi)核所提供的數(shù)據(jù)中心服務(wù),從而有效釋放CPU內(nèi)核的算力資源。

英偉達發(fā)力DPU建設(shè)的深層目的,一個是DPU試圖再一次復制GPU替代顯示加速卡成為通用顯示芯片的路徑,再一個是DOCA試圖再一次復制CUDA在GPU通用化過程中所起到的開創(chuàng)生態(tài)之功。

國際巨頭開始紛紛提前布局

根據(jù)THENEXTPLATFORM的分析指出,在2020年,SmartNIC正在演變成DPU,每個人都想在這個領(lǐng)域分一杯羹。

在這個領(lǐng)域的玩家或者潛在玩家主要包括Broadcom,英特爾,英偉達,Netronome,Pensando,F(xiàn)ungible和賽靈思,還包括云供應(yīng)商三大巨頭。

近水樓臺先得月,Broadcom是商品以太網(wǎng)NIC控制器市場上無可爭議的領(lǐng)導者。Broadcom的Stingray架構(gòu)采用了單芯片方法,與其他競爭對手的許多芯片板相比,單芯片SmartNIC解決方案在板級生產(chǎn)的成本始終較低。

英特爾也對用于超大規(guī)模生產(chǎn)者和云構(gòu)建者的可編程以太網(wǎng)交換和SmartNIC更感興趣,在DPU上,英特爾主要是將CPU和FPGA結(jié)合在一起。

賽靈思是SmartNIC領(lǐng)域中另一位杰出的FPGA進入者,其Alveo U25將雙SFP28端口直接連接到Zynq系列芯片,包括6GB DDR4內(nèi)存,Zynq的FPGA和Arm內(nèi)核可通過該芯片上運行的程序?qū)ζ溥M行訪問。

Fungible公司的DPU起到數(shù)據(jù)中心結(jié)構(gòu)控制和網(wǎng)絡(luò)層的作用,通過減少資源等待的次數(shù)和動態(tài)構(gòu)成服務(wù)器的基礎(chǔ)結(jié)構(gòu),來提高數(shù)據(jù)中心的效率。

其生產(chǎn)的DPU將網(wǎng)絡(luò)資源總擁有成本降低到原來的四分之一,計算能力降低到原來的一半,存儲降低到原來的五分之一以下,總成本降低到原來的三分之一。

除了上述供應(yīng)商,全球的云廠商巨頭也都在部署SmartNIC,而且三家云供應(yīng)商正在設(shè)計自己的系統(tǒng)級芯片架構(gòu),他們就是阿里云的X-Dragon,亞馬遜AWS的Nitro和微軟Azure的Catapult。

結(jié)尾:

DPU可以和CPU、GPU相結(jié)合,構(gòu)成完全可編程的單一AI計算單元,實現(xiàn)前所未有的安全性和算力支持。

CPU、GPU、DPU將代表未來計算的三大支柱。這三者之間,CPU用于通用計算,GPU用于加速計算,而DPU在數(shù)據(jù)中心周圍移動數(shù)據(jù),進行數(shù)據(jù)處理。

責任編輯:xj

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    10854

    瀏覽量

    211578
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    16

    文章

    4761

    瀏覽量

    72033
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    357

    瀏覽量

    24169
收藏 人收藏

    評論

    相關(guān)推薦

    中科馭數(shù)分析DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實際應(yīng)用

    CCF Chip 2024,精彩不能停!7月21日下午,中科馭數(shù)在第二屆中國計算機學會(CCF)芯片大會的“馭數(shù)專屬時刻”仍在繼續(xù),馭數(shù)組織承辦“DPU技術(shù)趨勢和應(yīng)用——DPU在云原生與智算網(wǎng)絡(luò)中
    的頭像 發(fā)表于 08-02 11:21 ?698次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    的技術(shù)標準也在不斷完善。從此 DPU 不再是行業(yè)巨頭的“專享”技術(shù),基礎(chǔ)設(shè)施與云計算相關(guān)產(chǎn)業(yè)參與者都在尋求一種簡單高效的方法,將 DPU 的優(yōu)勢運用到自身業(yè)務(wù)系統(tǒng)之中,例如 Red Hat
    發(fā)表于 07-24 15:32

    中科馭數(shù)CEO鄢貴海:從計算系統(tǒng)的三個視角重新審視DPU的核心價值

    在信息技術(shù)日新月異的浪潮中,DPU正逐漸嶄露頭角。當前,DPU發(fā)展的核心驅(qū)動力來自于什么?DPU技術(shù)是否已經(jīng)足夠成熟到廣泛應(yīng)用?市場上頭部玩家參與到這一創(chuàng)新技術(shù)的市場角逐之中?在算力時代,DP
    的頭像 發(fā)表于 06-28 14:27 ?473次閱讀
    中科馭數(shù)CEO鄢貴海:從計算系統(tǒng)的三個視角重新審視<b class='flag-5'>DPU</b>的核心價值

    芯片軟件全上陣 DPU“全家桶”來了!中科馭數(shù)成功舉辦2024產(chǎn)品發(fā)布會

    6月19日,中科馭數(shù)2024產(chǎn)品發(fā)布會在北京中關(guān)村展示中心正式舉辦。聚焦自研DPU核心技術(shù),中科馭數(shù)重磅發(fā)布最新一代DPU芯片K2 Pro、軟件開發(fā)平臺HADOS、以及一系列針對數(shù)據(jù)中心基礎(chǔ)設(shè)施層
    的頭像 發(fā)表于 06-23 11:09 ?841次閱讀
    芯片軟件全上陣 <b class='flag-5'>DPU</b>“全家桶”來了!中科馭數(shù)成功舉辦2024產(chǎn)品發(fā)布會

    中科馭數(shù)發(fā)布高性能DPU芯片K2-Pro

    在信息技術(shù)領(lǐng)域,每一次芯片技術(shù)的突破都代表著行業(yè)的一次飛躍。近日,DPU領(lǐng)域的領(lǐng)軍企業(yè)中科馭數(shù)宣布,成功研發(fā)并發(fā)布了其第三代DPU芯片——“K2-Pro”。這款芯片的發(fā)布,標志著中科馭數(shù)在DPU領(lǐng)域的技術(shù)實力達到了新的高度。
    的頭像 發(fā)表于 06-21 11:41 ?766次閱讀

    基于芯啟源NFP3800DPU芯片的深信服安全加速卡XSX40FNN網(wǎng)卡

    近日,國內(nèi)DPU領(lǐng)域的領(lǐng)軍企業(yè)芯啟源宣布,基于芯啟源NFP3800DPU芯片定制的深信服安全加速卡XSX40FNN網(wǎng)卡已成功應(yīng)用于其防火墻產(chǎn)品,并已批量推向市場。
    的頭像 發(fā)表于 05-29 14:06 ?928次閱讀
    基于芯啟源NFP3800<b class='flag-5'>DPU</b>芯片的深信服安全加速卡XSX40FNN網(wǎng)卡

    NVIDIA DPU編程入門開課儀式在澳門科技大學成功舉辦

    5 月 24 日,NVIDIA DPU 編程入門開課儀式在澳門科技大學成功舉辦。作為首個在中國開設(shè) NVIDIA DPU 編程相關(guān)課程的高校,來自澳門科技大學不同院系的師生共同見證了本次儀式。
    的頭像 發(fā)表于 05-28 09:40 ?391次閱讀

    DPU技術(shù)賦能下一代AI算力基礎(chǔ)設(shè)施

    4月19日,在以“重構(gòu)世界 奔赴未來”為主題的2024中國生成式AI大會上,中科馭數(shù)作為DPU新型算力基礎(chǔ)設(shè)施代表,受邀出席了中國智算中心創(chuàng)新論壇,發(fā)表了題為《以網(wǎng)絡(luò)為中心的AI算力底座構(gòu)建之路》主題演講,勾勒出在通往AGI之路上,DPU技術(shù)賦能下一代AI算力基礎(chǔ)設(shè)施中的
    的頭像 發(fā)表于 04-20 11:31 ?841次閱讀

    明天線上見!DPU構(gòu)建高性能云算力底座——DPU技術(shù)開放日最新議程公布!

    算力,是數(shù)字經(jīng)濟時代的新質(zhì)生產(chǎn)力。隨著人工智能、智算中心建設(shè)等需求不斷拓展,DPU在各行各業(yè)數(shù)據(jù)中心的應(yīng)用逐步深入。異構(gòu)算力代表DPU在新質(zhì)生產(chǎn)力建設(shè)中,能否給出別開生面的答案,應(yīng)戰(zhàn)算力難題?DPU
    的頭像 發(fā)表于 04-03 18:12 ?1001次閱讀

    中科馭數(shù)DPU技術(shù)開放日秀“肌肉”:云原生網(wǎng)絡(luò)、RDMA、安全加速、低延時網(wǎng)絡(luò)等方案組團亮相

    DPU技術(shù)開放日既是對DPU技術(shù)應(yīng)用的典型方案展示,也是DPU技術(shù)在重要細分場景走向成熟的標志。
    的頭像 發(fā)表于 04-01 11:48 ?777次閱讀
    中科馭數(shù)<b class='flag-5'>DPU</b>技術(shù)開放日秀“肌肉”:云原生網(wǎng)絡(luò)、RDMA、安全加速、低延時網(wǎng)絡(luò)等方案組團亮相

    FPGA-Based DPU網(wǎng)卡的發(fā)展和應(yīng)用

    采用單芯片的SoC形態(tài),兼顧性能和功耗。FPGA-Based DPU在硬件設(shè)計上的挑戰(zhàn)主要來自芯片面積和功耗。
    發(fā)表于 02-23 14:40 ?2040次閱讀
    FPGA-Based <b class='flag-5'>DPU</b>網(wǎng)卡的發(fā)展和應(yīng)用

    Zinn Labs 推出基于 PROPHESEE事件視覺傳感器的視線跟蹤系統(tǒng),為 AI 智能鏡框和 VR/MR 系統(tǒng)賦能

    結(jié)合 ?Prophesee 超低功耗、低延遲的事件視覺傳感器, 該款突破性的 視線 跟蹤系統(tǒng)將 助力 帶來直觀、無縫 流暢 的 新 用戶體驗 ? Zinn Labs 宣布推出業(yè)內(nèi)首款基于事件的視線
    的頭像 發(fā)表于 02-07 13:53 ?646次閱讀
    Zinn Labs 推出基于 PROPHESEE事件視覺傳感器的<b class='flag-5'>視線</b>跟蹤系統(tǒng),為 AI 智能鏡框和 VR/MR 系統(tǒng)賦能

    中科馭數(shù)自研第二代DPU芯片K2獲得行業(yè)認可

    近日,中科馭數(shù)自研第二代DPU芯片K2在眾多云生態(tài)創(chuàng)新應(yīng)用技術(shù)產(chǎn)品中脫穎而出,成功入選由中國云產(chǎn)業(yè)聯(lián)盟暨中關(guān)村云計算產(chǎn)業(yè)聯(lián)盟發(fā)布的“2023年中國云生態(tài)創(chuàng)新應(yīng)用技術(shù)產(chǎn)品”。這一殊榮既是對中科馭數(shù)第二代DPU芯片K2在行業(yè)領(lǐng)先地位的認可,也展現(xiàn)出
    的頭像 發(fā)表于 01-18 09:20 ?1076次閱讀

    DPU技術(shù)發(fā)展及落地實戰(zhàn)

    Nitro DPU系統(tǒng)提供了密鑰、網(wǎng)絡(luò)、安全、服務(wù)器和監(jiān)控等功能支持,釋放了底層服務(wù)資源供客戶的虛擬機使用,并且NitroDPU使AWS可以提供更多的裸金屬實例類型,甚至將特定實例的網(wǎng)絡(luò)性能提升到100Gbps。
    發(fā)表于 12-26 09:36 ?1142次閱讀
    <b class='flag-5'>DPU</b>技術(shù)發(fā)展及落地實戰(zhàn)

    《數(shù)據(jù)處理器:DPU編程入門》DPU計算入門書籍測評

    一、DPU計算框架 通過一周多的時間翻閱這本書,基本上這本書是一本比較全面的,面向架構(gòu)的新手指導數(shù)據(jù)。它在書中詳盡介紹了關(guān)于DPU在計算機架構(gòu)中的應(yīng)用。 對于DPU來說,是一種平行于CPU和GPU
    發(fā)表于 12-24 10:54
    RM新时代网站-首页