RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

庫瀚科技協(xié)辦中國移動(dòng)科技周,共建多樣性算力科創(chuàng)發(fā)展新未來

科技見聞網(wǎng) ? 來源: 科技見聞網(wǎng) ? 作者: 科技見聞網(wǎng) ? 2023-09-11 09:19 ? 次閱讀

近期,中國移動(dòng)第四屆科技周暨戰(zhàn)略性新興產(chǎn)業(yè)共創(chuàng)發(fā)展大會(huì)正式啟動(dòng)。中國移動(dòng)攜手產(chǎn)學(xué)研用各方合作伙伴,以“澎湃創(chuàng)新力 戰(zhàn)新共未來”為主題,匯聚院士學(xué)者、產(chǎn)業(yè)大咖、業(yè)界專家,圍繞云和算力網(wǎng)絡(luò)、人工智能、6G、大數(shù)據(jù)、能力中臺(tái)、安全等領(lǐng)域,聚焦科創(chuàng)前沿,共商協(xié)同創(chuàng)新新模式,共謀戰(zhàn)新產(chǎn)業(yè)發(fā)展新未來。

其中,庫瀚科技協(xié)辦了以“多樣性算力”為主題的分論壇,該論壇聚焦算力基礎(chǔ)設(shè)施領(lǐng)域,與各界合作伙伴開展技術(shù)創(chuàng)新分享和實(shí)踐經(jīng)驗(yàn)交流,促進(jìn)技術(shù)生態(tài)繁榮,共同推動(dòng)數(shù)字經(jīng)濟(jì)高速發(fā)展。

(圖片來源:中國移動(dòng))

庫瀚科技軟件架構(gòu)師邱重陽在本次論壇中,分享了庫瀚在全RISC-V架構(gòu)下高性能存儲(chǔ)軟件的實(shí)踐與探索

wKgaomT-ayCADBafAAU3OBghQqk736.png


庫瀚分享:挑戰(zhàn)與趨勢(shì)

根據(jù)IDC預(yù)測(cè)數(shù)據(jù),2025年全球數(shù)據(jù)量將增長到175ZB,中國將成為全球最大數(shù)據(jù)圈( 48.6ZB ),存算比趨近1:1,存儲(chǔ)與計(jì)算同等重要?;A(chǔ)設(shè)施(服務(wù)器)市場(chǎng)近萬億,目前主導(dǎo)這個(gè)市場(chǎng)的還是X86 CPU通用計(jì)算為核心的生態(tài)。而X86 CPU的核心技術(shù)被境外壟斷,價(jià)格昂貴的同時(shí)不符合國內(nèi)信創(chuàng)趨勢(shì)。摩爾定律在服務(wù)器芯片上逐漸失效,但是高速的存儲(chǔ)、網(wǎng)絡(luò)設(shè)備還在快速發(fā)展,通用CPU很難再同時(shí)處理計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)等需求。

在此背景下,數(shù)據(jù)中心存算一體架構(gòu)一直面臨兩個(gè)主要挑戰(zhàn):

第一個(gè)挑戰(zhàn)是數(shù)據(jù)存儲(chǔ)生命周期和服務(wù)器更新周期不同,存算一體的服務(wù)器架構(gòu)無法使存算獨(dú)立擴(kuò)容,服務(wù)器的更新?lián)Q代由處理器的升級(jí)周期決定,一般是2~3年更換,與數(shù)據(jù)存儲(chǔ)5~10年的生命周期有較大區(qū)別,兩者之間巨大的差異導(dǎo)致系統(tǒng)資源大量浪費(fèi),增加數(shù)據(jù)遷移丟失風(fēng)險(xiǎn)。

另外一個(gè)挑戰(zhàn)是,傳統(tǒng)分布式存儲(chǔ)架構(gòu)使得性能和存儲(chǔ)資源利用率難以兼得,通常情況下,性能型存儲(chǔ)通常采用三副本模式,得盤率僅僅約30%,容量型存儲(chǔ)采用EC模式提升得盤率,但同時(shí)增加了CPU、網(wǎng)絡(luò)的開銷,導(dǎo)致存儲(chǔ)系統(tǒng)整體性能受損。

數(shù)字經(jīng)濟(jì)時(shí)代,多樣應(yīng)用推動(dòng)生產(chǎn)進(jìn)步,當(dāng)下比較熱有ChatGPT、自動(dòng)駕駛等,這些應(yīng)用的背后都在消耗巨大的算力。這些不同的應(yīng)用需要不同的算法,特定的算法匹配特定的算力來處理才能發(fā)揮更好的能效比。

業(yè)界涌現(xiàn)出越來越多的數(shù)據(jù)處理單元(DPU)和基礎(chǔ)設(shè)施處理單元(IPU)專用芯片,在數(shù)據(jù)流處理路徑上取代通用處理器,提升算力能效比。面對(duì)新的業(yè)務(wù)需求,結(jié)合計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)的新技術(shù)發(fā)展趨勢(shì),新型存算分離的Diskless架構(gòu)將重新定義數(shù)據(jù)中心基礎(chǔ)設(shè)施。Top 廠商積極布局Diskless 架構(gòu),通過IPU對(duì)接共享的閃存盤框。

我們可以說:傳統(tǒng)存儲(chǔ)是存儲(chǔ)1.0時(shí)代,分布式存儲(chǔ)開啟存儲(chǔ)2.0時(shí)代,Diskless正在帶領(lǐng)我們走進(jìn)存儲(chǔ)3.0時(shí)代。

wKgZomT-ayGAXRw0AAQriELJUyE203.png


wKgaomT-ayKAGXSyAAQPmSh7W1w461.png


策略與思路

·思路一:存儲(chǔ)服務(wù)器使用存儲(chǔ)專用芯片

目前芯片龍頭已經(jīng)推出的各類智能網(wǎng)卡形態(tài)數(shù)據(jù)處理芯片,主要是滿足云廠商自定義的CPU算力卸載需求。頭部廠商都在專用數(shù)據(jù)處理芯片的方向,但是目前看到的數(shù)據(jù)處理芯片側(cè)重于計(jì)算服務(wù)器側(cè)網(wǎng)絡(luò)、計(jì)算虛擬化卸載等問題,存儲(chǔ)服務(wù)器更強(qiáng)調(diào)IO加速、EC壓縮的優(yōu)化,低功耗、低成本的需求。基于存儲(chǔ)專用芯片的存儲(chǔ)服務(wù)器是去x86架構(gòu)、提升算力能效比、降低存儲(chǔ)服務(wù)器成本的一個(gè)有效手段,當(dāng)然也同時(shí)需要對(duì)應(yīng)存儲(chǔ)基礎(chǔ)軟件來與之配套。

·思路二:通過數(shù)據(jù)分層機(jī)制來解決存儲(chǔ)性能和資源的有效利用率難以兼得的矛盾

數(shù)據(jù)分層存儲(chǔ)已經(jīng)是一個(gè)比較老話題了,但就當(dāng)前數(shù)據(jù)中心Diskless架構(gòu)的趨勢(shì)來說,數(shù)據(jù)分層本身使用了兩層數(shù)據(jù)分離存儲(chǔ)的策略,這和Diskless數(shù)據(jù)拉遠(yuǎn)池化的理念更加契合。一般來說,數(shù)據(jù)分層機(jī)制,通過副本機(jī)制對(duì)外提供統(tǒng)一的高性能存儲(chǔ)服務(wù);通過EC策略進(jìn)行數(shù)據(jù)存儲(chǔ)使得存儲(chǔ)系統(tǒng)整體得盤率更高。通過兩層架構(gòu)的技術(shù)整合,以提高存儲(chǔ)系統(tǒng)整體的存儲(chǔ)性能和資源的有效利用率。

·思路三:通過軟硬融合的設(shè)計(jì)提升存儲(chǔ)系統(tǒng)資源的有效利用率

首先,目前SSD訪問接口仍然是基于塊語義的隨機(jī)覆蓋寫,這并不契合NAND Flash的特性,NAND Flash是追加寫、擦除后寫,SSD為了適配傳統(tǒng)塊語義的接口,不得不在內(nèi)部實(shí)現(xiàn)轉(zhuǎn)換層FTL,增加了元數(shù)據(jù)管理、GC、OP空間預(yù)留等資源的開銷。為了解決這個(gè)問題,庫瀚提出了open channel技術(shù),以及繼承于它的zoned namespace技術(shù),這些技術(shù)突破傳統(tǒng)的標(biāo)準(zhǔn)硬件接口,打通設(shè)備與應(yīng)用層之間的信息屏障。

其次是存儲(chǔ)側(cè)的計(jì)算卸載,也可以說是近存儲(chǔ)計(jì)算。存儲(chǔ)服務(wù)器側(cè)的數(shù)據(jù)壓縮、EC等算法,不適合利用通用處理器來計(jì)算,將其卸載到專用處理器可以顯著提升能效比。

實(shí)踐與探索

庫瀚打造的存儲(chǔ)平臺(tái)是從底層SSD 主控芯片、SSD 固件、存儲(chǔ)服務(wù)器主控到存儲(chǔ)底層基礎(chǔ)軟件全技術(shù)棧打通的一個(gè)存儲(chǔ)架構(gòu),在IO鏈路上基于全RISC-V架構(gòu)主控平臺(tái),軟硬融合設(shè)計(jì)的全閃存存儲(chǔ)平臺(tái)。

庫瀚兩顆RISC-V芯片——Aurora SSD主控、eSPU覆蓋從應(yīng)用到存儲(chǔ)全流程,eSPU主板主控形態(tài)支持實(shí)現(xiàn)無x86架構(gòu)的存儲(chǔ)服務(wù)器,eSPU智能網(wǎng)卡形態(tài)面向數(shù)據(jù)服務(wù)基礎(chǔ)設(shè)置場(chǎng)景;Aurora SSD主控支持實(shí)現(xiàn)PCIE 5.0/4.0等多型號(hào)的高性能企業(yè)級(jí)固態(tài)硬盤。

庫瀚StorEngine 軟固件平臺(tái)是一套軟件定義存儲(chǔ)生態(tài)的高性能分布式存儲(chǔ)軟件基礎(chǔ)計(jì)算模組,也是兩顆RISC-V芯片平臺(tái)的存儲(chǔ)基礎(chǔ)軟件,以助力數(shù)據(jù)中心實(shí)現(xiàn)在現(xiàn)有硬件平臺(tái)、eSPU/Aurora硬件平臺(tái)下發(fā)揮業(yè)界領(lǐng)先的性能。

StorEngine 既可以運(yùn)行在x86ARM平臺(tái)上,也可以運(yùn)行在eSPU(RISC-V)平臺(tái)上。

庫瀚StorEngine 采用Diskless 存算分離架構(gòu),把存儲(chǔ)資源拉遠(yuǎn)池化,以替換傳統(tǒng)存儲(chǔ)中的本地盤;通過高密度的SPU盤框 + 存儲(chǔ)計(jì)算分開擴(kuò)容的能力,來降低數(shù)據(jù)中心整體成本。

庫瀚StorEngine 使用數(shù)據(jù)分層和統(tǒng)一zone設(shè)計(jì),性能層和容量層的分層設(shè)計(jì)使得系統(tǒng)在提升得盤率的同時(shí),能夠提供高性能存儲(chǔ)服務(wù);統(tǒng)一zone架構(gòu),使StorEngine兼容不同介質(zhì)存儲(chǔ)設(shè)備,全局存儲(chǔ)資源以zone為單位進(jìn)行分配,實(shí)現(xiàn)全局FTL,使SSD的磨損均衡可以在全局作用,同樣可以延長SSD的壽命。

wKgZomT-ayOAcKLvAAOvy2o6CfU820.png

wKgaomT-aySAUTdOAAMd1t-bN4g929.png

wKgZomT-aySAfc5hAAPp_7u6Ql0110.png

庫瀚與中移已就存儲(chǔ)系統(tǒng)項(xiàng)目開展了合作與探索。中移ESSD是一套全自研的高性能全閃分布式存儲(chǔ)系統(tǒng),單卷可達(dá)百萬 IOPS以上;庫瀚StorEngine RPC組件KRPC在中移動(dòng)ESSD高性能場(chǎng)景下的應(yīng)用,提升了RPC組件效率,降低了硬件資源的開銷。單卷客戶端所需的CPU核心數(shù)量從改造前的21個(gè)下降為改造后的5個(gè),與此同時(shí)單路IO延遲也從600us下降到270us,整個(gè)資源的利用率得到了顯著的提高,存儲(chǔ)系統(tǒng)的長尾延遲也有所改善。

wKgZomT-ayaAIYB4AANrOdefdZo532.png



審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    455

    文章

    50714

    瀏覽量

    423136
  • RISC-V
    +關(guān)注

    關(guān)注

    45

    文章

    2270

    瀏覽量

    46128
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    964

    瀏覽量

    14793
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    澎峰科技助力中國移動(dòng) 重磅發(fā)布智“芯合”原生基礎(chǔ)軟件棧2.0

    11月30日 ,由中國通信學(xué)會(huì)主辦、中國移動(dòng)研究院承辦的2024中國信息通信大會(huì)“網(wǎng)絡(luò)網(wǎng)一
    的頭像 發(fā)表于 12-03 15:08 ?248次閱讀
    澎峰科技助力<b class='flag-5'>中國移動(dòng)</b> 重磅發(fā)布智<b class='flag-5'>算</b>“芯合”<b class='flag-5'>算</b><b class='flag-5'>力</b>原生基礎(chǔ)軟件棧2.0

    澎峰科技助力中國移動(dòng)發(fā)布智“芯合”原生基礎(chǔ)軟件棧2.0

    近日 ,由中國通信學(xué)會(huì)主辦、中國移動(dòng)研究院承辦的2024中國信息通信大會(huì)“網(wǎng)絡(luò)網(wǎng)一體創(chuàng)新
    的頭像 發(fā)表于 12-03 13:29 ?238次閱讀

    飛騰進(jìn)一步推動(dòng)多樣性產(chǎn)業(yè)升級(jí)

    日前,“共筑新,智啟新未來多樣性產(chǎn)業(yè)峰會(huì) 2024(以下簡稱 “峰會(huì)”)在北京舉行。
    的頭像 發(fā)表于 09-02 14:28 ?456次閱讀

    壁仞科技為中國移動(dòng)呼和浩特智中心提供強(qiáng)大

    ? 隨著人工智能技術(shù)的飛速發(fā)展,高性能計(jì)算中心成為推動(dòng)AI創(chuàng)新和應(yīng)用的關(guān)鍵基礎(chǔ)設(shè)施。近日,中國移動(dòng)中心(呼和浩特)成功上線運(yùn)營。國內(nèi)領(lǐng)先的GPU企業(yè)壁仞科技的壁礪系列通用GPU
    的頭像 發(fā)表于 07-05 17:16 ?1270次閱讀

    FPGA廠商紫光同創(chuàng)入選多樣性產(chǎn)業(yè)及標(biāo)準(zhǔn)推進(jìn)委員會(huì)黃金成員

    日前,“共筑新,智啟新未來多樣性產(chǎn)業(yè)峰會(huì)2024在北京成功舉辦。本次峰會(huì)由
    的頭像 發(fā)表于 06-23 16:58 ?1420次閱讀
    FPGA廠商紫光同創(chuàng)入選<b class='flag-5'>多樣性</b><b class='flag-5'>算</b><b class='flag-5'>力</b>產(chǎn)業(yè)及標(biāo)準(zhǔn)推進(jìn)委員會(huì)黃金成員

    得瑞領(lǐng)新邀您共赴多樣性產(chǎn)業(yè)峰會(huì)2024,探討未來新趨勢(shì)

    多樣性產(chǎn)業(yè)峰會(huì)2024將于6月18日在北京新青海喜來登酒店隆重舉辦。得瑞領(lǐng)新誠邀各界專業(yè)人士和行業(yè)領(lǐng)袖蒞臨參會(huì),共同探討前沿技術(shù),分享創(chuàng)新成果,推動(dòng)多樣性
    的頭像 發(fā)表于 06-14 10:42 ?309次閱讀

    軟通動(dòng)力與湖北移動(dòng)達(dá)成AI智創(chuàng)合作

    近日,2024湖北移動(dòng)AI+成果發(fā)布暨生態(tài)大會(huì)在武漢盛大召開。此次大會(huì),中國移動(dòng)通信集團(tuán)湖北有限公司攜手業(yè)界精英,共同探索AI技術(shù)的未來發(fā)展趨勢(shì)。其中,軟通動(dòng)力受邀參加,并與湖北
    的頭像 發(fā)表于 05-22 10:49 ?569次閱讀

    中國移動(dòng)網(wǎng)絡(luò)大會(huì)的現(xiàn)場(chǎng)精華,都在這里!

    大家好,我是小棗君。4月28-29日,2024中國移動(dòng)網(wǎng)絡(luò)大會(huì)在蘇州召開。我有幸前往現(xiàn)場(chǎng)參加了本次大會(huì)。按照慣例,來給大家匯報(bào)一下現(xiàn)場(chǎng)的情況。中國移動(dòng)
    的頭像 發(fā)表于 05-13 08:05 ?592次閱讀
    <b class='flag-5'>中國移動(dòng)</b><b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)大會(huì)的現(xiàn)場(chǎng)精華,都在這里!

    中國移動(dòng)已建成運(yùn)營商最大單體智中心

    中國移動(dòng)在智領(lǐng)域邁出重要步伐,成功建成并投產(chǎn)了運(yùn)營商中最大的單體智中心——中國移動(dòng)中心(呼和浩特)。這一壯舉不僅填補(bǔ)了我國人工智能
    的頭像 發(fā)表于 05-06 10:49 ?709次閱讀

    軟通動(dòng)力亮相2024中國移動(dòng)網(wǎng)絡(luò)大會(huì),共繪網(wǎng)絡(luò)新藍(lán)圖

    4月28日至29日,以“網(wǎng)絡(luò)點(diǎn)亮AI新時(shí)代”為主題的2024中國移動(dòng)網(wǎng)絡(luò)大會(huì)在蘇州隆重舉行。
    的頭像 發(fā)表于 05-06 10:20 ?468次閱讀
    軟通動(dòng)力亮相2024<b class='flag-5'>中國移動(dòng)</b><b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)大會(huì),共繪<b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)新藍(lán)圖

    博半導(dǎo)體參加中國移動(dòng)網(wǎng)絡(luò)大會(huì),智啟GPU加速行業(yè)解決方案

    4月28日至29日,2024中國移動(dòng)網(wǎng)絡(luò)大會(huì)在蘇州召開。作為中國移動(dòng)合作伙伴,博半導(dǎo)體受邀參與本次大會(huì)并全面展示
    的頭像 發(fā)表于 04-30 14:32 ?1747次閱讀
    <b class='flag-5'>瀚</b>博半導(dǎo)體參加<b class='flag-5'>中國移動(dòng)</b><b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)大會(huì),智啟GPU加速行業(yè)解決方案

    壁仞科技加入中國移動(dòng)“融創(chuàng)未來網(wǎng)絡(luò)創(chuàng)新聯(lián)合體

    近日,以“網(wǎng)絡(luò)點(diǎn)亮AI新時(shí)代”為主題的2024中國移動(dòng)網(wǎng)絡(luò)大會(huì)在蘇州舉行。作為中國移動(dòng)
    的頭像 發(fā)表于 04-30 09:36 ?934次閱讀
    壁仞科技加入<b class='flag-5'>中國移動(dòng)</b>“融<b class='flag-5'>創(chuàng)</b><b class='flag-5'>未來</b>”<b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)創(chuàng)新聯(lián)合體

    中興通訊精彩亮相2024中國移動(dòng)網(wǎng)絡(luò)大會(huì)

    4月28日,2024中國移動(dòng)網(wǎng)絡(luò)大會(huì)在蘇州重磅啟幕,中興通訊以“興智能 新紀(jì)元”為主題參展
    的頭像 發(fā)表于 04-29 09:30 ?449次閱讀

    后摩智能助力中國移動(dòng)構(gòu)建網(wǎng)絡(luò)

    后摩智能助力中國移動(dòng)構(gòu)建網(wǎng)絡(luò),MWC展示邊端大模型運(yùn)行成果
    的頭像 發(fā)表于 03-14 14:48 ?627次閱讀
    后摩智能助力<b class='flag-5'>中國移動(dòng)</b>構(gòu)建<b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)

    中國移動(dòng)近日正式推出全球首臺(tái)路由器—CATS Router

    3月11日消息,中國移動(dòng)近日正式推出歷時(shí)兩年研制成功的全球首臺(tái)路由器——CATS Router。
    的頭像 發(fā)表于 03-11 16:08 ?980次閱讀
    <b class='flag-5'>中國移動(dòng)</b>近日正式推出全球首臺(tái)<b class='flag-5'>算</b><b class='flag-5'>力</b>路由器—CATS Router
    RM新时代网站-首页