RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

實測 | 海納百川,華為OceanStor Pacific分布式存儲為多元算力應(yīng)用帶來更優(yōu)選擇

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2022-12-22 20:33 ? 次閱讀

被稱為開眼看世界的林則徐,在自己的書房中寫了這樣一副對聯(lián),以做自勉:海納百川,有容乃大,壁立千仞,無欲則剛。

包容的胸懷是我們做成很多事情的根基,也是一項產(chǎn)業(yè)戰(zhàn)略、科技事業(yè)發(fā)展的關(guān)鍵。近幾年,數(shù)據(jù)基礎(chǔ)設(shè)施國產(chǎn)化,在科技自立的大背景下如火如荼。比如,以計算和存儲為主要構(gòu)成的HPC/AI數(shù)據(jù)基礎(chǔ)設(shè)施事關(guān)國計民生,在以科技創(chuàng)新和基礎(chǔ)科研為代表的關(guān)鍵領(lǐng)域均扮演著重要角色。但很多科技科研場景的HPC/AI數(shù)據(jù)基礎(chǔ)設(shè)施當前都依托X86 CPU+GPU+Lustre存儲+IB交換機這個大一統(tǒng)的抱團生態(tài)體系,且已成為業(yè)界公認的HPC/AI設(shè)施最佳性能組合之一。如何兼顧科技科研領(lǐng)域的效率成果與自立自強,為HPC/AI等多樣性算力應(yīng)用關(guān)鍵場景,提供最適合業(yè)務(wù)的數(shù)據(jù)底座,成為一個關(guān)鍵問題。

這種情況下,“海納百川,有容乃大”的意義就凸顯了出來。不久之前,在深圳一所國家重點實驗室,華為OceanStor Pacific分布式存儲與早期依托X86 CPU+GPU+Lustre存儲+IB交換機組網(wǎng)構(gòu)建的某大科學(xué)裝置AI集群進行了綜合的POC測試。其結(jié)果顯示,華為OceanStor Pacific分布式存儲完美兼容匹配該大科學(xué)裝置的AI集群生態(tài)環(huán)境,更重要的是通過實測,其多項指標性能和功能均優(yōu)于現(xiàn)有系統(tǒng)。華為與該國家重點實驗室聯(lián)合操作的這項POC測試意義極其深遠重大,遠超于一款產(chǎn)品或解決方案發(fā)布:它代表了一種實事求是,兼容并蓄的發(fā)展策略;是一塊國產(chǎn)先進存儲面向全球的敲門磚,一艘中國科技與全球化間的破冰船;對于科學(xué)研究,乃至更多領(lǐng)域的數(shù)字化、智能化進程來說,這是十分幸運的。

數(shù)據(jù)之潮,時代之需:科研場景的存儲挑戰(zhàn)

X86+GPU主導(dǎo)的大一統(tǒng)生態(tài)技術(shù)體系經(jīng)過了數(shù)十年發(fā)展和構(gòu)建,其大樹根基在全球和中國已經(jīng)十分深遠。大量國際國內(nèi)的數(shù)字化工具和軟件應(yīng)用,數(shù)字化成果都捆綁X86+GPU。這在某種程度上來說是種無奈,但也是客觀存在不可回避的現(xiàn)實。

尤其在科研領(lǐng)域,HPC/AI正在全球各個學(xué)科的研究中扮演重要角色,X86+GPU算力平臺可以更方便教授學(xué)者與科研從業(yè)人員接觸全球最新學(xué)術(shù)動態(tài)和驗證科研成果。這種強慣性的作用下,短時間內(nèi)強行脫離X86生態(tài)是不現(xiàn)實的。因此,早期甚至當前新建的很多HPC/AI基礎(chǔ)設(shè)施,選擇建立在X86+GPU體系上。

隨著HPDA的整體發(fā)展,從業(yè)務(wù)負載上而言需要考慮HPC/AI、大數(shù)據(jù)以及AI的混合疊加,需要支持應(yīng)用驅(qū)動的科學(xué)計算工作流,進而推動負載以數(shù)據(jù)為中心,從計算科學(xué)發(fā)現(xiàn)轉(zhuǎn)向數(shù)據(jù)科學(xué)發(fā)現(xiàn)轉(zhuǎn)變。

科技科研的突破速度取決于數(shù)據(jù)基礎(chǔ)設(shè)施的性能,特別是對數(shù)據(jù)存儲性能帶來極致挑戰(zhàn)。第一個挑戰(zhàn)是應(yīng)用的數(shù)據(jù)量級從PB級正在加速走向EB級;第二個挑戰(zhàn)是應(yīng)用的負載從單一走向多樣化,也就是常說的混合負載;最后一個挑戰(zhàn)是應(yīng)用類型的變化,從簡單走向復(fù)雜。核心是數(shù)據(jù)與業(yè)務(wù)的耦合度在增加,數(shù)據(jù)計算需要參與整個業(yè)務(wù)流程的多個環(huán)節(jié),且環(huán)環(huán)相扣,缺一不可。

在當前推進科技科研自立自強的大時代背景下,面對這些數(shù)據(jù)中心存儲挑戰(zhàn)和需求,以及面對X86+GPU體系暫不可完全替代,國內(nèi)業(yè)界都希望看到先進的國產(chǎn)存儲兼容X86+GPU環(huán)境的下的HPC/AI應(yīng)用,也可以提供媲美Lustre存儲的性能和功能。

更佳性能,更優(yōu)選擇:華為分布式存儲的價值呈現(xiàn)

不久之前,華為OceanStor Pacific分布式存儲與在深圳某國家重點實驗室依托X86 CPU+GPU+Lustre存儲+IB交換機組網(wǎng)構(gòu)建的大科學(xué)裝置AI集群進行了POC測試。從測試結(jié)果上看,整體兼容效果良好,沒有出現(xiàn)任何兼容問題,并且使用了華為OceanStor Pacific分布式存儲之后,存儲在功能、性能上優(yōu)于現(xiàn)有系統(tǒng),融入計算集群的效果也更加良好。

這次測試對接的成功,表明華為在技術(shù)創(chuàng)新、產(chǎn)品兼容上的進取姿態(tài),也表明其為科研創(chuàng)新,乃至更廣闊計算、存儲領(lǐng)域做出貢獻的決心??蒲薪逃c國家實驗性,在一個國家的計算基礎(chǔ)設(shè)施中具有代表性意義。與該大科學(xué)裝置AI集群的成功對接,可以看作華為OceanStor Pacific分布式存儲敲開了國產(chǎn)存儲為HPC/AI提供更優(yōu)選擇的大門。HPC/AI應(yīng)用場景下,Lustre不再獨領(lǐng)風(fēng)騷。

一般來說,多元算力包括x86、ARM、AI、GPU計算等多種計算生態(tài),存儲需要根據(jù)不同的計算場景與計算設(shè)施,為用戶提供最佳體驗。華為分布式存儲的價值與優(yōu)勢,釋放到HPC/AI場景,可以有效滿足科研等場景中的存儲需求。

具體而言,華為OceanStor Pacific分布式存儲通過這樣幾個角度,破除HPC/AI場景的存儲困局。

首先解決海量數(shù)據(jù)高性價比存儲的問題:我們知道隨著HPC/AI業(yè)務(wù)量的不斷增長,往往最先遇到的是機房空間不足和存儲成本高昂的問題。為此,華為推出了 華為OceanStor Pacific分布式存儲高密專用硬件,基于全新的高密架構(gòu)設(shè)計,并提供更高的容量利用率,在有限的機房空間里存下更多數(shù)據(jù),更好地滿足海量數(shù)據(jù)增長的需要。疊加華為OceanStor Pacific分布式存儲的智能分級存儲技術(shù),對域內(nèi)熱、溫、冷數(shù)據(jù)進行統(tǒng)一管理,數(shù)據(jù)能夠在熱、溫、冷層系統(tǒng)間自動遷移,無需管理員手動干預(yù),靈活有效地管理數(shù)據(jù)全生命周期,同時有效解決海量數(shù)據(jù)的運維管理難題。

其次,提供面向混合負載的高性能:HPC/AI應(yīng)用計算所涉及的數(shù)據(jù)越來越多、類型越來越豐富、任務(wù)并發(fā)性也越來越高,因此需要性能更加均衡的存儲。華為OceanStor Pacific分布式存儲采用OceanFS新一代并行文件系統(tǒng),結(jié)合獨特的大小I/O自適應(yīng)數(shù)據(jù)流技術(shù),一套存儲即可同時滿足極致帶寬、極致IOPS和極致時延的混合負載要求。通過與分布式并行客戶端(DPC)的密切配合,打破單流和單客戶端的性能瓶頸,幫助企業(yè)有效應(yīng)對混合工作負載的挑戰(zhàn)。

最后,多個不同業(yè)務(wù)環(huán)節(jié)數(shù)據(jù)的高效安全流動:由于數(shù)據(jù)量的增大、數(shù)據(jù)應(yīng)用的復(fù)雜化,數(shù)據(jù)在不同環(huán)節(jié)、不同系統(tǒng)間高效流動是HPC/AI業(yè)務(wù)面臨的一個主要挑戰(zhàn)。華為OceanStor Pacific分布式存儲擁有業(yè)界領(lǐng)先的多協(xié)議互通能力。多個存儲服務(wù)同時訪問一份數(shù)據(jù),支持 NFS、CIFS、HDFS 和 S3 等協(xié)議的按需部署,通過其中一種協(xié)議寫入的數(shù)據(jù),無需遷移即可被其他協(xié)議讀取,提高跨環(huán)節(jié)、跨系統(tǒng)的數(shù)據(jù)分析效率。

此次面向多元算力,釋放多元算力價值的全面啟航,展現(xiàn)了華為的包容與兼顧,也展現(xiàn)了華為OceanStor Pacific分布式存儲乃至華為存儲,邁向科研+HPC/AI場景的發(fā)展方向。

面向未來,有容乃大:數(shù)據(jù)基礎(chǔ)設(shè)施再啟航

在成功完成兼容測試后,華為在市場與受眾的層面獲得了更廣泛的認可。但華為OceanStor Pacific分布式存儲與深圳知名的國家重點實驗室大科學(xué)裝置X86 AI集群進行的POC測試,更廣泛的價值在于面向科研領(lǐng)域、ICT領(lǐng)域,展現(xiàn)了一種關(guān)于有容乃大的智慧。

這次測試成功,對于多方面來說都有其意義。

對于科研機構(gòu)來說,X86環(huán)境的HPC/AI可以很快獲得更好的存儲支持,即使不在短期進行國產(chǎn)化計算替換,也可以實現(xiàn)數(shù)據(jù)可控、可信的數(shù)字化戰(zhàn)略,從而獲得更穩(wěn)健、開放的科研環(huán)境。

對于HPC/AI相關(guān)項目與數(shù)據(jù)中心來說,華為OceanStor Pacific分布式存儲兼容多元算力意味著更多選擇,更廣闊的解決方案構(gòu)建空間,確保計算基礎(chǔ)設(shè)施真正實現(xiàn)多樣性。對于計算國產(chǎn)化趨勢來說,我們不搞封閉和孤立,而是在開放、包容的態(tài)勢中走向科技自立自強。

華為分布式存儲支持多元化算力,意味著是一個真正開放兼容、自主創(chuàng)新的高可靠存儲數(shù)據(jù)底座正在建立,具備傳統(tǒng)超算、大數(shù)據(jù)分析及AI分析能力,應(yīng)用驅(qū)動統(tǒng)一數(shù)據(jù)源支持全流程科學(xué)計算服務(wù),在為科研及商業(yè)提供多樣性算力同時,能夠基于數(shù)據(jù)知識累積,提供高階數(shù)據(jù)價值服務(wù)。華為OceanStor Pacific分布式存儲的兼容性提升,既是一次新的啟航,也是一個明確的指向:它向世界展示了中國ICT產(chǎn)業(yè)海納百川的胸懷,包容萬物的決心。

審核編輯 黃昊宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 存儲
    +關(guān)注

    關(guān)注

    13

    文章

    4296

    瀏覽量

    85798
  • 分布式
    +關(guān)注

    關(guān)注

    1

    文章

    895

    瀏覽量

    74498
收藏 人收藏

    評論

    相關(guān)推薦

    分布式光伏企業(yè)帶來哪些便捷!

    光伏開發(fā)試點方案的通知》中指出:“加快推進屋頂分布式光伏發(fā)展,擬在全國組織開展整縣(市、區(qū))推進屋頂分布式光伏開發(fā)試點工作”? 一,行業(yè)痛點: 1,監(jiān)管困難:分布式光伏地域較為遼闊,
    的頭像 發(fā)表于 11-18 15:34 ?208次閱讀
    <b class='flag-5'>分布式</b>光伏<b class='flag-5'>為</b>企業(yè)<b class='flag-5'>帶來</b>哪些便捷!

    WDS分布式存儲系統(tǒng)軟件助力電信工程海量數(shù)據(jù)存儲項目

    WDS分布式存儲系統(tǒng)軟件助力電信工程海量數(shù)據(jù)存儲項目
    的頭像 發(fā)表于 11-11 09:59 ?181次閱讀
    WDS<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>系統(tǒng)軟件助力電信工程海量數(shù)據(jù)<b class='flag-5'>存儲</b>項目

    百川智能發(fā)布一站大模型商業(yè)化解決方案

    近日,百川智能正式推出了一站大模型商業(yè)化解決方案,旨在為企業(yè)提供更加全面、高效的大模型應(yīng)用服務(wù)。該解決方案以1+3產(chǎn)品矩陣核心,包括全鏈路優(yōu)質(zhì)通用訓(xùn)練數(shù)據(jù)、Baichuan4-Turbo和Baichuan4-Air兩款模型,
    的頭像 發(fā)表于 11-01 18:01 ?802次閱讀

    分布式存儲費用高嗎?大概需要多少錢

    分布式存儲的費用是否高,取決于多個因素,包括存儲容量、性能要求、服務(wù)提供商、計費模式等。因此,無法簡單地給出一個“高”或“不高”的答案。通常分布式
    的頭像 發(fā)表于 09-24 10:41 ?257次閱讀

    大模型廠商“輸血”不斷,百川智能完成50億元A輪融資!

    有重磅消息曝出:知名大模型公司百川智能已經(jīng)成功收獲了價值50億元的A輪融資。由此,我們不禁感嘆,大模型廠商們的“輸血”和“續(xù)命”之戰(zhàn),還在激烈的上演著。
    的頭像 發(fā)表于 07-31 14:47 ?614次閱讀
    大模型廠商“輸血”不斷,<b class='flag-5'>百川</b>智能完成50億元A輪融資!

    百川智能完成50億元A輪融資

    近日,國內(nèi)領(lǐng)先的醫(yī)療AI大模型企業(yè)——百川智能,正式宣布完成了高達50億元人民幣的A輪融資,這一里程碑的融資不僅彰顯了市場對其技術(shù)實力與未來發(fā)展?jié)摿Φ母叨日J可,也公司的后續(xù)發(fā)展奠定了堅實的資金基礎(chǔ)。
    的頭像 發(fā)表于 07-26 16:42 ?461次閱讀

    亞馬遜云科技接入百川智能和零一萬物基礎(chǔ)模型

    近日,亞馬遜云科技在中國峰會上宣布,兩大中文基礎(chǔ)模型——百川智能的Baichuan2-7B和零一萬物的Yi-1.5 6B/9B/34B,即將或已正式登陸中國區(qū)域的SageMaker JumpStart。這一舉措中國企業(yè)提供了豐富的模型
    的頭像 發(fā)表于 06-04 11:53 ?578次閱讀

    華為分布式存儲連續(xù)三年榮膺2024年Gartner“客戶之選”

    近日,全球權(quán)威咨詢與分析機構(gòu)Gartner發(fā)布《2024年Gartner Peer InsightsTM 分布式文件系統(tǒng)與對象存儲“客戶之聲”》報告,華為憑借其OceanStor
    的頭像 發(fā)表于 05-24 10:12 ?707次閱讀

    百川智能發(fā)布Baichuan 4大模型及首款A(yù)I助手“小應(yīng)”

    百川智能近日發(fā)布了其新一代基座大模型Baichuan 4,并同步推出了首款A(yù)I助手“小應(yīng)”。這款A(yù)I助手是在Baichuan 4強大能力的基礎(chǔ)上,結(jié)合先進的搜索技術(shù)精心打造而成。
    的頭像 發(fā)表于 05-23 14:15 ?610次閱讀

    有方數(shù)據(jù)存儲產(chǎn)品服務(wù)新疆移動智中心,推動數(shù)字生產(chǎn)全面躍升

    近日,有方數(shù)據(jù)新疆移動智中心項目建設(shè)提供了NeoVast 2300分布式海量存儲系統(tǒng)、NeoHyper 2500分布式全閃存
    的頭像 發(fā)表于 04-28 14:10 ?555次閱讀

    百川智能與北京大學(xué)將共建通用人工智能聯(lián)合實驗室

    近日,百川智能與北京大學(xué)攜手合作,共同簽署了“北大——百川通用人工智能聯(lián)合實驗室”的共建協(xié)議,標志著雙方在人工智能領(lǐng)域邁出了堅實的合作步伐。
    的頭像 發(fā)表于 03-21 11:45 ?898次閱讀

    分布式存儲與計算:大數(shù)據(jù)時代的解決方案

    分布式存儲和計算技術(shù)應(yīng)運而生,并迅速成為處理大數(shù)據(jù)的首選方案。本文將深入探討分布式存儲和計算的概念、優(yōu)勢及其在各個領(lǐng)域的應(yīng)用情況。 1.分布式
    的頭像 發(fā)表于 03-07 14:42 ?754次閱讀

    曙光存儲推出ParaStor分布式全閃存儲

    曙光存儲推出ParaStor分布式全閃存儲,攜業(yè)內(nèi)首創(chuàng)技術(shù)XDS,以訓(xùn)練加速、穩(wěn)定性強、性價比高的獨特價值,全維度涵蓋網(wǎng)絡(luò)、計算和平臺,千行
    發(fā)表于 03-01 11:30 ?607次閱讀

    百川智能發(fā)布超千億大模型Baichuan 3

    百川智能近日發(fā)布了超千億參數(shù)的大語言模型Baichuan 3,引發(fā)了業(yè)界的廣泛關(guān)注。這款模型在多個權(quán)威通用能力評測中表現(xiàn)卓越,展現(xiàn)了其強大的語義理解和生成能力。
    的頭像 發(fā)表于 01-31 14:58 ?837次閱讀

    搜索出生的百川智能大模型RAG爬坑之路總結(jié)

    今天對百川的RAG方法進行解讀,百川智能具有深厚的搜索背景,來看看他們是怎么爬RAG的坑的吧~
    的頭像 發(fā)表于 01-05 15:02 ?1476次閱讀
    搜索出生的<b class='flag-5'>百川</b>智能大模型RAG爬坑之路總結(jié)
    RM新时代网站-首页