被稱為開眼看世界的林則徐,在自己的書房中寫了這樣一副對聯(lián),以做自勉:海納百川,有容乃大,壁立千仞,無欲則剛。
包容的胸懷是我們做成很多事情的根基,也是一項產(chǎn)業(yè)戰(zhàn)略、科技事業(yè)發(fā)展的關(guān)鍵。近幾年,數(shù)據(jù)基礎(chǔ)設(shè)施國產(chǎn)化,在科技自立的大背景下如火如荼。比如,以計算和存儲為主要構(gòu)成的HPC/AI數(shù)據(jù)基礎(chǔ)設(shè)施事關(guān)國計民生,在以科技創(chuàng)新和基礎(chǔ)科研為代表的關(guān)鍵領(lǐng)域均扮演著重要角色。但很多科技科研場景的HPC/AI數(shù)據(jù)基礎(chǔ)設(shè)施當前都依托X86 CPU+GPU+Lustre存儲+IB交換機這個大一統(tǒng)的抱團生態(tài)體系,且已成為業(yè)界公認的HPC/AI設(shè)施最佳性能組合之一。如何兼顧科技科研領(lǐng)域的效率成果與自立自強,為HPC/AI等多樣性算力應(yīng)用關(guān)鍵場景,提供最適合業(yè)務(wù)的數(shù)據(jù)底座,成為一個關(guān)鍵問題。
這種情況下,“海納百川,有容乃大”的意義就凸顯了出來。不久之前,在深圳一所國家重點實驗室,華為OceanStor Pacific分布式存儲與早期依托X86 CPU+GPU+Lustre存儲+IB交換機組網(wǎng)構(gòu)建的某大科學(xué)裝置AI集群進行了綜合的POC測試。其結(jié)果顯示,華為OceanStor Pacific分布式存儲完美兼容匹配該大科學(xué)裝置的AI集群生態(tài)環(huán)境,更重要的是通過實測,其多項指標性能和功能均優(yōu)于現(xiàn)有系統(tǒng)。華為與該國家重點實驗室聯(lián)合操作的這項POC測試意義極其深遠重大,遠超于一款產(chǎn)品或解決方案發(fā)布:它代表了一種實事求是,兼容并蓄的發(fā)展策略;是一塊國產(chǎn)先進存儲面向全球的敲門磚,一艘中國科技與全球化間的破冰船;對于科學(xué)研究,乃至更多領(lǐng)域的數(shù)字化、智能化進程來說,這是十分幸運的。
數(shù)據(jù)之潮,時代之需:科研場景的存儲挑戰(zhàn)
X86+GPU主導(dǎo)的大一統(tǒng)生態(tài)技術(shù)體系經(jīng)過了數(shù)十年發(fā)展和構(gòu)建,其大樹根基在全球和中國已經(jīng)十分深遠。大量國際國內(nèi)的數(shù)字化工具和軟件應(yīng)用,數(shù)字化成果都捆綁X86+GPU。這在某種程度上來說是種無奈,但也是客觀存在不可回避的現(xiàn)實。
尤其在科研領(lǐng)域,HPC/AI正在全球各個學(xué)科的研究中扮演重要角色,X86+GPU算力平臺可以更方便教授學(xué)者與科研從業(yè)人員接觸全球最新學(xué)術(shù)動態(tài)和驗證科研成果。這種強慣性的作用下,短時間內(nèi)強行脫離X86生態(tài)是不現(xiàn)實的。因此,早期甚至當前新建的很多HPC/AI基礎(chǔ)設(shè)施,選擇建立在X86+GPU體系上。
隨著HPDA的整體發(fā)展,從業(yè)務(wù)負載上而言需要考慮HPC/AI、大數(shù)據(jù)以及AI的混合疊加,需要支持應(yīng)用驅(qū)動的科學(xué)計算工作流,進而推動負載以數(shù)據(jù)為中心,從計算科學(xué)發(fā)現(xiàn)轉(zhuǎn)向數(shù)據(jù)科學(xué)發(fā)現(xiàn)轉(zhuǎn)變。
科技科研的突破速度取決于數(shù)據(jù)基礎(chǔ)設(shè)施的性能,特別是對數(shù)據(jù)存儲性能帶來極致挑戰(zhàn)。第一個挑戰(zhàn)是應(yīng)用的數(shù)據(jù)量級從PB級正在加速走向EB級;第二個挑戰(zhàn)是應(yīng)用的負載從單一走向多樣化,也就是常說的混合負載;最后一個挑戰(zhàn)是應(yīng)用類型的變化,從簡單走向復(fù)雜。核心是數(shù)據(jù)與業(yè)務(wù)的耦合度在增加,數(shù)據(jù)計算需要參與整個業(yè)務(wù)流程的多個環(huán)節(jié),且環(huán)環(huán)相扣,缺一不可。
在當前推進科技科研自立自強的大時代背景下,面對這些數(shù)據(jù)中心存儲挑戰(zhàn)和需求,以及面對X86+GPU體系暫不可完全替代,國內(nèi)業(yè)界都希望看到先進的國產(chǎn)存儲兼容X86+GPU環(huán)境的下的HPC/AI應(yīng)用,也可以提供媲美Lustre存儲的性能和功能。
更佳性能,更優(yōu)選擇:華為分布式存儲的價值呈現(xiàn)
不久之前,華為OceanStor Pacific分布式存儲與在深圳某國家重點實驗室依托X86 CPU+GPU+Lustre存儲+IB交換機組網(wǎng)構(gòu)建的大科學(xué)裝置AI集群進行了POC測試。從測試結(jié)果上看,整體兼容效果良好,沒有出現(xiàn)任何兼容問題,并且使用了華為OceanStor Pacific分布式存儲之后,存儲在功能、性能上優(yōu)于現(xiàn)有系統(tǒng),融入計算集群的效果也更加良好。
這次測試對接的成功,表明華為在技術(shù)創(chuàng)新、產(chǎn)品兼容上的進取姿態(tài),也表明其為科研創(chuàng)新,乃至更廣闊計算、存儲領(lǐng)域做出貢獻的決心??蒲薪逃c國家實驗性,在一個國家的計算基礎(chǔ)設(shè)施中具有代表性意義。與該大科學(xué)裝置AI集群的成功對接,可以看作華為OceanStor Pacific分布式存儲敲開了國產(chǎn)存儲為HPC/AI提供更優(yōu)選擇的大門。HPC/AI應(yīng)用場景下,Lustre不再獨領(lǐng)風(fēng)騷。
一般來說,多元算力包括x86、ARM、AI、GPU計算等多種計算生態(tài),存儲需要根據(jù)不同的計算場景與計算設(shè)施,為用戶提供最佳體驗。華為分布式存儲的價值與優(yōu)勢,釋放到HPC/AI場景,可以有效滿足科研等場景中的存儲需求。
具體而言,華為OceanStor Pacific分布式存儲通過這樣幾個角度,破除HPC/AI場景的存儲困局。
首先解決海量數(shù)據(jù)高性價比存儲的問題:我們知道隨著HPC/AI業(yè)務(wù)量的不斷增長,往往最先遇到的是機房空間不足和存儲成本高昂的問題。為此,華為推出了 華為OceanStor Pacific分布式存儲高密專用硬件,基于全新的高密架構(gòu)設(shè)計,并提供更高的容量利用率,在有限的機房空間里存下更多數(shù)據(jù),更好地滿足海量數(shù)據(jù)增長的需要。疊加華為OceanStor Pacific分布式存儲的智能分級存儲技術(shù),對域內(nèi)熱、溫、冷數(shù)據(jù)進行統(tǒng)一管理,數(shù)據(jù)能夠在熱、溫、冷層系統(tǒng)間自動遷移,無需管理員手動干預(yù),靈活有效地管理數(shù)據(jù)全生命周期,同時有效解決海量數(shù)據(jù)的運維管理難題。
其次,提供面向混合負載的高性能:HPC/AI應(yīng)用計算所涉及的數(shù)據(jù)越來越多、類型越來越豐富、任務(wù)并發(fā)性也越來越高,因此需要性能更加均衡的存儲。華為OceanStor Pacific分布式存儲采用OceanFS新一代并行文件系統(tǒng),結(jié)合獨特的大小I/O自適應(yīng)數(shù)據(jù)流技術(shù),一套存儲即可同時滿足極致帶寬、極致IOPS和極致時延的混合負載要求。通過與分布式并行客戶端(DPC)的密切配合,打破單流和單客戶端的性能瓶頸,幫助企業(yè)有效應(yīng)對混合工作負載的挑戰(zhàn)。
最后,多個不同業(yè)務(wù)環(huán)節(jié)數(shù)據(jù)的高效安全流動:由于數(shù)據(jù)量的增大、數(shù)據(jù)應(yīng)用的復(fù)雜化,數(shù)據(jù)在不同環(huán)節(jié)、不同系統(tǒng)間高效流動是HPC/AI業(yè)務(wù)面臨的一個主要挑戰(zhàn)。華為OceanStor Pacific分布式存儲擁有業(yè)界領(lǐng)先的多協(xié)議互通能力。多個存儲服務(wù)同時訪問一份數(shù)據(jù),支持 NFS、CIFS、HDFS 和 S3 等協(xié)議的按需部署,通過其中一種協(xié)議寫入的數(shù)據(jù),無需遷移即可被其他協(xié)議讀取,提高跨環(huán)節(jié)、跨系統(tǒng)的數(shù)據(jù)分析效率。
此次面向多元算力,釋放多元算力價值的全面啟航,展現(xiàn)了華為的包容與兼顧,也展現(xiàn)了華為OceanStor Pacific分布式存儲乃至華為存儲,邁向科研+HPC/AI場景的發(fā)展方向。
面向未來,有容乃大:數(shù)據(jù)基礎(chǔ)設(shè)施再啟航
在成功完成兼容測試后,華為在市場與受眾的層面獲得了更廣泛的認可。但華為OceanStor Pacific分布式存儲與深圳知名的國家重點實驗室大科學(xué)裝置X86 AI集群進行的POC測試,更廣泛的價值在于面向科研領(lǐng)域、ICT領(lǐng)域,展現(xiàn)了一種關(guān)于有容乃大的智慧。
這次測試成功,對于多方面來說都有其意義。
對于科研機構(gòu)來說,X86環(huán)境的HPC/AI可以很快獲得更好的存儲支持,即使不在短期進行國產(chǎn)化計算替換,也可以實現(xiàn)數(shù)據(jù)可控、可信的數(shù)字化戰(zhàn)略,從而獲得更穩(wěn)健、開放的科研環(huán)境。
對于HPC/AI相關(guān)項目與數(shù)據(jù)中心來說,華為OceanStor Pacific分布式存儲兼容多元算力意味著更多選擇,更廣闊的解決方案構(gòu)建空間,確保計算基礎(chǔ)設(shè)施真正實現(xiàn)多樣性。對于計算國產(chǎn)化趨勢來說,我們不搞封閉和孤立,而是在開放、包容的態(tài)勢中走向科技自立自強。
華為分布式存儲支持多元化算力,意味著是一個真正開放兼容、自主創(chuàng)新的高可靠存儲數(shù)據(jù)底座正在建立,具備傳統(tǒng)超算、大數(shù)據(jù)分析及AI分析能力,應(yīng)用驅(qū)動統(tǒng)一數(shù)據(jù)源支持全流程科學(xué)計算服務(wù),在為科研及商業(yè)提供多樣性算力同時,能夠基于數(shù)據(jù)知識累積,提供高階數(shù)據(jù)價值服務(wù)。華為OceanStor Pacific分布式存儲的兼容性提升,既是一次新的啟航,也是一個明確的指向:它向世界展示了中國ICT產(chǎn)業(yè)海納百川的胸懷,包容萬物的決心。
審核編輯 黃昊宇
-
存儲
+關(guān)注
關(guān)注
13文章
4296瀏覽量
85798 -
分布式
+關(guān)注
關(guān)注
1文章
895瀏覽量
74498
發(fā)布評論請先 登錄
相關(guān)推薦
評論