RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

浪潮信息分布式存儲(chǔ)在人工智能領(lǐng)域的應(yīng)用

浪潮存儲(chǔ) ? 來(lái)源:浪潮存儲(chǔ) ? 2024-11-26 13:44 ? 次閱讀

隨著AI技術(shù)機(jī)器學(xué)習(xí)演進(jìn)至深度學(xué)習(xí),并進(jìn)一步邁向生成式AI的新階段,算法、算力及數(shù)據(jù)需求呈現(xiàn)出爆炸式增長(zhǎng)態(tài)勢(shì)。大模型爆發(fā)初期,眾多企業(yè)布局,要求存儲(chǔ)提供高帶寬、高IOPS和低時(shí)延,以確保模型能夠快速有效地進(jìn)行訓(xùn)練。而在模型的實(shí)際部署與應(yīng)用過(guò)程中,又需要實(shí)現(xiàn)數(shù)據(jù)的跨域、跨介質(zhì)靈活調(diào)度,以及高質(zhì)量數(shù)據(jù)集的高效管理,這對(duì)存儲(chǔ)系統(tǒng)的靈活性、安全性及數(shù)據(jù)的可持續(xù)訪問(wèn)能力構(gòu)成了新的挑戰(zhàn)。

在近期舉辦的中國(guó)數(shù)據(jù)與存儲(chǔ)峰會(huì)AI+存儲(chǔ)協(xié)同發(fā)展論壇上,分布式存儲(chǔ)產(chǎn)品總監(jiān)張業(yè)興發(fā)表了題為“數(shù)聚存儲(chǔ),智慧未來(lái)”的演講。演講中,張業(yè)興不僅回顧了過(guò)去一年人工智能領(lǐng)域的迅猛發(fā)展態(tài)勢(shì),還深入闡述了浪潮信息在這一背景下如何精心布局新產(chǎn)品、新技術(shù)和新方案。

AI時(shí)代:存儲(chǔ)的轉(zhuǎn)型與重塑

人工智能已被提升至國(guó)家戰(zhàn)略的高度,成為驅(qū)動(dòng)新質(zhì)生產(chǎn)力發(fā)展的關(guān)鍵力量。張業(yè)興指出,數(shù)據(jù)作為一種新型生產(chǎn)要素,不僅是勞動(dòng)工具,還能創(chuàng)造經(jīng)濟(jì)價(jià)值。隨著數(shù)據(jù)的迅猛增長(zhǎng)和摩爾定律的持續(xù)推動(dòng),人工智能正步入一個(gè)爆發(fā)式增長(zhǎng)的階段,特別是在GPU市場(chǎng)規(guī)模及智能算力領(lǐng)域,展現(xiàn)出了驚人的增長(zhǎng)潛力。據(jù)預(yù)測(cè),至2028年,全球GPU市場(chǎng)規(guī)模有望達(dá)到2461.5億美元,而中國(guó)市場(chǎng)的規(guī)模也將攀升至459億美元,年復(fù)合增長(zhǎng)率高達(dá)32.8%。這一趨勢(shì)清晰地表明,人工智能正引領(lǐng)著第四次工業(yè)革命,對(duì)經(jīng)濟(jì)社會(huì)產(chǎn)生著廣泛而深遠(yuǎn)的影響。

在人工智能時(shí)代的大背景下,存儲(chǔ)系統(tǒng)的角色已悄然轉(zhuǎn)變,它不再是單純的數(shù)據(jù)存儲(chǔ)容器,而是成為了推動(dòng)人工智能發(fā)展的核心組件。隨著大模型技術(shù)的蓬勃發(fā)展,存儲(chǔ)系統(tǒng)正面臨著前所未有的挑戰(zhàn)。在大模型市場(chǎng)的初期布局中,已有超過(guò)400家廠商爭(zhēng)相涌入,模型訓(xùn)練的“速度”成為了競(jìng)爭(zhēng)的關(guān)鍵。為了提高GPU的利用效率,存儲(chǔ)系統(tǒng)必須能夠提供TB級(jí)的高帶寬和百萬(wàn)級(jí)的高IOPS,以確保模型訓(xùn)練的高效運(yùn)行。

此外,隨著模型在各行業(yè)的落地,數(shù)據(jù)的跨域和跨介質(zhì)調(diào)動(dòng)變得至關(guān)重要,存儲(chǔ)系統(tǒng)需要實(shí)現(xiàn)全局命名空間的管理,以支持大規(guī)模數(shù)據(jù)的高效匯集和利用。同時(shí),在大模型的行業(yè)化落地過(guò)程中,為了提升通用模型的專業(yè)化能力,高質(zhì)量且可重復(fù)利用的數(shù)據(jù)集成為了不可或缺的資源。數(shù)據(jù)的安全存儲(chǔ)與可持續(xù)性訪問(wèn)能力成為了存儲(chǔ)系統(tǒng)必須滿足的重要要求。

AS13000G7:解鎖存儲(chǔ)潛能,賦能AI未來(lái)

針對(duì)上述挑戰(zhàn),浪潮信息推出了分布式融合存儲(chǔ)平臺(tái)AS13000G7,在性能優(yōu)化、融合互通、韌性保障等多個(gè)維度進(jìn)行了技術(shù)創(chuàng)新。

在性能優(yōu)化方面,AS13000G7通過(guò)數(shù)控分離架構(gòu),減少了數(shù)據(jù)在轉(zhuǎn)發(fā)和拷貝過(guò)程中的延遲,單流帶寬可達(dá)15GB/s,單節(jié)點(diǎn)帶寬超過(guò)100GB/s,相比傳統(tǒng)數(shù)控一體架構(gòu)性能提升60%以上。此外,AS13000G7能夠智能識(shí)別大IO和小IO,通過(guò)切片處理和聚合處理,將不同規(guī)模的數(shù)據(jù)形成統(tǒng)一的數(shù)據(jù)團(tuán),并存入全局緩存中,實(shí)現(xiàn)小IO性能提升5倍。同時(shí),數(shù)據(jù)緩存預(yù)讀功能能夠在訓(xùn)練過(guò)程中提前加載熱點(diǎn)數(shù)據(jù),進(jìn)一步提升數(shù)據(jù)加載速度。另外,AS13000G7還設(shè)計(jì)了全用戶態(tài)的輕量級(jí)IO站,利用多任務(wù)并行和無(wú)鎖IO處理技術(shù),實(shí)現(xiàn)了延遲降低40%,訓(xùn)練數(shù)據(jù)加載時(shí)間減少30%。

在近期發(fā)布的MLPerf Storage v1.0 AI存儲(chǔ)基準(zhǔn)測(cè)試中,AS13000G7參與了八項(xiàng)測(cè)試并獲得了五項(xiàng)全球第一的成績(jī),如3D-UNet測(cè)試中,支持264個(gè)模擬加速器,GPU利用率超90%時(shí)提供360GB每秒帶寬,單節(jié)點(diǎn)帶寬超120GB每秒;在CosmoFlow模型測(cè)試中,樣本讀取時(shí)間極短,單客戶端和多客戶端分別提供了18GB/s和52GB/s的帶寬。

在融合互通方面,AS13000G7支持多種接入?yún)f(xié)議,如NFS和S3等,并通過(guò)復(fù)原數(shù)據(jù)管理實(shí)現(xiàn)文件和對(duì)象數(shù)據(jù)的協(xié)議互通、語(yǔ)義無(wú)損以及性能一致,避免了數(shù)據(jù)格式轉(zhuǎn)換和多份存儲(chǔ)的問(wèn)題,為用戶節(jié)省了高達(dá)50%的存儲(chǔ)空間。同時(shí),AS13000G7還建立了全局統(tǒng)一命名空間,納管所有數(shù)據(jù),實(shí)現(xiàn)跨域、跨介質(zhì)和跨協(xié)議的靈活調(diào)動(dòng),提供統(tǒng)一數(shù)據(jù)視圖,并支持10億級(jí)文件秒級(jí)檢索,有效解決了數(shù)據(jù)孤島問(wèn)題,方便用戶數(shù)據(jù)訪問(wèn)與管理。

在韌性保障方面,AS13000G7定期進(jìn)行亞健康檢測(cè),并通過(guò)內(nèi)部冗余保護(hù)機(jī)制實(shí)現(xiàn)免遷移快速重構(gòu),將TB級(jí)重構(gòu)時(shí)間降至5分鐘內(nèi),每次故障恢復(fù)時(shí)間降低90%。此外,AS13000G7運(yùn)用AIOps算法預(yù)測(cè)磁盤(pán)故障、容量趨勢(shì)、性能趨勢(shì)和SSD壽命,其中磁盤(pán)故障預(yù)測(cè)準(zhǔn)確率達(dá)98%以上,誤報(bào)率僅0.007%。在數(shù)據(jù)安全層面,AS13000G7設(shè)置了五層系統(tǒng)防護(hù),采用快篩機(jī)器學(xué)習(xí)和深篩深度學(xué)習(xí)算法來(lái)檢測(cè)惡意軟件,漏報(bào)率僅為0.029%,誤報(bào)率為0.33%。

面向大模型應(yīng)用,基于AS13000G7的AI存儲(chǔ)解決方案,整合不同盤(pán)位存儲(chǔ)設(shè)備形成統(tǒng)一資源池,提供高性能、高利用率和高韌性,滿足數(shù)據(jù)全生命周期需求。結(jié)合AI資源調(diào)度平臺(tái),提升數(shù)據(jù)預(yù)讀加載效率30%,已服務(wù)眾多AIGC客戶。

在上海某高校的應(yīng)用案例中,由于該校擁有多個(gè)與AI相關(guān)的學(xué)科,數(shù)據(jù)導(dǎo)入呈現(xiàn)出多元多態(tài)的特點(diǎn),業(yè)務(wù)需求也涵蓋了數(shù)據(jù)的匯集、處理、訓(xùn)練和推理等多個(gè)環(huán)節(jié)。浪潮信息為其提供32節(jié)點(diǎn)GPU服務(wù)器作為計(jì)算支持,并配置20個(gè)節(jié)點(diǎn)的AS13000G7 24盤(pán)位全閃節(jié)點(diǎn)作為存儲(chǔ)資源池,實(shí)現(xiàn)對(duì)象文件融合存儲(chǔ),降低總體擁有成本(TCO)達(dá)30%,大帶寬高IOPS的特性支持了模型毫秒級(jí)讀寫(xiě),進(jìn)一步縮短訓(xùn)練等待時(shí)間40%。

AS13000G7分布式融合存儲(chǔ)平臺(tái)以其高性能、高效率和高韌性,成為支持人工智能發(fā)展的理想選擇。在人工智能蓬勃發(fā)展的時(shí)代,浪潮信息將憑借其卓越的產(chǎn)品和解決方案,積極應(yīng)對(duì)挑戰(zhàn),抓住機(jī)遇,為構(gòu)建智慧未來(lái)奠定了堅(jiān)實(shí)的數(shù)據(jù)存儲(chǔ)基礎(chǔ),成為行業(yè)發(fā)展的重要引領(lǐng)者。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 浪潮
    +關(guān)注

    關(guān)注

    1

    文章

    458

    瀏覽量

    23850
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268880
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    47183

    瀏覽量

    238237
  • 分布式存儲(chǔ)
    +關(guān)注

    關(guān)注

    4

    文章

    171

    瀏覽量

    19523

原文標(biāo)題:數(shù)聚存儲(chǔ),智慧未來(lái):分布式存儲(chǔ)在人工智能時(shí)代的創(chuàng)新與應(yīng)用

文章出處:【微信號(hào):inspurstorage,微信公眾號(hào):浪潮存儲(chǔ)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    嵌入人工智能究竟是什么關(guān)系?

    應(yīng)用場(chǎng)景。例如,智能家居領(lǐng)域,嵌入系統(tǒng)可以控制各種智能設(shè)備,如智能燈泡、
    發(fā)表于 11-14 16:39

    浪潮信息AI存儲(chǔ)性能測(cè)試的領(lǐng)先之道

    AI技術(shù)的無(wú)限可能。近日,MLCommons的子項(xiàng)目MLPerf Storage v1.0性能基準(zhǔn)評(píng)測(cè)中,浪潮信息再度展現(xiàn)了AI存儲(chǔ)領(lǐng)域
    的頭像 發(fā)表于 10-29 16:30 ?238次閱讀
    <b class='flag-5'>浪潮信息</b>AI<b class='flag-5'>存儲(chǔ)</b>性能測(cè)試的領(lǐng)先之道

    33家元腦區(qū)域伙伴與浪潮信息簽署戰(zhàn)略合作協(xié)議

    近日,2024年浪潮信息區(qū)域ISP伙伴戰(zhàn)略簽約儀式圓滿落幕,標(biāo)志著浪潮信息人工智能領(lǐng)域的合作版圖再度擴(kuò)大。此次盛會(huì)匯聚了全國(guó)范圍內(nèi)33家實(shí)
    的頭像 發(fā)表于 08-14 16:25 ?444次閱讀

    浪潮信息引領(lǐng)數(shù)據(jù)編排新紀(jì)元,加速釋放數(shù)據(jù)潛能

    2024年數(shù)據(jù)基礎(chǔ)設(shè)施技術(shù)峰會(huì)的璀璨舞臺(tái)上,浪潮信息分布式存儲(chǔ)產(chǎn)品線架構(gòu)師Lance Sun博士以其深厚的行業(yè)洞察與前瞻視角,發(fā)表了題為“高效數(shù)據(jù)編排,加速釋放數(shù)據(jù)潛能”的精彩演講,
    的頭像 發(fā)表于 07-03 15:30 ?373次閱讀

    浪潮信息推出AIGC存儲(chǔ)解決方案

    近日,科技創(chuàng)新的浪潮中,浪潮信息成功舉辦了“元腦中國(guó)行”全國(guó)巡展的杭州站活動(dòng),此次盛會(huì)不僅匯聚了業(yè)界的精英與目光,更見(jiàn)證了浪潮信息AIG
    的頭像 發(fā)表于 07-03 11:16 ?712次閱讀

    浪潮信息推出基于新一代分布式存儲(chǔ)平臺(tái)AS13000G7的AIGC存儲(chǔ)解決方案

    6月28日,浪潮信息“元腦中國(guó)行”全國(guó)巡展杭州站順利舉行。會(huì)上,浪潮信息重磅推出基于新一代分布式存儲(chǔ)平臺(tái)AS13000G7的AIGC存儲(chǔ)解決
    的頭像 發(fā)表于 07-01 19:00 ?1425次閱讀
    <b class='flag-5'>浪潮信息</b>推出基于新一代<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>平臺(tái)AS13000G7的AIGC<b class='flag-5'>存儲(chǔ)</b>解決方案

    浪潮信息分布式存儲(chǔ)AS13000完成英特爾至強(qiáng)6能效核處理器適配

    近日,浪潮信息分布式存儲(chǔ)AS13000完成英特爾至強(qiáng)6能效核處理器適配,實(shí)現(xiàn)每瓦性能提升2.3倍,以更高的效率、更優(yōu)的成本滿足海量多態(tài)數(shù)據(jù)的存儲(chǔ)需求,充分釋放數(shù)據(jù)價(jià)值。
    的頭像 發(fā)表于 06-19 10:05 ?845次閱讀
    <b class='flag-5'>浪潮信息</b><b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>AS13000完成英特爾至強(qiáng)6能效核處理器適配

    浪潮信息發(fā)布AS13000G7-N系列分布式全閃存儲(chǔ)

    浪潮信息近日推出了專為大型AI模型優(yōu)化的AS13000G7-N系列分布式全閃存儲(chǔ)。該系列基于浪潮信息自研的分布式文件系統(tǒng),結(jié)合新一代數(shù)據(jù)加速
    的頭像 發(fā)表于 05-14 10:03 ?562次閱讀

    為大模型專門(mén)優(yōu)化 浪潮信息發(fā)布分布式全閃存儲(chǔ)AS13000G7-N系列

    北京2024年5月10日?/美通社/ -- 近日,浪潮信息發(fā)布為大模型專門(mén)優(yōu)化的分布式全閃存儲(chǔ)AS13000G7-N系列。該系列依托浪潮信息自研分布
    的頭像 發(fā)表于 05-10 16:37 ?428次閱讀
    為大模型專門(mén)優(yōu)化 <b class='flag-5'>浪潮信息</b>發(fā)布<b class='flag-5'>分布式</b>全閃<b class='flag-5'>存儲(chǔ)</b>AS13000G7-N系列

    浪潮信息發(fā)布為大模型專門(mén)優(yōu)化的分布式全閃存儲(chǔ)AS13000G7-N系列

    近日,浪潮信息發(fā)布為大模型專門(mén)優(yōu)化的分布式全閃存儲(chǔ)AS13000G7-N系列。該系列依托浪潮信息自研分布式文件系統(tǒng),搭載新一代數(shù)據(jù)加速引擎D
    的頭像 發(fā)表于 05-08 09:38 ?554次閱讀
    <b class='flag-5'>浪潮信息</b>發(fā)布為大模型專門(mén)優(yōu)化的<b class='flag-5'>分布式</b>全閃<b class='flag-5'>存儲(chǔ)</b>AS13000G7-N系列

    一圖讀懂浪潮信息新一代分布式全閃存儲(chǔ)AS13000G7-N系列

    一圖讀懂浪潮信息新一代分布式全閃存儲(chǔ)AS13000G7-N系列
    的頭像 發(fā)表于 05-08 09:35 ?1267次閱讀
    一圖讀懂<b class='flag-5'>浪潮信息</b>新一代<b class='flag-5'>分布式</b>全閃<b class='flag-5'>存儲(chǔ)</b>AS13000G7-N系列

    浪潮信息IPF24: 發(fā)展人工智能+,創(chuàng)新需要激發(fā)活力、拓展路徑、加速落地

    北京2024年4月18日?/美通社/ -- 4月17日,浪潮信息北京舉辦的生態(tài)伙伴大會(huì)IPF2024上提出,發(fā)展人工智能+,要堅(jiān)持"以應(yīng)用為導(dǎo)向,以系統(tǒng)為核心",著重激發(fā)創(chuàng)新活力、拓展創(chuàng)新
    的頭像 發(fā)表于 04-18 21:19 ?321次閱讀
    <b class='flag-5'>浪潮信息</b>IPF24: 發(fā)展<b class='flag-5'>人工智能</b>+,創(chuàng)新需要激發(fā)活力、拓展路徑、加速落地

    浪潮信息生態(tài)伙伴大會(huì)IPF2024:發(fā)展人工智能+,加速創(chuàng)新落地

    4月17日,浪潮信息北京舉辦的生態(tài)伙伴大會(huì)IPF2024上提出,發(fā)展人工智能+,要堅(jiān)持“以應(yīng)用為導(dǎo)向,以系統(tǒng)為核心”,著重激發(fā)創(chuàng)新活力、拓展創(chuàng)新路徑、加速創(chuàng)新落地,推動(dòng)人工智能成為百
    的頭像 發(fā)表于 04-18 09:12 ?615次閱讀

    XEDP與KeyarchOS完成浪潮信息澎湃技術(shù)認(rèn)證

    澎湃技術(shù)認(rèn)證。 經(jīng)聯(lián)合測(cè)試, 雙方產(chǎn)品功能兼容性良好,整體運(yùn)行流暢,性能表現(xiàn)優(yōu)異,滿足用戶云計(jì)算、大數(shù)據(jù)、人工智能領(lǐng)域對(duì)企業(yè)級(jí)數(shù)據(jù)存儲(chǔ)的多種需求。 ?
    的頭像 發(fā)表于 02-27 17:56 ?469次閱讀
    XEDP與KeyarchOS完成<b class='flag-5'>浪潮信息</b>澎湃技術(shù)認(rèn)證

    嵌入人工智能的就業(yè)方向有哪些?

    嵌入人工智能的就業(yè)方向有哪些? 新一輪科技革命與產(chǎn)業(yè)變革的時(shí)代背景下,嵌入人工智能成為國(guó)家新型基礎(chǔ)建設(shè)與傳統(tǒng)產(chǎn)業(yè)升級(jí)的核心驅(qū)動(dòng)力。同時(shí)
    發(fā)表于 02-26 10:17
    RM新时代网站-首页