RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

內(nèi)存擴(kuò)展CXL加速發(fā)展,繁榮AI存儲(chǔ)

花茶晶晶 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2024-08-18 00:02 ? 次閱讀
電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)CXL即Compute Express Link,是一種全新的互連協(xié)議,為各種處理器包括CPU、GPU、FPGA、加速器和存儲(chǔ)設(shè)備提供統(tǒng)一接口標(biāo)準(zhǔn),可以有效解決內(nèi)存墻和IO墻的瓶頸。它通過(guò)PCI Express的物理層,提供低延遲和高帶寬的連接,旨在支持下一代數(shù)據(jù)中心的高性能計(jì)算和內(nèi)存密集型工作負(fù)載。

CXL主要有CXL.io、CXL.cache和CXL.memory三個(gè)子協(xié)議,分別處理I/O、緩存一致性和內(nèi)存訪(fǎng)問(wèn)。PCIe物理層為CXL高效的數(shù)據(jù)傳輸提供技術(shù)底座,CXL.cache和CXL.memory子協(xié)議協(xié)調(diào)處理單元的內(nèi)存一致性,內(nèi)存池化和熱插拔使得數(shù)據(jù)中心可以更靈活地分配和管理內(nèi)存資源。

2019年至今,CXL已經(jīng)發(fā)表了1.0/1.1、2.0、3.0/3.1五個(gè)不同的版本,主要針對(duì)內(nèi)存池化、內(nèi)存熱插拔、內(nèi)存共享和訪(fǎng)問(wèn)、以及互連通信能力等進(jìn)行增強(qiáng)優(yōu)化。CXL可擴(kuò)展內(nèi)存技術(shù)發(fā)展到3.1階段,CXL 3.1是對(duì)CXL 3.0版本的漸進(jìn)性的更新,新規(guī)范對(duì)橫向擴(kuò)展 CXL 進(jìn)行了額外的結(jié)構(gòu)改進(jìn)、新的可信執(zhí)行環(huán)境 ehnahcments 以及對(duì)內(nèi)存擴(kuò)展器的改進(jìn)。

面對(duì)AI大模型對(duì)數(shù)據(jù)處理速度和響應(yīng)時(shí)間的要求不斷增長(zhǎng),在處理器、存儲(chǔ)芯片、控制器、模組等廠(chǎng)商的推動(dòng)下,CXL加速發(fā)展進(jìn)程。

利用CXL內(nèi)存擴(kuò)展將DDR4 DIMMs“變廢為寶”

今年7月Marvell 宣布推出其突破性的Structura CXL產(chǎn)品系列。該系列是業(yè)界首款支持四個(gè)內(nèi)存通道、集成內(nèi)嵌壓縮并采用 5 納米制造工藝的產(chǎn)品。包括Structera A CXL 近內(nèi)存加速器,和 Structera X CXL 內(nèi)存擴(kuò)展控制器。前者是一類(lèi)新型設(shè)備,它們集成了服務(wù)器級(jí)處理器核心和多個(gè)內(nèi)存通道,以應(yīng)對(duì)高帶寬內(nèi)存應(yīng)用,例如深度學(xué)習(xí)推薦模型 (DLRM) 和機(jī)器學(xué)習(xí)。Structera X CXL 內(nèi)存擴(kuò)展控制器可以為通用服務(wù)器添加數(shù)TB的超大容量?jī)?nèi)存,應(yīng)對(duì)高容量?jī)?nèi)存應(yīng)用的需要,例如內(nèi)存數(shù)據(jù)庫(kù)。

Structera A 加速器集成了 16 個(gè) Arm Neoverse V2 核心,優(yōu)化了高內(nèi)存帶寬應(yīng)用的性能,例如 DLRM和ML/AI任務(wù)。DLRM 同時(shí)具有稀疏和密集內(nèi)存操作的特點(diǎn)。稀疏操作可能會(huì)遇到內(nèi)存墻困境,即內(nèi)存帶寬不足以滿(mǎn)足可用計(jì)算的需求。Structera A 2504 加速器是該系列的第一個(gè)產(chǎn)品,支持高達(dá) 200 GB/sec內(nèi)存帶寬和 4TB 的內(nèi)存容量。

隨著服務(wù)器的世代更替,預(yù)計(jì)在未來(lái)幾年內(nèi),數(shù)百萬(wàn)個(gè)仍然具備使用功能的 DDR4 DIMMs 將成為電子廢棄物,因?yàn)榇蟛糠挚蛻?hù)開(kāi)始使用具備 DDR5 內(nèi)存模塊的新服務(wù)器替換現(xiàn)有的服務(wù)器。而The Structera X 2404 使客戶(hù)可以從退役的通用服務(wù)器中回收他們的 DDR4 DIMMs。

Marvell 表示,使用這些DDR4 DIMMs 來(lái)擴(kuò)展這些服務(wù)器的內(nèi)存容量可以降低每臺(tái)通用服務(wù)器數(shù)千美元的資本支出。對(duì)退役的 DDR4 DIMMs 進(jìn)行再利用還有助于實(shí)現(xiàn)數(shù)據(jù)中心的綠色可持續(xù)性目標(biāo)。

Structera X 2404通過(guò)先進(jìn)的CXL技術(shù)不僅重新利用DDR4內(nèi)存條,還可幫助服務(wù)器制造商、數(shù)據(jù)中心運(yùn)營(yíng)們減少對(duì)更先進(jìn)內(nèi)存的依賴(lài),既能降低采購(gòu)成本又可擴(kuò)充內(nèi)存容量。DDR4內(nèi)存再利用,也能夠在一定程度上緩解當(dāng)前DDR5內(nèi)存供不應(yīng)求的形勢(shì)。

CXL內(nèi)存模組陸續(xù)量產(chǎn),有望下半年開(kāi)始爆發(fā)

三星電子存儲(chǔ)部門(mén)新業(yè)務(wù)規(guī)劃團(tuán)隊(duì)董事總經(jīng)理 Choi Jang-seok近日表示,CXL市場(chǎng)預(yù)計(jì)將在今年下半年蓬勃發(fā)展,到2028年CXL市場(chǎng)將迅速增長(zhǎng),CXL將成為存儲(chǔ)器行業(yè)的主流。

早在2021年5月,三星電子開(kāi)發(fā)出全球首款基于CXL的DRAM技術(shù);2022年推出業(yè)界首款基于CXL 1.1的512GB CXL DRAM;2023年5月開(kāi)發(fā)出支持CXL 2.0的128GB CXL DRAM;今年第二季度推出支持CXL 2.0的256GB CMM-D產(chǎn)品,計(jì)劃今年年底之前批量生產(chǎn)。

今年3月,三星電子透露正研發(fā) CMM-H 混合存儲(chǔ) CXL模組。該模組同時(shí)包含DRAM 內(nèi)存和 NAND 閃存。原型 CMM-H 將配備基于 FPGA 的 CXL 1.1 控制器,采用 E3.L 2T 規(guī)格,最大容量 4TB,最大帶寬 8GB/s。另外,三星第一代CMM-D搭載支持CXL2.0的SoC的,計(jì)劃在2025年發(fā)布搭載第二代控制器、容量為128GB的新產(chǎn)品。

對(duì)AI服務(wù)器至關(guān)重要的技術(shù)是CXL,它能有效提升系統(tǒng)帶寬和處理能力。SK海力士通過(guò)CXL Memory Module-DDR5 4(CMM-DDR5)充分展示了CXL產(chǎn)品的強(qiáng)大優(yōu)勢(shì)。與僅采用DDR5的系統(tǒng)相比,它能給系統(tǒng)帶寬和容量帶來(lái)極為顯著的提升。

去年8月,美光宣布推出CZ120內(nèi)存擴(kuò)展模塊,基于CXL2.0Type3標(biāo)準(zhǔn),采用最新的PCIe5.0x8接口,并且外形符合E3.S2T規(guī)格。CZ120內(nèi)存擴(kuò)展模塊內(nèi)部搭載了Microchip的SMC2000微控制器,并使用了1α工藝節(jié)點(diǎn)生產(chǎn)的DRAM芯片。提供128GB和256GB兩種容量選擇。CZ120內(nèi)存擴(kuò)展模塊具備出色的帶寬性能,可以提供高達(dá)36GB/s的帶寬。在特定的工作負(fù)載中,如數(shù)據(jù)庫(kù)軟件,CZ120內(nèi)存擴(kuò)展模塊的優(yōu)勢(shì)更加明顯。

另外,國(guó)內(nèi)廠(chǎng)商方面,今年江波龍展出一款基于Compute?Express?Link?(CXL)技術(shù)的創(chuàng)新內(nèi)存擴(kuò)展設(shè)備——CXL?2.0?AIC內(nèi)存擴(kuò)展卡。這款擴(kuò)展卡采用非DRAM?on-board封裝設(shè)計(jì),可兼容多種容量和規(guī)格的直插式內(nèi)存條。它不僅支持CXL1.1標(biāo)準(zhǔn),實(shí)現(xiàn)單個(gè)計(jì)算節(jié)點(diǎn)服務(wù)器線(xiàn)纜直連的直插式內(nèi)存條擴(kuò)展,還兼容CXL2.0標(biāo)準(zhǔn),支持多個(gè)計(jì)算節(jié)點(diǎn)服務(wù)器集群與存儲(chǔ)池線(xiàn)纜直連的直插式內(nèi)存池化,從而滿(mǎn)足多樣化的應(yīng)用場(chǎng)景需求。

小結(jié):

Yole統(tǒng)計(jì)顯示,全球CXL市場(chǎng)預(yù)計(jì)從2022年的170萬(wàn)美元增長(zhǎng)2028年的150億美元。處理器方面英特爾發(fā)布全新的至強(qiáng)6700E系列處理器,提供了對(duì)CXL 2.0技術(shù)的支持。CXL 2.0卻新增了一系列面向安全、合規(guī)、高可靠方面的特性,更適合應(yīng)用在數(shù)據(jù)中心。三星支持CXL 2.0的256GB CMM-D產(chǎn)品也將于今年底前量產(chǎn)。同時(shí),各大廠(chǎng)商都在研發(fā)支持CXL3.0的處理器、CXL DRAM等產(chǎn)品,從而將內(nèi)存擴(kuò)展內(nèi)存技術(shù)的更多特性帶入數(shù)據(jù)中心,加速CXL的應(yīng)用,畢竟AI對(duì)于存儲(chǔ)的需求已時(shí)不我待。
聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 存儲(chǔ)
    +關(guān)注

    關(guān)注

    13

    文章

    4296

    瀏覽量

    85797
  • 內(nèi)存
    +關(guān)注

    關(guān)注

    8

    文章

    3019

    瀏覽量

    74001
  • 2cxl
    +關(guān)注

    關(guān)注

    0

    文章

    5

    瀏覽量

    6411
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    國(guó)數(shù)集聯(lián)發(fā)布業(yè)界首款CXL多級(jí)網(wǎng)絡(luò)交換機(jī),IB時(shí)代的顛覆者

    、高性能并行計(jì)算、AI加速、邊緣計(jì)算,以及分布式存儲(chǔ)等多個(gè)場(chǎng)景。 國(guó)數(shù)集聯(lián)CXL多級(jí)網(wǎng)絡(luò)交換機(jī)(CMNS) 隨著AI大模型和高性
    的頭像 發(fā)表于 07-31 16:35 ?837次閱讀
    國(guó)數(shù)集聯(lián)發(fā)布業(yè)界首款<b class='flag-5'>CXL</b>多級(jí)網(wǎng)絡(luò)交換機(jī),IB時(shí)代的顛覆者

    宜鼎全面擴(kuò)充邊緣AI智能應(yīng)用與智能存儲(chǔ)

    解決方案,全面加速產(chǎn)業(yè)應(yīng)用邊緣AI落地 旗下首款工控級(jí)CXL內(nèi)存、16TB大容量系列SSD,強(qiáng)化智能邊緣端及數(shù)據(jù)中心建設(shè) 深圳2024年5月31日?/美通社/ -- 全球
    的頭像 發(fā)表于 05-31 15:04 ?290次閱讀
    宜鼎全面擴(kuò)充邊緣<b class='flag-5'>AI</b>智能應(yīng)用與智能<b class='flag-5'>存儲(chǔ)</b>

    業(yè)界首創(chuàng)512GB CXL AIC內(nèi)存擴(kuò)展卡,江波龍革新AI與高性能計(jì)算領(lǐng)域內(nèi)存技術(shù)

    、大吞吐量的浮點(diǎn)運(yùn)算。在此背景下,江波龍日前在CFMS2024展出了一款基于Compute Express Link (CXL)技術(shù)的創(chuàng)新內(nèi)存擴(kuò)展設(shè)備——CXL 2.0 AIC
    發(fā)表于 04-17 14:40 ?439次閱讀
    業(yè)界首創(chuàng)512GB <b class='flag-5'>CXL</b> AIC<b class='flag-5'>內(nèi)存</b><b class='flag-5'>擴(kuò)展</b>卡,江波龍革新<b class='flag-5'>AI</b>與高性能計(jì)算領(lǐng)域<b class='flag-5'>內(nèi)存</b>技術(shù)

    FORESEE CXL 2.0內(nèi)存拓展模塊

    ,實(shí)現(xiàn)大規(guī)模量產(chǎn)和交付。隨著AI的快速發(fā)展,計(jì)算密集型工作負(fù)載對(duì)存儲(chǔ)的低延遲、高帶寬提出了前所未有的高要求。ComputeExpressLink(CXL)互連技術(shù)為
    的頭像 發(fā)表于 03-28 08:19 ?702次閱讀
    FORESEE <b class='flag-5'>CXL</b> 2.0<b class='flag-5'>內(nèi)存</b>拓展模塊

    利用CXL技術(shù)重構(gòu)基于RDMA的內(nèi)存解耦合

    本文提出了一種基于RDMA和CXL的新型低延遲、高可擴(kuò)展性的內(nèi)存解耦合系統(tǒng)Rcmp。其顯著特點(diǎn)是通過(guò)CXL提高了基于RDMA系統(tǒng)的性能,并利用RDMA克服了
    發(fā)表于 02-29 10:05 ?3044次閱讀
    利用<b class='flag-5'>CXL</b>技術(shù)重構(gòu)基于RDMA的<b class='flag-5'>內(nèi)存</b>解耦合

    佰維存儲(chǔ)研發(fā)突破,為AI高性能計(jì)算賦能

    近日,佰維存儲(chǔ)在接受調(diào)研時(shí)透露,公司近期成功研發(fā)并發(fā)布了支持CXL2.0規(guī)范的CXLDRAM內(nèi)存擴(kuò)展模塊。這款產(chǎn)品具有支持內(nèi)存容量和帶寬
    的頭像 發(fā)表于 01-23 16:13 ?851次閱讀

    什么是CXL技術(shù)?CXL的三種模式、類(lèi)型、應(yīng)用

    CXL的目標(biāo):解決CPU和設(shè)備、設(shè)備和設(shè)備之間的內(nèi)存鴻溝。服務(wù)器有巨大的內(nèi)存池和數(shù)量龐大的基于PCIe運(yùn)算加速器,每個(gè)上面都有很大的內(nèi)存。
    的頭像 發(fā)表于 01-11 16:53 ?2165次閱讀
    什么是<b class='flag-5'>CXL</b>技術(shù)?<b class='flag-5'>CXL</b>的三種模式、類(lèi)型、應(yīng)用

    三星與Red Hat成功驗(yàn)證CXL內(nèi)存在真實(shí)用戶(hù)環(huán)境中的運(yùn)行

    CXL因具備強(qiáng)大的接口功能,實(shí)現(xiàn)了CPU、GPU以及內(nèi)存之間的快速連接,被廣泛應(yīng)用于生成式人工智能、自動(dòng)駕駛及內(nèi)存數(shù)據(jù)庫(kù)等項(xiàng)目。利用現(xiàn)有的設(shè)備體系,CXL可大幅度地提高速度、降低延遲并
    的頭像 發(fā)表于 01-04 11:46 ?356次閱讀

    三星與紅帽攜手推動(dòng)CXL存儲(chǔ)生態(tài)系統(tǒng)擴(kuò)展并取得重要進(jìn)展

    通社/ -- 三星宣布,與開(kāi)源軟件提供商紅帽(Red Hat)攜手,首次成功在真實(shí)用戶(hù)環(huán)境中驗(yàn)證了Compute Express Link?(CXL?)內(nèi)存技術(shù)的運(yùn)行,這將進(jìn)一步擴(kuò)大三星的 CXL生態(tài)系統(tǒng)。 三星
    的頭像 發(fā)表于 12-27 16:07 ?453次閱讀
    三星與紅帽攜手推動(dòng)<b class='flag-5'>CXL</b><b class='flag-5'>存儲(chǔ)</b>生態(tài)系統(tǒng)<b class='flag-5'>擴(kuò)展</b>并取得重要進(jìn)展

    三星電子與紅帽成功驗(yàn)證CXL內(nèi)存操作

      三星電子與開(kāi)源軟件巨頭紅帽(RedHat)聯(lián)手,完成了在實(shí)際用戶(hù)環(huán)境中的CXL(ComputeExpressLink)內(nèi)存操作;此舉系業(yè)內(nèi)首次,將進(jìn)一步擴(kuò)大其 CXL 生態(tài)系統(tǒng)。
    的頭像 發(fā)表于 12-27 15:56 ?809次閱讀

    三星電子攜手紅帽成功實(shí)現(xiàn)CXL內(nèi)存擴(kuò)展平臺(tái)全方位運(yùn)行測(cè)試

      近日,三星電子聯(lián)合紅帽(Red Hat)共同完成重大技術(shù)里程碑——在實(shí)際用戶(hù)環(huán)境中全面驗(yàn)證CXL( Compute Express Link )內(nèi)存擴(kuò)展平臺(tái)的運(yùn)作。此次成功標(biāo)志著三星CXL
    的頭像 發(fā)表于 12-27 15:47 ?753次閱讀

    佰維發(fā)布CXL 2.0 DRAM,賦能高性能計(jì)算

    設(shè)備內(nèi)存之間的一致性,突破內(nèi)存墻瓶頸,縮減整體響應(yīng)時(shí)間。此外,CXL支持部署新的內(nèi)存層,可以彌合主內(nèi)存和SSD
    發(fā)表于 12-27 15:17 ?396次閱讀
    佰維發(fā)布<b class='flag-5'>CXL</b> 2.0 DRAM,賦能高性能計(jì)算

    佰維公司成功推出支持CXL 2.0規(guī)范的CXL DRAM內(nèi)存擴(kuò)展模塊

      近日,國(guó)內(nèi)知名存儲(chǔ)器制造企業(yè)佰維科技股份有限公司(以下簡(jiǎn)稱(chēng)“佰維”)欣然宣告,其在DRAM技術(shù)領(lǐng)域取得了重要突破——成功研發(fā)并量產(chǎn)了符合CXL 2.0規(guī)范的CXL DRAM內(nèi)存
    的頭像 發(fā)表于 12-27 11:41 ?720次閱讀

    三星攜手紅帽在真實(shí)用戶(hù)環(huán)境下驗(yàn)證CXL內(nèi)存技術(shù)

    CXL憑借其統(tǒng)一的接口標(biāo)準(zhǔn),通過(guò)PCIe接口連接各類(lèi)處理器如CPU、GPU及內(nèi)存設(shè)備,有效解決了當(dāng)前系統(tǒng)在速度、延遲和可擴(kuò)展性上所面臨的瓶頸。
    的頭像 發(fā)表于 12-27 10:45 ?483次閱讀

    佰維發(fā)布CXL 2.0 DRAM,賦能高性能計(jì)算

    設(shè)備內(nèi)存之間的一致性,突破內(nèi)存墻瓶頸,縮減整體響應(yīng)時(shí)間。此外,CXL支持部署新的內(nèi)存層,可以彌合主內(nèi)存和SSD
    的頭像 發(fā)表于 12-27 10:35 ?617次閱讀
    佰維發(fā)布<b class='flag-5'>CXL</b> 2.0 DRAM,賦能高性能計(jì)算
    RM新时代网站-首页