RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英偉達(dá)推出百億參數(shù)AI模型處理方案——DGX SuperPOD

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2024-03-19 14:35 ? 次閱讀

據(jù)報(bào)道,當(dāng)?shù)貢r間3月19日,英偉達(dá)于GTC開發(fā)者大會上發(fā)布了以處理百億參數(shù)AI模型為核心的新品——DGX SuperPOD,旨在助力超大規(guī)模AI訓(xùn)練和推理工作負(fù)載實(shí)現(xiàn)穩(wěn)定而高效的性能輸出。

據(jù)悉,新型DGX SuperPOD采用全新的高效水冷機(jī)架式設(shè)計(jì),搭載英偉達(dá)DGX GB200系統(tǒng),F(xiàn)P4精度下具備11.5 exaflops的人工智能超級計(jì)算力以及240 terabytes的高速內(nèi)存。用戶可以通過加裝機(jī)架進(jìn)行持續(xù)擴(kuò)充。

一套DGX GB200系統(tǒng)內(nèi)含36塊英偉達(dá)GB200加速卡,其中包含36顆英偉達(dá)Grace CPU以及72顆英偉達(dá)Blackwell GPU,經(jīng)由第五代英偉達(dá)NVLink技術(shù)組合成一具高性能超算。

相較于英偉達(dá)基于H100 Tensor Core GPU打造的產(chǎn)品,GB200加速卡在大型語言模型推理任務(wù)中的表現(xiàn)將有望提高最多30倍。

英偉達(dá)現(xiàn)有的DGX SuperPOD套裝包含至少8套DGX GB200系統(tǒng),通過英偉達(dá)Quantum InfiniBand技術(shù)擴(kuò)容后,能夠容納數(shù)萬枚GB200加速卡。

英偉達(dá)名譽(yù)主席及首席執(zhí)行官黃仁勛指出,“英偉達(dá)的DGX系列人工智能超級計(jì)算機(jī)是智能化工業(yè)革命的催化劑。而此次推出的DGX SuperPOD集成了最先進(jìn)的加速計(jì)算、網(wǎng)絡(luò)和軟件技術(shù),使每一家企業(yè)、行業(yè)乃至國家均能充分利用該平臺完善并發(fā)展自身的人工智能技術(shù)”。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    47183

    瀏覽量

    238247
  • 加速卡
    +關(guān)注

    關(guān)注

    1

    文章

    60

    瀏覽量

    10943
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3770

    瀏覽量

    90985
收藏 人收藏

    評論

    相關(guān)推薦

    英偉達(dá)Blackwell可支持10萬億參數(shù)模型AI訓(xùn)練,實(shí)時大語言模型推理

    、NVLink交換機(jī)、Spectrum以太網(wǎng)交換機(jī)和Quantum InfiniBand交換機(jī)。 ? 英偉達(dá)稱,Blackwell擁有6項(xiàng)革命性技術(shù),可支持多達(dá)10萬億參數(shù)模型進(jìn)行
    的頭像 發(fā)表于 09-04 09:10 ?2887次閱讀

    英偉達(dá)推出Eagle系列模型

    英偉達(dá)最新推出的Eagle系列模型,以其1024×1024像素的高分辨率處理能力,重新定義了視覺信息處理
    的頭像 發(fā)表于 09-03 16:13 ?450次閱讀

    英偉達(dá)震撼發(fā)布:全新AI模型參數(shù)規(guī)模躍升至80億量級

    8月23日,英偉達(dá)宣布,其全新AI模型面世,該模型參數(shù)規(guī)模高達(dá)80億,具有精度高、計(jì)算效益大等優(yōu)
    的頭像 發(fā)表于 08-23 16:08 ?728次閱讀

    英偉達(dá)推出Flextron AI框架:賦能靈活高效的AI模型部署

    在人工智能與機(jī)器學(xué)習(xí)領(lǐng)域,隨著技術(shù)的不斷演進(jìn),模型的高效部署與適應(yīng)性成為研究的新熱點(diǎn)。近日,英偉達(dá)與德克薩斯大學(xué)奧斯汀分校攜手宣布了一項(xiàng)重大突破——推出了一種名為FLEXTRON的新型
    的頭像 發(fā)表于 07-18 15:22 ?2741次閱讀

    英偉達(dá)推出AI模型推理服務(wù)NVIDIA NIM

    英偉達(dá)近日宣布推出一項(xiàng)革命性的AI模型推理服務(wù)——NVIDIA NIM。這項(xiàng)服務(wù)將極大地簡化AI
    的頭像 發(fā)表于 06-04 09:15 ?674次閱讀

    英偉達(dá)首席執(zhí)行官黃仁勛:AI模型推動英偉達(dá)AI芯片需求

    近來,以ChatGPT為代表的AI聊天機(jī)器人已經(jīng)導(dǎo)致英偉達(dá)AI芯片供應(yīng)緊張。然而,隨著能夠創(chuàng)造視頻并進(jìn)行近似人類交流的新型AI
    的頭像 發(fā)表于 05-24 10:04 ?490次閱讀

    進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級芯片

    百億億次計(jì)算和萬億參數(shù)模型提供基礎(chǔ) NVIDIA推出世界首個高速GPU互連技術(shù)NVLink?,提供的速度遠(yuǎn)超基于PCIe的解決方案,是多GPU系統(tǒng)擴(kuò)展內(nèi)存和性能的理想選擇。NVLink
    發(fā)表于 05-13 17:16

    英偉達(dá)宣布收購Run:ai

    英偉達(dá)近期宣布收購Run:ai公司,以進(jìn)一步推動后者的產(chǎn)品路線圖并整合其資源至Nvidia DGX Cloud。雖然具體的收購金額和完成時間尚未對外公布,但這一舉措無疑顯示了
    的頭像 發(fā)表于 05-06 10:34 ?456次閱讀

    英偉達(dá)戰(zhàn)略收購Run:ai,推進(jìn)產(chǎn)品戰(zhàn)略,整合資源至Nvidia DGX C

    4 月 25 日,英偉達(dá)正式推出新聞公告,宣布成功收購了 Run:ai 公司,以加快推進(jìn)其產(chǎn)品藍(lán)圖的實(shí)施,并將其與 Nvidia DGX C
    的頭像 發(fā)表于 04-25 10:25 ?578次閱讀

    英偉達(dá)超級計(jì)算機(jī)Eos揭秘

    英偉達(dá)將Eos描述為一個可以為“AI工廠”提供動力的系統(tǒng),因?yàn)樗且粋€非常大規(guī)模的SuperPod DGX H100系統(tǒng)。
    的頭像 發(fā)表于 04-24 10:15 ?545次閱讀

    英偉達(dá)Blackwell平臺網(wǎng)絡(luò)配置分析

    采用 DGX GB200 系統(tǒng)的 NVIDIA DGX SuperPOD 專為訓(xùn)練和推理萬億參數(shù)生成式AI
    的頭像 發(fā)表于 04-17 11:01 ?1404次閱讀

    NVIDIA Blackwell DGX SuperPOD助力萬億級生成式AI計(jì)算

    全新 DGX SuperPOD 采用新型高效液冷機(jī)架級擴(kuò)展架構(gòu),基于 NVIDIA DGX GB200 系統(tǒng)構(gòu)建而成,在 FP4 精度下可提供 11.5 exaflops 的 AI
    發(fā)表于 03-21 09:49 ?210次閱讀

    NVIDIA推出搭載GB200 Grace Blackwell超級芯片的NVIDIA DGX SuperPOD?

    NVIDIA 于太平洋時間 3 月 18 日發(fā)布新一代 AI 超級計(jì)算機(jī) —— 搭載 NVIDIA GB200 Grace Blackwell 超級芯片的 NVIDIA DGX SuperPOD?。
    的頭像 發(fā)表于 03-21 09:49 ?694次閱讀

    NVIDIA 推出 Blackwell 架構(gòu) DGX SuperPOD,適用于萬億參數(shù)級的生成式 AI 超級計(jì)算

    ——? NVIDIA 于今日發(fā)布新一代 AI 超級計(jì)算機(jī) —— 搭載 NVIDIA GB200 Grace Blackwell 超級芯片的 NVIDIA DGX SuperPOD?。這臺 A
    發(fā)表于 03-19 10:56 ?421次閱讀
    NVIDIA <b class='flag-5'>推出</b> Blackwell 架構(gòu) <b class='flag-5'>DGX</b> <b class='flag-5'>SuperPOD</b>,適用于萬億<b class='flag-5'>參數(shù)</b>級的生成式 <b class='flag-5'>AI</b> 超級計(jì)算

    英偉達(dá)推出全新AI聊天機(jī)器人

    近日,英偉達(dá)(Nvidia)宣布推出其全新的AI聊天機(jī)器人——“Chat With RTX”。這款聊天機(jī)器人被視為英偉
    的頭像 發(fā)表于 02-19 11:09 ?914次閱讀
    RM新时代网站-首页