RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

千億美元打造一個(gè)系統(tǒng),成本越來(lái)越高的AI超算

E4Life ? 來(lái)源:電子發(fā)燒友 ? 作者:周凱揚(yáng) ? 2024-04-09 00:19 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))從近年來(lái)新發(fā)布的超算機(jī)器和新的HPC AI性能榜單可以看出,AI算力已經(jīng)在超算中成了不可忽視的性能指標(biāo)之一,但也為廠商帶來(lái)了更大的成本挑戰(zhàn)。比如微軟近期就爆出和OpenAI合作,打造一個(gè)千億美元級(jí)別的超算系統(tǒng)。

千億美元打造AI超算

根據(jù)外媒報(bào)道,此次打造的千億美元超算系統(tǒng)名為Stargate,星門(mén)。這一超算系統(tǒng)僅僅只是微軟和OpenAI一系列數(shù)據(jù)中心合作項(xiàng)目之一,但造價(jià)已經(jīng)高到離譜了。從規(guī)模上看,這個(gè)超算的硬件配置已經(jīng)到了遠(yuǎn)超現(xiàn)有系統(tǒng)的程度。據(jù)爆料,星門(mén)將集成百億個(gè)最新英偉達(dá)GPU,造價(jià)可能會(huì)達(dá)到1150億美元。不過(guò)在互聯(lián)方案上,微軟可能會(huì)跳過(guò)英偉達(dá)的InfiniBand專(zhuān)用方案,而采用更加通用以太網(wǎng)方案。

當(dāng)然了,雖然總成本較高,但微軟并沒(méi)有一次建成的部署策略,而是分拆成五個(gè)階段,整個(gè)項(xiàng)目在2028年成功建成。這樣可以盡早讓該系統(tǒng)投入使用,畢竟對(duì)于新的模型而言,率先發(fā)布才不會(huì)錯(cuò)失市場(chǎng)機(jī)會(huì)。這或許也與微軟采用通用的以太網(wǎng)方案有關(guān),畢竟面對(duì)跨度如此長(zhǎng)的方案而言,專(zhuān)用方案很可能會(huì)面臨被兼容性差和被淘汰的局面。微軟預(yù)計(jì)會(huì)在第四階段,也就是2026年左右,正式啟用這一超算系統(tǒng)。

除此之外,超算的部署地點(diǎn)依然待定,這無(wú)疑與部署地的電網(wǎng)供電能力息息相關(guān),當(dāng)?shù)卣绻芴峁┲С肿匀蛔詈?。不過(guò)從硬件規(guī)模來(lái)看,單系統(tǒng)的耗電已經(jīng)達(dá)到千兆瓦級(jí),無(wú)論是對(duì)美國(guó)哪個(gè)州而言,都是巨大的供電挑戰(zhàn)。也正因如此,微軟正在考慮核能在內(nèi)的其他替代能源方案。

超算部署成本發(fā)生的變化

時(shí)至今日,微軟已經(jīng)在OpenAI上花了130億美元,使用其數(shù)據(jù)中心來(lái)為ChatGPT之類(lèi)的應(yīng)用提供硬件支持。但此次的星門(mén)項(xiàng)目更是規(guī)模浩大,這也說(shuō)明了新模型的訓(xùn)練和推理,仍在對(duì)數(shù)據(jù)中心的硬件提出新的要求,需要用性能更強(qiáng)的AI超算來(lái)解決。

但這并不意味著普遍的超算成本真的有這么夸張的變化,要知道目前TOP500上排名第一的超算Frontier,其成本也只有6億美元。對(duì)于科研專(zhuān)用的單個(gè)超算系統(tǒng)而言,雖然造價(jià)不算低,但在政府的科研經(jīng)費(fèi)支持下,研究機(jī)構(gòu)還是可以負(fù)擔(dān)起的。

不過(guò)值得注意的是,TOP500上的超算都有公開(kāi)的跑分成績(jī),為了實(shí)現(xiàn)這樣的成績(jī),需要一定時(shí)間的優(yōu)化,再運(yùn)行一段時(shí)間的測(cè)試才會(huì)有此成績(jī)。而市面上,尤其是在不少大型互聯(lián)網(wǎng)公司內(nèi)部,也存在并沒(méi)有公開(kāi)提交成績(jī)的超算,因?yàn)檫@類(lèi)系統(tǒng)幾乎是從誕生起就被投入商業(yè)使用了。

所以市面上肯定有超過(guò)6億美元的超算系統(tǒng),比如Meta就在幾個(gè)月前打造了兩套系統(tǒng),分別集成了2萬(wàn)個(gè)H100 GPU,總成本在10億美元以上。其他的互聯(lián)網(wǎng)公司,諸如國(guó)內(nèi)的百度、騰訊等,想必也有龐大的硬件購(gòu)買(mǎi)計(jì)劃。

寫(xiě)在最后

隨著HPC與AI在需求和計(jì)算負(fù)載上的融合,市場(chǎng)趨勢(shì)從前幾年的“帶AI功能的HPC系統(tǒng)”變成了“同樣可以用于HPC的AI系統(tǒng)”。但從其規(guī)模來(lái)看,對(duì)于HPC市場(chǎng)也未嘗不是一件好事,畢竟目前AI超算的商業(yè)價(jià)值更高,能夠吸引到更多的投資和補(bǔ)貼,也有望進(jìn)一步推動(dòng)HPC硬件的革新速度。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268871
  • HPC
    HPC
    +關(guān)注

    關(guān)注

    0

    文章

    315

    瀏覽量

    23752
  • 超算
    +關(guān)注

    關(guān)注

    1

    文章

    115

    瀏覽量

    9068
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    卡都去哪了?AI成了GPU的無(wú)底黑洞

    繼續(xù)擴(kuò)展大模型的機(jī)會(huì),似乎只會(huì)被大公司掌握在手中。 ? xAI 拉攏戴爾和打造AI,馬斯克繼續(xù)買(mǎi)買(mǎi)買(mǎi) ? xAI作為2023年3月才
    的頭像 發(fā)表于 06-26 09:03 ?3352次閱讀

    為什么說(shuō)雷達(dá)功能是UWB的個(gè)“寶藏”

    就需要更多的傳感器提供數(shù)據(jù)。IoT產(chǎn)品個(gè)趨勢(shì)就是功能越來(lái)越多,要實(shí)現(xiàn)越來(lái)越多的功能,就需要越來(lái)越多的傳感器,而傳感器多了之后帶來(lái)的問(wèn)題就是
    的頭像 發(fā)表于 12-20 15:26 ?188次閱讀
    為什么說(shuō)雷達(dá)功能是UWB的<b class='flag-5'>一</b><b class='flag-5'>個(gè)</b>“寶藏”

    廣和通開(kāi)啟端側(cè)AI新時(shí)代

    AI發(fā)展正酣,隨著終端芯片越來(lái)越高、端側(cè)模型能力越來(lái)越強(qiáng)、實(shí)時(shí)響應(yīng)及隱私保護(hù)的端側(cè)應(yīng)用需求增加,端側(cè)AI已然具備落地的條件。端側(cè)
    的頭像 發(fā)表于 12-12 10:35 ?160次閱讀

    人民郵電報(bào):“開(kāi)源”到底是什么?為啥熱度越來(lái)越高?

    ? ? ? 本文轉(zhuǎn)載自人民郵電報(bào) 這些年,“開(kāi)源”這個(gè)詞越來(lái)越火,開(kāi)源AI大模型、開(kāi)源數(shù)據(jù)庫(kù)、開(kāi)源框架、開(kāi)源硬件等新詞匯層出不窮。那么到底什么是“開(kāi)源”呢,是“開(kāi)源節(jié)流”中的“開(kāi)源”嗎? 非也,今天
    的頭像 發(fā)表于 10-17 14:21 ?514次閱讀
    人民郵電報(bào):“開(kāi)源”到底是什么?為啥熱度<b class='flag-5'>越來(lái)越高</b>?

    穩(wěn)定、高效、低成本,儲(chǔ)能與力正在相互賦能

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃山明)隨著時(shí)代的發(fā)展,儲(chǔ)能與力正越來(lái)越緊密的結(jié)合?;蛟S對(duì)于很多人而言,儲(chǔ)能是能源系統(tǒng),而力則是信息系統(tǒng),兩者似乎
    的頭像 發(fā)表于 10-09 00:08 ?4333次閱讀

    芯片功率1000W,村田創(chuàng)新電容產(chǎn)品如何解決AI新挑戰(zhàn)?

    AI服務(wù)器出貨量逾125萬(wàn)臺(tái),同比增長(zhǎng)超過(guò)47%。 ? 其中AI加速卡作為力的核心來(lái)源,需求量暴增,今年以來(lái)我們經(jīng)??梢钥吹礁骷铱萍脊緭屬?gòu)英偉達(dá)GPU的消息,這也是推動(dòng)英偉達(dá)在短時(shí)間內(nèi)市值飆升至全球前三的重要原因。 不過(guò)隨著
    的頭像 發(fā)表于 07-23 00:19 ?2926次閱讀
    芯片功率<b class='flag-5'>超</b>1000W,村田創(chuàng)新電容產(chǎn)品如何解決<b class='flag-5'>AI</b>新挑戰(zhàn)?

    力概念股寒武紀(jì)20cm漲停市值重回千億

    7月16日整個(gè)力概念板塊上漲;寒武紀(jì)(688256)上漲達(dá)20%,股價(jià)創(chuàng)年內(nèi)新高,成交額42億,寒武紀(jì)的總市值重回千億大關(guān)。 此外,紫光股份(000938)、海光信息(688041)等概念股同步
    的頭像 發(fā)表于 07-17 15:30 ?587次閱讀

    系統(tǒng)集成指什么

    集成的目標(biāo)是為用戶(hù)提供個(gè)統(tǒng)的、可擴(kuò)展的、高性能的計(jì)算環(huán)境,以滿(mǎn)足不同應(yīng)用場(chǎng)景的需求。 系統(tǒng)集成的背景和意義 隨著信息技術(shù)的快速發(fā)展,
    的頭像 發(fā)表于 07-03 14:07 ?487次閱讀

    科學(xué)計(jì)算的下輪創(chuàng)新,AI與數(shù)字孿生

    應(yīng)用的行列中來(lái)。 ? AI 與數(shù)字孿生 ? 在過(guò)去通用計(jì)算負(fù)載的時(shí)代,我們難以采用更大規(guī)模的計(jì)算集群來(lái)打造數(shù)字孿生??呻S著AI技術(shù),尤其
    的頭像 發(fā)表于 05-07 00:16 ?1998次閱讀
    科學(xué)計(jì)算的下<b class='flag-5'>一</b>輪創(chuàng)新,<b class='flag-5'>AI</b><b class='flag-5'>超</b><b class='flag-5'>算</b>與數(shù)字孿生

    谷歌擬投千億美元,AI實(shí)力或領(lǐng)跑業(yè)界

    據(jù)企鵝號(hào)報(bào)道,DeepMind公司首席執(zhí)行官德米斯·哈薩比斯在TED大會(huì)上,面對(duì)媒體對(duì)微軟公司和OpenAI建設(shè)價(jià)值千億美元超級(jí)計(jì)算機(jī)“星際之門(mén)”的提問(wèn),他未披露具體投資金額,但表示谷歌在人工智能領(lǐng)域的投入將超越千億
    的頭像 發(fā)表于 04-16 16:41 ?545次閱讀

    我們?cè)撊绾螒?yīng)對(duì)SOC中越來(lái)越龐大和復(fù)雜的SDC約束?

    SOC設(shè)計(jì)變得越來(lái)越復(fù)雜,成本越來(lái)越高,設(shè)計(jì)和驗(yàn)證也越來(lái)越困難。
    的頭像 發(fā)表于 03-13 14:52 ?1127次閱讀
    我們?cè)撊绾螒?yīng)對(duì)SOC中<b class='flag-5'>越來(lái)越</b>龐大和復(fù)雜的SDC約束?

    IC datasheet為什么越來(lái)越薄了?

    剛畢業(yè)的時(shí)候IC spec動(dòng)則三四百頁(yè)甚至一千頁(yè),這種設(shè)置和使用方法很詳盡,但是這幾年IC datasheet為什么越來(lái)越薄了,還分成了IC功能介紹、code設(shè)置、工廠量產(chǎn)等等規(guī)格書(shū),很多東西都藏著掖著,想了解個(gè)IC什么東西都要發(fā)郵件給供應(yīng)商,大家有知道這事為什么的嗎?
    發(fā)表于 03-06 13:55

    AI芯片架構(gòu)誰(shuí)將問(wèn)鼎江湖?

    Al力對(duì)高效電源提出新需求,背面供電技術(shù)蓄勢(shì)待發(fā):越來(lái)越高度化的集成會(huì)造成針對(duì)加速芯片的電源解決方案越來(lái)越復(fù)雜,方案需要不同電壓、不同路的多路輸入,這種情況下電壓軌會(huì)越來(lái)越多。
    發(fā)表于 03-05 10:15 ?350次閱讀
    <b class='flag-5'>AI</b>芯片架構(gòu)誰(shuí)將問(wèn)鼎江湖?

    為何開(kāi)關(guān)頻率要大于30kHz,且有越來(lái)越高的趨勢(shì)?

    為何開(kāi)關(guān)頻率要大于30kHz,且有越來(lái)越高的趨勢(shì)?開(kāi)關(guān)頻率大小的限制因素是什么? 開(kāi)關(guān)頻率的大小是指開(kāi)關(guān)電路每秒鐘進(jìn)行開(kāi)關(guān)操作的次數(shù)。在電力電子設(shè)備中,開(kāi)關(guān)頻率主要用于調(diào)節(jié)電路的響應(yīng)速度和功率傳輸
    的頭像 發(fā)表于 01-31 17:39 ?2850次閱讀

    你知道安防監(jiān)控系統(tǒng)是由哪七大部分組成的嗎?

    安防監(jiān)控系統(tǒng)門(mén)被人們?nèi)找嬷匾暤男屡d專(zhuān)業(yè),就目前發(fā)展看,應(yīng)用普及越來(lái)越廣,科技含量越來(lái)越高。
    的頭像 發(fā)表于 01-08 09:13 ?612次閱讀
    你知道安防監(jiān)控<b class='flag-5'>系統(tǒng)</b>是由哪七大部分組成的嗎?
    RM新时代网站-首页