RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

拆解“算力偏科”難題,智算中心下一步向何處去?

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2023-01-18 17:08 ? 次閱讀

十年前,英國《經(jīng)濟(jì)學(xué)人》曾用工業(yè)用電量為主的指標(biāo)來評估中國GDP,而現(xiàn)在算力已經(jīng)成為新的指標(biāo)。似乎每個企業(yè)、每個城市都在努力增加算力。

一位讀者不無困惑地留言,大家都說自己算力有多少FLOPS,能支撐這個大模型、那個大數(shù)據(jù),是不是數(shù)字越大就算力越強(qiáng)呢?

還真不是。

衡量算力水平,除了運(yùn)算次數(shù),還要看算力精度,也就是能夠支持的數(shù)據(jù)精度和運(yùn)算復(fù)雜度有多高。

如果說運(yùn)算次數(shù)(FLPOS)代表的是內(nèi)力值,那么算力精度就像是“身法”,決定了能否用對內(nèi)力、用好內(nèi)力。武林對決,有人拿屠龍刀一通亂砍,令狐沖靠獨(dú)孤九劍劍法一擊必中,你覺得誰水平高?

不同計算任務(wù),對算力需求不盡相同,需要恰當(dāng)?shù)摹吧矸ā?,來發(fā)揮算力的價值。

具體來說,根據(jù)數(shù)據(jù)類型的不同,適配的算力精度也有所區(qū)別:

比如科學(xué)計算,天氣預(yù)報、運(yùn)算化學(xué)、分子模型、天體物理模擬等,數(shù)據(jù)精度要求高,需要雙精度算力(64位,F(xiàn)P64),是由超級計算機(jī)提供的一種通用算力。

AI模型訓(xùn)練,自動駕駛、智慧城市、AIGC等業(yè)務(wù),需要學(xué)習(xí)大量數(shù)據(jù),訓(xùn)練出一個復(fù)雜的深度學(xué)習(xí)模型,而處理大規(guī)模浮點型數(shù)據(jù),更適合用單精度算力(32位,F(xiàn)P32)、半精度算力(16位,F(xiàn)P16)。 近年來,預(yù)訓(xùn)練大模型爆發(fā),涌現(xiàn)出了DALLE、ChatGPT、紫東太初等一波波大模型,參數(shù)動輒達(dá)到千億萬億,大模型的高效訓(xùn)練需要用到大量的單精度算力。

訓(xùn)練好并部署的模型,實際應(yīng)用時只需要根據(jù)輸入的數(shù)據(jù),推理出各種結(jié)論,比如人臉識別、車牌識別、語音識別等,這個AI推理的過程,處理的是整數(shù)型數(shù)據(jù),更適用于整型算力(INT8)。

那么問題來了,一般來說,某一個區(qū)域內(nèi),既有高精尖科研、智慧城市、自動駕駛這類高性能計算,帶來了通用算力的需求;又要有AI模型訓(xùn)練、AI應(yīng)用推理等來支撐產(chǎn)業(yè)數(shù)轉(zhuǎn)智改,對專用算力的需求也很高。

如果區(qū)域內(nèi)算力配置不夠多樣化,少了某一種算力,相當(dāng)于等用戶上了戰(zhàn)場對敵時,才發(fā)現(xiàn)無招可用或事倍功半,必然會限制當(dāng)?shù)財?shù)字化的發(fā)展。

因此,各地在進(jìn)行智算中心建設(shè)時,從長遠(yuǎn)來看,就必須考慮算力的多樣化、普適性。

但現(xiàn)實情況是,很多地方的智算中心,處于“先批快建”、各自為戰(zhàn)的階段,由于AI產(chǎn)業(yè)/科學(xué)計算/產(chǎn)業(yè)數(shù)字化等迅猛發(fā)展,迫切需要補(bǔ)足某種專用算力,應(yīng)對算力焦渴,缺乏通用算力的統(tǒng)籌規(guī)劃。

隨著東數(shù)西算工程、數(shù)字中國等一系列措施的推進(jìn),進(jìn)入“十四五”發(fā)展新時期,專用算力的通用化難題,就成為掣肘地方數(shù)字經(jīng)濟(jì)發(fā)展的當(dāng)務(wù)之急。

前不久發(fā)布的《智能計算中心2.0時代展望報告》中也強(qiáng)調(diào),當(dāng)前個別地區(qū)選擇的算力配置出現(xiàn)一定“偏科”現(xiàn)象,只能滿足一部分細(xì)分場景的需求,不能兼顧多產(chǎn)業(yè)、多領(lǐng)域?qū)θ诤纤懔Φ男枨?。需要推動通用算力、專用算力融合,?qū)動應(yīng)用走向縱深。

對于高校、科研機(jī)構(gòu)、企業(yè)、政府等各類算力用戶來說,算力融合究竟能帶來哪些利好?

破解“算力偏科”,算力融合價值幾何?

一言以蔽之,算力融合,意味著用戶可以對不同算力資源隨取隨用,無論是辦公數(shù)字化需要的通用算力,還是AI應(yīng)用需要的專用算力,抑或是氣象預(yù)報、生物預(yù)測等需要的高性能算力,都可以融會貫通、博采眾長,支撐自身業(yè)務(wù)的發(fā)展,成為一個算力“通才”。

從這個角度看,通用算力、專用算力的融合,會帶來三重明顯的價值:

一是數(shù)字經(jīng)濟(jì)的可持續(xù)。數(shù)字經(jīng)濟(jì)已經(jīng)成為各個區(qū)域發(fā)展的主調(diào),其中包含的算力應(yīng)用場景是非常廣泛的,根據(jù)應(yīng)用場景來進(jìn)行算力部署,更快地建立優(yōu)勢。比如某省會城市希望打造人工智能高地,同時高校牽頭建立遙感產(chǎn)業(yè)集群,專用算力、通用算力相融合,能支撐更加豐富的應(yīng)用場景,為當(dāng)?shù)財?shù)字經(jīng)濟(jì)的長期可持續(xù)發(fā)展提供算力保障。

二是綜合成本的下降。算力基礎(chǔ)設(shè)施的建設(shè)成本極高,在前期規(guī)劃時做好多種算力的配置,能使基礎(chǔ)設(shè)施的利用率提升,既保證算力充足,同時精益地滿足各類任務(wù)所需,從而提高算力的綜合效益,降低算力的使用成本,讓區(qū)域內(nèi)的算力更加普惠、更多用戶受益。

三是多元供應(yīng)的可靠性。算力融合意味著需要不同計算單元、多種架構(gòu)并存、多種軟硬件兼容,新型算力基礎(chǔ)設(shè)施走向開放、多元、兼容,相當(dāng)于“不把雞蛋放在一個籃子里“,能夠降低供應(yīng)鏈的不確定風(fēng)險,長期來看能夠讓算力更加安全可靠。

算力融合,相當(dāng)于一個武林高手,無論華山劍法、少林功夫、武當(dāng)太極,各種”身法“都能信手拈來,那么面對任一種計算任務(wù)的挑戰(zhàn),自然可以游刃有余。

縱橫2.0階段:數(shù)字江湖兒女需要怎樣的算力底座

即將到來的數(shù)字經(jīng)濟(jì)浪潮中,每個人都要化身江湖兒女、弄潮時代,這時候,一個通用性的算力底座,就如同通曉全門派武功身法的“神助攻”,可以提供全精度多元算力,讓用戶更從容地應(yīng)對業(yè)務(wù)變化和挑戰(zhàn)。

國家工業(yè)信息安全發(fā)展研究中心在《報告》中提出,智算中心在2017-2021年高速擴(kuò)張的1.0階段,主要提供的是專用性的算力。從2022年開始進(jìn)入2.0階段,需要利用CPUGPU等加速芯片的異構(gòu)重合,來實現(xiàn)高精度通用算力和低精度專用算力的融合供應(yīng)。

由此可見,智算中心的下一步重點,就是向通用算力底座發(fā)展。而建設(shè)這樣一個通用算力底座,有“一橫一縱“兩個基本要求:

一橫:多元算力需要多元架構(gòu),智算中心必須“橫向”兼容。

智算中心1.0階段,采用的是垂直一體的煙囪式的方案,針對性地滿足高性能計算、人工智能、大數(shù)據(jù)計算等不同的應(yīng)用負(fù)載,通用性和兼容性比較低。多樣化的通用算力底座,要實現(xiàn)不同架構(gòu)的芯片平臺、不同場上的算法模型以及數(shù)據(jù)集的橫向兼容,讓用戶可以根據(jù)業(yè)務(wù)場景和計算任務(wù)選擇最適合的算力方案。

一縱:通用算力需要軟硬協(xié)同,智算中心必須“縱向”耦合。

不同技術(shù)路線的芯片、算法、模型、應(yīng)用等要素,需要產(chǎn)業(yè)鏈上下游的打通,解決軟硬件兼容性的問題,芯片制造廠、中端廠商和軟件開發(fā)商,通過軟件優(yōu)化、架構(gòu)整合和軟硬件協(xié)同,來提升計算的整體性能。

打破垂直一體模式,走向“橫向”兼容“縱向”耦合,成為智算中心2.0時代的關(guān)鍵,從而支撐千行百業(yè)在數(shù)字時代縱橫馳騁。

見招拆招:智算中心的未來挑戰(zhàn)

智算中心1.0階段快速擴(kuò)張,統(tǒng)計數(shù)據(jù)顯示,目前中國已經(jīng)有超過30個城市在建設(shè)或提出建設(shè)智算中心。未來數(shù)字經(jīng)濟(jì)中80%的場景和算力資源要由智算中心進(jìn)行承載。這是一個巨大的機(jī)遇,但機(jī)會越大,所應(yīng)該承擔(dān)的責(zé)任也就越大。

如前所說,智算中心在2.0階段必須走向“橫向”兼容“縱向”耦合的目標(biāo),飯要一口口吃,算力融合也要一步步走,把每一個環(huán)節(jié)做好,見招拆招。

具體來說,智算中心的算力融合,要從四個核心環(huán)節(jié)來做功,分別是:算力生產(chǎn)、算力聚合、算力調(diào)度、算力釋放。

算力生產(chǎn)方面,要具備多樣化算力的供給能力。為了實現(xiàn)不同架構(gòu)芯片的多元化融合,智算中心的體系結(jié)構(gòu),已經(jīng)從同構(gòu)計算走向異構(gòu)計算,國內(nèi)外的科技企業(yè)如谷歌、英特爾、阿里、百度,都在進(jìn)行異構(gòu)計算的研發(fā)。《智能計算中心2.0時代展望報告》中,曙光5A級智算中心也憑借全算力精度覆蓋、多樣化算力供應(yīng),成為產(chǎn)業(yè)內(nèi)示范樣例

算力聚合方面,要推動通用算力和專用算力的融合。目前來看,業(yè)界各個廠家的智算中心建設(shè)理念是比較類似,都在強(qiáng)調(diào)融合發(fā)展。

算力調(diào)度方面,融合的算力如何靈活、精益地為各行各業(yè)所取用呢?這就需要對多樣算力進(jìn)行統(tǒng)一的調(diào)度和運(yùn)營。宏觀來看,在東數(shù)西算工程的推動下,全國算力一體化網(wǎng)絡(luò)體系已經(jīng)初步形成,為智算中心的算力調(diào)度建立了基礎(chǔ)。微觀來看,智算中心的建設(shè)者/參與者也開始建設(shè)算力運(yùn)營平臺,用精細(xì)化、智能化的手段來提高算力運(yùn)營調(diào)度水平,比如曙光智算運(yùn)營的全國一體化算力服務(wù)平臺等。

算力釋放方面,算力融合的本質(zhì)目的是讓千行百業(yè)用好算力、用對算力,所以多樣化算力如何更靈活的釋放到數(shù)字產(chǎn)業(yè)當(dāng)中去,提供算力服務(wù)的應(yīng)用,是智算中心在2.0階段的重中之重。

從產(chǎn)到用、見招拆招,智算中心2.0將是真正意義上的公共算力基礎(chǔ)設(shè)施,把澎湃的內(nèi)力與適配的身法,交給千行百業(yè)。

一個全新的數(shù)字視界,已經(jīng)向各行各業(yè)的俠士們廣發(fā)英雄帖。廣闊的產(chǎn)業(yè)機(jī)會,等待著大家去爭取,去贏得自己在這個時代的勛章。

化多元化算力為己用,打開多元化的未來,智算中心2.0階段,一定會有更多傳奇的人和事。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268886
  • 數(shù)字經(jīng)濟(jì)

    關(guān)注

    2

    文章

    1053

    瀏覽量

    18281
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    964

    瀏覽量

    14793
  • 智算中心
    +關(guān)注

    關(guān)注

    0

    文章

    68

    瀏覽量

    1692
收藏 人收藏

    評論

    相關(guān)推薦

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過互聯(lián)網(wǎng)專業(yè)的提供商租用所需的計算資源,以滿足其AI應(yīng)用的需求。以下是對企業(yè)AI
    的頭像 發(fā)表于 11-14 09:30 ?487次閱讀

    OCTC發(fā)布"工廠"!力促智中心高效規(guī)劃建設(shè)投運(yùn)

    創(chuàng)新提出面向未來數(shù)據(jù)中心的"工廠"模式,核心是以規(guī)(劃)、建(設(shè))、運(yùn)(營)體化的交鑰匙工程,實現(xiàn)智
    的頭像 發(fā)表于 10-11 09:10 ?515次閱讀
    OCTC發(fā)布&quot;<b class='flag-5'>算</b><b class='flag-5'>力</b>工廠&quot;!力促智<b class='flag-5'>算</b><b class='flag-5'>中心</b>高效規(guī)劃建設(shè)投運(yùn)

    IaaS+on+DPU(IoD)+下一代高性能底座技術(shù)白皮書

    大規(guī)模生產(chǎn)環(huán)境落地應(yīng)用的條件。某種程度上,IoD 技術(shù)已成為下一代高性能底座的核心技術(shù)與最佳實踐。 白皮書下載:*附件:IaaS+on+DPU(IoD)+下一代高性能
    發(fā)表于 07-24 15:32

    中國中心市場持續(xù)增長,智能規(guī)??焖籴绕?/a>

    7月24日,中國信息通信研究院(簡稱“中國信通院”)權(quán)威發(fā)布了《中國中心服務(wù)商分析報告(2024年)》,該報告深入剖析了中國
    的頭像 發(fā)表于 07-24 15:25 ?461次閱讀

    壁仞科技為中國移動呼和浩特智中心提供強(qiáng)大

    ? 隨著人工智能技術(shù)的飛速發(fā)展,高性能計算中心成為推動AI創(chuàng)新和應(yīng)用的關(guān)鍵基礎(chǔ)設(shè)施。近日,中國移動智中心(呼和浩特)成功上線運(yùn)營。國內(nèi)領(lǐng)先的GPU企業(yè)壁仞科技的壁礪系列通用GPU
    的頭像 發(fā)表于 07-05 17:16 ?1270次閱讀

    基礎(chǔ)設(shè)施的風(fēng)險與挑戰(zhàn)

    編者按網(wǎng)絡(luò)有個美好的愿景,就是希望網(wǎng),能像電力和電網(wǎng)
    的頭像 發(fā)表于 06-13 08:27 ?541次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎(chǔ)設(shè)施的風(fēng)險與挑戰(zhàn)

    云耀 X 實例:下一代柔性新物種,雙倍性能加速躍級體驗

    (以下簡稱:云耀 X 實例),以創(chuàng)新的柔性技術(shù),為高科技、零售、金融、游戲等行業(yè)帶來前所未有的躍級體驗。 云耀 X 實例的推出,標(biāo)志著云計算從粗顆粒度的彈性
    的頭像 發(fā)表于 05-22 19:36 ?414次閱讀
    云耀 X 實例:<b class='flag-5'>下一</b>代柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新物種,雙倍性能加速躍級體驗

    力系列基礎(chǔ)篇——101:從零開始了解

    相信大家已經(jīng)感受到,我們正處在個人工智能時代。如果要問在人工智能時代最重要的是什么?那必須是:!
    的頭像 發(fā)表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎(chǔ)篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    DPU技術(shù)賦能下一代AI基礎(chǔ)設(shè)施

    4月19日,在以“重構(gòu)世界 奔赴未來”為主題的2024中國生成式AI大會上,中科馭數(shù)作為DPU新型基礎(chǔ)設(shè)施代表,受邀出席了中國智中心創(chuàng)新論壇,發(fā)表了題為《以網(wǎng)絡(luò)為
    的頭像 發(fā)表于 04-20 11:31 ?839次閱讀

    中心:數(shù)字經(jīng)濟(jì)發(fā)展的新引擎

    隨著數(shù)字經(jīng)濟(jì)的快速發(fā)展,中心正逐漸成為推動經(jīng)濟(jì)發(fā)展的重要力量。中心是指能夠提供大規(guī)模、高
    的頭像 發(fā)表于 04-13 08:27 ?1671次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>中心</b>:數(shù)字經(jīng)濟(jì)發(fā)展的新引擎

    圖看懂星河AI數(shù)據(jù)中心網(wǎng)絡(luò),全面釋放AI時代

    華為中國合作伙伴大會 | 圖看懂星河AI數(shù)據(jù)中心網(wǎng)絡(luò),以網(wǎng)強(qiáng),全面釋放AI時代
    的頭像 發(fā)表于 03-22 10:28 ?751次閱讀
    <b class='flag-5'>一</b>圖看懂星河AI數(shù)據(jù)<b class='flag-5'>中心</b>網(wǎng)絡(luò),全面釋放AI時代<b class='flag-5'>算</b><b class='flag-5'>力</b>

    Prevayl的下一步是什么

    Prevayl的下一步是什么2022年,Prevayl推出了SmartWear——這是世界上第款采用臨床級心電圖增強(qiáng)的高性能服裝,其準(zhǔn)確性無與倫比。生物識別先驅(qū)還創(chuàng)建了個功能齊全的智能服裝
    的頭像 發(fā)表于 02-17 18:10 ?520次閱讀
    Prevayl的<b class='flag-5'>下一步</b>是什么

    智能規(guī)模超通用,大模型對智能提出高要求

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)是設(shè)備通過處理數(shù)據(jù),實現(xiàn)特定結(jié)果輸出的計算能力,常用FLOPS作為計量單位。FLOPS是Floating-point Operations Per Second
    的頭像 發(fā)表于 02-06 00:08 ?6308次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發(fā)布于 :2024年01月25日 14:54:52

    網(wǎng)絡(luò)面臨三大挑戰(zhàn)

    2024年,以AIGC為代表的人工智能技術(shù)將進(jìn)一步激發(fā)需求,網(wǎng)絡(luò)、智
    的頭像 發(fā)表于 01-12 10:39 ?1093次閱讀
    RM新时代网站-首页