RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從千卡集群卡到萬卡集群,燧原科技打造更好的AI算力底座

吳生semi ? 來源:電子發(fā)燒友網(wǎng) ? 作者:吳子鵬 ? 2024-07-07 09:45 ? 次閱讀
電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)算力是新質(zhì)生產(chǎn)力的代表,隨著以ChatGPT為代表的Transformer架構(gòu)大模型的參數(shù)規(guī)模越來越大,對計(jì)算資源的需求顯著增長。在2024年世界人工智能大會(以下簡稱:WAIC 2024)上,不僅有國內(nèi)各大模型廠商同場競技,也有豐富的算力基礎(chǔ)設(shè)施展示,其中包括專注人工智能領(lǐng)域云端算力產(chǎn)品的燧原科技
燧原科技展臺

從千卡集群到萬卡集群

除了里程碑產(chǎn)品展示外,燧原科技今年在展臺重點(diǎn)展示了其落地標(biāo)桿案例——宜昌點(diǎn)軍智算中心。根據(jù)燧原科技工作人員的介紹,當(dāng)前燧原科技已在四川成都、湖北宜昌和甘肅慶陽展開了千卡規(guī)模智算中心的建設(shè),緊跟國家東數(shù)西算的大戰(zhàn)略。宜昌點(diǎn)軍智算中心是其中的代表,僅用1年時(shí)間完成了300P國產(chǎn)算力建設(shè)和交付,正式運(yùn)行僅5個(gè)月,點(diǎn)軍智算中心就已經(jīng)滿載運(yùn)行,300P算力被全部消納,客戶群體包括無問芯穹、愛奇藝、貝式計(jì)算、啟智社區(qū)等,這是燧原科技在智算中心建設(shè)新范式的一次成功探索
宜昌點(diǎn)軍智算中心落地成果展示

WAIC 2024期間,燧原科技也宣布了與清程極智的戰(zhàn)略合作。雙方致力于共同打造超大規(guī)模智算集群的訓(xùn)練方案,針對大模型實(shí)際應(yīng)用場景進(jìn)行軟硬協(xié)同的開發(fā)與優(yōu)化。在滿足基礎(chǔ)大模型的預(yù)訓(xùn)練、行業(yè)大模型的微調(diào)和大模型推理部署等不同的應(yīng)用場景和多元的算力需求,提供更高性能、更高效率、更高性價(jià)比的萬卡集群算力方案。

打造更好的AIGC體驗(yàn)

統(tǒng)計(jì)數(shù)據(jù)顯示,2024年我國AIGC的應(yīng)用市場規(guī)模達(dá)到200億;預(yù)計(jì)到2030年,我國AIGC應(yīng)用將成為萬億規(guī)模市場,五年(2024-2028年)里的年復(fù)合增長率超過30%。和去年的WAIC一樣,WAIC 2024期間燧原科技同樣在展臺展示了非常豐富的AIGC應(yīng)用案例,包括編程助手、AI視頻生成、3D生成等。

其中一款案例是由燧原科技和智譜AI合作的大模型編程助手一體機(jī),基于云燧i20推理加速卡,能為軟件開發(fā)企業(yè)提供代碼生成、代碼翻譯、代碼注釋、代碼補(bǔ)全、智能問答等多種服務(wù)。AIGC智能編程作為一種利用人工智能技術(shù)提高軟件開發(fā)效率的方法,已經(jīng)在實(shí)際中得到了廣泛的應(yīng)用,這款大模型編程助手一體機(jī)的主要優(yōu)勢要體現(xiàn)在相關(guān)輸出的反應(yīng)速度,以及代碼的準(zhǔn)確率等。

另一款案例是燧原科技與無問芯穹攜手帶來的游戲體驗(yàn)項(xiàng)目,通過適配不同的大模型為用戶帶來流暢和趣味的體驗(yàn)。

還有一款案例是燧原科技MaaS平臺服務(wù)產(chǎn)品“燧原曜圖”的升級版,WAIC 2024上,燧原科技展示的是“燧原曜圖”2.0版本。根據(jù)燧原科技工作人員的介紹,去年“燧原曜圖”主要展示文本生成圖像的能力,構(gòu)建了從算力到云服務(wù)、模型,再到用戶去使用的一體化流程?!办菰讏D”2.0版本則帶來了更細(xì)分的功能,以及更好的用戶體驗(yàn)?!办菰讏D”2.0版本支持文生圖、視頻生成、3D生成、自拍相機(jī)等多個(gè)子應(yīng)用。在視頻生成方面,“燧原曜圖”2.0版本提供獨(dú)特的文生圖片,然后圖生視頻的生成流程,讓用戶能夠在圖片階段自由調(diào)整,降低視頻修改的繁瑣性。

結(jié)語

燧原科技成立6年來,從千卡集群到萬卡集群,從算力基礎(chǔ)設(shè)施到AIGC,每一年的WAIC上,都能看到燧原科技的技術(shù)實(shí)力和商業(yè)落地能力不斷穩(wěn)健成長。隨著新一代推理加速產(chǎn)品的推出,相信燧原在在本土算力領(lǐng)域終將芯火燎原。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268873
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    964

    瀏覽量

    14793
  • 燧原科技
    +關(guān)注

    關(guān)注

    0

    文章

    121

    瀏覽量

    8301
收藏 人收藏

    評論

    相關(guān)推薦

    國產(chǎn)千卡GPU集群完成大模型訓(xùn)練測試,極具高兼容性和穩(wěn)定性

    集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個(gè)全國產(chǎn)千卡千億模型訓(xùn)練平臺“摩爾線程KUAE智中心”。摩爾線程相關(guān)負(fù)責(zé)人此前談到,百
    的頭像 發(fā)表于 06-11 07:50 ?3242次閱讀
    國產(chǎn)<b class='flag-5'>千卡</b>GPU<b class='flag-5'>集群</b>完成大模型訓(xùn)練測試,極具高兼容性和穩(wěn)定性

    性能提升近一倍!壁仞科技攜手無問芯穹,在千卡訓(xùn)練集群等領(lǐng)域取得技術(shù)新突破

    隨著智能需求的倍增,到2024年,千卡集群已成為國內(nèi)大模型訓(xùn)練的必備場景。壁仞科技,作為
    發(fā)表于 11-05 18:45 ?596次閱讀
    性能提升近一倍!壁仞科技攜手無問芯穹,在<b class='flag-5'>千卡</b>訓(xùn)練<b class='flag-5'>集群</b>等領(lǐng)域取得技術(shù)新突破

    弘信電子集團(tuán)子公司弘綠色與首都在線共建慶陽集群

    弘信電子旗下子公司甘肅弘綠色有限公司(以下簡稱“弘綠色”)與北京首都在線科技股份有限公司(以下簡稱“首都在線”)共同簽署《共建慶陽
    的頭像 發(fā)表于 09-20 10:47 ?511次閱讀

    弘華創(chuàng)助力慶陽構(gòu)建產(chǎn)業(yè)生態(tài)

    全國一體化網(wǎng)絡(luò)慶陽樞紐節(jié)點(diǎn)首批P成功上線,首個(gè)國產(chǎn)
    的頭像 發(fā)表于 09-20 10:38 ?480次閱讀

    摩爾線程與羽人科技完成大語言模型訓(xùn)練測試

    近日,摩爾線程與羽人科技攜手宣布,雙方已成功實(shí)現(xiàn)夸娥(KUAE)千卡集群與羽人系列模型解決方案的訓(xùn)練兼容適配。在本次測試中,羽人科技通過摩爾線程夸娥千卡
    的頭像 發(fā)表于 08-27 16:19 ?523次閱讀

    摩爾線程夸娥智中心解決方案重磅升級

    摩爾線程重磅宣布其AI旗艦產(chǎn)品夸娥(KUAE)智集群解決方案實(shí)現(xiàn)重大升級,當(dāng)前的千卡級別大幅擴(kuò)展至
    的頭像 發(fā)表于 08-27 16:09 ?697次閱讀

    中國電信上海、北京兩個(gè)集群已經(jīng)投產(chǎn)

    中國電信在智領(lǐng)域的發(fā)展迎來重要里程碑。近日,中國電信宣布,其上海、北京兩個(gè)集群已正式投產(chǎn)運(yùn)行,標(biāo)志著中國電信在構(gòu)建大規(guī)模智
    的頭像 發(fā)表于 08-09 17:47 ?725次閱讀

    集群解決大模型訓(xùn)需求,建設(shè)面臨哪些挑戰(zhàn)

    解決大模型訓(xùn)練對需求的巨大增長問題,尤其是現(xiàn)在模型參數(shù)量百億級、千億級邁向萬億級。 ? 國內(nèi)外企業(yè)積極構(gòu)建
    的頭像 發(fā)表于 06-02 06:18 ?4684次閱讀
    <b class='flag-5'>萬</b><b class='flag-5'>卡</b><b class='flag-5'>集群</b>解決大模型訓(xùn)<b class='flag-5'>算</b><b class='flag-5'>力</b>需求,建設(shè)面臨哪些挑戰(zhàn)

    國產(chǎn)GPU可替代!摩爾線程千卡集群點(diǎn)亮新成就

    摩爾線程、無問芯穹聯(lián)合宣布,雙方已經(jīng)正式完成MT-infini-3B 3B(30億參數(shù))規(guī)模大模型的實(shí)訓(xùn),基于摩爾線程國產(chǎn)全功能GPU MTT S4000組成的千卡集群,以及無問芯穹的AIStudio PaaS平臺。
    的頭像 發(fā)表于 05-29 11:27 ?725次閱讀
    國產(chǎn)GPU可替代!摩爾線程<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>點(diǎn)亮新成就

    摩爾線程千卡集群與滴普企業(yè)大模型已完成訓(xùn)練及推理適配

    近日,摩爾線程與國內(nèi)領(lǐng)先的數(shù)據(jù)智能服務(wù)商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡集群與滴普企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配。
    的頭像 發(fā)表于 05-29 10:28 ?462次閱讀
    摩爾線程<b class='flag-5'>千卡</b>智<b class='flag-5'>算</b><b class='flag-5'>集群</b>與滴普企業(yè)大模型已完成訓(xùn)練及推理適配

    摩爾線程、無問芯穹合作完成國產(chǎn)全功能GPU千卡集群

    據(jù)介紹,此項(xiàng)訓(xùn)練歷時(shí)13.2天,過程穩(wěn)定而有序,集群整體運(yùn)行穩(wěn)定性達(dá)到了100%。相較于單機(jī)訓(xùn)練,千卡集群的擴(kuò)展效率提升了超過90%。
    的頭像 發(fā)表于 05-27 14:40 ?622次閱讀

    摩爾線程與無問芯穹宣布完成基于GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)

    摩爾線程聯(lián)合無問芯穹宣布,雙方已在本周正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)。
    的頭像 發(fā)表于 05-27 10:44 ?473次閱讀
    摩爾線程與無問芯穹宣布完成基于GPU<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>的3B規(guī)模大模型實(shí)訓(xùn)

    中國移動將商用三個(gè)自主可控集群

    中國移動在近日舉辦的2024年網(wǎng)絡(luò)大會上宣布了重要計(jì)劃。據(jù)中國移動副總經(jīng)理高同慶透露,公司今年將正式商用三個(gè)具有完全自主控制權(quán)的集群
    的頭像 發(fā)表于 05-06 10:21 ?568次閱讀

    原科技與無問芯穹簽約宣布共同打造千卡集群案例

    3月31日,在無問芯穹舉辦的以“多元計(jì)算·泛在鏈接”為主題的AI優(yōu)化論壇暨產(chǎn)品發(fā)布會上,原科技與無問芯穹簽約宣布已經(jīng)完成系統(tǒng)級融合,攜手在湖北宜昌智
    的頭像 發(fā)表于 04-01 10:48 ?871次閱讀

    中國電信規(guī)劃在上海建設(shè)首個(gè)國產(chǎn)超大規(guī)模液冷集群

    中國電信規(guī)劃建設(shè)首個(gè)國產(chǎn)超大規(guī)模液冷集群 人工智能技術(shù)的快速發(fā)展催生了巨大的需求;中國電信規(guī)劃在上海規(guī)劃建設(shè)可支持萬億參數(shù)大模型訓(xùn)練
    的頭像 發(fā)表于 02-22 18:48 ?1325次閱讀
    RM新时代网站-首页