電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)算力是新質(zhì)生產(chǎn)力的代表,隨著以ChatGPT為代表的Transformer架構(gòu)大模型的參數(shù)規(guī)模越來越大,對計(jì)算資源的需求顯著增長。在2024年世界人工智能大會(以下簡稱:WAIC 2024)上,不僅有國內(nèi)各大模型廠商同場競技,也有豐富的算力基礎(chǔ)設(shè)施展示,其中包括專注人工智能領(lǐng)域云端算力產(chǎn)品的燧原科技。
WAIC 2024期間,燧原科技也宣布了與清程極智的戰(zhàn)略合作。雙方致力于共同打造超大規(guī)模智算集群的訓(xùn)練方案,針對大模型實(shí)際應(yīng)用場景進(jìn)行軟硬協(xié)同的開發(fā)與優(yōu)化。在滿足基礎(chǔ)大模型的預(yù)訓(xùn)練、行業(yè)大模型的微調(diào)和大模型推理部署等不同的應(yīng)用場景和多元的算力需求,提供更高性能、更高效率、更高性價(jià)比的萬卡集群算力方案。
其中一款案例是由燧原科技和智譜AI合作的大模型編程助手一體機(jī),基于云燧i20推理加速卡,能為軟件開發(fā)企業(yè)提供代碼生成、代碼翻譯、代碼注釋、代碼補(bǔ)全、智能問答等多種服務(wù)。AIGC智能編程作為一種利用人工智能技術(shù)提高軟件開發(fā)效率的方法,已經(jīng)在實(shí)際中得到了廣泛的應(yīng)用,這款大模型編程助手一體機(jī)的主要優(yōu)勢要體現(xiàn)在相關(guān)輸出的反應(yīng)速度,以及代碼的準(zhǔn)確率等。
另一款案例是燧原科技與無問芯穹攜手帶來的游戲體驗(yàn)項(xiàng)目,通過適配不同的大模型為用戶帶來流暢和趣味的體驗(yàn)。
還有一款案例是燧原科技MaaS平臺服務(wù)產(chǎn)品“燧原曜圖”的升級版,WAIC 2024上,燧原科技展示的是“燧原曜圖”2.0版本。根據(jù)燧原科技工作人員的介紹,去年“燧原曜圖”主要展示文本生成圖像的能力,構(gòu)建了從算力到云服務(wù)、模型,再到用戶去使用的一體化流程?!办菰讏D”2.0版本則帶來了更細(xì)分的功能,以及更好的用戶體驗(yàn)?!办菰讏D”2.0版本支持文生圖、視頻生成、3D生成、自拍相機(jī)等多個(gè)子應(yīng)用。在視頻生成方面,“燧原曜圖”2.0版本提供獨(dú)特的文生圖片,然后圖生視頻的生成流程,讓用戶能夠在圖片階段自由調(diào)整,降低視頻修改的繁瑣性。
燧原科技展臺
從千卡集群到萬卡集群
除了里程碑產(chǎn)品展示外,燧原科技今年在展臺重點(diǎn)展示了其落地標(biāo)桿案例——宜昌點(diǎn)軍智算中心。根據(jù)燧原科技工作人員的介紹,當(dāng)前燧原科技已在四川成都、湖北宜昌和甘肅慶陽展開了千卡規(guī)模智算中心的建設(shè),緊跟國家東數(shù)西算的大戰(zhàn)略。宜昌點(diǎn)軍智算中心是其中的代表,僅用1年時(shí)間完成了300P國產(chǎn)算力建設(shè)和交付,正式運(yùn)行僅5個(gè)月,點(diǎn)軍智算中心就已經(jīng)滿載運(yùn)行,300P算力被全部消納,客戶群體包括無問芯穹、愛奇藝、貝式計(jì)算、啟智社區(qū)等,這是燧原科技在智算中心建設(shè)新范式的一次成功探索
宜昌點(diǎn)軍智算中心落地成果展示
WAIC 2024期間,燧原科技也宣布了與清程極智的戰(zhàn)略合作。雙方致力于共同打造超大規(guī)模智算集群的訓(xùn)練方案,針對大模型實(shí)際應(yīng)用場景進(jìn)行軟硬協(xié)同的開發(fā)與優(yōu)化。在滿足基礎(chǔ)大模型的預(yù)訓(xùn)練、行業(yè)大模型的微調(diào)和大模型推理部署等不同的應(yīng)用場景和多元的算力需求,提供更高性能、更高效率、更高性價(jià)比的萬卡集群算力方案。
打造更好的AIGC體驗(yàn)
統(tǒng)計(jì)數(shù)據(jù)顯示,2024年我國AIGC的應(yīng)用市場規(guī)模達(dá)到200億;預(yù)計(jì)到2030年,我國AIGC應(yīng)用將成為萬億規(guī)模市場,五年(2024-2028年)里的年復(fù)合增長率超過30%。和去年的WAIC一樣,WAIC 2024期間燧原科技同樣在展臺展示了非常豐富的AIGC應(yīng)用案例,包括編程助手、AI視頻生成、3D生成等。其中一款案例是由燧原科技和智譜AI合作的大模型編程助手一體機(jī),基于云燧i20推理加速卡,能為軟件開發(fā)企業(yè)提供代碼生成、代碼翻譯、代碼注釋、代碼補(bǔ)全、智能問答等多種服務(wù)。AIGC智能編程作為一種利用人工智能技術(shù)提高軟件開發(fā)效率的方法,已經(jīng)在實(shí)際中得到了廣泛的應(yīng)用,這款大模型編程助手一體機(jī)的主要優(yōu)勢要體現(xiàn)在相關(guān)輸出的反應(yīng)速度,以及代碼的準(zhǔn)確率等。
另一款案例是燧原科技與無問芯穹攜手帶來的游戲體驗(yàn)項(xiàng)目,通過適配不同的大模型為用戶帶來流暢和趣味的體驗(yàn)。
還有一款案例是燧原科技MaaS平臺服務(wù)產(chǎn)品“燧原曜圖”的升級版,WAIC 2024上,燧原科技展示的是“燧原曜圖”2.0版本。根據(jù)燧原科技工作人員的介紹,去年“燧原曜圖”主要展示文本生成圖像的能力,構(gòu)建了從算力到云服務(wù)、模型,再到用戶去使用的一體化流程?!办菰讏D”2.0版本則帶來了更細(xì)分的功能,以及更好的用戶體驗(yàn)?!办菰讏D”2.0版本支持文生圖、視頻生成、3D生成、自拍相機(jī)等多個(gè)子應(yīng)用。在視頻生成方面,“燧原曜圖”2.0版本提供獨(dú)特的文生圖片,然后圖生視頻的生成流程,讓用戶能夠在圖片階段自由調(diào)整,降低視頻修改的繁瑣性。
結(jié)語
燧原科技成立6年來,從千卡集群到萬卡集群,從算力基礎(chǔ)設(shè)施到AIGC,每一年的WAIC上,都能看到燧原科技的技術(shù)實(shí)力和商業(yè)落地能力不斷穩(wěn)健成長。隨著新一代推理加速產(chǎn)品的推出,相信燧原在在本土算力領(lǐng)域終將芯火燎原。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
-
AI
+關(guān)注
關(guān)注
87文章
30728瀏覽量
268873 -
算力
+關(guān)注
關(guān)注
1文章
964瀏覽量
14793 -
燧原科技
+關(guān)注
關(guān)注
0文章
121瀏覽量
8301
發(fā)布評論請先 登錄
相關(guān)推薦
國產(chǎn)千卡GPU集群完成大模型訓(xùn)練測試,極具高兼容性和穩(wěn)定性
卡集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個(gè)全國產(chǎn)千卡千億模型訓(xùn)練平臺“摩爾線程KUAE智算中心”。摩爾線程相關(guān)負(fù)責(zé)人此前談到,百
性能提升近一倍!壁仞科技攜手無問芯穹,在千卡訓(xùn)練集群等領(lǐng)域取得技術(shù)新突破
隨著智能算力需求的倍增,到2024年,千卡算力集群已成為國內(nèi)大模型訓(xùn)練的必備場景。壁仞科技,作為
發(fā)表于 11-05 18:45
?596次閱讀
弘信電子集團(tuán)子公司燧弘綠色與首都在線共建慶陽萬卡集群
弘信電子旗下子公司甘肅燧弘綠色算力有限公司(以下簡稱“燧弘綠色”)與北京首都在線科技股份有限公司(以下簡稱“首都在線”)共同簽署《共建慶陽萬
燧弘華創(chuàng)助力慶陽構(gòu)建算力產(chǎn)業(yè)生態(tài)
全國一體化算力網(wǎng)絡(luò)慶陽樞紐節(jié)點(diǎn)首批萬P算力成功上線,首個(gè)國產(chǎn)萬
摩爾線程與羽人科技完成大語言模型訓(xùn)練測試
近日,摩爾線程與羽人科技攜手宣布,雙方已成功實(shí)現(xiàn)夸娥(KUAE)千卡智算集群與羽人系列模型解決方案的訓(xùn)練兼容適配。在本次測試中,羽人科技通過摩爾線程夸娥千卡智
摩爾線程夸娥智算中心解決方案重磅升級
摩爾線程重磅宣布其AI旗艦產(chǎn)品夸娥(KUAE)智算集群解決方案實(shí)現(xiàn)重大升級,從當(dāng)前的千卡級別大幅擴(kuò)展至萬
中國電信上海、北京兩個(gè)萬卡集群已經(jīng)投產(chǎn)
中國電信在智算領(lǐng)域的發(fā)展迎來重要里程碑。近日,中國電信宣布,其上海、北京兩個(gè)萬卡智算集群已正式投產(chǎn)運(yùn)行,標(biāo)志著中國電信在構(gòu)建大規(guī)模智
萬卡集群解決大模型訓(xùn)算力需求,建設(shè)面臨哪些挑戰(zhàn)
解決大模型訓(xùn)練對算力需求的巨大增長問題,尤其是現(xiàn)在模型參數(shù)量從百億級、千億級邁向萬億級。 ? 國內(nèi)外企業(yè)積極構(gòu)建萬卡
國產(chǎn)GPU可替代!摩爾線程千卡集群點(diǎn)亮新成就
摩爾線程、無問芯穹聯(lián)合宣布,雙方已經(jīng)正式完成MT-infini-3B 3B(30億參數(shù))規(guī)模大模型的實(shí)訓(xùn),基于摩爾線程國產(chǎn)全功能GPU MTT S4000組成的千卡集群,以及無問芯穹的AIStudio PaaS平臺。
摩爾線程千卡智算集群與滴普企業(yè)大模型已完成訓(xùn)練及推理適配
近日,摩爾線程與國內(nèi)領(lǐng)先的數(shù)據(jù)智能服務(wù)商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配。
摩爾線程、無問芯穹合作完成國產(chǎn)全功能GPU千卡集群
據(jù)介紹,此項(xiàng)訓(xùn)練歷時(shí)13.2天,過程穩(wěn)定而有序,集群整體運(yùn)行穩(wěn)定性達(dá)到了100%。相較于單機(jī)訓(xùn)練,千卡集群的擴(kuò)展效率提升了超過90%。
摩爾線程與無問芯穹宣布完成基于GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)
摩爾線程聯(lián)合無問芯穹宣布,雙方已在本周正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)。
中國移動將商用三個(gè)自主可控萬卡集群
中國移動在近日舉辦的2024年算力網(wǎng)絡(luò)大會上宣布了重要計(jì)劃。據(jù)中國移動副總經(jīng)理高同慶透露,公司今年將正式商用三個(gè)具有完全自主控制權(quán)的萬卡集群
燧原科技與無問芯穹簽約宣布共同打造千卡集群案例
3月31日,在無問芯穹舉辦的以“多元計(jì)算·泛在鏈接”為主題的AI算力優(yōu)化論壇暨產(chǎn)品發(fā)布會上,燧原科技與無問芯穹簽約宣布已經(jīng)完成系統(tǒng)級融合,攜手在湖北宜昌智
中國電信規(guī)劃在上海建設(shè)首個(gè)國產(chǎn)超大規(guī)模算力液冷集群
中國電信規(guī)劃建設(shè)首個(gè)國產(chǎn)超大規(guī)模算力液冷集群 人工智能技術(shù)的快速發(fā)展催生了巨大的算力需求;中國電信規(guī)劃在上海規(guī)劃建設(shè)可支持萬億參數(shù)大模型訓(xùn)練
評論