遠(yuǎn)程邊緣計算需要高性能AI和訓(xùn)練解決方案來支持高階工作負(fù)載以提高生產(chǎn)力
Supermicro, Inc.(納斯達(dá)克股票代碼:SMCI)作為AI、云端、存儲和5G/邊緣領(lǐng)域的全方位IT解決方案制造商,正在擴(kuò)展其AI解決方案產(chǎn)品組合,讓客戶在公共空間、零售商店或工業(yè)基礎(chǔ)架構(gòu)等邊緣位置能有效運用AI的強大性能。通過使用搭載NVIDIA GPU的Supermicro應(yīng)用優(yōu)化服務(wù)器,可更輕松地微調(diào)預(yù)訓(xùn)練模型(Pre-trained Model)及將AI推論解決方案部署在產(chǎn)生數(shù)據(jù)的邊緣端,進(jìn)而縮短響應(yīng)時間與改善決策。
Supermicro Solutions for Edge AI
Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)表示:"Supermicro擁有最多元的邊緣AI解決方案產(chǎn)品組合,能支持客戶用于邊緣環(huán)境的預(yù)訓(xùn)練模型。Supermicro Hyper-E服務(wù)器搭載兩個第五代Intel?Xeon?處理器并支持最多三個NVIDIA H100 Tensor Core GPU,能為邊緣AI提供優(yōu)異的性能。借由這些具有最高8TB內(nèi)存的服務(wù)器,我們能將數(shù)據(jù)中心的AI處理性能帶至邊緣位置。隨著企業(yè)通過在邊緣端處理AI數(shù)據(jù)來建立競爭優(yōu)勢,Supermicro也將繼續(xù)為行業(yè)提供優(yōu)化解決方案。"
通過這些服務(wù)器的優(yōu)化與升級,用戶不再需要將數(shù)據(jù)傳回云端進(jìn)行處理,只需必要時把信息擷取回邊緣端即可。同時,客戶現(xiàn)在可以使用預(yù)先訓(xùn)練且性能優(yōu)化后的大語言模型(LLM),并通過NVIDIA AI Enterprise在其邊緣位置使用,以便在靠近數(shù)據(jù)生成端進(jìn)行實時、精準(zhǔn)的決策。
NVIDIA合作伙伴聯(lián)盟副總裁Kevin Connors表示:"越來越多來自醫(yī)療、零售、制造和汽車等領(lǐng)域的企業(yè)有意在邊緣端運用AI技術(shù)。Supermicro的全新NVIDIA認(rèn)證系統(tǒng)由NVIDIA AI平臺驅(qū)動,提供了最高性能的加速計算基礎(chǔ)架構(gòu),并通過NVIDIA AI Enterprise軟件協(xié)助運行邊緣AI 工作負(fù)載。"
例如,Supermicro的Hyper-E服務(wù)器SYS-221HE系列便針對邊緣訓(xùn)練和推理進(jìn)行了優(yōu)化,而其具備短機身與前置I/O設(shè)計的系統(tǒng)機型搭載了雙路CPU。此系統(tǒng)最多容納三個雙寬NVIDIA Tensor Core GPU,包括NVIDIA H100、A10、L40S、A40和A2 GPU。這些GPU為Supermicro Hyper-E提供足夠的計算能力,可在收集、分析和存儲資料的邊緣端處理AI 工作負(fù)載。Supermicro SYS-221HE也提供前置或后置維護(hù)選項,使該服務(wù)器可被安裝在各種環(huán)境內(nèi)。包括Eviden等合作伙伴正在打造邊緣AI解決方案,進(jìn)而改善傳統(tǒng)零售商店內(nèi)的客戶體驗,這些都是Supermicro Hyper-E服務(wù)器的性能和靈活性可被運用的案例。
Supermicro的先進(jìn)邊緣服務(wù)器還包括:
SupermicroSYS-621C-TNR12R(CloudDC系列)是一款適用于云端數(shù)據(jù)中心的一體成型機柜式平臺。這款緊湊型2U系統(tǒng)能在其25.5吋機箱內(nèi)支持最多兩個雙寬GPU和4至12個SATA/SAS硬盤槽。這些硬盤槽可選擇性搭配完整NVMe支持。
SupermicroSYS-111E-FWTR是一款高密度邊緣系統(tǒng)。該系統(tǒng)高度為1U,并搭載第五代Intel Xeon處理器和兩個PCIe 5.0 x16 FHFL插槽,非常適合用于各種網(wǎng)絡(luò)和邊緣應(yīng)用。
緊湊型SupermicroSYS-E403-13E可搭載第五代Intel Xeon處理器和最多三個NVIDIA GPU,并通過其Box PC機型規(guī)格提供數(shù)據(jù)中心等級的性能。該系統(tǒng)的緊湊機體設(shè)計使其能被部署在狹小空間內(nèi),例如壁掛式機柜中,或作為便攜設(shè)備使用。
超短機身SYS-211E-FRN2T的系統(tǒng)深度為300mm,專為空間有限的網(wǎng)絡(luò)邊緣環(huán)境所設(shè)計。該系統(tǒng)可搭載最高第五代Intel Xeon處理器,并提供AC或DC電源設(shè)計選項。
SYS-211SE-31D/A作為強大且多功能的SuperEdge系統(tǒng)之一,是具有三個獨立節(jié)點的多節(jié)點系統(tǒng)。此系統(tǒng)每個節(jié)點均具有第五代Intel Xeon處理器、三個PCIe 5.0 x16插槽和最高2TB的DDR5內(nèi)存。這款2U系統(tǒng)不但具有前置I/O和較廣的運行溫度范圍,其短機身設(shè)計更是非常適合數(shù)據(jù)中心外部的部署。
SYS-E300-13AD是一款緊湊型物聯(lián)網(wǎng)服務(wù)器。該服務(wù)器搭載第13代Intel Core處理器,機型尺寸僅265x226mm,是能容納NVIDIA GPU的最小系統(tǒng),十分適合為邊緣端提供分布式AI性能。
歡迎蒞臨Supermicro在2024年世界移動通信大會的展位。該大會在西班牙巴塞羅那舉辦,Supermicro展位位于2 號廳內(nèi)的2D35展位。
零售業(yè)智能應(yīng)用專家StoreGenius首席執(zhí)行官Jacque Istok表示:"Eviden的 AI零售解決方案基于Supermicro邊緣系統(tǒng)和NVIDIA技術(shù),徹底改變了人們在商店等空間內(nèi)導(dǎo)覽和互動的方式。通過商店的3D模型和能傳達(dá)適當(dāng)信息的交互式聊天機器人,此解決方案為客戶提供交互式且個人化的購物模式,進(jìn)而改善購物體驗。融合逼真的臉部動畫、先進(jìn)的語音識別和3D建模,使虛擬購物幾乎如同在實體商店一樣真實。"
-
AI
+關(guān)注
關(guān)注
87文章
30728瀏覽量
268880 -
Supermicro
+關(guān)注
關(guān)注
0文章
29瀏覽量
9295 -
邊緣計算
+關(guān)注
關(guān)注
22文章
3084瀏覽量
48891
發(fā)布評論請先 登錄
相關(guān)推薦
評論