谷歌憑借新版TPU v5p成功挑戰(zhàn)Nvidia——這款搭載超級計算機的頂級人工智芯片,擁有更高速度、大容量內(nèi)存及帶寬,顯著優(yōu)于Nvidia的H100。
谷歌借其最先進的Gemini人工智能模型,全新推出人工智能訓練及推理專用的張量處理單元(TPU)最新版本,顯然有意向Nvidia霸主地位的GPU發(fā)起沖擊。
TPU v5p已在谷歌“AI超級計算機”項目中發(fā)揮重要作用,這并非專業(yè)科研型超算平臺,而是面向各類人工智能應(yīng)用。與Nvidia開放GPU購買策略不同,谷歌高端TPU主要供自家產(chǎn)品和服務(wù)運用。
新架構(gòu)版TPU每個模塊有8960顆芯片,較之上代v4的4096有所提升,且每塊架構(gòu)內(nèi)的總浮點運算次數(shù)(FLOPs)增加至原來的四倍,吞吐能力達到驚人的4800Gbps。新型架構(gòu)在內(nèi)存及帶寬方面更為出色,高達95GB的高帶寬內(nèi)存(HBM)遠超TPU v4的32GB。
面對Nvidia異軍突起的H100,究竟誰更強?值得關(guān)注的是,谷歌的TPU v5p在訓練大規(guī)模語言模型上表現(xiàn)突出,效率提升兩倍以上,相比于倉庫版TPU v5e雖然在性價比上稍遜一籌,但仍使其成為當前最強版本。
比起Nvidia頂配的H100顯卡——被公認為最適合AI任務(wù)專業(yè)級別的顯卡之一,谷歌TPU v5p毫不畏懼。根據(jù)官方數(shù)據(jù)顯示,其訓練效能竟超越Nvidia同系列A100 GPU整整四倍!然而,實際對比還需通過嚴謹?shù)幕鶞蕼y試才能最終定論。
另傳聞稱,谷歌TPU v4在訓練效能上較A100還要提升1.2~1.7倍,此數(shù)據(jù)去年四月便已得到證實。據(jù)此估計,谷歌TPU v5p相較A100性能優(yōu)勢可能位于3.4~4.8倍之間,其競爭力水平相當于甚至超過Nvidia的H100,持續(xù)關(guān)注后續(xù)發(fā)展動態(tài)。
-
超級計算機
+關(guān)注
關(guān)注
2文章
461瀏覽量
41942 -
人工智能
+關(guān)注
關(guān)注
1791文章
47183瀏覽量
238247 -
TPU
+關(guān)注
關(guān)注
0文章
140瀏覽量
20720
發(fā)布評論請先 登錄
相關(guān)推薦
評論