當(dāng)下科技行業(yè)be like...

據(jù)說現(xiàn)在的科技公司，不是在搶GPU，就是在往搶GPU的路上……此前4月，特斯拉CEO馬斯克就購買了1萬塊GPU，他還稱公司將繼續(xù)大量購買英偉達(dá)的GPU。

在國內(nèi)，近日也有報道稱，字節(jié)跳動今年向英偉達(dá)訂購了超過10億美元的GPU，僅字節(jié)一家公司今年的訂單，可能已接近英偉達(dá)去年在國內(nèi)銷售的商用GPU總和。

而在企業(yè)這邊，為了“珍惜”來之不易的GPU，IT人員也在快馬加鞭，他們希望能讓GPU時刻忙碌，從而確保投資回報。不過有的企業(yè)可能會發(fā)現(xiàn)，GPU數(shù)量增加了，但GPU閑置卻越來越嚴(yán)重。

原因何在？

別讓存儲成為你的關(guān)鍵瓶頸

如果說HPC的歷史教會了我們什么的話，那就是不能以犧牲存儲和網(wǎng)絡(luò)為代價，過分關(guān)注計算。如果存儲無法以良好的性能及時將數(shù)據(jù)傳輸?shù)接嬎銌卧?，那么即使你手握世界上最多的GPU，也無法將其轉(zhuǎn)化為效率。

IT分析公司 Small World Big Data 的分析師 Mike Matchett 表示，有些模型足夠小，可以在內(nèi)存（RAM）中執(zhí)行，從而將更多的注意力放在計算上。但如今像ChatGPT這樣的大模型，需要數(shù)十億個節(jié)點(diǎn)，無法保存在內(nèi)存中，因為成本太高。

“你無法在內(nèi)存中存放數(shù)十億個節(jié)點(diǎn)，存儲變得更加重要?！盡atchett 說。

一般而言，無論是怎樣的用例，在模型訓(xùn)練的過程中都有四個共同點(diǎn)：?

訓(xùn)練模型?

推理應(yīng)用?

數(shù)據(jù)存儲??

加速計算?

而在這些要素中，數(shù)據(jù)存儲在規(guī)劃過程中往往容易被忽視。

因為在創(chuàng)建和部署模型時，大多數(shù)的要求是迅速通過POC或測試環(huán)境，從而盡快開展模型訓(xùn)練，數(shù)據(jù)存儲需求并不是優(yōu)先考慮的。

然而，挑戰(zhàn)在于訓(xùn)練或推理部署可能持續(xù)數(shù)月或數(shù)年時間。許多公司在這段時間里迅速擴(kuò)大了模型規(guī)模，而基礎(chǔ)設(shè)施也必須擴(kuò)展以適應(yīng)不斷增長的模型和數(shù)據(jù)集。

谷歌此前公布的數(shù)百萬ML訓(xùn)練工作負(fù)載的研究報告表明，工作負(fù)載平均花費(fèi)30%的訓(xùn)練時間在輸入數(shù)據(jù)的管道上。雖然過去的一些研究工作側(cè)重于通過優(yōu)化GPU來加速訓(xùn)練，但在優(yōu)化數(shù)據(jù)管道的各個部分方面仍然面臨許多挑戰(zhàn)。

確定合適的存儲系統(tǒng)

當(dāng)你有了非常強(qiáng)大的算力后，真正的瓶頸變成了你能以多快的速度將數(shù)據(jù)輸入計算，從而得到結(jié)果。

特別是數(shù)據(jù)存儲和管理方面的挑戰(zhàn)，需要對數(shù)據(jù)增長進(jìn)行規(guī)劃，這樣你就可以在前進(jìn)的過程中不斷獲取數(shù)據(jù)的價值，特別是當(dāng)你開始更高級的用例，如深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)，這對存儲的能力、性能和規(guī)模提出了更高的要求。具體而言：?

可擴(kuò)展性

機(jī)器學(xué)習(xí)需要組織處理大量數(shù)據(jù)，而且數(shù)據(jù)量越大，模型的準(zhǔn)確性相對也越高，這意味著企業(yè)每天必須收集和存儲越來越多的數(shù)據(jù)。而當(dāng)存儲無法擴(kuò)展時，數(shù)據(jù)密集型工作負(fù)載會產(chǎn)生瓶頸，這會限制性能并導(dǎo)致昂貴的GPU閑置。

靈活性

靈活利用多種協(xié)議支持（包括NFS、SMB、HTTP、FTP、HDFS和S3），以確保滿足不同系統(tǒng)的需求，而不僅僅是單一類型的環(huán)境。

延遲

I/O的延遲對于構(gòu)建和使用模型很重要，因為數(shù)據(jù)會被多次讀取和重讀。減少I/O延遲可以將模型的訓(xùn)練時間縮短數(shù)天或數(shù)月。更快的模型開發(fā)直接轉(zhuǎn)化為更大的業(yè)務(wù)優(yōu)勢。

吞吐量

當(dāng)然，存儲系統(tǒng)的吞吐量對于高效的模型訓(xùn)練也至關(guān)重要。訓(xùn)練過程使用大量數(shù)據(jù)，通常以每小時TB為單位。

并行訪問

為了實現(xiàn)高吞吐量，訓(xùn)練模型會將活動拆分為多個并行任務(wù)。這通常意味著機(jī)器學(xué)習(xí)算法會同時從多個進(jìn)程（可能在多個物理服務(wù)器上）訪問相同的文件。存儲系統(tǒng)必須能夠在不影響性能的情況下應(yīng)對并發(fā)需求。

首屈一指橫向擴(kuò)展NAS存儲為模型訓(xùn)練提供動力

憑借低延遲、高吞吐量和大規(guī)模并行I/O的卓越能力，戴爾PowerScale是GPU加速計算的理想存儲補(bǔ)充。

?

PowerScale能夠有效地壓縮訓(xùn)練和測試多字節(jié)數(shù)據(jù)集的分析模型所需的時間。在PowerScale全閃存存儲中，帶寬增加了18倍，從而消除了I/O瓶頸，并且可以添加到現(xiàn)有的Isilon集群中，以加速和釋放大量非結(jié)構(gòu)化數(shù)據(jù)的價值。

此外，PowerScale的多協(xié)議訪問能力，為企業(yè)運(yùn)行工作負(fù)載提供了無限靈活性，這些工作負(fù)載既可以使用一種協(xié)議存儲數(shù)據(jù)，也能夠使用另一種協(xié)議訪問數(shù)據(jù)。

具體而言，PowerScale平臺的強(qiáng)大功能、靈活性、可擴(kuò)展性和企業(yè)級功能可幫助您應(yīng)對挑戰(zhàn)：??

●以高達(dá)2.7倍的性能加速創(chuàng)新，加快模型訓(xùn)練周期。

●利用企業(yè)級功能、高性能、并發(fā)性和可擴(kuò)展性消除I/O瓶頸，提供更快的模型訓(xùn)練和驗證，提高模型精度，改善數(shù)據(jù)科學(xué)生產(chǎn)力，并使計算投資回報率（ROI）最大化。?

●通過在單個集群中高達(dá)119PB的有效存儲容量，以更深的高分辨率數(shù)據(jù)集提高模型的準(zhǔn)確性。

●利用靈活的部署和網(wǎng)絡(luò)彈性，使您能夠從小規(guī)模開始，獨(dú)立擴(kuò)展計算和存儲，以實現(xiàn)大規(guī)模部署，并提供強(qiáng)大的數(shù)據(jù)保護(hù)和安全選項。

●通過靈活的就地分析和預(yù)先驗證的解決方案，提高數(shù)據(jù)科學(xué)的生產(chǎn)力，以實現(xiàn)更快的、低風(fēng)險的部署。

●經(jīng)驗證的設(shè)計基于同類最佳技術(shù)，包括 NVIDIA GPU加速和帶有NVIDIA DGX系統(tǒng)的參考架構(gòu)。??

PowerScale的高性能、高并發(fā)性能可滿足機(jī)器學(xué)習(xí)從數(shù)據(jù)采集、數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練和模型推理各階段對存儲性能的要求；加上其搭載的OneFS操作系統(tǒng)，使所有節(jié)點(diǎn)能夠在同一OneFS驅(qū)動的集群中無縫運(yùn)行，并具有性能管理、數(shù)據(jù)管理、安全和數(shù)據(jù)保護(hù)等企業(yè)級功能，能更快幫助企業(yè)完成模型的訓(xùn)練和驗證。

編輯：黃飛

?