電子發(fā)燒友網(wǎng)報道(文/梁浩斌)一直以來,圍繞CUDA打造的軟件生態(tài),是英偉達在GPU領域最大的護城河,尤其是隨著目前AI領域的發(fā)展加速,市場火爆,英偉達GPU+CUDA的開發(fā)生態(tài)則更加穩(wěn)固,AMD、英特爾等廠商雖然在努力追趕,但目前還未能看到有威脅英偉達地位的可能。
最近一家英國公司Spectral Compute推出了一款方案,可以為AMD的GPU原生編譯CUDA源代碼,目前正在RNDA2、RDNA3上進行規(guī)模測試。這或許可以打破CUDA與英偉達GPU的生態(tài)壁壘?
SCALE編譯器
Spectral Compute據(jù)稱花了7年時間開發(fā)SCALE,SCALE不依賴英偉達的代碼,而是通過一些開源LLVM組件等,建立了其CUDA兼容的工具鏈,讓SCALE在多個平臺之間能高度兼容。
其實在以往也有一些其他GPU硬件兼容CUDA的方式,比如AMD支持的ZLUDA推出的開源移植項目,通過重新編譯二進制代碼,就能夠讓CUDA庫在AMD自家的ROCm上運行,令AMD GPU適配CUDA生態(tài)。
但SCALE的特性在于,可以避免代碼移植的步驟,開發(fā)人員可以使用單一版本的代碼庫,因為SCALE本身與CUDA的源代碼兼容,這大大提高了可用性。
Spectral Compute的CEO Michael Sondergaard表示:我們相信,只需要編寫一次代碼,就可以在任何硬件平臺上運行它,對于CPU代碼來說,這已經(jīng)實現(xiàn)很多年了,那為什么GPU不行呢?我們著手通過彌合主流的CUDA編程語言和其他GPU硬件供應商之間的兼容性差距,來直接解決這個問題。
Michael 還提到:“應該構建一個圍繞GPU的開源生態(tài)系統(tǒng),類似目前CPU所享有的生態(tài)環(huán)境,同時確保不同平臺間的互聯(lián)互通?!彼J為,通過SCALE可以彌合CUDA與其他硬件供應商之間的兼容性鴻溝,從而打破市場上存在的壁壘。
據(jù)介紹,SCALE是一種通用并行GPU工具包,其功能與英偉達的CUDA工具包相仿,它能夠在編譯CUDA代碼的同時,為非英偉達 GPU生成相應的二進制文件,這樣就徹底避免了對翻譯層的依賴。
目前,SCALE已經(jīng)在多種軟件中成功運行,比如Blender、Llama-cpp、XGboost、FAISS、GOMC、STDGPU、Hashcat和NVIDIA Thrust等專業(yè)軟件,這些軟件已經(jīng)可以在RDNA2和RDNA3的AMD GPU上正常使用CUDA。
不過SCALE本身不是開源的,但用戶可以通過免費的軟件許可使用這個功能,這或許是為了規(guī)避英偉達針對CUDA兼容而出臺的EULA條款。
其他廠商兼容CUDA的努力
市場上其實并不缺乏CUDA的挑戰(zhàn)者,包括AMD的ROCm,開放標準聯(lián)盟Khronos Group聯(lián)合旗下成員打造出的SYCL編程語言等,而英特爾也與SYCL深度綁定,希望打破CUDA的統(tǒng)治。
當然,對于AMD和英特爾這樣的巨頭而言,他們有資本去嘗試構建一個新的生態(tài),但對于更多的初創(chuàng)公司和中小規(guī)模公司而言,兼容就是成本最低的路線。
比如國內(nèi)的GPU初創(chuàng)公司摩爾線程,基于MUSA的統(tǒng)一架構推出了多款GPU產(chǎn)品,并打造了軟件開發(fā)平臺,包括AI開發(fā)平臺、MUSA SDK、MT Smart Media和MTVerse XR等。
而這套生態(tài)架構可以充分兼容現(xiàn)有的軟件生態(tài),能借助MUSIFY工具實現(xiàn)代碼零成本遷移到MUSA平臺,也包括對CUDA生態(tài)的兼容。
在2021年的時候,在一個名為Vortex的RISC-V GPU項目上,也實現(xiàn)了對CUDA軟件工具包的支持。
在這個項目中,研究人員設計并實現(xiàn)了一條流水線,旨在全面支持從CUDA到增強版RISC-V GPU架構的代碼遷移。這條流水線以CUDA源代碼為起點,目標是在強化的RISC-V GPU架構上直接運行這些代碼。具體而言,流水線分為以下幾步:首先將CUDA源代碼轉(zhuǎn)換為NVVM中間表示(IR),接著把NVVM IR轉(zhuǎn)化為SPIR-V IR,隨后利用POCL將SPIR-V IR轉(zhuǎn)譯成針對RISC-V的二進制文件,最終在增強后的RISC-V GPU上執(zhí)行這些二進制文件。
寫在最后
盡管CUDA生態(tài)目前是英偉達GPU的最大優(yōu)勢之一,但從這些廠商的努力可以看到,其他GPU硬件也正在有越來越多的方法兼容CUDA,有機會從英偉達手中奪得一些市場份額。但AI領域的龍頭效應越來越強,能夠挑戰(zhàn)英偉達的GPU廠商可能機會越來越小了。
-
amd
+關注
關注
25文章
5466瀏覽量
134087 -
顯卡
+關注
關注
16文章
2431瀏覽量
67573 -
CUDA
+關注
關注
0文章
121瀏覽量
13620 -
英偉達
+關注
關注
22文章
3770瀏覽量
90984
發(fā)布評論請先 登錄
相關推薦
評論