GPU的歷史

目前GPU 虛擬化市場有三個大玩家，分別是核彈廠、農企和牙膏廠（NVIDIA、AMD 和Intel）。 1981:? IBM PC Monochrome Display Adapter (2D) 1996:? 3D graphics (e.g., 3dfx Voodoo) 1999:? register combiner (NVIDIA GeForce 256) 2001:? programmable shaders (NVIDIA GeForce 3) 2002:? floating-point (ATI Radeon 9700) 2005:? unified shaders (ATI R520 in Xbox 360) 2006:? compute (NVIDIA GeForce 8800) GPU最早是用來處理圖像的，為什么要想到用GPU做計算呢？GPU比CPU使用更大比例的芯片占比用作計算。在峰值性能下，GPU每次操作消耗的能量比CPU少一個數(shù)量級。 GPU 最大的組成部分是著色器（Shader），負責所有的模型和3D 渲染工作。也就是說，著色器越多，GPU 能同時做的事越多，著色器越快，GPU 的運行速度也就越快。著色器不僅僅可以用在圖形渲染上，也可以用作GPGPU(General Purpose GPU 通過GPU)。因為GPU 中有很多的著色器，著色器也就是浮點運算處理器，所以GPU 可以同時處理大量的計算工作。不管是物理GPU 還是虛擬GPU，不同的生產廠商在這方面的支持不一樣。你可能聽說過CUDA 或者OpenCL，這些就是可以API調用來實現(xiàn)利用著色器進行GPGPU 任務的庫。 除了著色器外，GPU 中還包含視頻解碼器和編碼器。通常來說，這些只占GPU 的很小一部分。 ?

GPU是什么

圖形處理器（英語：Graphics Processing Unit，縮寫：GPU），又稱顯示核心、視覺處理器、顯示芯片，是一種專門在個人電腦、工作站、游戲機和一些移動設備（如平板電腦、智能手機等）上圖像運算工作的微處理，是顯卡或GPU卡的“心臟”。

其中Control是控制器、ALU算術邏輯單元、Cache是cpu內部緩存、DRAM就是內存。可以看到GPU設計者將更多的晶體管用作執(zhí)行單元，而不是像CPU那樣用作復雜的控制單元和緩存。 從實際來看，CPU芯片空間的5%是ALU，而GPU空間的40%是ALU。這也是導致GPU計算能力超強的原因。

GPU主流廠商 ? ?

?英特爾：基本為集成顯卡芯片，用于英特爾的主板和英特爾的CPU。 ? ?

?NVIDIA：NVIDIA是現(xiàn)在最大的獨立顯卡芯片生產銷售商。 ? ?

?AMD(ATI)：AMD是世界上第二大的獨立顯卡芯片生產銷售商，他的前身就是ATI，2006年AMD以54億美元收購ATI。

?GPU通信知識

GPU是協(xié)處理器，與CPU端存儲是分離的，故GPU運算時必須先將CPU端的代碼和數(shù)據(jù)傳輸?shù)紾PU，GPU才能執(zhí)行kernel函數(shù)。涉及CPU 與GPU通信，其中通信接口PCI-E的版本和性能會直接影響通信帶寬。

NvLink 技術：提供更高帶寬與更多鏈路，并可提升多 GPU 和多 GPU/CPU 系統(tǒng)配置的可擴展性，因而可以解決這種互聯(lián)問題。單個 NVIDIA Tesla V100 GPU 即可支持多達六條 NVLink 鏈路，總帶寬為 300 GB/秒，這是 PCIe 3 帶寬的 10 倍。NVLink提升GPU服務器單機的GPU通信性能

GPUDirect RDMA技術：則提升了不同服務器間GPU的通信性能，其實就是計算機A的GPU可以直接訪問計算機B的GPU內存 ；深度學習模型越來越復雜，計算數(shù)據(jù)量暴增，對于大規(guī)模深度學習訓練任務，單機已經無法滿足計算需求，多機多卡的分布式訓練成為了必要的需求，這個時候多機間的通信成為了分布式訓練性能的重要指標。

?

GPU常見計算精度

浮點計數(shù)是利用浮動小數(shù)點的方式使用不同長度的二進制來表示一個數(shù)字，與之對應的是定點數(shù)。同樣的長度下浮點數(shù)能表達的數(shù)字范圍相比定點數(shù)更大，但浮點數(shù)并不能精確表達所有實數(shù)，而只能采用更加接近的不同精度來表達。

FP32 單精度計算

單精度的浮點數(shù)中采用4個字節(jié)也就是32位二進制來表達一個數(shù)字，1位符號，8位指數(shù)，23位小數(shù)，有效位數(shù)為7位。

FP64 雙精度計算

雙精度浮點數(shù)采用8個字節(jié)也就是64位二進制來表達一個數(shù)字，1位符號，11位指數(shù)，52位小數(shù)，有效位數(shù)為16位。

FP16 半精度計算

半精度浮點數(shù)采用2個字節(jié)也就是16位二進制來表達一個數(shù)字， 1位符號、5位指數(shù)、10位小數(shù)，有效位數(shù)為3位。

GPU散熱方式

顯卡的散熱方式分為散熱片和散熱片配合風扇的形式，也叫作主動式散熱和被動式散熱方式。

一般一些工作頻率較低的顯卡采用的都是被動式散熱，這種散熱方式就是在顯示芯片上安裝一個散熱片即可，并不需要散熱風扇。

因為較低工作頻率的顯卡散熱量并不是很大，沒有必要使用散熱風扇，這樣在保障顯卡穩(wěn)定工作的同時，不僅可以降低成本，而且還能減少使用中的噪音。

NVIDIA Tesla Family被動散熱

NVIDIA QUADRO Family主動散熱

編輯：黃飛

?