在 GPU 領域，2022 年無論好壞都是一個重要的里程碑。英特爾兌現(xiàn)了重新進入獨立顯卡市場的承諾，Nvidia將顯卡尺寸和價格推向了頂峰，AMD將 CPU 技術帶入了顯卡領域。

圍繞 GPU 的熱情彌漫在在線論壇中，讓 PC 愛好者對顯卡市場的轉變感到既敬畏又震驚。在這種喧囂中，人們很容易忘記最新的產(chǎn)品配備了家用電腦中最復雜、最強大的芯片。

在本文中，我們將深入探討他們的架構。讓我們剝開層層，看看有什么新內(nèi)容、它們有什么共同點，以及這些對普通用戶意味著什么。

GPU整體結構：從上到下

讓我們從本文的一個重要方面開始——這不是性能比較。相反，我們正在研究 GPU 內(nèi)部的所有內(nèi)容是如何排列的，檢查規(guī)格和數(shù)據(jù)，以了解 AMD、英特爾和 Nvidia 在設計圖形處理器時所采用的方法差異。

我們將首先了解使用我們正在研究的架構的最大可用芯片的整體 GPU 組成。需要強調(diào)的是，英特爾的產(chǎn)品并不針對與 AMD 或 Nvidia 相同的市場，因為它在很大程度上是一款中檔圖形處理器。

這三者的尺寸不僅彼此不同，而且與使用先前架構的類似芯片也有很大不同。所有這些分析純粹是為了了解這三個處理器的底層到底是什么。在分解每個 GPU 的基本部分（著色器核心、光線追蹤功能、內(nèi)存層次結構以及顯示和媒體引擎）之前，我們將檢查整體結構。

一、AMD Navi 31

按字母順序排列，第一個出現(xiàn)的是 AMD 的 Navi 31，這是他們迄今為止發(fā)布的最大的 RDNA 3 芯片。與 Navi 21 相比，我們可以看到他們之前的高端 GPU 的組件數(shù)量明顯增長......

著色器引擎 (SE：Shader Engines) 容納的計算單元 (CU：Compute Units) 較少，為 16 個，而不是 200 個，但現(xiàn)在總共有 6 個 SE，比以前多了兩個。這意味著Navi 31擁有多達96個CU，總共配備6144個流處理器（SP：Stream Processors）。AMD 已經(jīng)對 RDNA 3 的 SP 進行了全面升級，我們將在后面討論。

每個著色器引擎還包含一個處理光柵化（ rasterization）的專用單元、一個用于三角形（ triangle ）設置的圖元引擎（primitive engine ）、32 個渲染輸出單元 (ROP：render output units) 和兩個 256kB L1 緩存。最后一個方面現(xiàn)在大小增加了一倍，但每個 SE 的 ROP 計數(shù)仍然相同。

AMD 也沒有對光柵器（ rasterizer ）和原始引擎（primitive engines）進行太大改變——所稱的 50% 改進是針對整個芯片進行的，因為它的 SE 比 Navi 21 芯片多了 50%。然而，SE 處理指令的方式發(fā)生了變化，例如更快地處理多個繪制命令（multiple draw commands）和更好地管理管道階段（ pipeline stages），這應該會減少 CU 在繼續(xù)執(zhí)行另一個任務之前需要等待的時間。

最明顯的變化是在 11 月發(fā)布之前引起最多謠言和八卦的變化——GPU 封裝的小芯片方法。憑借在該領域多年的經(jīng)驗，AMD 選擇這樣做在某種程度上是合乎邏輯的，但這完全是出于成本/制造原因，而不是性能。

我們將在本文后面更詳細地討論這一點，所以現(xiàn)在我們只關注哪些部分在哪里。在 Navi 31 中，最終層緩存的內(nèi)存控制器及其相關分區(qū)位于主處理器（GCD，Graphics Compute Die）周圍的單獨小芯片（稱為 MCD 或Memory Cache Dies）中。

由于需要提供更多數(shù)量的 SE，AMD 也將 MC 數(shù)量增加了 50%，因此 GDDR6 全局內(nèi)存的總總線寬度現(xiàn)在為 384 位。這次 Infinity Cache 總量減少了（96MB vs 128MB），但更大的內(nèi)存帶寬抵消了這一點。

二、英特爾ACM-G10

接下來是 Intel 和 ACM-G10 芯片（以前稱為 DG2-512）。雖然這不是英特爾生產(chǎn)的最大的 GPU，但它是他們最大的消費類圖形芯片。

該框圖是相當標準的排列，盡管看起來更類似于 Nvidia 的而不是 AMD 的。共有 8 個渲染切片（Render Slices），每個渲染切片包含 4 個 Xe 核心，總共 512 個矢量引擎（Vector Engines：相當于 AMD 的流處理器和 Nvidia 的 CUDA 核心 ）。

每個渲染切片中還包含一個基元單元、光柵器、深度緩沖處理器、32 個紋理單元和 16 個 ROP。乍一看，這款 GPU 似乎相當大，因為 256 個 TMU 和 128 個 ROP 比 Radeon RX 6800 或 GeForce RTX 2080 中的數(shù)量還要多。

然而，AMD 的 RNDA 3 芯片擁有 96 個計算單元，每個計算單元有 128 個 ALU，而 ACM-G10 總共有 32 個 Xe 核心，每個核心有 128 個 ALU。因此，僅就 ALU 數(shù)量而言，英特爾 Alchemist 驅動的 GPU 的大小是 AMD 的三分之一。但正如我們稍后將看到的，ACM-G10 的大部分芯片都交給了不同的數(shù)字處理單元。

與英特爾通過 OEM 供應商發(fā)布的首款 Alchemist GPU相比，該芯片在組件數(shù)量和結構排列方面具備成熟架構的所有特征。

三、英偉達AD102

我們完成了對 Nvidia AD102 不同布局的開場概述，這是他們第一個使用 Ada Lovelace 架構的 GPU。與它的前身Ampere GA102相比，它看起來并沒有什么不同，只是大了很多。就所有意圖和目的而言，確實如此。

Nvidia 使用圖形處理集群 (GPU：Graphics Processing Cluster) 的組件層次結構，其中包含 6 個紋理處理集群 (TPC：Texture Processing Clusters)，每個集群包含 2 個流式多處理器 (SM)。這種安排對于Ada來說并沒有改變，但總數(shù)肯定已經(jīng)改變了……

在完整的 AD102 芯片中，GPC 數(shù)量從 7 個增加到 12 個，因此現(xiàn)在總共有 144 個 SM，總共有 18432 個 CUDA 核心。與 Navi 31 中的 6144 個 SP 相比，這個數(shù)字似乎高得離譜，但 AMD 和 Nvidia 對其組件的計數(shù)方式不同。

雖然這大大簡化了問題，但 1 個 Nvidia SM 相當于 1 個 AMD CU——兩者都包含 128 個 ALU。因此，Navi 31 的尺寸是英特爾 ACM-G10 的兩倍（僅 ALU 數(shù)量），而 AD102 的尺寸是英特爾 ACM-G10 的 3.5 倍。

這就是為什么當芯片在規(guī)模上有如此明顯的差異時，對它們進行任何直接的性能比較是不公平的。然而，一旦它們進入顯卡、定價并上市，那么情況就不同了。

但我們可以比較的是三個處理器中最小的重復部分。

著色器核心（Shader Cores）：

走進 GPU 的大腦

從整個處理器的概述開始，現(xiàn)在讓我們深入了解芯片的核心，看看處理器的基本數(shù)字處理部分：著色器核心。

這三個制造商在描述他們的芯片時使用不同的術語和短語，特別是在概述圖時。因此，在本文中，我們將使用我們自己的圖像，具有常見的顏色和結構，以便更容易看出相同和不同之處。

一、AMD RDNA 3

AMD GPU 著色部分內(nèi)最小的統(tǒng)一結構稱為雙計算單元(DCU：Double Compute Unit)。在某些文檔中，它仍然稱為工作組處理器 (WGP：Workgroup Processor)，而其他文檔則將其稱為計算單元對（CUP：Compute Unit Pair）。

請注意，如果這些圖中未顯示某些內(nèi)容（例如常量緩存、雙精度單元），并不意味著它們不存在于體系結構中。

在很多方面，整體布局和結構元素與 RDNA 2 相比并沒有太大變化。兩個計算單元共享一些緩存和內(nèi)存，每個計算單元包含兩組 32 個流處理器 (SP)。

第 3 版的新增功能是，每個 SP 現(xiàn)在容納的算術邏輯單元 (ALU：arithmetic logic units ) 數(shù)量是以前的兩倍。現(xiàn)在，每個 CU 有兩組 SIMD64 單元，每個組有兩個數(shù)據(jù)端口——一個用于浮點、整數(shù)和矩陣運算，另一個僅用于浮點和矩陣運算。

AMD 確實針對不同的數(shù)據(jù)格式使用單獨的 SP， RDNA 3 中的計算單元支持使用 FP16、BF16、FP32、FP64、INT4、INT8、INT16 和 INT32 值進行操作。

使用 SIMD64 意味著每個線程調(diào)度程序可以在每個時鐘周期發(fā)出一組 64 個線程（稱為wavefront），或者可以共同發(fā)出兩個 32 個線程的波前。AMD 保留了與以前的 RDNA 架構相同的指令規(guī)則，因此這是由 GPU/驅動程序處理的。

另一個重要的新功能是 AMD 所謂的 AI 矩陣加速器的出現(xiàn)。

與我們很快就會看到的 Intel 和 Nvidia 的架構不同，它們并不充當單獨的單元——所有矩陣運算都利用 SIMD 單元，并且任何此類計算（稱為波矩陣乘法累加，WMMA：Wave Matrix Multiply Accumulate）都將使用完整的 64 個 ALU 組。

在撰寫本文時，人工智能加速器的確切性質(zhì)尚不清楚，但它可能只是與處理指令和涉及的大量數(shù)據(jù)相關的電路，以確保最大吞吐量。它很可能與 Nvidia 的Hopper 架構中的張量內(nèi)存加速器具有類似的功能。

與 RDNA 2 相比，變化相對較小——較舊的架構還可以處理 64 個線程波前（又名 Wave64），但這些是在兩個周期內(nèi)發(fā)布的，并且在每個計算單元中使用兩個 SIMD32 塊?，F(xiàn)在，這一切都可以在一個周期內(nèi)完成，并且僅使用一個 SIMD 塊。

在之前的文檔中，AMD 表示 Wave32 通常用于計算和頂點著色器（也可能用于光線著色器），而 Wave 64 主要用于像素著色器，驅動程序會相應地編譯著色器。因此，轉向單周期 Wave64 指令問題將為嚴重依賴像素著色器的游戲帶來推動。

然而，所有這些額外的可用功率都需要正確利用才能充分利用。所有 GPU 架構都是如此，并且它們都需要大量線程負載，才能做到這一點（這也有助于隱藏與 DRAM 相關的固有延遲）。

因此，隨著 ALU 數(shù)量增加一倍，AMD 推動了程序員盡可能使用指令級并行性的需求。這在圖形領域并不是什么新鮮事，但 RDNA 相對于 AMD 舊的 GCN 架構的一個顯著優(yōu)勢是，它不需要那么多的運行線程來達到充分利用。鑒于現(xiàn)代渲染在游戲中變得多么復雜，開發(fā)人員在編寫著色器代碼時需要做更多的工作。

二、Intel Alchemist

現(xiàn)在讓我們轉向英特爾，看看 Alchemist 架構中的 DCU 等效項，稱為Xe Core（我們將其縮寫為 XEC）。乍一看，與 AMD 的結構相比，這些看起來絕對是巨大的。

RDNA 3 中的單個 DCU 包含四個 SIMD64 塊，而英特爾的 XEC 包含16 個SIMD8 單元，每個單元都由自己的線程調(diào)度程序和調(diào)度系統(tǒng)管理。與 AMD 的流處理器一樣，Alchemist 中所謂的矢量引擎可以處理整數(shù)和浮點數(shù)據(jù)格式。不支持 FP64，但這在游戲中不是什么大問題。

英特爾一直使用相對較窄的 SIMD——Gen11 中使用的 SIMD 僅為 4 寬（即同時處理 4 個線程），而 Gen 12 的寬度僅加倍（例如，在其 Rocket Lake CPU 中使用）。

但考慮到游戲行業(yè)已經(jīng)使用 SIMD32 GPU 多年，因此游戲也進行了相應的編碼，因此保留狹窄執(zhí)行塊的決定似乎會適得其反。

AMD 的 RDNA 3 和 Nvidia 的 Ada Lovelace 的處理塊可以在一個周期內(nèi)發(fā)出 64 或 32 個線程，而英特爾的架構需要 4 個周期才能在一個 VE 上實現(xiàn)相同的結果，因此每個 XEC 有 16 個 SIMD 單元。

然而，這意味著如果游戲的編碼方式不能確保 VE 被完全占用，SIMD 和相關資源（緩存、帶寬等）將處于閑置狀態(tài)。英特爾Arc 系列顯卡的基準測試結果的一個共同主題是，它們往往在更高的分辨率和/或具有大量復雜的現(xiàn)代著色器例程的游戲中表現(xiàn)更好。

這在一定程度上是由于單位細分和資源共享程度較高。Chips and Cheese網(wǎng)站的微基準分析表明，盡管擁有豐富的 ALU，該架構仍難以實現(xiàn)適當?shù)睦谩?/p>

轉到 XEC 的其他方面，尚不清楚 0 級指令緩存有多大，但 AMD 的指令緩存是 4 路（因為它服務于四個 SIMD 塊），而 Intel 的緩存必須是 16 路，這增加了復雜性緩存系統(tǒng)的。

英特爾還選擇為處理器提供用于矩陣運算的專用單元，每個向量引擎對應一個單元。擁有如此多的單元意味著芯片的很大一部分專門用于處理矩陣數(shù)學。

AMD 使用 DCU 的 SIMD 單元來完成此操作，而 Nvidia 每個 SM 有四個相對較大的張量/矩陣單元，而英特爾的方法似乎有點過分，因為他們有一個單獨的架構，稱為 X e-HP，用于計算應用程序。

另一個奇怪的設計似乎是處理塊中的加載/存儲（LD/ST）單元。我們的圖表中未顯示，它們管理來自線程的內(nèi)存指令，在寄存器文件和 L1 緩存之間移動數(shù)據(jù)。Ada Lovelace 與 Ampere 相同，每個 SM 分區(qū)有 4 個，總共 16 個。RDNA 3 也與其前身相同，每個 CU 都有專用的 LD/ST 電路作為紋理單元的一部分。

英特爾的 Xe-HPG 演示顯示每個 XEC 僅一個 LD/ST，但實際上，它內(nèi)部可能由更多分立單元組成。然而，在他們的OneAPI優(yōu)化指南中，一張圖表表明 LD/ST 一次循環(huán)一個單獨的寄存器文件。如果是這種情況，那么 Alchemist 將始終難以實現(xiàn)最大緩存帶寬效率，因為并非所有文件都同時得到服務。

三、Nvidia Ada Lovelace

最后一個需要關注的處理模塊是 Nvidia 的流式多處理器(SM：Streaming Multiprocessor ) – DCU/XEC 的 GeForce 版本。這個結構與2018年的圖靈架構相比并沒有太大的改變。事實上，它幾乎與Ampere相同。

一些單元已經(jīng)過調(diào)整以提高其性能或功能集，但在大多數(shù)情況下，沒有太多新的東西可以談論。事實上，可能有，但眾所周知，英偉達不愿透露太多有關其芯片的內(nèi)部操作和規(guī)格的信息。英特爾提供了更多細節(jié)，但這些信息通常隱藏在其他文檔中。

但總結一下結構，SM 分為四個分區(qū)。每個處理器都有自己的 L0 指令緩存、線程調(diào)度程序和分派單元，以及與 SIMD32 處理器配對的 64 kB 寄存器文件部分。

正如AMD的RDNA 3一樣，SM支持雙發(fā)出指令，其中每個分區(qū)可以同時處理兩個線程，一個使用FP32指令，另一個使用FP32或INT32指令。

Nvidia 的 Tensor 核心現(xiàn)已進入第四版，但這一次，唯一顯著的變化是包含了Hopper 芯片中的FP8 Transformer 引擎，原始吞吐量數(shù)據(jù)保持不變。

低精度浮點格式的加入意味著GPU應該更適合AI訓練模型。Tensor 核心還提供Ampere 的稀疏功能，可提供高達兩倍的吞吐量。

另一個改進在于光流加速器 (OFA：Optical Flow Accelerator) 引擎（圖中未顯示）。該電路生成光流場（ optical flow field），用作DLSS算法的一部分。OFA 的安培性能提高了一倍，額外的吞吐量被用在最新版本的臨時抗鋸齒升頻器 DLSS 3 中。

DLSS 3已經(jīng)面臨相當多的批評，主要集中在兩個方面：DLSS 生成的幀不是“真實的”，并且該過程給渲染鏈增加了額外的延遲。第一個并不是完全無效，因為系統(tǒng)的工作原理是首先讓 GPU 渲染兩個連續(xù)的幀，將它們存儲在內(nèi)存中，然后使用神經(jīng)網(wǎng)絡算法確定中間幀的樣子。

然后，當前鏈返回到第一個渲染幀并顯示該幀，然后是 DLSS 幀，然后是渲染的第二幀。由于游戲引擎尚未在中幀循環(huán)，因此屏幕會在沒有任何潛在輸入的情況下刷新。而且由于需要停止而不是呈現(xiàn)兩個連續(xù)的幀，因此為這些幀輪詢的任何輸入也將停止。

DLSS 3 是否會變得流行或普遍還有待觀察。

盡管 Ada 的 SM 與 Ampere 非常相似，但 RT 內(nèi)核有顯著的變化，我們將很快解決這些變化?，F(xiàn)在我們來總結一下AMD、Intel、Nvidia的GPU重復結構的計算能力。

處理塊比較

我們可以通過查看每個時鐘周期的標準數(shù)據(jù)格式的操作數(shù)量來比較 SM、XEC 和 DCU 的功能。請注意，這些是峰值數(shù)字，實際上不一定可以實現(xiàn)。

Nvidia 的數(shù)字與 Ampere 相比沒有變化，而 RDNA 3 的數(shù)字在某些領域增加了一倍。然而，Alchemist在矩陣運算方面處于另一個水平，盡管應該再次強調(diào)這些是峰值理論值的事實。

鑒于英特爾的圖形部門像英偉達一樣嚴重依賴數(shù)據(jù)中心和計算，因此看到該架構將如此多的芯片空間用于矩陣運算也就不足為奇了。缺乏 FP64 功能并不是問題，因為該數(shù)據(jù)格式并未真正用于游戲，并且該功能存在于其 X e -HP 架構中。

理論上，在矩陣/張量運算方面，Ada Lovelace 和 Alchemist 比 RDNA 3 更強，但由于我們正在研究主要用于游戲工作負載的 GPU，因此專用單元大多只是為 DLSS 和相關算法提供加速。XeSS——它們使用卷積自動編碼器神經(jīng)網(wǎng)絡（CAENN）來掃描圖像中的偽影并進行糾正。

AMD 的時間升級器（FidelityFX Super Resolution, FSR)）不使用 CAENN，因為它主要基于Lanczos 重采樣方法，然后是通過 DCU 處理的許多圖像校正例程。然而，在RDNA 3 的發(fā)布中，簡要介紹了FSR 的下一版本，并引用了一項名為“Fluid Motion Frames”的新功能。FSR 2.0 的性能提升高達兩倍，普遍的共識是這可能涉及幀生成，如 DLSS 3 中那樣，但這是否涉及任何矩陣運算尚不清楚。

適合每個人的光線追蹤

隨著使用 Alchemist 架構的 Arc 顯卡系列的推出，英特爾與 AMD 和 Nvidia 一起提供 GPU，為圖形中使用光線追蹤所涉及的各種算法提供專用加速器。Ada 和 RNDA 3 都包含顯著更新的 RT 單元，因此了解一下新的和不同的內(nèi)容是有意義的。

從 AMD 開始，其光纖加速器的最大變化是添加硬件以改進包圍體層次結構(BVH：bounding volume hierarchies)的遍歷（traversal）。這些數(shù)據(jù)結構用于加速確定 3D 世界中光線照射到的表面。

在 RDNA 2 中，所有這些工作都是通過計算單元處理的，并且在某種程度上仍然如此。然而，對于 DXR（微軟的光線追蹤 API）來說，有對光線標志管理的硬件支持。

使用這些可以大大減少需要遍歷 BVH 的次數(shù)，從而減少緩存帶寬和計算單元的總體負載。本質(zhì)上，AMD 專注于提高他們在之前架構中引入的系統(tǒng)的整體效率。

此外，硬件已更新，以改進盒子排序（box sorting，這使得遍歷更快）和剔除算法（culling algorithms，以跳過測試空盒子）。再加上緩存系統(tǒng)的改進，AMD 表示，在相同的時鐘速度下，與 RDNA 2 相比，光線追蹤性能提高了 80%。

然而，這種改進并不能轉化為使用光線追蹤的游戲中每秒幀數(shù)增加 80% ，這些情況下的性能受到許多因素的影響，RT 單元的功能只是其中之一。

由于英特爾是光線追蹤技術的新手，因此沒有任何改進。相反，我們只是被告知他們的 RT 單元處理射線和三角形之間的 BVH 遍歷和相交計算。這使得它們比 AMD 的系統(tǒng)更類似于 Nvidia 的系統(tǒng)，但關于它們的信息并不多。

但我們確實知道每個 RT 單元都有一個未指定大小的緩存用于存儲 BVH 數(shù)據(jù)，以及一個單獨的單元用于分析和排序光線著色器線程，以提高 SIMD 利用率。

每個 XEC 與一個 RT 單元配對，每個渲染切片總共有四個。在游戲中啟用光線追蹤的A770 的一些早期測試表明，無論英特爾采用何種結構，Alchemist 的光線追蹤整體能力至少與 Ampere 芯片一樣好，并且比 RDNA 2 型號稍好一些。

但讓我們再次重申，光線追蹤也給著色核心、緩存系統(tǒng)和內(nèi)存帶寬帶來了沉重壓力，因此不可能從此類基準測試中提取 RT 單元性能。

對于 Ada Lovelace 架構，Nvidia 做出了許多改變，與 Ampere 相比，其性能提升幅度相當大。據(jù)稱，用于射線-三角形相交計算的加速器的吞吐量提高了一倍，并且現(xiàn)在據(jù)說非不透明表面的 BVH 遍歷速度提高了一倍。后者對于使用帶有 alpha channel （透明度）的紋理的對象很重要，例如樹上的葉子。

光線擊中此類表面的完全透明部分不應導致?lián)糁薪Y果——光線應直接穿過。然而，為了在當前使用光線追蹤的游戲中準確確定這一點，需要處理多個其他著色器。Nvidia 的新不透明度微貼圖引擎將這些表面分解成更多的三角形，然后確定到底發(fā)生了什么，從而減少了所需的光線著色器的數(shù)量。

Ada 光線追蹤功能的另外兩個附加功能是減少 BVH 的構建時間和內(nèi)存占用（聲稱速度分別加快 10 倍和縮小 20 倍），以及為光線著色器重新排序線程的結構，從而提高效率。然而，前者不需要開發(fā)人員對軟件進行任何更改，而后者目前只能通過 Nvidia 的 API 訪問，因此對當前的 DirectX 12 游戲沒有任何好處。

當我們測試 GeForce RTX 4090 的光線追蹤性能時，啟用光線追蹤后幀速率的平均下降略低于 45%。使用 Ampere 驅動的 GeForce RTX 3090 Ti 時，下降了 56%。然而，這種改進不能完全歸因于 RT 核心的改進，因為 4090 比以前的型號具有更多的著色吞吐量和緩存。

我們還沒有看到 RDNA 3 的光線追蹤改進會產(chǎn)生什么樣的差異，但值得注意的是，沒有一家 GPU 制造商期望單獨使用 RT – 即仍然需要使用升級來實現(xiàn)高幀速率。

光線追蹤的粉絲可能會有些失望，因為新一輪的圖形處理器在這一領域沒有取得任何重大進展，但自 2018 年 Nvidia 圖靈架構首次出現(xiàn)以來，已經(jīng)取得了很多進展。

內(nèi)存：沿著數(shù)據(jù)高速公路行駛

GPU 處理數(shù)據(jù)的方式與其他芯片不同，而讓 ALU 保持數(shù)據(jù)輸入對其性能至關重要。在 PC 圖形處理器的早期，內(nèi)部幾乎沒有任何緩存，全局內(nèi)存（整個芯片使用的 RAM）是非常慢的 DRAM。即使就在10年前，情況也沒有好多少。

因此，讓我們從 AMD 新架構中的內(nèi)存層次結構開始，深入了解當前的情況。自第一次迭代以來，RDNA 使用了復雜的多級內(nèi)存層次結構。最大的變化發(fā)生在一年前，當時 GPU 中添加了大量的 L3 緩存，在某些型號中高達 128MB。

第三輪的情況仍然如此，但有一些微妙的變化。

Nvidia 保留了與 Ampere 中使用的相同的內(nèi)存結構，每個 SM 具有 128kB 的緩存，充當 L1 數(shù)據(jù)存儲、共享內(nèi)存和紋理緩存?？捎糜诓煌巧臄?shù)量是動態(tài)分配的。目前尚未提及 L1 帶寬的任何變化，但在 Ampere 中，每個 SM 每個時鐘周期為 128 字節(jié)。Nvidia 從未明確明確這一數(shù)字是累積的、結合讀寫的，還是僅針對一個方向的。

如果 Ada 至少與 Ampere 相同，那么所有 SM 的總 L1 帶寬將達到每個時鐘 18 kB，遠大于 RDNA 2 和 Alchemist。

但必須再次強調(diào)的是，這些芯片不具有直接可比性，因為英特爾的芯片是作為中端產(chǎn)品定價和銷售的，而 AMD 已明確表示Navi 31 的設計目的從來不是為了與 Nvidia 的 AD102 競爭。它的競爭對手是 AD103，它比 AD102 小得多。

內(nèi)存層次結構的最大變化是，在完整的 AD102 芯片中，L2 緩存已增加到 96MB，是其前身 GA102 的 16 倍。與英特爾的系統(tǒng)一樣，L2 進行分區(qū)并與 32 位 GDDR6X 內(nèi)存控制器配對，以實現(xiàn)高達 384 位的 DRAM 總線寬度。

較大的緩存通常比較小的緩存具有更長的延遲，但由于時鐘速度的提高和總線的一些改進，Ada Lovelace 顯示出比 Ampere更好的緩存性能。

如果我們比較所有三個系統(tǒng)，英特爾和 Nvidia 對 L1 緩存采取相同的方法 -——它可以用作只讀數(shù)據(jù)緩存或計算共享內(nèi)存。對于后者，需要通過軟件明確指示 GPU 以這種格式使用它，并且數(shù)據(jù)僅在使用它的線程處于活動狀態(tài)時保留。這增加了系統(tǒng)的復雜性，但對計算性能產(chǎn)生了有用的提升。

在 RDNA 3 中，“L1”數(shù)據(jù)緩存和共享內(nèi)存被分為兩個 32kB L0 矢量緩存和一個 128kB 本地數(shù)據(jù)共享。AMD 所謂的 L1 緩存實際上是一組四個 DCU 和 L2 緩存之間用于只讀數(shù)據(jù)的共享墊腳石（shared stepping stone）。

雖然緩存帶寬沒有 Nvidia 的那么高，但多層方法有助于解決這個問題，尤其是在 DCU 未得到充分利用的情況下。

巨大的處理器范圍的緩存系統(tǒng)通常不是 GPU 的最佳選擇，這就是為什么我們在以前的架構中沒有看到超過 4 或 6MB 的緩存系統(tǒng)，但 AMD、Intel 和 Nvidia 都在最后一層是應對 DRAM 速度增長相對不足的問題。

向 GPU 添加大量內(nèi)存控制器可以提供充足的帶寬，但代價是芯片尺寸增加和制造費用增加，而 HBM3 等替代方案的使用成本要高得多。

我們還沒有看到 AMD 的系統(tǒng)最終表現(xiàn)如何，但他們在 RDNA 2 中的四層方法在與 Ampere 的對抗中表現(xiàn)良好，并且比英特爾的系統(tǒng)要好得多。然而，隨著 Ada 加入了更多的 L2，競爭不再那么簡單。

芯片封裝和工藝節(jié)點：建造的不同方式

AMD、英特爾和 Nvidia 有一個共同點——他們都使用臺積電來制造 GPU。

AMD在Navi 31中的GCD和MCD使用了兩種不同的節(jié)點，前者使用N5節(jié)點，后者使用N6（N7的增強版本）。英特爾還在其所有 Alchemist 芯片中使用 N6。在 Ampere 中，Nvidia 使用了三星舊的 8nm 工藝，但在 Ada 中，他們轉回臺積電及其 N4 工藝，這是 N5 的變體。

N4 擁有所有節(jié)點中最高的晶體管密度和最佳的性能功耗比，但當 AMD 推出 RDNA 3 時，他們強調(diào)只有邏輯電路的密度出現(xiàn)了顯著增加。

SRAM（用于高速緩存）和模擬系統(tǒng)（用于存儲器、系統(tǒng)和其他信號電路）微縮相對較小。再加上新工藝節(jié)點每晶圓價格的上漲，AMD 決定使用稍舊且更便宜的 N6 來制造 MCD，因為這些小芯片主要是 SRAM 和 I/O。

就芯片尺寸而言，GCD比Navi 21 小 42%，為 300 mm 2。每個 MCD 僅 37mm 2，因此 Navi 31 的組合芯片面積與其前身大致相同。AMD 僅公布了所有小芯片的晶體管總數(shù)，但這款新 GPU 數(shù)量達到 580 億個，是他們有史以來“最大的”消費類圖形處理器。

為了將每個 MCD 連接到 GCD，AMD 使用了所謂的高性能扇出——密集的走線，占用的空間非常小。Infinity Links（AMD 專有的互連和信號系統(tǒng)）運行速度高達 9.2Gb/s，每個 MCD 的鏈路寬度為 384 位，MCD 到 GCD 的帶寬達到 883GB/s（雙向）。

對于單個 MCD，這相當于高端顯卡的全局內(nèi)存帶寬。Navi 31 中全部有 6 個，L2 到 MCD 的總帶寬達到 5.3TB/s。

與傳統(tǒng)的單片芯片相比，使用復雜的扇出意味著芯片封裝的成本將會更高，但該工藝是可擴展的——不同的 SKU 可以使用相同的 GCD，但 MCD 的數(shù)量不同。較小尺寸的單個小芯片芯片應該會提高晶圓產(chǎn)量，但沒有跡象表明 AMD 是否在 MCD 的設計中納入了任何冗余。

如果沒有，則意味著任何在 SRAM 中存在缺陷的小芯片，這些缺陷會導致內(nèi)存陣列的該部分無法使用，那么它們將必須被分類用于低端型號 SKU，或者根本不使用。

AMD 迄今為止僅發(fā)布了兩款 RDNA 3 顯卡（Radeon RX 7900 XT 和 XTX），但在這兩種型號中，MCD 均具有 16MB 緩存。如果下一輪 Radeon 卡配備 256 位內(nèi)存總線和 64MB L3 緩存，那么它們也需要使用“完美”的 16MB 芯片。

然而，由于它們的面積非常小，單個 300mm 晶圓可能會產(chǎn)生超過 1500 個 MCD。即使其中 50% 必須報廢，這仍然足以提供 125 個 Navi 31 封裝。

我們還需要一段時間才能知道 AMD 的設計實際上具有多大的成本效益，但該公司現(xiàn)在和將來都完全致力于使用這種方法，盡管僅限于更大的 GPU。預算 RNDA 3 模型的緩存量要少得多，將繼續(xù)使用單片制造方法，因為這種制造方法更具成本效益。

英特爾的ACM-G10處理器尺寸為406mm 2，晶體管總數(shù)為217億個，在組件數(shù)量和芯片面積方面介于AMD的Navi 21和Nvidia的GA104之間。

這實際上使它成為一個相當大的處理器，這就是為什么英特爾選擇 GPU 的市場領域似乎有些奇怪的原因。Arc A770顯卡采用完整的 ACM-G10 芯片，與 Nvidia 的 GeForce RTX 3060等顯卡進行競爭，后者使用的芯片尺寸和晶體管數(shù)量只有英特爾一半。

那么為什么它這么大呢？可能的原因有兩個：16MB 的二級緩存和每個 XEC 中的矩陣單元數(shù)量非常多。采用前者的決定是合乎邏輯的，因為它減輕了全局內(nèi)存帶寬的壓力，但后者很容易被認為對其銷售的領域來說是過多的。RTX 3060 有 112 個 Tensor 核心，而 A770 有 512 個 XMX單元。

英特爾的另一個奇怪的選擇是使用臺積電 N6 來制造 Alchemist 芯片，而不是他們自己的工廠。關于此事的官方聲明引用了成本、晶圓廠產(chǎn)能和芯片工作頻率等因素。

這表明英特爾的同等生產(chǎn)設施（使用更名后的intel 7節(jié)點）將無法滿足預期需求，其Alder和Raptor Lake CPU占據(jù)了大部分產(chǎn)能。

他們會將 CPU 輸出的相對下降以及這對收入的影響與使用 Alchemist 獲得的收益進行比較。簡而言之，最好付錢給臺積電制造新的 GPU。

AMD 利用其多芯片專業(yè)知識并開發(fā)了用于制造大型 RDNA 3 GPU 的新技術，而 Nvidia 則堅持 Ada 系列的單片設計。GPU 公司在制造超大型處理器方面擁有豐富的經(jīng)驗，但 608mm2 的AD102 并不是其發(fā)布的物理上最大的芯片（這一榮譽頒給了826mm2的GA100）。然而，Nvidia 擁有 763 億個晶體管，其組件數(shù)量遠遠領先于迄今為止任何消費級 GPU。

相比之下，GeForce RTX 3080 及更高版本中使用的 GA102 顯得輕量級，只有 268 億。這 187% 的增長得益于 SM 數(shù)量的 71% 增長和 L2 緩存數(shù)量的 1500% 的提升。

如此大而復雜的芯片總是難以實現(xiàn)完美的晶圓良率，這就是為什么之前的高端 Nvidia GPU 催生了眾多 SKU。通常，隨著新架構的推出，他們的專業(yè)顯卡系列（例如 A 系列、Tesla 等）首先發(fā)布。

當 Ampere 發(fā)布時，GA102 出現(xiàn)在兩款消費級卡中，并最終在 14 種不同的產(chǎn)品中找到了應用。到目前為止，Nvidia 僅選擇在兩款產(chǎn)品中使用 AD102：GeForce RTX 4090和RTX 6000。不過，后者自 9 月份出現(xiàn)以來一直無法購買。

RTX 4090 使用的芯片更接近分箱過程，禁用了 16 個 SM 和 24MB 二級緩存，而 RTX 6000 僅禁用了兩個 SM。這就讓人不禁要問：剩下的die在哪里？

但由于沒有其他產(chǎn)品使用 AD102，我們只能假設 Nvidia 正在儲備它們，盡管其他產(chǎn)品的用途尚不清楚。

GeForce RTX 4080使用 AD103，其尺寸為 379mm2和 459 億個晶體管，與它的大哥完全不同——更小的芯片（80 個 SM、64MB 二級緩存）應該會帶來更好的產(chǎn)量，但同樣只有一種產(chǎn)品使用它。

他們還發(fā)布了另一款 RTX 4080，其中一款使用了較小的 AD104，但由于收到的批評而取消了發(fā)布。預計這款 GPU 現(xiàn)在將用于推出RTX 4070 系列。

Nvidia 顯然擁有大量基于 Ada 架構構建的 GPU，但似乎也非常不愿意發(fā)貨。造成這種情況的原因之一可能是他們正在等待安培驅動的顯卡上架；另一個事實是，它主導了一般用戶和工作站市場，并且可能認為它現(xiàn)在不需要提供任何其他東西。

但考慮到 AD102 和 103 提供的原始計算能力有了顯著提高，Ada 專業(yè)卡的數(shù)量如此之少就有些令人費解了——該行業(yè)總是渴望更多的處理能力。

Superstar DJs: 顯示和媒體引擎

當談到 GPU 的媒體和顯示引擎時，與 DirectX 12 功能或晶體管數(shù)量等方面相比，它們通常采用幕后營銷方法。但隨著游戲流媒體行業(yè)產(chǎn)生數(shù)十億美元的收入，我們開始看到更多的努力來開發(fā)和推廣新的顯示功能。

對于 RDNA 3，AMD 更新了許多組件，最值得注意的是對 DisplayPort 2.1 和 HDMI 2.1a 的支持。鑒于監(jiān)督 DisplayPort 規(guī)范的組織 VESA在 2022 年底才發(fā)布 2.1 版本，GPU 供應商如此迅速地采用該系統(tǒng)是一個不尋常的舉動。

新顯示引擎支持的最快 DP 傳輸模式是 UHBR13.5，最大 4 通道傳輸速率為 54 Gbps。對于標準時序下 4K 分辨率、144Hz 刷新率、無任何壓縮的情況來說，這已經(jīng)足夠了。

使用 DSC（顯示流壓縮：Display Stream Compression），DP2.1 連接允許高達 4K@480Hz 或 8K@165Hz - 比 RDNA 2 中使用的 DP1.4a 有了顯著改進。

英特爾的 Alchemist 架構采用具有 DP 2.0（UHBR10，40 Gbps）和 HDMI 2.1 輸出的顯示引擎，盡管并非所有使用該芯片的 Arc 系列顯卡都可以利用最大功能。

雖然ACM-G10并不針對高分辨率游戲，但采用最新的顯示連接規(guī)格意味著可以在沒有任何壓縮的情況下使用電子競技顯示器（例如1080p、360Hz）。該芯片可能無法在此類游戲中呈現(xiàn)如此高的幀速率，但至少顯示引擎可以。

AMD 和英特爾對 DP 和 HDMI 中快速傳輸模式的支持正是您對全新架構的期望，因此 Nvidia 選擇不對 Ada Lovelace 這樣做有點不協(xié)調(diào)。

AD102 對于所有晶體管（幾乎與 Navi 31 和 ACM-G10 加在一起相同）僅具有具有 DP1.4a 和 HDMI 2.1 輸出的顯示引擎。對于 DSC，前者對于 4K@144Hz 來說已經(jīng)足夠好了，但是當競爭對手支持不壓縮的情況下，這顯然是錯失機會。

GPU 中的媒體引擎負責視頻流的編碼和解碼，所有三個供應商在其最新架構中都擁有豐富的功能集。

在 RDNA 3 中，AMD 添加了針對 AV1 格式的完整同步編碼/解碼（僅在之前的 RDNA 2 中進行解碼）。關于新媒體引擎的信息并不多，只是它可以同時處理兩個 H.264/H.265 流，并且 AV1 的最大速率為 8K@60Hz。AMD 還簡要提到了“AI 增強”視頻解碼，但沒有提供更多細節(jié)。

英特爾的 ACM-G10 具有類似的功能范圍，可用于 AV1、H.264 和 H.265 的編碼/解碼，但與 RDNA 3 一樣，細節(jié)非常少。對 Arc 桌面顯卡中的首批 Alchemist 芯片的一些早期測試表明，媒體引擎至少與 AMD 和 Nvidia 在其先前架構中提供的媒體引擎一樣好。

Ada Lovelace 也采用了 AV1 編碼和解碼，Nvidia 聲稱新系統(tǒng)的編碼效率比 H.264 高 40%，表面上看，使用新格式時視頻質(zhì)量提高了 40%。

高端 GeForce RTX 40 系列顯卡將配備配備兩個 NVENC 編碼器的 GPU，您可以選擇以 60Hz 編碼 8K HDR，或改進視頻導出的并行化，每個編碼器同時處理半幀。

GPU 的下一步是什么？

桌面 GPU 市場上已經(jīng)有三個供應商了，很明顯，每個供應商都有自己的圖形處理器設計方法，盡管英特爾和 Nvidia 也采取了類似的思維方式。

對于他們來說，Ada 和 Alchemist 在某種程度上是萬事通，可用于各種游戲、科學、媒體和數(shù)據(jù)工作負載。ACM-G10 中對矩陣和張量計算的高度重視以及不愿完全重新設計其 GPU 布局表明英特爾更傾向于科學和數(shù)據(jù)，而不是游戲，但考慮到這些領域的潛在增長，這是可以理解的。

對于最后三種架構，Nvidia 專注于改進已經(jīng)很好的架構，并減少整體設計中的各種瓶頸，例如內(nèi)部帶寬和延遲。雖然 Ada 是對 Ampere 的自然改進（Nvidia 多年來一直遵循這一主題），但當你觀察晶體管數(shù)量的絕對規(guī)模時，AD102 卻顯得異常進化。

與 GA102 相比，差異非常顯著，但這種巨大的飛躍引發(fā)了許多問題。首先，對于 Nvidia 的最高端消費產(chǎn)品來說，AD103 是否是比 AD102 更好的選擇？

與 RTX 4080 中使用的 AD103 相比，AD103 的性能比 RTX 3090 有了相當大的改進，并且與它的大哥一樣，64MB 的二級緩存有助于抵消相對較窄的 256 位全局內(nèi)存總線寬度。它的尺寸為 379mm2，比 GeForce RTX 3070 中使用的 GA104 小，因此制造利潤比 AD102 高得多。它還包含與 GA102 相同數(shù)量的 SM，并且該芯片最終在 15 種不同的產(chǎn)品中得到了應用。

另一個值得問的問題是，Nvidia 在架構和制造方面將走向何方？他們能否在仍堅持使用單片芯片的情況下實現(xiàn)類似的縮放水平？

AMD 對 RDNA 3 的選擇凸顯了競爭的潛在路線。通過將芯片中規(guī)模最差的部分（在新工藝節(jié)點中）轉移到單獨的小芯片中，AMD 已經(jīng)能夠成功地延續(xù) RDNA 和 RDNA 2 之間的大型制造和設計飛躍。

雖然它不像 Nvidia 的 AD102 那么大，但 AMD Navi 31 的硅片價值仍然高達 580 億個晶體管，是 Navi 21 的兩倍多，也是我們最初的 RDNA GPU Navi 10 的 5 倍多（盡管這不是 Navi 21 的兩倍）。

AMD 和 Nvidia 的成就并不是孤立取得的。GPU 晶體管數(shù)量如此大幅增加的唯一原因是臺積電和三星之間作為半導體設備主要制造商的激烈競爭。兩者都致力于提高邏輯電路的晶體管密度，同時繼續(xù)降低功耗。臺積電對于當前的節(jié)點改進及其下一步的主要工藝有明確的路線圖。

目前尚不清楚 Nvidia 是否會效仿 AMD 的做法，并在 Ada 的繼任者中采用小芯片布局，但接下來的一兩年可能會起到?jīng)Q定性作用。如果 RDNA 3 被證明在財務上取得了成功，無論是在收入還是總出貨量方面，那么 Nvidia 很可能會效仿。

然而，第一個使用 Ampere 架構的芯片是 GA100——一款數(shù)據(jù)中心 GPU，尺寸為829mm2 ，擁有 542 億個晶體管。它由 TSMC 使用其 N7 節(jié)點制造（與 RDNA 和大多數(shù) RDNA 2 系列相同）。使用 N4 來制造 AD102，使得 Nvidia 能夠設計出晶體管密度幾乎是其前身的兩倍的 GPU。

在下一個架構中使用 N2 可以實現(xiàn)這一目標嗎？有可能，但緩存的大幅增長（擴展性非常差）表明，即使臺積電在未來的節(jié)點上取得了一些引人注目的成績，控制 GPU 大小也將變得越來越困難。

英特爾已經(jīng)在使用小芯片，但僅限于其巨大的Ponte Vecchio數(shù)據(jù)中心 GPU。由47塊不同的tiles組成，當中有些是臺積電制造的，有些是英特爾自己制造的，其參數(shù)相當高。例如，完整的雙 GPU 配置擁有超過 1000 億個晶體管，這使得 AMD 的 Navi 31 看起來非?！靶　薄．斎?，它不適用于任何類型的臺式電腦，嚴格來說也“不僅僅是”GPU——這是一個數(shù)據(jù)中心處理器，重點關注矩陣和張量工作負載。

在轉向“Xe Next”之前，其 Xe-HPG 架構至少還要進行兩次修訂，我們很可能會在英特爾消費類顯卡中看到平鋪的使用。

不過，目前，我們將讓 Ada 和 Alchemist 使用傳統(tǒng)的單片芯片，而 AMD 則將混合芯片系統(tǒng)用于中高端卡，并為其預算 SKU 使用單芯片。

到本世紀末，我們可能會看到幾乎所有類型的圖形處理器，它們都是由精選的不同tile和小芯片構建而成，全部使用各種工藝節(jié)點制成。GPU 仍然是臺式電腦中最引人注目的工程壯舉之一——晶體管數(shù)量沒有顯示出增長放緩的跡象，而今天普通顯卡的計算能力在大約 10 年前只能是夢想。

讓我們進入下一場三向架構之戰(zhàn)吧！