作者：Patrick Mannion，特約編輯

隨著設(shè)計(jì)人員將并行數(shù)據(jù)處理作為人工智能 (AI)、自然語言處理和圖像處理的異構(gòu)架構(gòu)的核心元素，曾經(jīng)的協(xié)處理器 現(xiàn)在正在變成處理器。

可以肯定的是，英特爾、AMD、Arm 和開源 RISC-V 架構(gòu)的 CPU 仍將在控制平面處理甚至信號處理功能中發(fā)揮作用。然而，重點(diǎn)顯然轉(zhuǎn)移到了為快速有效地執(zhí)行深度神經(jīng)網(wǎng)絡(luò) (DNN) 和卷積神經(jīng)網(wǎng)絡(luò) (CNN) 算法而優(yōu)化的乘法累加 (MAC) 函數(shù)數(shù)組。

DNN 主要用于 AI 和自然語言處理。一個(gè)簡單的例子是亞馬遜的 Echo Dot，這是一個(gè)看似簡單的前端設(shè)備，由大規(guī)模并行 AI 和自然語言處理農(nóng)場支持。CNN 越來越多地用于計(jì)算機(jī)視覺處理，尤其是對來自汽車制造商的高效 CNN 解決方案特別感興趣，這些解決方案希望進(jìn)一步增強(qiáng)其高級駕駛輔助系統(tǒng) (ADAS)。

對于希望利用 DNN 和 CNN 技術(shù)的數(shù)據(jù)中心和基于邊緣的系統(tǒng)的設(shè)計(jì)人員來說，經(jīng)典架構(gòu)在 Nvidia 的大型 GPU 和 videantis GmbH 的低功耗 CNN 處理器之后處于次要地位。

例如，Nvidia 最新的 Tesla V100 GPU 加速器使用 Volta GV100 GPU，繼續(xù)在數(shù)據(jù)中心樹立標(biāo)準(zhǔn)（圖 1）。GV100 基于該公司的 Pascal GPU，將 211 億個(gè)晶體管封裝在一個(gè)尺寸為 815 mm 2的芯片 中，并使用 TSMC 的 12-nm FinFET Nvidia (FFN) 制造工藝。GV100 版本進(jìn)一步簡化了編程和應(yīng)用程序移植，提高了 GPU 資源利用率。

圖 1：Nvidia 的 Tesla V100 加速器基于其 GV100 GPU，它繼續(xù)為高性能數(shù)據(jù)中心、人工智能和深度學(xué)習(xí)系統(tǒng)和應(yīng)用設(shè)定標(biāo)準(zhǔn)。

Volta 迭代具有重新設(shè)計(jì)的流式多處理器 (SM) 架構(gòu)，效率比 Pascal 設(shè)計(jì)高 50%。新的 Tensor Core 專為深度學(xué)習(xí)而設(shè)計(jì)，可為訓(xùn)練提供高達(dá) 12 倍的峰值 teraflops，為推理提供高達(dá) 6 倍的峰值 teraflops。其他功能包括支持 6 個(gè)第二代 Nvidia NVLink，總帶寬為 300 GB/s，16 GB HBM2 內(nèi)存，以及針對 Caffe2、MXNet、CNTK 和 TensorFlow 等深度學(xué)習(xí)框架的優(yōu)化軟件。

TensorFlow 是 Google 的深度學(xué)習(xí)框架，該公司使用張量處理單元 (TPU) 來支持它（圖 2）。谷歌將 TPU ASIC 設(shè)計(jì)為當(dāng)前 GPU 和 CPU 架構(gòu)的替代方案，為谷歌搜索、谷歌圖像處理和谷歌翻譯等應(yīng)用程序大規(guī)模執(zhí)行神經(jīng)網(wǎng)絡(luò)處理。

圖 2：谷歌的 TPU 旨在為谷歌搜索、谷歌圖像處理和谷歌翻譯執(zhí)行大規(guī)模的神經(jīng)網(wǎng)絡(luò)計(jì)算。

TPU 采用 28 納米工藝實(shí)現(xiàn)，運(yùn)行頻率為 700 MHz，功耗為 40 W。由于 Google 需要快速部署它以滿足快速達(dá)到極限的數(shù)據(jù)中心的需求，因此它是一款適合的加速卡插入 SATA 插槽。它通過 PCIe Gen3 x16 總線連接到主機(jī)。該接口的帶寬為 12.5 Gbytes/s。

相對于 CPU 和 GPU，TPU 在性能上是一個(gè)飛躍。處理器性能的核心是按脈動陣列排列的乘法器矩陣單元 (MXU)。雖然通用 CPU 是按順序執(zhí)行讀-操作-寫過程，但 MXU 的脈動陣列意味著它可以讀取輸入值并對其執(zhí)行多項(xiàng)操作，而無需將其存儲到寄存器中。之所以稱為收縮期，是因?yàn)閿?shù)據(jù)以波的形式流經(jīng)芯片陣列，就像心臟如何泵血一樣。

MXU 方法針對功率和面積效率進(jìn)行了優(yōu)化，每個(gè)周期可以為 8 位整數(shù)執(zhí)行 65,536 個(gè) MAC。由于它以 700 MHz 運(yùn)行，這意味著它可以執(zhí)行 46 x 10 12 MACs/秒。這與 DNN 上下文中的 RISC CPU 相比是有利的，因?yàn)樗鼈兺ǔＣ織l指令只能執(zhí)行一個(gè)或兩個(gè)算術(shù)運(yùn)算。GPU 每秒可以執(zhí)行數(shù)千次。

谷歌的 TPU 和英偉達(dá)的 Tesla V100 在替代處理架構(gòu)方面處于領(lǐng)先地位，AMD 和英特爾正在迎頭趕上。也就是說，英特爾收購了 Nervana 和 Altera 等公司尚未充分利用，而微軟已經(jīng)展示了其 Brainwave 軟件在 Stratix 10 FPGA 上運(yùn)行，達(dá)到 39.5 teraops/s。它預(yù)計(jì)在以 500 MHz 運(yùn)行的生產(chǎn)硅上實(shí)現(xiàn) 90 teraop/s。

將 CNN 帶到視覺邊緣隨著新老芯片和軟件供應(yīng)商在數(shù)據(jù)中心為 DNN 定位而努力，videantis GmbH 宣布了一個(gè)直接針對邊緣的 CNN 視覺處理器和開發(fā)工具鏈。特別是 v-MP6000UDX 視覺處理架構(gòu)和 v-CNNDesigner 工具針對智能圖像和視頻處理（圖 3）。

圖 3：videantis v-MP6000UDX 與 v-CNNDesigner 工具相結(jié)合，加速了網(wǎng)絡(luò)邊緣智能圖像傳感器的開發(fā)。

根據(jù) videantis 營銷副總裁 Marco Jacobs 的說法，CPU 和 GPU 本身的效率不足以在邊緣進(jìn)行圖像傳感和處理，因此它在 2004 年開發(fā)了用于低功耗應(yīng)用的數(shù)字信號處理器。6000 系列是其最新的實(shí)例，該實(shí)例用于 DNN 和 CNN 算法。

與 TPU 不同，它也不用于訓(xùn)練。相反，Jacobs 說，一旦培訓(xùn)完成，設(shè)計(jì)師可以獲取開發(fā)的代碼，通過 v-CNNDesigner 運(yùn)行它，并在幾分鐘內(nèi)將該代碼映射到 v-MP6000UDX 內(nèi)核。訓(xùn)練是在不同情況和不同背景下識別對象的過程，例如不同的動物、路標(biāo)、行人和其他對象。該過程是勞動密集型的，可能需要數(shù)周時(shí)間，并產(chǎn)生數(shù)兆字節(jié)的最終代碼。但是，一旦生成，代碼通過 v-CNNDesigner 運(yùn)行，大大簡化了傳輸和映射過程。Jacobs 表示，v-MP6000UDX 處理器本身的運(yùn)行速度為 50 teraops/s，其效率取決于工藝節(jié)點(diǎn)和其他實(shí)施因素。

智能傳感設(shè)備、ADAS 和智能手機(jī)是明顯的目標(biāo)應(yīng)用，還有無人機(jī)、自動駕駛汽車、虛擬和增強(qiáng)現(xiàn)實(shí)以及監(jiān)控。由于神經(jīng)網(wǎng)絡(luò)處理的進(jìn)步，videantis 所做的只是計(jì)算機(jī)視覺一個(gè)非常有趣的時(shí)期的開始?！?012 年，CNN 取得了重大突破，”他說，他指的是當(dāng)年參加 ImageNet 大規(guī)模視覺識別挑戰(zhàn)賽的 CNN?！艾F(xiàn)在第二個(gè)趨勢[數(shù)據(jù)中心是第一個(gè)]是讓它們更小、更節(jié)能，這樣它們就可以在嵌入式設(shè)備上運(yùn)行?！?/p>

隨著 CNN 的創(chuàng)新每天都在發(fā)生，Jacobs 強(qiáng)調(diào) v-MP6000UDX 運(yùn)行多種算法，使其經(jīng)得起未來考驗(yàn)。

審核編輯 黃昊宇