Imagination Technologies發(fā)布了最新一代神經(jīng)網(wǎng)絡加速器IP核IMG Series4 NNA，并將于12月份正式向廠商提供。

芯東西獨家獲悉，已有汽車領域廠商率先獲得IMG Series4 NNA IP授權(quán)。

作為NNA IP系列第四代產(chǎn)品，IMG Series4 NNA具備創(chuàng)新的多核架構(gòu)、高擴展性&高靈活性、超高性能、超低延遲、節(jié)省帶寬、車規(guī)級安全性等功能及特性，可滿足汽車、移動設備、數(shù)據(jù)中心、PC等多種應用場景的AI加速要求。

在這背后，Imagination為IMG Series4 NNA融入了怎樣的設計巧思？在神經(jīng)網(wǎng)絡加速成為各行各業(yè)普遍需求的當下，IMG Series4 NNA將為滿足這一需求拿出怎樣的解決方案？

為回答這些問題，芯東西獨家專訪Imagination人工智能業(yè)務高級總監(jiān)Andrew Grant，以了解IMG Series4 NNA中蘊含的“黑科技”。

01

兩年打磨：成就五大核心性能亮點

我們了解到，Imagination第二代、第三代神經(jīng)網(wǎng)絡加速器IP核Series2NX和Series3NX，分別于2017年和2018年推出，兩款產(chǎn)品的發(fā)布時間相隔一年。

相比之下，最新推出的Series4 IP核與前代產(chǎn)品的推出相隔兩年。Andrew Grant向我們透露，2018年以來，Imagination研發(fā)團隊從軟硬件兩方面出發(fā)，對Series4 IP進行了細致的產(chǎn)品設計。

在硬件層面，Imagination團隊在2018年啟動對Series4 IP核的研發(fā)工作，同步開始對多核（multi-core）技術(shù)（IMG 4NX-MC2、MC4、MC6、MC8）進行研發(fā)。

同時，Imagination推出其專利的Imagination Tensor Tiling（ITT）技術(shù)，可將工作負載分割以獲得最優(yōu)效率。

實際應用時，昨日最新亮相的Series4 NNA IP可憑借多核多集群組合，提供600 TOPS甚至更高算力，同時可為大型神經(jīng)網(wǎng)絡工作負載節(jié)省帶寬、降低延遲。

其性能優(yōu)勢可概括為五個方面：

1、高度靈活的可擴展方案。

前兩代產(chǎn)品均采用單核架構(gòu)，相比之下，最新推出的Series4 NNA采用多核架構(gòu)，允許用戶集成2個、4個、6個或8個單核，提供靈活的可擴展方案。

2、超高性能。

基于Series4 NNA IP，一個8核集群可提供100 TOPS算力，那么，6個8核集群的解決方案就可以提供600 TOPS算力。

3、超低延遲。

所有內(nèi)核可以并行處理一個任務，進而相應地降低延遲、縮短響應時間。舉例來說，相比單核獨立執(zhí)行的情況，理想狀態(tài)下8核集群可以把延遲降低至前者的1/8。

4、節(jié)省帶寬。

Imagination Tensor Tiling技術(shù)（ITT），可利用本地數(shù)據(jù)的依賴性將中間數(shù)據(jù)保存在片上存儲器中，從而將帶寬降低多達90％。

5、車規(guī)級安全性。

Series4包含IP級別的安全功能且設計流程符合ISO 26262標準（解決汽車電子產(chǎn)品風險的行業(yè)安全標準）。

此外，IMG Series4 NNA可運行一系列AI框架，包括Caffe、PyTorch、TensorFlow、PaddlePaddle、Chainer、Cognitive Toolkit、mxnet和Open Neural Network Exchange (ONNX)等。

對神經(jīng)網(wǎng)絡的支持方面，IMG Series4可為CNN、LSTM、RNN等多種神經(jīng)網(wǎng)絡加速，同時支持YOLO v3、Kittiseg等。

02

亮劍四大領域：從PC到汽車都能用

在應用場景上，除了延續(xù)前兩代產(chǎn)品對移動設備、PC、數(shù)據(jù)中心等應用場景的支持，Series4 NNA IP特別針對自動駕駛領域、先進駕駛輔助系統(tǒng)（ADAS）等汽車領域應用進行了設計。

在與客戶溝通的過程中，Imagination團隊了解到，現(xiàn)有車載神經(jīng)網(wǎng)絡加速器IP解決方案存在功耗高等方面的痛點，這正給Imagination提供了“用武之地”。 Andrew說：“我們注意到，現(xiàn)有的多數(shù)IP廠商提供的是數(shù)據(jù)中心、桌面級CPU等解決方案，這些方案功耗比較嚴重，對車載場景不友好。但Imagination有做移動應用的基因，我們在控制功耗方面有優(yōu)勢。” 除了降低功耗以外，Imagination研發(fā)團隊還綜合考慮了自動駕駛等車載場景對能效、安全性等方面的需求。“（其中）最重要的是‘安全第一’的原則?！盇ndrew Grant強調(diào)。

Imagination研發(fā)團隊在Series4 NNA獨特的多核架構(gòu)中加入控制器，以最大限度地提升使用效率。在保證功耗低、帶寬低的情況下，把算力擴展到業(yè)界最大水平。

安全性方面，Series4 NNA采用硬件安全機制，可以保護編譯后的網(wǎng)絡、網(wǎng)絡的執(zhí)行和數(shù)據(jù)處理管道。

此外，Andrew Grant補充到，Series4 IP還能與Imagination的車用BXS GPU互補，以實現(xiàn)一個功能更加完善的異構(gòu)計算平臺。Imagination創(chuàng)新的AI協(xié)同（AI Synergy）技術(shù)，可充分利用NNA和GPU的資源與優(yōu)勢，使AI計算性能、效率再上新臺階。

03

未來4NX產(chǎn)品有望在更多領域落地

Andrew Grant向芯東西透露，目前已經(jīng)有汽車領域的廠商率先獲得了IMG Series4 NNA IP的授權(quán)，并正推動產(chǎn)品落地。

談到Imagination三代NNA IP產(chǎn)品之間的關系，Imagination方面表示，前兩代神經(jīng)網(wǎng)絡加速器IP已經(jīng)達到了Imagination的市場預期，在移動、安防監(jiān)控、IoT等對算力要求相對較低的應用場景中取得了較好成績。

比如，展銳（UNISOC）的虎賁T710芯片搭載了2NX，在諸多AI評測中名列前茅，目前已落地于海信F50 5G智能手機、酷派X10 5G手機等；3NX相比2NX，在架構(gòu)上有很大改良，其功耗、性能、PPA、靈活性均有提升，目前已應用在展銳的T7520芯片里。

相比之下，Series4 NNA IP是一款“Next Level”的產(chǎn)品，適用于更加廣闊的場景。

三代產(chǎn)品形成矩陣，可提供不同層次的算力支持?！八懔π枨蟠蟮目蛻艨蛇x擇多核心的4NX產(chǎn)品，對算力需求在10T以下的客戶可選擇3NX解決方案?！盇ndrew說。

同時，Andrew Grant稱：“我們期待能將其（4NX產(chǎn)品）推廣到云計算中心、移動邊緣計算（MEC）、桌面、安防攝像頭、工業(yè)自動化等應用領域。中國是一個非常大的市場，有許多芯片公司，我們期待能與這些公司一起有所作為，助力車載、數(shù)據(jù)中心等應用場景實現(xiàn)提升?！?/p>

04

結(jié)語：自動駕駛應用藍海下，車載AI芯片IP迎來利好

5G、AI……一波波浪潮奔涌下，自動駕駛、遠程醫(yī)療等應用逐漸從傳說變?yōu)楝F(xiàn)實，這一過程中，Imagination等先進技術(shù)玩家，承擔著助推產(chǎn)業(yè)浪潮奔涌的角色。

今年三月份，工信部網(wǎng)站公示《汽車駕駛自動化分級》推薦性國家標準報批稿。若該標準正式實施，將是我國第一份自動駕駛分級標準。這意味著國內(nèi)自動駕駛發(fā)展將迎來政策性引導與保障。業(yè)內(nèi)人士稱，新的分級標準給行業(yè)帶來利好，車聯(lián)網(wǎng)路網(wǎng)基建有望加速，將帶來十萬億級別的投資機會。

這一十萬億市場藍海中，車載AI芯片IP無疑成為一大重要組成部分。

自動駕駛解決方案中，應對數(shù)以百計的復雜場景、處理大量的傳感器數(shù)據(jù)、實現(xiàn)自動代客泊車等各類復雜功能，對車載AI芯片應用提出更高要求。 對此，Imagination最新發(fā)布的神經(jīng)網(wǎng)絡加速器IP在算力、降低延遲、提升能效等方面具備優(yōu)勢，或能助推自動駕駛應用快速落地。 有關Series4 NNA的更多信息， 請識別下方二維碼觀看 Imagination的主題會議。

原文標題：600 TOPS超高算力，2～8核靈活配置！Imagination新發(fā)布神經(jīng)網(wǎng)絡加速器IP

文章出處：【微信公眾號：Imagination Tech】歡迎添加關注！文章轉(zhuǎn)載請注明出處。

責任編輯：haq