英特爾開發(fā)的 FPGA AI 套件旨在減少使用英特爾 CPU、英特爾 SoC FPGA 和英特爾 FPGA 創(chuàng)建功能強(qiáng)大的異構(gòu) AI 深度學(xué)習(xí) (DL) 推理系統(tǒng)所需的工作量。
該套件支持 FPGA 設(shè)計(jì)人員、機(jī)器學(xué)習(xí)工程師和軟件開發(fā)人員高效創(chuàng)建和優(yōu)化 AI 推理平臺(tái),以達(dá)到性能、功耗和成本俱佳的目標(biāo)。
英特爾 FPGA AI 套件中集成的實(shí)用程序加快了基于 FPGA 的 AI 推理引擎的開發(fā)速度。數(shù)據(jù)科學(xué)家和工程師可以從任何熟悉的行業(yè)框架(如 TensorFlow 和 PyTorch)開始訓(xùn)練和收斂推理模型,然后可以使用英特爾 分發(fā)版 OpenVINO 工具包通過簡化邏輯和降低內(nèi)存占用率來優(yōu)化推理模型的性能和功耗。
請(qǐng)注意,該優(yōu)化是在 CPU 和 FPGA 的異構(gòu)組合中執(zhí)行的。隨后,英特爾 FPGA AI 套件會(huì)進(jìn)一步優(yōu)化最終設(shè)計(jì)的 FPGA 部分。經(jīng)優(yōu)化的設(shè)計(jì)會(huì)使用英特爾 Quartus Prime 軟件直接輸入到強(qiáng)大且經(jīng)過驗(yàn)證的 FPGA 開發(fā)流程中。
Stryker公司的研發(fā)團(tuán)隊(duì)在評(píng)估英特爾FPGA AI 套件后得出以下結(jié)論:
●英特爾 FPGA AI 套件和 OpenVINO 工具包非常易用。借助這些工具, Stryker 能夠開發(fā)出更為優(yōu)化的用于深度學(xué)習(xí)推理的 FPGA IP。該推理 IP 已使用英特爾QuartusPrime 軟件成功集成到了英特爾 FPGA 中。與套件一起提供的設(shè)計(jì)示例也使團(tuán)隊(duì)能夠快速評(píng)估不同圖像源的不同算法。
●英特爾 FPGA AI 套件和 OpenVINO 工具包使數(shù)據(jù)科學(xué)家和 FPGA 工程師能夠無縫協(xié)作,為醫(yī)療應(yīng)用開發(fā)更好的深度學(xué)習(xí)推理模型。
您可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件開發(fā)推理系統(tǒng),服務(wù)于從 DL 增強(qiáng)型嵌入式系統(tǒng)一直到在多個(gè) FPGA 加速的服務(wù)器上運(yùn)行的高級(jí)數(shù)據(jù)中心應(yīng)用工作負(fù)載。
如果您想開發(fā)用于檢測、分類、分割或相關(guān)任務(wù)的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特爾 FPGA AI 套件來實(shí)現(xiàn);如果您想在使用 FPGA 編碼或解碼視頻或者在處理計(jì)算機(jī)視覺圖像的同時(shí)有效傳輸視頻流,也可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件??梢哉f,F(xiàn)PGA 特別適合這種預(yù)處理和后處理。
如果您沒有自己的推理模型供訓(xùn)練使用,但又迫不及待地想涉足深度學(xué)習(xí)領(lǐng)域,可以利用英特爾 分發(fā)版 OpenVINO 工具包,因?yàn)楣ぞ甙杏忻嫦驈V泛使用的神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練推理模型,您可以先從這些模型入手。
圖1 顯示的是基于這套工具的推理系統(tǒng)開發(fā)流程。
圖1 英特爾 FPGA AI 套件開發(fā)流程
英特爾 FPGA AI 套件目前可支持英特爾 Agilex FPGA、英特爾 Cyclone 10 GX FPGA 和英特爾 Arria 10 FPGA,并提供了未來支持更多英特爾 FPGA 的路線圖。當(dāng)然,這些工具背后還有很多英特爾的在線支持。
審核編輯 :李倩
-
FPGA
+關(guān)注
關(guān)注
1629文章
21729瀏覽量
602986 -
英特爾
+關(guān)注
關(guān)注
61文章
9949瀏覽量
171692 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8406瀏覽量
132561
原文標(biāo)題:解析丨英特爾? FPGA AI 套件搭配?OpenVINO? 工具包,助力創(chuàng)建異構(gòu)推理系統(tǒng)
文章出處:【微信號(hào):英特爾FPGA,微信公眾號(hào):英特爾FPGA】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論