RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾? FPGA AI套件搭配OpenVINO?工具包

英特爾FPGA ? 來源:英特爾FPGA ? 作者:英特爾FPGA ? 2022-08-11 11:53 ? 次閱讀

英特爾開發(fā)的 FPGA AI 套件旨在減少使用英特爾 CPU、英特爾 SoC FPGA 和英特爾 FPGA 創(chuàng)建功能強(qiáng)大的異構(gòu) AI 深度學(xué)習(xí) (DL) 推理系統(tǒng)所需的工作量。

該套件支持 FPGA 設(shè)計(jì)人員、機(jī)器學(xué)習(xí)工程師和軟件開發(fā)人員高效創(chuàng)建和優(yōu)化 AI 推理平臺(tái),以達(dá)到性能、功耗和成本俱佳的目標(biāo)。

英特爾 FPGA AI 套件中集成的實(shí)用程序加快了基于 FPGA 的 AI 推理引擎的開發(fā)速度。數(shù)據(jù)科學(xué)家和工程師可以從任何熟悉的行業(yè)框架(如 TensorFlow 和 PyTorch)開始訓(xùn)練和收斂推理模型,然后可以使用英特爾 分發(fā)版 OpenVINO 工具包通過簡化邏輯和降低內(nèi)存占用率來優(yōu)化推理模型的性能和功耗。

請(qǐng)注意,該優(yōu)化是在 CPU 和 FPGA 的異構(gòu)組合中執(zhí)行的。隨后,英特爾 FPGA AI 套件會(huì)進(jìn)一步優(yōu)化最終設(shè)計(jì)的 FPGA 部分。經(jīng)優(yōu)化的設(shè)計(jì)會(huì)使用英特爾 Quartus Prime 軟件直接輸入到強(qiáng)大且經(jīng)過驗(yàn)證的 FPGA 開發(fā)流程中。

Stryker公司的研發(fā)團(tuán)隊(duì)在評(píng)估英特爾FPGA AI 套件后得出以下結(jié)論:

●英特爾 FPGA AI 套件和 OpenVINO 工具包非常易用。借助這些工具, Stryker 能夠開發(fā)出更為優(yōu)化的用于深度學(xué)習(xí)推理的 FPGA IP。該推理 IP 已使用英特爾QuartusPrime 軟件成功集成到了英特爾 FPGA 中。與套件一起提供的設(shè)計(jì)示例也使團(tuán)隊(duì)能夠快速評(píng)估不同圖像源的不同算法。

●英特爾 FPGA AI 套件和 OpenVINO 工具包使數(shù)據(jù)科學(xué)家和 FPGA 工程師能夠無縫協(xié)作,為醫(yī)療應(yīng)用開發(fā)更好的深度學(xué)習(xí)推理模型。

您可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件開發(fā)推理系統(tǒng),服務(wù)于從 DL 增強(qiáng)型嵌入式系統(tǒng)一直到在多個(gè) FPGA 加速的服務(wù)器上運(yùn)行的高級(jí)數(shù)據(jù)中心應(yīng)用工作負(fù)載。

如果您想開發(fā)用于檢測、分類、分割或相關(guān)任務(wù)的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特爾 FPGA AI 套件來實(shí)現(xiàn);如果您想在使用 FPGA 編碼或解碼視頻或者在處理計(jì)算機(jī)視覺圖像的同時(shí)有效傳輸視頻流,也可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件??梢哉f,F(xiàn)PGA 特別適合這種預(yù)處理和后處理。

如果您沒有自己的推理模型供訓(xùn)練使用,但又迫不及待地想涉足深度學(xué)習(xí)領(lǐng)域,可以利用英特爾 分發(fā)版 OpenVINO 工具包,因?yàn)楣ぞ甙杏忻嫦驈V泛使用的神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練推理模型,您可以先從這些模型入手。

圖1 顯示的是基于這套工具的推理系統(tǒng)開發(fā)流程。

953d69ca-1928-11ed-ba43-dac502259ad0.png

圖1 英特爾 FPGA AI 套件開發(fā)流程

英特爾 FPGA AI 套件目前可支持英特爾 Agilex FPGA、英特爾 Cyclone 10 GX FPGA 和英特爾 Arria 10 FPGA,并提供了未來支持更多英特爾 FPGA 的路線圖。當(dāng)然,這些工具背后還有很多英特爾的在線支持。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • FPGA
    +關(guān)注

    關(guān)注

    1629

    文章

    21729

    瀏覽量

    602986
  • 英特爾
    +關(guān)注

    關(guān)注

    61

    文章

    9949

    瀏覽量

    171692
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8406

    瀏覽量

    132561

原文標(biāo)題:解析丨英特爾? FPGA AI 套件搭配?OpenVINO? 工具包,助力創(chuàng)建異構(gòu)推理系統(tǒng)

文章出處:【微信號(hào):英特爾FPGA,微信公眾號(hào):英特爾FPGA】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    使用英特爾哪吒開發(fā)套件部署YOLOv5完成透明物體目標(biāo)檢測

    英特爾的哪吒(Nezha)開發(fā)套件是一款專為邊緣AI和物聯(lián)網(wǎng)應(yīng)用設(shè)計(jì)的高性能計(jì)算平臺(tái),搭載了英特爾 N97處理器、內(nèi)置英特爾 UHD Gra
    的頭像 發(fā)表于 11-25 17:15 ?211次閱讀
    使用<b class='flag-5'>英特爾</b>哪吒開發(fā)<b class='flag-5'>套件</b>部署YOLOv5完成透明物體目標(biāo)檢測

    英特爾CEO:AI時(shí)代英特爾動(dòng)力不減

    英特爾CEO帕特·基辛格堅(jiān)信,在AI技術(shù)的飛速發(fā)展之下,英特爾的處理器仍能保持其核心地位?;粮窆_表示,摩爾定律仍然有效,而英特爾在處理器和芯片技術(shù)上的創(chuàng)新能力將持續(xù)驅(qū)動(dòng)公司前進(jìn)。
    的頭像 發(fā)表于 06-06 10:04 ?415次閱讀

    華擎推出AI QuickSet軟件,支持英特爾銳炫Arc A系列顯卡

    今日,華擎宣布將AI QuickSet軟件工具擴(kuò)展至英特爾銳炫Arc A系列顯卡,使其能夠便捷地安裝Stable Diffusion web UI OpenVINO,結(jié)合
    的頭像 發(fā)表于 05-11 10:58 ?636次閱讀

    簡單兩步使用OpenVINO?搞定Qwen2的量化與部署任務(wù)

    英特爾 OpenVINO? 工具套件是一款開源 AI 推理優(yōu)化部署的工具
    的頭像 發(fā)表于 04-26 09:39 ?1652次閱讀
    簡單兩步使用<b class='flag-5'>OpenVINO</b>?搞定Qwen2的量化與部署任務(wù)

    研揚(yáng)攜手英特爾,聯(lián)合舉辦創(chuàng)AI百城行(武漢站):用OpenVINO?賦能AI于邊緣計(jì)算平臺(tái)

    邊緣計(jì)算作為實(shí)現(xiàn)智能化、高效化數(shù)據(jù)處理的關(guān)鍵技術(shù),日益受到業(yè)界的廣泛關(guān)注。為了進(jìn)一步推動(dòng)AI邊緣計(jì)算技術(shù)的發(fā)展與應(yīng)用,3月27日研揚(yáng)科技與英特爾在武漢共同舉辦了以“用OpenVINO賦能AI
    的頭像 發(fā)表于 04-04 08:05 ?248次閱讀
    研揚(yáng)攜手<b class='flag-5'>英特爾</b>,聯(lián)合舉辦創(chuàng)<b class='flag-5'>AI</b>百城行(武漢站):用<b class='flag-5'>OpenVINO</b>?賦能<b class='flag-5'>AI</b>于邊緣計(jì)算平臺(tái)

    簡單三步使用OpenVINO?搞定ChatGLM3的本地部署

    英特爾 OpenVINO? 工具套件是一款開源 AI 推理優(yōu)化部署的工具
    的頭像 發(fā)表于 04-03 18:18 ?2046次閱讀
    簡單三步使用<b class='flag-5'>OpenVINO</b>?搞定ChatGLM3的本地部署

    英特爾澎湃動(dòng)力驅(qū)動(dòng)商用AI PC,打造AI+時(shí)代的新質(zhì)生產(chǎn)工具

    近日,英特爾舉辦了“2024全新英特爾商用客戶端AI PC產(chǎn)品發(fā)布會(huì)”,將基于英特爾酷睿Ultra處理器的AI特性延展到商用領(lǐng)域,帶來商用電
    的頭像 發(fā)表于 04-02 10:12 ?437次閱讀

    英特爾宣布AI PC加速計(jì)劃新增兩項(xiàng)AI舉措

    首先,“AI PC 開發(fā)者計(jì)劃”面向軟件研發(fā)人員和獨(dú)立軟件開發(fā)商,為他們提供便捷的開發(fā)環(huán)境,助力加速大規(guī)模運(yùn)用新型 AI技術(shù)。此計(jì)劃包含一系列全面的工具、優(yōu)化工作流方案、AI 部署框架
    的頭像 發(fā)表于 03-27 16:03 ?376次閱讀

    為何高端FPGA都非常重視軟件

    和實(shí)際工作負(fù)載調(diào)配變得更加簡單和快捷。 英特爾通過OpenVINO工具包英特爾發(fā)行版向AI開發(fā)人員的One API采用了類似的方法(實(shí)
    發(fā)表于 03-23 16:48

    【轉(zhuǎn)載】英特爾開發(fā)套件“哪吒”快速部署YoloV8 on Java | 開發(fā)者實(shí)戰(zhàn)

    OpenVINO 工具套件基于OneAPI開發(fā),可以加快高性能計(jì)算機(jī)視覺和深度學(xué)習(xí)應(yīng)用開發(fā)速度的工具套件,適用于從邊緣到云的各種
    的頭像 發(fā)表于 03-23 08:05 ?551次閱讀
    【轉(zhuǎn)載】<b class='flag-5'>英特爾</b>開發(fā)<b class='flag-5'>套件</b>“哪吒”快速部署YoloV8 on Java | 開發(fā)者實(shí)戰(zhàn)

    基于英特爾哪吒開發(fā)者套件平臺(tái)來快速部署OpenVINO Java實(shí)戰(zhàn)

    OpenVINO 工具套件基于OneAPI開發(fā),可以加快高性能計(jì)算機(jī)視覺和深度學(xué)習(xí)應(yīng)用開發(fā)速度的工具套件,適用于從邊緣到云的各種
    的頭像 發(fā)表于 03-21 18:24 ?1473次閱讀
    基于<b class='flag-5'>英特爾</b>哪吒開發(fā)者<b class='flag-5'>套件</b>平臺(tái)來快速部署<b class='flag-5'>OpenVINO</b> Java實(shí)戰(zhàn)

    英特爾酷睿Ultra通過全新英特爾vPro平臺(tái)將AI PC惠及企業(yè)

    近日,英特爾在2024年世界移動(dòng)通信大會(huì)(MWC 2024)上宣布,全新英特爾?vPro?平臺(tái)將AI PC的優(yōu)勢惠及商用客戶。
    的頭像 發(fā)表于 03-18 15:07 ?509次閱讀

    英特爾旗下FPGA公司Altera正式亮相

    日前,英特爾 FPGA Vision線上直播中發(fā)布,將英特爾編程解決方案事業(yè)部 (PSG) 作為獨(dú)立的FPGA公司——Altera。
    的頭像 發(fā)表于 03-18 14:11 ?552次閱讀

    英特爾成立全新獨(dú)立運(yùn)營的FPGA公司Altera

    近日,英特爾宣布成立全新的獨(dú)立運(yùn)營的FPGA(現(xiàn)場可編程門陣列)公司——Altera,此舉標(biāo)志著英特爾FPGA領(lǐng)域的進(jìn)一步深耕和戰(zhàn)略布局。在FPG
    的頭像 發(fā)表于 03-11 10:07 ?584次閱讀

    英特爾首推面向AI時(shí)代的系統(tǒng)級(jí)代工—英特爾代工

    英特爾首推面向AI時(shí)代的系統(tǒng)級(jí)代工——英特爾代工(Intel Foundry),在技術(shù)、韌性和可持續(xù)性方面均處于領(lǐng)先地位。
    的頭像 發(fā)表于 02-25 10:38 ?539次閱讀
    <b class='flag-5'>英特爾</b>首推面向<b class='flag-5'>AI</b>時(shí)代的系統(tǒng)級(jí)代工—<b class='flag-5'>英特爾</b>代工
    RM新时代网站-首页