RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

部署在邊緣設備上的輕量級模型

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-11 00:17 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/李彎彎)邊緣AI算法是一種將人工智能(AI)算法和計算能力放置在接近數(shù)據(jù)源的終端設備中的策略。這種算法通常被部署在邊緣設備上,如傳感器智能手機、攝像頭等,以便在靠近數(shù)據(jù)源的地方進行智能決策和數(shù)據(jù)處理。

邊緣AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級模型

邊緣AI算法的工作原理涉及三個關(guān)鍵要素:終端設備、邊緣計算和人工智能算法。終端設備收集到的數(shù)據(jù)被認為是邊緣數(shù)據(jù),需要進行實時處理和分析。邊緣計算是指在距離數(shù)據(jù)源較近的地方進行計算和處理,而邊緣設備通常配備有一定的計算資源,能夠執(zhí)行一部分輕量級的AI算法和數(shù)據(jù)處理。在邊緣設備上運行的AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級模型,這些模型能夠在設備端進行實時的數(shù)據(jù)處理和分析,從而實現(xiàn)即時響應。

邊緣AI算法涵蓋了多種類型,如決策樹算法,這是一種常用的分類算法,能夠根據(jù)特征屬性將數(shù)據(jù)進行劃分,從而實現(xiàn)對數(shù)據(jù)的分類和預測。支持向量機(SVM)算法,這是一種針對分類和回歸分析問題的算法,它通過尋找最大間隔超平面來實現(xiàn)數(shù)據(jù)的分類和預測。

神經(jīng)網(wǎng)絡算法,它模擬了人腦神經(jīng)元的工作原理,能夠處理復雜的非線性關(guān)系,因此在圖像識別、語音識別等領(lǐng)域有著廣泛的應用。貝葉斯算法,這是一種基于貝葉斯定理的分類算法,它能夠根據(jù)先驗概率和樣本數(shù)據(jù)來計算后驗概率,從而實現(xiàn)對數(shù)據(jù)的分類和預測。

聚類算法,用于將數(shù)據(jù)集中的對象分成不同的組,常見的算法包括K均值算法、層次聚類算法等。回歸分析算法,用于建立變量之間的關(guān)系模型,從而進行預測和分析。

此外,還有監(jiān)督學習算法、無監(jiān)督學習算法、強化學習算法和深度學習算法等。監(jiān)督學習算法使用有標記數(shù)據(jù)集進行訓練,并通過這些數(shù)據(jù)中的輸入和輸出之間的關(guān)聯(lián)來構(gòu)建模型;無監(jiān)督學習算法則是使用無標記數(shù)據(jù)集進行訓練,通過發(fā)現(xiàn)數(shù)據(jù)之間的模式或結(jié)構(gòu)來構(gòu)建模型;強化學習算法則是通過在環(huán)境中執(zhí)行一系列操作來學習最優(yōu)策略的算法;深度學習算法則是一種基于神經(jīng)網(wǎng)絡模型的機器學習算法,通過多層次的神經(jīng)網(wǎng)絡結(jié)構(gòu)來模擬人腦的工作方式。
這些算法在邊緣AI中可以根據(jù)具體的應用場景進行選擇和組合,以實現(xiàn)對數(shù)據(jù)的分析、預測和決策支持。

邊緣AI算法適合應用于對實時性要求高、網(wǎng)絡連接有限的場景

邊緣AI算法的使用場景包括,實時性要求高的場景,例如自動駕駛汽車和無人駕駛系統(tǒng),這些系統(tǒng)需要實時處理大量的傳感器數(shù)據(jù)以進行道路分析和響應。邊緣AI算法能夠在設備端進行實時的數(shù)據(jù)處理和分析,實現(xiàn)即時響應,滿足自動駕駛系統(tǒng)對實時性的高要求。

網(wǎng)絡連接有限的場景,在一些偏遠地區(qū)或網(wǎng)絡覆蓋不足的地方,將數(shù)據(jù)全部傳輸?shù)皆贫诉M行處理可能不太現(xiàn)實。在這些場景中,邊緣AI算法可以在本地設備上進行數(shù)據(jù)處理和分析,減少了對網(wǎng)絡連接的依賴,保證了系統(tǒng)的穩(wěn)定性和可靠性。

隱私保護要求強的場景,對于一些涉及個人隱私的數(shù)據(jù),如醫(yī)療數(shù)據(jù)、金融數(shù)據(jù)等,將數(shù)據(jù)全部傳輸?shù)皆贫丝赡艽嬖谛孤讹L險。在這些場景中,將AI算法部署在邊緣設備上可以在本地對數(shù)據(jù)進行處理和分析,保護數(shù)據(jù)的隱私性。

在實際的應用落地方面,如智慧安防領(lǐng)域,云天勵飛通過部署在攝像頭等邊緣設備上的AI算法,實現(xiàn)了實時的人臉識別、行為分析等功能,為公安部門提供了有效的技術(shù)支持。在智能園區(qū)、智能樓宇等領(lǐng)域,云天勵飛也通過邊緣AI算法的應用,實現(xiàn)了能源管理、環(huán)境監(jiān)測等智能化功能。

曠視科技針對邊緣設備推出多種AI解決方案,包括邊緣計算智能分析盒、AIoT操作系統(tǒng)等。來支持在邊緣設備上實時運行復雜的AI算法,實現(xiàn)數(shù)據(jù)的快速處理和分析。同時,曠視科技還提供了全方位的服務,幫助用戶將算法應用于實際場景,并推廣到市場。

還有商湯科技,通過云智能邊緣盒龍騰邊緣計算的產(chǎn)品,為智能相機提供接入和解析能力,支持車、物、非機動車、行為等多種算法融合解析,算法自由調(diào)度,具備數(shù)據(jù)邊緣匯聚、邊緣解析、邊緣自治、云邊協(xié)同的能力。此外,商湯科技還通過標準化的大模型生產(chǎn)流程,支持了超過七成的行業(yè)業(yè)務,為市場提供了豐富的邊緣AI解決方案。

寫在最后

總的來說,邊緣AI算法部署在邊緣設備上,通常是經(jīng)過經(jīng)過優(yōu)化和壓縮的輕量級模型,這些模型能夠在設備端進行實時的數(shù)據(jù)處理和分析。邊緣AI算法適用于需要實時處理數(shù)據(jù)、網(wǎng)絡連接有限、隱私保護要求高的場景中,在工業(yè)制造、智能家居、城市管理、能源管理等方面都已經(jīng)得到應用。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268885
  • 邊緣AI
    +關(guān)注

    關(guān)注

    0

    文章

    93

    瀏覽量

    4990
收藏 人收藏

    評論

    相關(guān)推薦

    邊緣設備設計和部署深度神經(jīng)網(wǎng)絡的實用框架

    ,以及由強大而高效的軟件工具鏈補充的低成本邊緣設備的可用性。此外,需要避免通過網(wǎng)絡傳輸數(shù)據(jù)——無論是出于安全原因還是僅僅為了盡量減少通信成本。 邊緣人工智能涵蓋廣泛的設備、傳感器、微控
    的頭像 發(fā)表于 12-20 11:28 ?79次閱讀

    AI模型部署邊緣設備的奇妙之旅:目標檢測模型

    網(wǎng)絡(DenseNet)等創(chuàng)新設計都是為了克服深層網(wǎng)絡訓練中的挑戰(zhàn)而提出的。 3 邊緣設備部署 邊緣
    發(fā)表于 12-19 14:33

    AI模型部署邊緣設備的奇妙之旅:如何在邊緣部署OpenCV

    的能力。 本文章主要講述如何在邊緣設備使用OpenCV。本次使用的邊緣設備是凌智電子開發(fā)的凌智視覺模塊,具體如下: 如對該
    發(fā)表于 12-14 09:31

    AI模型部署邊緣設備的奇妙之旅:如何實現(xiàn)手寫數(shù)字識別

    處理,而不必傳輸?shù)酵獠糠掌鳎@有助于更好地保護用戶隱私和數(shù)據(jù)安全。 然而,邊緣計算也帶來了獨特的挑戰(zhàn),特別是資源受限的嵌入式系統(tǒng)中部署復雜的AI模型時。為了確保神經(jīng)網(wǎng)絡
    發(fā)表于 12-06 17:20

    恩智浦如何在邊緣設備部署LLM

    開放式聊天機器人到任務型助手。雖然LLM主要聚焦基于云和服務器端的應用,但人們對嵌入式系統(tǒng)和邊緣設備部署這些模型的興趣也
    的頭像 發(fā)表于 11-29 09:39 ?299次閱讀

    設備利用AI Edge Torch生成式API部署自定義大語言模型

    ,從而無縫地將新的設備端生成式 AI 模型部署邊緣設備。本文是 Google AI Edge
    的頭像 發(fā)表于 11-14 10:23 ?420次閱讀
    <b class='flag-5'>在</b><b class='flag-5'>設備</b><b class='flag-5'>上</b>利用AI Edge Torch生成式API<b class='flag-5'>部署</b>自定義大語言<b class='flag-5'>模型</b>

    邊緣計算 聚智創(chuàng)芯|edge BMC輕量級帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯海科技、極達科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級帶外管理edgeBMC解決方案新品發(fā)布會”。本次活動以“邊緣計算聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育、醫(yī)療
    的頭像 發(fā)表于 08-30 12:28 ?318次閱讀
    <b class='flag-5'>邊緣</b>計算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級</b>帶外管理解決方案重磅發(fā)布

    邊緣計算 聚智創(chuàng)芯|edge BMC輕量級帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯??萍?、極達科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級帶外管理edge BMC解決方案新品發(fā)布會”。本次活動以“邊緣計算 聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育
    發(fā)表于 08-29 14:55 ?905次閱讀
    <b class='flag-5'>邊緣</b>計算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級</b>帶外管理解決方案重磅發(fā)布

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    是面向單片機的超輕量級的神經(jīng)網(wǎng)絡推理庫,即 TinyML 推理庫,可以讓你在任意單片機上運行輕量級深度學習模型~ 開源地址:https://github.com/sipeed/TinyMaix搭建
    發(fā)表于 08-09 18:26

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    D9360國產(chǎn)開發(fā)板)的TinyMaxi輕量級的神經(jīng)網(wǎng)絡推理庫方案測試。 算力測試 TinyMaix 是面向單片機的超輕量級的神經(jīng)網(wǎng)絡推理庫,即 TinyML 推理庫,可以讓你在任意單片機上運行輕量級深度
    發(fā)表于 08-07 18:06

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    TinyMaix是面向單片機的超輕量級的神經(jīng)網(wǎng)絡推理庫,即TinyML推理庫,可以讓你在任意單片機上運行輕量級深度學習模型~開源地址:https://github.com/s
    的頭像 發(fā)表于 07-05 08:02 ?1865次閱讀
    國產(chǎn)芯<b class='flag-5'>上</b>運行TinyMaxi<b class='flag-5'>輕量級</b>的神經(jīng)網(wǎng)絡推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    百度智能云推出全新輕量級模型

    近日舉辦的百度智能云千帆產(chǎn)品發(fā)布會上,三款全新的輕量級模型——ERNIE Speed、ERNIE Lite以及ERNIE Tiny,引起了業(yè)界的廣泛關(guān)注。相較于傳統(tǒng)的千億級別參數(shù)大模型
    的頭像 發(fā)表于 03-22 10:28 ?660次閱讀

    百度智能云發(fā)布三款輕量級模型和兩款特定場景大模型

    百度智能云千帆產(chǎn)品發(fā)布會上震撼推出了一系列創(chuàng)新產(chǎn)品,其中包括三款輕量級模型:ERNIE Speed、ERNIE Lite和ERNIE Tiny,以及兩款專為特定場景打造的ERNIE
    的頭像 發(fā)表于 03-22 10:28 ?678次閱讀

    邊緣側(cè)部署模型優(yōu)勢多!模型量化解決邊緣設備資源限制問題

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)大模型邊緣部署是將大模型部署
    的頭像 發(fā)表于 01-05 00:06 ?3514次閱讀

    【愛芯派 Pro 開發(fā)板試用體驗】人體姿態(tài)估計模型部署前期準備

    速度也只是勉強實時。為了部署端側(cè),使用較低算力的設備,我們需要進一步將其輕量化,也就是lightweight openpose項目。這個主要針對Openpose模型做一些改進,參數(shù)量
    發(fā)表于 01-01 01:04
    RM新时代网站-首页