在未來十年，我們將見證大多數(shù)經(jīng)典計(jì)算向邊緣轉(zhuǎn)移，為機(jī)器人、無人機(jī)、汽車、醫(yī)療保健和制造以及其他重要行業(yè)的突破性創(chuàng)新注入活力。盡管許多組織都明白追求機(jī)器學(xué)習(xí)和人工智能是保持競爭力的必要條件，但隨著這場邊緣創(chuàng)新競賽的展開，利用人工智能力量的旅程面臨著巨大的挑戰(zhàn)。SiMa.ai是一家機(jī)器學(xué)習(xí)公司，專門構(gòu)建了任何公司入門和擴(kuò)展邊緣人工智能和計(jì)算機(jī)視覺所需的硬件和軟件平臺(tái)。

Edge ML的崛起

人工智能創(chuàng)新并不局限于數(shù)據(jù)中心或智能手機(jī)，但半導(dǎo)體行業(yè)還沒有創(chuàng)造出高效驅(qū)動(dòng)兩者之間一切的技術(shù)。將生成式AI、LLM和視覺變壓器擴(kuò)展到物聯(lián)網(wǎng)、工業(yè)物聯(lián)網(wǎng)、安全、國防、汽車以及智能手機(jī)和數(shù)據(jù)中心之間的任何機(jī)器，需要一種新的外形規(guī)格，其中硬件和軟件經(jīng)過優(yōu)化以提高性能并節(jié)省能源，從而滿足邊緣要求。

云雖然是許多人工智能應(yīng)用程序的寶貴工具，但在提供實(shí)時(shí)人工智能和人工智能功能方面存在不足。該行業(yè)現(xiàn)在正試圖將為數(shù)據(jù)中心、個(gè)人計(jì)算和手機(jī)制造的相同芯片應(yīng)用于從自動(dòng)駕駛汽車到智能制造、機(jī)器人技術(shù)到無人機(jī)送貨的所有領(lǐng)域。這些芯片從來不是為這些使用場景設(shè)計(jì)的，也不是為了在邊緣或低功耗設(shè)備的限制下運(yùn)行如此龐大的算法。為了實(shí)現(xiàn)創(chuàng)新者正在努力實(shí)現(xiàn)的智能汽車和機(jī)器人助手的未來，必須并行設(shè)計(jì)軟件和硬件，以優(yōu)化低延遲，而距離其運(yùn)行的技術(shù)數(shù)英里遠(yuǎn)的云倉庫根本無法承諾這一點(diǎn)。

想象一下生產(chǎn)線上的機(jī)器人技術(shù)，以前，運(yùn)輸傳送帶上的產(chǎn)品未對準(zhǔn)會(huì)使生產(chǎn)線出現(xiàn)故障，現(xiàn)在可以優(yōu)化和處理任何配置。這是實(shí)時(shí)推斷?；蛘咭患以谟腥毕莸漠a(chǎn)品上浪費(fèi)供應(yīng)和資源的消費(fèi)品公司，現(xiàn)在可以在運(yùn)送數(shù)百萬美元無法實(shí)現(xiàn)收入的產(chǎn)品之前確定質(zhì)量控制問題的確切點(diǎn)?；蛘吒悄艿尼t(yī)療設(shè)備，幫助識別潛在疾病并補(bǔ)充醫(yī)生的即時(shí)診斷能力。在所有這些情況下，都沒有在云延遲上花費(fèi)時(shí)間的空間。

邊緣的關(guān)鍵真實(shí)生活ML應(yīng)用要求實(shí)時(shí)推理；傳統(tǒng)的基于云的方法無法滿足邊緣的延遲限制。人類生活在邊緣，這只是人工智能如何改變?nèi)粘C(jī)器的開始。

嵌入式邊緣的新ML性能標(biāo)準(zhǔn)

為了實(shí)現(xiàn)edge ML的潛力，組織需要配備一種全新的方法，使機(jī)器和設(shè)備具有現(xiàn)實(shí)環(huán)境的視覺、速度、效率和推理能力。SiMa.ai是 m阿奇內(nèi)l盈利公司為邊緣產(chǎn)品提供專門構(gòu)建的解決方案，并為其設(shè)定新的性能和效率標(biāo)準(zhǔn)。該公司成立的前提是通過一鍵體驗(yàn)將性能功耗比提高10倍，從而解決任何計(jì)算機(jī)視覺應(yīng)用挑戰(zhàn)。

在性能和能效都至關(guān)重要的邊緣人工智能領(lǐng)域，最突出的指標(biāo)是FPS/瓦特。這個(gè)指標(biāo)不僅僅是一個(gè)數(shù)字；這是一個(gè)關(guān)鍵指標(biāo)，表明系統(tǒng)每瓦耗電量可以處理多少幀。這對于邊緣人工智能工作負(fù)載至關(guān)重要，因?yàn)槟茉聪拗仆ǔ?huì)帶來重大挑戰(zhàn)。SiMa.ai專門構(gòu)建的MLSoc是SiMa成功實(shí)現(xiàn)無與倫比的電源效率的關(guān)鍵。SiMa.ai經(jīng)過精密設(shè)計(jì)，在不影響性能的情況下針對低功耗進(jìn)行了優(yōu)化。這不僅僅是做更多的事情；它是關(guān)于用更少的資源做更多的事情—更少的能源、更低的成本和更少的環(huán)境影響。SiMa.ai專注于電源效率以滿足客戶的需求，客戶越來越關(guān)注可持續(xù)、高效和高性能的計(jì)算。

在客戶測試中，SiMa在FPS/功耗方面始終優(yōu)于傳統(tǒng)競爭對手的解決方案，并在2023年ML Perf基準(zhǔn)測試中獲得了封閉邊緣功耗類別的最高分?jǐn)?shù)，這兩項(xiàng)測試均于4月舉行（參見:SiMa.ai贏得MLPerf封閉邊緣ResNet50基準(zhǔn)測試，超越行業(yè)ML領(lǐng)導(dǎo)者）和八月（見:開辟新天地:SiMa.ai在MLPerf基準(zhǔn)測試中的空前進(jìn)步）今年的。

SiMa.ai的ML Perf基準(zhǔn)測試評級有力地證明了SiMa.ai對卓越性能和電源效率的堅(jiān)定承諾，驗(yàn)證了SiMa.ai MLSoc提供軟件用戶體驗(yàn)的能力SiMa.ai調(diào)色板?這很容易“按下按鈕”。

在邊緣簡化計(jì)算，無需代碼ML

SiMa.ai調(diào)色板軟件專為完整的ML堆棧應(yīng)用程序開發(fā)而設(shè)計(jì)。該平臺(tái)支持客戶計(jì)劃在邊緣上部署的任何ML工作流，而不會(huì)影響性能和易用性。調(diào)色板邊緣是SiMa.ai的Palette軟件平臺(tái)的可視化擴(kuò)展，是一個(gè)新的基于瀏覽器的開發(fā)環(huán)境，可供任何希望在邊緣免費(fèi)創(chuàng)建、評估和微調(diào)ML應(yīng)用程序的組織使用。

調(diào)色板邊緣支持“拖放式”無代碼方法，用戶可以在幾分鐘內(nèi)（而不是幾個(gè)月內(nèi)）自動(dòng)創(chuàng)建、構(gòu)建和部署自己的模型并完成計(jì)算機(jī)視覺管道，同時(shí)實(shí)時(shí)評估其edge ML應(yīng)用的性能和功耗需求。使用Palette Edgematic開發(fā)的ML應(yīng)用程序以后可以通過購買SiMa開發(fā)人員或生產(chǎn)板.

來自SiMa.ai的調(diào)色板Edgematic

借助Palette Edgematic，任何具有計(jì)算機(jī)視覺管道概念的人都可以直接在邊緣設(shè)備上進(jìn)行評估，而無需在云中進(jìn)行中間模擬，從而提供了在邊緣實(shí)現(xiàn)的直接途徑。使用Palette Edgematic，開發(fā)人員可以:

在幾分鐘內(nèi)快速原型化和評估邊緣設(shè)備上的ML管線；

使用實(shí)時(shí)數(shù)據(jù)流來衡量KPI，然后使用調(diào)色板Edgematic new visual canvas快速迭代設(shè)計(jì)以提高管道性能，從而消除了edge ML實(shí)現(xiàn)的專門嵌入式編碼轉(zhuǎn)換；

利用Palette的自動(dòng)構(gòu)建功能，只需按一下按鈕即可將管道的可視化表示轉(zhuǎn)換為可執(zhí)行代碼；

在短短五分鐘內(nèi)將ML管道轉(zhuǎn)換為可演示的概念證明，從而加快概念的生產(chǎn)部署并縮短上市時(shí)間。

Palette Edgematic的初始版本由SiMa.ai MLSoC遠(yuǎn)程提供支持，可提供基于GUI的視覺體驗(yàn)來評估五個(gè)優(yōu)化的管道和40個(gè)不同的模型，涵蓋對象檢測、跟蹤、分類、語義分割和實(shí)例分割用例。

Palette Edgematic使任何個(gè)人、開發(fā)人員或組織能夠在幾分鐘內(nèi)而不是幾個(gè)月內(nèi)創(chuàng)建生產(chǎn)就緒的ML應(yīng)用程序-使他們擺脫在邊緣執(zhí)行ML的復(fù)雜性、如何開始的不確定性以及如何為其產(chǎn)品或服務(wù)提供人工智能的焦慮。

隨著Palette Edgematic的推出，SiMa.ai現(xiàn)在比以往任何時(shí)候都更像是一家構(gòu)建自己芯片的軟件公司，將ML的潛力放在每個(gè)人、其客戶、合作伙伴和ML社區(qū)的手中。

使用SiMa.ai在5分鐘內(nèi)構(gòu)建您的計(jì)算機(jī)視覺ML應(yīng)用程序調(diào)色板邊緣今天。

審核編輯 黃宇