Art. Galaxy 是酷芯微電子為 AR 系列視覺 AI SoC 打造的 AI 解決方案,它包含運(yùn)行在 ARM Cortex-A 系列處理器、CEVA DSP、NPU 等多個(gè)硬件處理單元上的板端 AI Run-time 軟件以及 PC 端 Art. Studio 集成開發(fā)環(huán)境,是具備模型量化、模型編譯、協(xié)同仿真和模型部署四大功能的一站式解決方案。
模型量化
Art. Galaxy 支持 Onnx, Caffe, TensorFlow, Pytorch 等主流 AI 框架,用戶可采用基于 Art. Studio 圖形化界面,將離線訓(xùn)練好的浮點(diǎn)模型量化為可在板端直接運(yùn)行的定點(diǎn)模型,并采用圖優(yōu)化策略達(dá)到性能優(yōu)化目的。
模型編譯
NPU compiler 是集成在 Art. Studio 中用于轉(zhuǎn)換用戶訓(xùn)練后網(wǎng)絡(luò)模型的工具。用戶訓(xùn)練好的網(wǎng)絡(luò)模型經(jīng)過 NPU compiler 處理后會(huì)轉(zhuǎn)成 Art. Studio 私有格式,在 PC(Linux)仿真或者上板 run-time 加載執(zhí)行。
協(xié)同仿真
Art. Galaxy 還為算法部署提供前向推理仿真,可在工具鏈端對量化精度及上板性能進(jìn)行仿真和測試,減少上板調(diào)試過程。
方案商在批量導(dǎo)入前就能獲悉基于 AR 系列可實(shí)現(xiàn)的網(wǎng)絡(luò)性能、DDR 帶寬、內(nèi)存、量化精度等關(guān)鍵性能參數(shù)指標(biāo)值,再通過優(yōu)化迭代達(dá)到理想效果,確保算法遷移后,成品可實(shí)現(xiàn)的運(yùn)算速度和精度都能達(dá)到預(yù)期值。
模型部署
SDK 開發(fā)工具包提供了常用主流網(wǎng)絡(luò)的 AI demo,支持客戶快速部署自己的 AI 應(yīng)用。
Linux ARM 包含一個(gè)神經(jīng)網(wǎng)絡(luò)硬件加速器(NPU),除 Kernel 、Driver 等基本功能外,提供 Artosyn AI low-level API、Vision AI Run-time API 及 Vision AI Application 等功能。
RTOS DSP 主要負(fù)責(zé) DCNN/CV 等圖像處理基本操作。
據(jù)了解,Art. Galaxy 已服務(wù) 20 余家行業(yè)頭部客戶,覆蓋智能安防、智能車載、熱成像、無線圖傳、無人機(jī)、機(jī)器人、運(yùn)動(dòng)相機(jī)等領(lǐng)域。
來自客戶的反饋
酷芯 Art. Studio 交互界面非常易用,不同于很多平臺(tái)只有命令行的方式
不需要開發(fā)板就能提前在工具鏈模擬上板情況,而且仿真性能和上板部署基本一致
仿真出來的信息很齊全,不僅是一般的耗時(shí)統(tǒng)計(jì)和誤差分析,還有帶寬統(tǒng)計(jì)和內(nèi)存
酷芯 AI 工具鏈團(tuán)隊(duì)還將不斷更新和優(yōu)化程序,增加對其他框架的支持,使開發(fā)人員能夠更輕松地集成其他軟件與服務(wù),支持客戶快速根據(jù)業(yè)務(wù)場景需求完成產(chǎn)品的設(shè)計(jì)、開發(fā)、生產(chǎn)和后續(xù)迭代。
關(guān)于酷芯微電子
合肥酷芯微電子有限公司成立于2011年7月,致力于成為全球智能芯片領(lǐng)導(dǎo)者??偛课挥诤戏矢咝聟^(qū),并在上海、成都、深圳等多地開設(shè)分、子公司。公司依托通信、端側(cè)AI芯片及其解決方案賦能產(chǎn)業(yè)智能升級(jí)。產(chǎn)品主要應(yīng)用于無線通信、機(jī)器人、紅外熱成像、自動(dòng)駕駛等多個(gè)領(lǐng)域。
審核編輯:湯梓紅
-
處理器
+關(guān)注
關(guān)注
68文章
19259瀏覽量
229651 -
soc
+關(guān)注
關(guān)注
38文章
4161瀏覽量
218162 -
AI
+關(guān)注
關(guān)注
87文章
30728瀏覽量
268886 -
酷芯
+關(guān)注
關(guān)注
0文章
12瀏覽量
3761
原文標(biāo)題:芯技術(shù) | 酷芯AI工具鏈:打造高效、靈活的AI解決方案
文章出處:【微信號(hào):酷芯微電子,微信公眾號(hào):酷芯微電子】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論