ONNX Runtime支持龍架構(gòu)，AI推理生態(tài)再添新翼
近日，備受矚目的AI推理框架開源社區(qū)ONNX Runtime宣布推出支持龍架構(gòu)的新版本1.17.0，這一里程碑式的更新意味著龍芯平臺上的AI推理應(yīng)用開發(fā)與部署將更加便捷。
ONNX Runtime（ORT）作為近年來興起的AI推理框架軟件，已逐漸成為眾多AI應(yīng)用的首選基礎(chǔ)推理引擎。此次更新不僅豐富了ORT的算力后端支持，更在軟件生態(tài)層面為龍架構(gòu)注入了新的活力。新版本將支持PyTorch、Tensorflow、TFLite等多種模型格式輸入，覆蓋CPU、GPU、IoT、NPU、FPGA等多樣化算力平臺，從而滿足各種復(fù)雜的AI推理需求。
此次ONNX Runtime對龍架構(gòu)的支持，無疑將進一步推動龍芯平臺在AI領(lǐng)域的應(yīng)用和發(fā)展，為開發(fā)者提供更加廣闊的創(chuàng)新空間。同時，這也標(biāo)志著龍架構(gòu)軟件生態(tài)正在不斷完善，為未來的AI技術(shù)革新奠定了堅實基礎(chǔ)。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
龍芯
+關(guān)注
關(guān)注
3文章
340瀏覽量
31244 -
AI
+關(guān)注
關(guān)注
87文章
30728瀏覽量
268882 -
開源
+關(guān)注
關(guān)注
3文章
3309瀏覽量
42471
發(fā)布評論請先 登錄
相關(guān)推薦
Alpine操作系統(tǒng)社區(qū)發(fā)布龍架構(gòu)版本
近日，開源軟件世界和云計算領(lǐng)域重要的操作系統(tǒng)發(fā)行版社區(qū)Alpine Linux正式發(fā)布3.21最新版本，以完整的系統(tǒng)形態(tài)實現(xiàn)對龍架構(gòu)的原生支持，將有力促進龍
AMD以49億美元收購ZT Systems，強化AI芯片競爭力
AMD在AI領(lǐng)域的雄心壯志再添新翼，近日宣布以49億美元巨資并購全球領(lǐng)先的超大規(guī)模計算AI基礎(chǔ)設(shè)施提供商ZT Systems。這一戰(zhàn)略舉措不
英偉達推出全新NVIDIA AI Foundry服務(wù)和NVIDIA NIM推理微服務(wù)
NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務(wù)和 NVIDIA NIM 推理微服務(wù)，與同樣剛推出的 Llama 3.1 系列開源模型一起，為全球企業(yè)的生成式 AI 提供強力
STM CUBE AI錯誤導(dǎo)入onnx模型報錯的原因？
使用cube-AI分析模型時報錯，該模型是pytorch的cnn轉(zhuǎn)化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發(fā)表于 05-27 07:15
進一步解讀英偉達 Blackwell 架構(gòu)、NVlink及GB200 超級芯片
成為處理萬億參數(shù)生成式AI模型的理想選擇。
NVL72 機架級系統(tǒng)支持萬億參數(shù) LLM 訓(xùn)練和實時推理
GB200 NVL72 的機架級設(shè)計，通過在單個 NVIDIA NVLink 域上連接 72 個
發(fā)表于 05-13 17:16
聯(lián)想小新Pro 2024 AI銳龍版支持7500MHz內(nèi)存與核顯性能提升
近日，聯(lián)想旗下的小新 Pro 2024 AI 銳龍版迎來了新的 OTA 升級，并支持高達 7500MHz 的內(nèi)存頻率（實測為 7467 MT/s）。
必易微再添新翼 必易微青島辦事處正式成立
必易微砥礪奮進，再添新翼！ 近日，必易微青島辦事處正式成立，是必易微在華東區(qū)域的又一重要戰(zhàn)略布局。 青島作為國家打造“一帶一路”國際合作新平臺的重點城市，將集成電路產(chǎn)業(yè)放在新興產(chǎn)業(yè)發(fā)展重要位置，匯集
開發(fā)者手機 AI - 目標(biāo)識別 demo
應(yīng)用的demo。
應(yīng)用程序通過相機進行預(yù)覽，對預(yù)覽畫面中的物體進行目標(biāo)識別，目前該應(yīng)用程序支持識別100種物體。
系統(tǒng)架構(gòu)
下圖為demo應(yīng)用以及Openharmony AI子系統(tǒng)的架構(gòu)
發(fā)表于 04-11 16:14
將yolov5s的模型轉(zhuǎn)成.onnx模型，進行cube-ai分析時報錯的原因？
報錯顯示張量不能大于四維的，想請教解決一下，我再此之后通過onnx-simplifier對.onnx進行簡化之后再通過cube-ai進行分
發(fā)表于 03-15 06:54
使用cube-AI分析模型時報錯的原因有哪些？
使用cube-AI分析模型時報錯，該模型是pytorch的cnn轉(zhuǎn)化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發(fā)表于 03-14 07:09
AI推理框架軟件ONNX Runtime正式支持龍架構(gòu)
近日，知名AI推理框架開源社區(qū)ONNX Runtime正式發(fā)布支持龍
微軟推出ONNX Runtime Web，利用WebGPU優(yōu)化瀏覽器機器學(xué)習(xí)性能
作為微軟的 JavaScript 庫，ONNX Runtime Web 使得網(wǎng)絡(luò)開發(fā)者能在瀏覽器環(huán)境下部署機器學(xué)習(xí)模型，并提供多種硬件加速的后端支持。
微軟推出DirectML 1.13.1和ONNX Runtime 1.17預(yù)覽版，支持英特爾
據(jù)稱，有了這項技術(shù)革新的推動力，微軟與英特爾緊密協(xié)作，更深入地與三星展開深度對話，共同致力于提高使用 DirectML 的AI相關(guān)應(yīng)用程序的處理效率。
工商網(wǎng)監(jiān)
評論