RM新时代网站-首页

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

國產深度學習框架的挑戰(zhàn)和機會

Carol Li ? 來源:電子發(fā)燒友網 ? 作者:李彎彎 ? 2022-06-07 00:01 ? 次閱讀

電子發(fā)燒友網報道(文/李彎彎)深度學習框架是一種底層開發(fā)工具,是集深度學習核心訓練和推理框架、基礎模型庫、端到端開發(fā)套件、豐富的工具組件于一體的平臺。

有了深度學習框架,工程師在工作時調試算法,就可以更快速、更高效。通俗一點講,深度學習框架相當于是AI時代的操作系統,如同PC時代Windows,移動互聯網時代的iOS和安卓。

國內外都有哪些深度學習框架

深度學習框架的歷史并不算長,從2010年誕生的Theano算起,至今不過十二年時間。2017年后,早期的Theano、Caffe、Torch等框架逐漸銷聲匿跡,2016年前后出現的TensorFlow、PyTorch、飛槳逐漸占據市場。


TensorFlow由谷歌人工智能團隊谷歌大腦開發(fā),擁有包括TensorFlow Hub、TensorFlow Lite、TensorFlow Research Cloud在內的多個項目以及各類應用程序接口。自2015年11月9日起,TensorFlow依據阿帕奇授權協議(Apache 2.0 open source license)開放源代碼。

PyTorch于2017年由Facebook人工智能研究院(FAIR)基于Torch推出,它是一個基于Python的可續(xù)計算包,提供兩個高級功能:1、具有強大的GPU加速的張量計算(如NumPy);2、包含自動求導系統的深度神經網絡

飛槳(PaddlePaddle)以百度多年的深度學習技術研究和業(yè)務應用為基礎,集深度學習核心訓練和推理框架、基礎模型庫、端到端開發(fā)套件、豐富的工具組件于一體,是中國首個自主研發(fā)、功能完備、開源開放的產業(yè)級深度學習平臺。

根據調研機構IDC公布的一份中國深度學習框架平臺市場份額的報告,在中國深度學習領域,百度飛槳綜合市場份額已經成為中國第一。截至2022年5月,飛槳已經凝聚477萬開發(fā)者,創(chuàng)造56萬個AI模型,服務18萬企事業(yè)單位,與產學研用協同培養(yǎng)超過200萬AI人才。

從目前市場占有情況看,產業(yè)界以TensorFlow為主,學術界以PyTorch為主。與TensorFlow過于注重工業(yè),PyTorch專注學界不同,飛槳的特性在于工業(yè)學界兩手抓,通過動態(tài)圖自動解析編譯靜態(tài)圖的技術,兼顧了學界的靈活,同時也實現了產業(yè)界希望的高效。

除了TensorFlow、PyTorch、飛槳,深度學習框架還包括由Amazon設計研發(fā)并開源MXNet、微軟在github上開源的CNTK、華為推出的MindSpore、北京一流科技有限公司開發(fā)的OneFlow,以及清華大學自研Jittor,和騰訊、字節(jié)跳動、360開源的Angel、BytePS、TensorNet。

國產深度學習框架框架的挑戰(zhàn)

深度學習框架是智能時代的操作系統,它和芯片一起共同構成了人工智能的基礎設施,深度學習框架的重要性不亞于芯片。在“十四五”規(guī)劃中,深度學習框架被列入“新一代人工智能”領域,成為國家重點支持的前沿創(chuàng)新技術。

如今以百度飛槳為代表,我國深度學習平臺已經沖破國外技術壟斷,越來越多的開發(fā)者正基于國產深度學習平臺開展智能化轉型應用。不過,中國自研深度學習框架想要在國際競爭中取得領先,還有很長的路要走。

百度AI技術生態(tài)總經理馬艷軍此前在百度AI開放日活動上表示,當前中國深度學習框架的發(fā)展仍需突破三大關鍵點:技術實力、功能體驗、生態(tài)規(guī)模。

首先,技術創(chuàng)新方面,深度學習框架的研發(fā)需要人工智能領域底層技術人才,我國在這一領域的儲備仍有不足。其次,在應用體驗方面,由于中國是全球產業(yè)鏈最為完備的國家,產業(yè)體系復雜,中小企業(yè)轉型需求迫在眉睫,一個低門檻甚至零門檻的開發(fā)平臺極為重要。

在開發(fā)應用生態(tài)方面,深度學習是一個典型的共創(chuàng)型技術領域,只有構建了自己的生態(tài)才能實現持續(xù)迭代和發(fā)展。然而構建生態(tài)周期長、成本高,而且只有當國產框架的技術和功能體驗足以滿足開發(fā)者的需求時,才有機會培育起自主創(chuàng)新的AI開發(fā)應用生態(tài)。

日前華為公司中央軟件院架構與設計管理部部長,華為科學家與昇思MindSpore首席架構師金雪鋒在某活動上也談到“AI框架的挑戰(zhàn)”相關的話題。

他認為,在人工智能新基建時代,AI框架面臨這幾個挑戰(zhàn)和機會點:1、新的應用范式:模型復雜度指數級增長,大模型成為新生產方式,AI與傳統科學計算融合,有望催生革命性成果。2、新的計算架構:計算量指數增長,通用芯片向領域高效能芯片轉變,雙碳經濟下,分散低效的算力向集約高效算力演進。3、新的開發(fā)和部署方式:AI行業(yè)應用進入深水區(qū),融入生產系統是關鍵。


面對上述挑戰(zhàn)和機會點,華為昇思MindSpore進行了技術創(chuàng)新,比如面向新的應用范式,包括自動并行,原生大模型支持,即自動并行AI編譯器,通過編譯器進行復雜的多維混合并行策略的尋優(yōu),把算法和模型自動切分到集群上去執(zhí)行,既大大降低了大模型的開發(fā)門檻,又保證了多種并行策略的靈活組合使用。

總結

整體而言,在人工智能體系中,深度學習框架處于貫通上下的腰部位置,下接芯片、上承應用,是一個關鍵樞紐,是推動AI應用大規(guī)模落地的關鍵力量。因此對于企業(yè)來說,克服深度學習框架當前面臨的挑戰(zhàn),不斷進行技術創(chuàng)新,完善技術、功能和生態(tài)是關鍵。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • 操作系統
    +關注

    關注

    37

    文章

    6801

    瀏覽量

    123283
  • AI
    AI
    +關注

    關注

    87

    文章

    30728

    瀏覽量

    268885
  • 推理
    +關注

    關注

    0

    文章

    8

    瀏覽量

    7268
收藏 人收藏

    評論

    相關推薦

    深度學習中RNN的優(yōu)勢與挑戰(zhàn)

    循環(huán)神經網絡(RNN)是深度學習領域中處理序列數據的基石。它們通過在每個時間步長上循環(huán)傳遞信息,使得網絡能夠捕捉時間序列數據中的長期依賴關系。然而,盡管RNN在某些任務上表現出色,它們也面臨著一些
    的頭像 發(fā)表于 11-15 09:55 ?315次閱讀

    FPGA做深度學習能走多遠?

    。 總之,FPGA 在深度學習領域具有很大的發(fā)展?jié)摿?b class='flag-5'>機會,但也面臨一些挑戰(zhàn)。隨著技術的不斷進步和市場的不斷發(fā)展,FPGA 在深度
    發(fā)表于 09-27 20:53

    MCT8316A-設計挑戰(zhàn)和解決方案應用說明

    電子發(fā)燒友網站提供《MCT8316A-設計挑戰(zhàn)和解決方案應用說明.pdf》資料免費下載
    發(fā)表于 09-13 09:52 ?0次下載
    MCT8316A-設計<b class='flag-5'>挑戰(zhàn)和</b>解決方案應用說明

    MCF8316A-設計挑戰(zhàn)和解決方案應用說明

    電子發(fā)燒友網站提供《MCF8316A-設計挑戰(zhàn)和解決方案應用說明.pdf》資料免費下載
    發(fā)表于 09-13 09:51 ?0次下載
    MCF8316A-設計<b class='flag-5'>挑戰(zhàn)和</b>解決方案應用說明

    TMCS110x 布局挑戰(zhàn)和最佳實踐

    電子發(fā)燒友網站提供《TMCS110x 布局挑戰(zhàn)和最佳實踐.pdf》資料免費下載
    發(fā)表于 09-12 09:23 ?0次下載
    TMCS110x 布局<b class='flag-5'>挑戰(zhàn)和</b>最佳實踐

    NVIDIA推出全新深度學習框架fVDB

    在 SIGGRAPH 上推出的全新深度學習框架可用于打造自動駕駛汽車、氣候科學和智慧城市的 AI 就緒型虛擬表示。
    的頭像 發(fā)表于 08-01 14:31 ?590次閱讀

    大模型發(fā)展下,國產GPU的機會挑戰(zhàn)

    電子發(fā)燒友網站提供《大模型發(fā)展下,國產GPU的機會挑戰(zhàn).pdf》資料免費下載
    發(fā)表于 07-18 15:44 ?10次下載
    大模型發(fā)展下,<b class='flag-5'>國產</b>GPU的<b class='flag-5'>機會</b>和<b class='flag-5'>挑戰(zhàn)</b>

    PyTorch深度學習開發(fā)環(huán)境搭建指南

    PyTorch作為一種流行的深度學習框架,其開發(fā)環(huán)境的搭建對于深度學習研究者和開發(fā)者來說至關重要。在Windows操作系統上搭建PyTorc
    的頭像 發(fā)表于 07-16 18:29 ?995次閱讀

    深度學習算法在嵌入式平臺上的部署

    隨著人工智能技術的飛速發(fā)展,深度學習算法在各個領域的應用日益廣泛。然而,將深度學習算法部署到資源受限的嵌入式平臺上,仍然是一個具有挑戰(zhàn)性的任
    的頭像 發(fā)表于 07-15 10:03 ?1328次閱讀

    基于深度學習的小目標檢測

    )的廣泛應用,小目標檢測的性能得到了顯著提升。本文將詳細探討基于深度學習的小目標檢測技術,包括其定義、挑戰(zhàn)、常用方法以及未來發(fā)展方向。
    的頭像 發(fā)表于 07-04 17:25 ?856次閱讀

    深度學習常用的Python庫

    深度學習常用的Python庫,包括核心庫、可視化工具、深度學習框架、自然語言處理庫以及數據抓取庫等,并詳細分析它們的功能和優(yōu)勢。
    的頭像 發(fā)表于 07-03 16:04 ?624次閱讀

    TensorFlow與PyTorch深度學習框架的比較與選擇

    深度學習作為人工智能領域的一個重要分支,在過去十年中取得了顯著的進展。在構建和訓練深度學習模型的過程中,深度
    的頭像 發(fā)表于 07-02 14:04 ?952次閱讀

    FPGA在深度學習應用中或將取代GPU

    基礎設施,人們仍然沒有定論。如果 Mipsology 成功完成了研究實驗,許多正受 GPU 折磨的 AI 開發(fā)者將從中受益。 GPU 深度學習面臨的挑戰(zhàn) 三維圖形是 GPU 擁有如此大的內存和計算能力
    發(fā)表于 03-21 15:19

    汽車網絡安全-挑戰(zhàn)和實踐指南

    汽車網絡安全-挑戰(zhàn)和實踐指南
    的頭像 發(fā)表于 02-19 16:37 ?530次閱讀
    汽車網絡安全-<b class='flag-5'>挑戰(zhàn)和</b>實踐指南

    PatchMatch MVS求解器中深度估計的挑戰(zhàn)性問題

    本文提出了一種全新的學習型PatchMatch MVS框架,DS-PMNet,并嵌入了DeformSampler。這個框架能夠以端到端的方式學習隱含
    的頭像 發(fā)表于 01-02 09:25 ?601次閱讀
    PatchMatch MVS求解器中<b class='flag-5'>深度</b>估計的<b class='flag-5'>挑戰(zhàn)</b>性問題
    RM新时代网站-首页