電子發(fā)燒友網報道(文/李彎彎)深度學習框架是一種底層開發(fā)工具,是集深度學習核心訓練和推理框架、基礎模型庫、端到端開發(fā)套件、豐富的工具組件于一體的平臺。
有了深度學習框架,工程師在工作時調試算法,就可以更快速、更高效。通俗一點講,深度學習框架相當于是AI時代的操作系統,如同PC時代Windows,移動互聯網時代的iOS和安卓。
國內外都有哪些深度學習框架
深度學習框架的歷史并不算長,從2010年誕生的Theano算起,至今不過十二年時間。2017年后,早期的Theano、Caffe、Torch等框架逐漸銷聲匿跡,2016年前后出現的TensorFlow、PyTorch、飛槳逐漸占據市場。
TensorFlow由谷歌人工智能團隊谷歌大腦開發(fā),擁有包括TensorFlow Hub、TensorFlow Lite、TensorFlow Research Cloud在內的多個項目以及各類應用程序接口。自2015年11月9日起,TensorFlow依據阿帕奇授權協議(Apache 2.0 open source license)開放源代碼。
PyTorch于2017年由Facebook人工智能研究院(FAIR)基于Torch推出,它是一個基于Python的可續(xù)計算包,提供兩個高級功能:1、具有強大的GPU加速的張量計算(如NumPy);2、包含自動求導系統的深度神經網絡。
飛槳(PaddlePaddle)以百度多年的深度學習技術研究和業(yè)務應用為基礎,集深度學習核心訓練和推理框架、基礎模型庫、端到端開發(fā)套件、豐富的工具組件于一體,是中國首個自主研發(fā)、功能完備、開源開放的產業(yè)級深度學習平臺。
根據調研機構IDC公布的一份中國深度學習框架平臺市場份額的報告,在中國深度學習領域,百度飛槳綜合市場份額已經成為中國第一。截至2022年5月,飛槳已經凝聚477萬開發(fā)者,創(chuàng)造56萬個AI模型,服務18萬企事業(yè)單位,與產學研用協同培養(yǎng)超過200萬AI人才。
從目前市場占有情況看,產業(yè)界以TensorFlow為主,學術界以PyTorch為主。與TensorFlow過于注重工業(yè),PyTorch專注學界不同,飛槳的特性在于工業(yè)學界兩手抓,通過動態(tài)圖自動解析編譯靜態(tài)圖的技術,兼顧了學界的靈活,同時也實現了產業(yè)界希望的高效。
除了TensorFlow、PyTorch、飛槳,深度學習框架還包括由Amazon設計研發(fā)并開源MXNet、微軟在github上開源的CNTK、華為推出的MindSpore、北京一流科技有限公司開發(fā)的OneFlow,以及清華大學自研Jittor,和騰訊、字節(jié)跳動、360開源的Angel、BytePS、TensorNet。
國產深度學習框架框架的挑戰(zhàn)
深度學習框架是智能時代的操作系統,它和芯片一起共同構成了人工智能的基礎設施,深度學習框架的重要性不亞于芯片。在“十四五”規(guī)劃中,深度學習框架被列入“新一代人工智能”領域,成為國家重點支持的前沿創(chuàng)新技術。
如今以百度飛槳為代表,我國深度學習平臺已經沖破國外技術壟斷,越來越多的開發(fā)者正基于國產深度學習平臺開展智能化轉型應用。不過,中國自研深度學習框架想要在國際競爭中取得領先,還有很長的路要走。
百度AI技術生態(tài)總經理馬艷軍此前在百度AI開放日活動上表示,當前中國深度學習框架的發(fā)展仍需突破三大關鍵點:技術實力、功能體驗、生態(tài)規(guī)模。
首先,技術創(chuàng)新方面,深度學習框架的研發(fā)需要人工智能領域底層技術人才,我國在這一領域的儲備仍有不足。其次,在應用體驗方面,由于中國是全球產業(yè)鏈最為完備的國家,產業(yè)體系復雜,中小企業(yè)轉型需求迫在眉睫,一個低門檻甚至零門檻的開發(fā)平臺極為重要。
在開發(fā)應用生態(tài)方面,深度學習是一個典型的共創(chuàng)型技術領域,只有構建了自己的生態(tài)才能實現持續(xù)迭代和發(fā)展。然而構建生態(tài)周期長、成本高,而且只有當國產框架的技術和功能體驗足以滿足開發(fā)者的需求時,才有機會培育起自主創(chuàng)新的AI開發(fā)應用生態(tài)。
日前華為公司中央軟件院架構與設計管理部部長,華為科學家與昇思MindSpore首席架構師金雪鋒在某活動上也談到“AI框架的挑戰(zhàn)”相關的話題。
他認為,在人工智能新基建時代,AI框架面臨這幾個挑戰(zhàn)和機會點:1、新的應用范式:模型復雜度指數級增長,大模型成為新生產方式,AI與傳統科學計算融合,有望催生革命性成果。2、新的計算架構:計算量指數增長,通用芯片向領域高效能芯片轉變,雙碳經濟下,分散低效的算力向集約高效算力演進。3、新的開發(fā)和部署方式:AI行業(yè)應用進入深水區(qū),融入生產系統是關鍵。
面對上述挑戰(zhàn)和機會點,華為昇思MindSpore進行了技術創(chuàng)新,比如面向新的應用范式,包括自動并行,原生大模型支持,即自動并行AI編譯器,通過編譯器進行復雜的多維混合并行策略的尋優(yōu),把算法和模型自動切分到集群上去執(zhí)行,既大大降低了大模型的開發(fā)門檻,又保證了多種并行策略的靈活組合使用。
總結
整體而言,在人工智能體系中,深度學習框架處于貫通上下的腰部位置,下接芯片、上承應用,是一個關鍵樞紐,是推動AI應用大規(guī)模落地的關鍵力量。因此對于企業(yè)來說,克服深度學習框架當前面臨的挑戰(zhàn),不斷進行技術創(chuàng)新,完善技術、功能和生態(tài)是關鍵。
-
操作系統
+關注
關注
37文章
6801瀏覽量
123283 -
AI
+關注
關注
87文章
30728瀏覽量
268885 -
推理
+關注
關注
0文章
8瀏覽量
7268
發(fā)布評論請先 登錄
相關推薦
評論