新一代人工智能技術(shù)的發(fā)展,離不的兩大基礎(chǔ)是:芯片、深度學(xué)習(xí)框架,隨著中國科研創(chuàng)新能力的提升,這兩方面技術(shù)取得了大量的突破。
當(dāng)然,這也是一種技術(shù)封鎖的倒逼,去年出現(xiàn)的華為芯片供應(yīng)鏈被全面封鎖,和工科神器MATLAB被禁事件,這兩件事情加起來,迫使我國要從基礎(chǔ)架構(gòu)平臺到應(yīng)用系統(tǒng)等,全方位建設(shè)自主知識的優(yōu)秀產(chǎn)品。
01
發(fā) 展
作為人工智能的核心技術(shù),深度學(xué)習(xí)來說,無論是學(xué)術(shù)領(lǐng)域、還是工業(yè)領(lǐng)域,均發(fā)揮著十分重要的作用。
過去十年,深度學(xué)習(xí)領(lǐng)域涌現(xiàn)了大量算法和應(yīng)用。在這些深度學(xué)習(xí)算法和應(yīng)用涌現(xiàn)的背后,是各種各樣的深度學(xué)習(xí)工具和框架。TensorFlow 和 PyTorch 等深度學(xué)習(xí)框架是機(jī)器學(xué)習(xí)革命的腳手架,它們的廣發(fā)使用,使得許多從業(yè)者能夠使用適合領(lǐng)域特定編程語言,和豐富構(gòu)建模塊,以便于更容易地組裝模型。
回顧深度學(xué)習(xí)框架的演變,深度學(xué)習(xí)框架和深度學(xué)習(xí)算法之間的緊密耦合關(guān),讓我們知道了這種,互依賴良性循環(huán),推動了深度學(xué)習(xí)框架和工具的快速發(fā)展。
02
趨 勢
我們正在處于一場人工智能革命的黎明,人工智能領(lǐng)域的新研究和應(yīng)用框架,正在以前所未有的速度涌現(xiàn)。
八、九年前的AlexNet 網(wǎng)絡(luò),只包含了大概6000 萬個參數(shù),而 GPT-3 網(wǎng)絡(luò)竟然包含了 1750 億參數(shù),網(wǎng)絡(luò)規(guī)模在短短不到十年的時間,迅猛增加了 3000 倍。但我們要知道,人類的大腦包含了100萬億個突觸,也就相當(dāng)于100萬億參數(shù)。所以,神經(jīng)網(wǎng)絡(luò)要達(dá)到人類的智能水平還有很大的差距。
這種難以接受的網(wǎng)絡(luò)規(guī)模,對現(xiàn)有的模型訓(xùn)練和推理的硬件、軟件計算效率都提出了很大的挑戰(zhàn)。未來的深度學(xué)習(xí)框架很可能是算法、高性能計算、硬件加速器和分布式系統(tǒng)的跨學(xué)科成果。
03
挑 戰(zhàn)
然而,對于深度學(xué)習(xí)相關(guān)的初學(xué)者,還是對于已經(jīng)從事相關(guān)工作的算法工程師來說,深度學(xué)習(xí)理論太難學(xué),開發(fā)過程太復(fù)雜,又將許多人拒之于深度學(xué)習(xí)的門外。
而大廠等一線企業(yè)在這方面的需求也是迫在眉睫,阿里云也正式開深,是業(yè)界首個面向NLP場景的深度遷移學(xué)習(xí)框架。人才渴求之大,人才缺口異常嚴(yán)峻。
編輯:jq
-
芯片
+關(guān)注
關(guān)注
455文章
50714瀏覽量
423132 -
人工智能
+關(guān)注
關(guān)注
1791文章
47183瀏覽量
238241 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5500瀏覽量
121111
原文標(biāo)題:詳解深度學(xué)習(xí)框架制造原理
文章出處:【微信號:vision263com,微信公眾號:新機(jī)器視覺】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論