深度學習框架是用于開發(fā)和運行人工智能算法的平臺，它為軟件人員開發(fā)人工智能提供了模塊化的基礎，一般提供數(shù)據(jù)輸人、編寫神經網絡模型、訓練模型、硬件驅動和部署等多種功能。
當前，人工智能基礎性算法已經較為成熟，為了讓開發(fā)人員更便捷地使用這些算法和
模型來開發(fā)特定的人工智能應用，各大廠商紛紛發(fā)力建設算法模型工具庫，并將其封裝為軟件框架供開發(fā)人員使用。隨著深度學習框架的發(fā)展，深度神經網絡結構的設計已經高模塊化。開發(fā)者只需要在比較宏觀的層面上選擇組件，構建網絡，定制參數(shù)，就可以實現(xiàn)
深度神經網絡的設計。而深度學習框架負責解釋開發(fā)者定制的網絡，并將其轉換成芯片可以執(zhí)行的指令，進而進行模型訓練和推理工作。一個優(yōu)秀的深度學習框架，一方面要對開發(fā)者友好，能提供豐富的組件以及便捷的組網方式，另一方面也要和AI芯片緊密結合，能
實現(xiàn)高效的訓練和推理。對于深度學習框架的設計，要綜合考慮易用性、穩(wěn)定性、系統(tǒng)性能等多個因素。首先，深度學習框架需要能夠支持研究者和開發(fā)者高效地進行人工智能算法模型和應用的開發(fā)，因此易用性是一個重要的考量因素。其次，為了能夠支持企業(yè)級應用，框架的穩(wěn)定性和可靠性也至關重要。最后，由于深度學習框架往往要處理超大規(guī)模的多模態(tài)數(shù)據(jù)，因此訓練和預測的性能對實際應用也有很大的影響。
總體來說，軟件框架在模型庫建設及調用功能方面具有一定的共性，但又各具特點。
軟件框架有閉源和開源兩種形式:蘋果公司等少數(shù)企業(yè)選擇采用閉源方式提供軟件框架，目的是打造技術壁壘，而目前業(yè)內主流軟件框架基本都是開源化運營的。深度學習框架陸續(xù)開源，已經大幅降低了開發(fā)門檻。但直接基于深度學習框架開發(fā)和設計新的模型算法仍有較高的技術門檻。因此，人們對網絡結構自動化設計的研究越來越多，通過機器學習來設計深度學習模型，減少依賴經驗和反復嘗試調參，以此彌補深度學習專家的稀缺，比較典型的產品包括 Google的Auto ML和百度的AutoDL等。同時，零算法基礎的快速應用平臺等降低技術門檻的平臺開始出現(xiàn)，極大地降低了深度學習應用的入門成本。
人工智能發(fā)展到現(xiàn)在，對于開發(fā)者來說，軟件框架基本可以說是必不可少的工具，同時其重要性也在于，它是行業(yè)巨頭打造其軟硬件生態(tài)的重要環(huán)節(jié)。從2016年Go0gle將自己的深度學習框架開源以來，軟件框架處于群雄并起的時代，各大巨頭意識到通過開源技術建立產業(yè)生態(tài)是搶占產業(yè)制高點的重要手段，紛紛推出了自家的開源深度學習框架，將深度學習軟件框架作為打造開發(fā)及使用生態(tài)核心的重點。在目前的產業(yè)態(tài)熱下深度學習模型的表示及存儲尚未統(tǒng)一，訓練軟件框架及推理軟件框架尚未形成-二對應關系技術
生態(tài)爭奪將持續(xù)。在接下來的幾年中，深度學習框架發(fā)展的焦點將是如何更智能地實現(xiàn)量化，如何更好地促進框架間的融合，如何更有效地支持GPU、ASIC等芯片的異構加速能力，如何針對新硬件進行自動編譯，等等。

下面列出目前人工智能框架廠商提供的語言的和硬件，見下圖。