人工智能正在改變行業(yè),實(shí)現(xiàn)流程自動化,并在快速發(fā)展的技術(shù)格局中為創(chuàng)新開辟新的機(jī)會。隨著越來越多的企業(yè)認(rèn)識到將人工智能融入運(yùn)營的價值,他們面臨著高效、有效和可靠地實(shí)施這些技術(shù)的挑戰(zhàn)
NVIDIA AI Enterprise 是一個綜合軟件套件,旨在幫助組織大規(guī)模實(shí)施企業(yè)級 AI 、機(jī)器學(xué)習(xí)( ML )和數(shù)據(jù)分析,并提供安全性、可靠性、 API 穩(wěn)定性和企業(yè)級支持。
什么是 NVIDIA AI Enterprise ?
部署人工智能解決方案可能很復(fù)雜,需要專門的硬件和軟件,以及開發(fā)和維護(hù)這些系統(tǒng)的專業(yè)知識。 NVIDIA AI Enterprise 通過提供針對企業(yè)環(huán)境量身定制的工具、庫、框架和支持服務(wù)的完整生態(tài)系統(tǒng)來應(yīng)對這些挑戰(zhàn)
憑借 GPU – 加速計(jì)算能力, NVIDIA AI Enterprise 使企業(yè)能夠更高效、更經(jīng)濟(jì)高效地大規(guī)模運(yùn)行人工智能工作負(fù)載。 NVIDIA AI Enterprise 建立在 NVIDIA CUDA -X AI 軟件棧之上,提供高性能 GPU 加速計(jì)算能力
套房包括:
虛擬機(jī)管理系統(tǒng):預(yù)配置的虛擬機(jī)映像,包括必要的驅(qū)動程序和軟件,以支持主要云中的 GPU 加速 AI 工作負(fù)載。
人工智能框架:可以在 VMI 中運(yùn)行的軟件(如 PyTorch 、 TensorFlow 、 RAPIDS 、支持 TensorRT 和 ONNX 的 NVIDIA Triton 等),作為人工智能開發(fā)和部署的基礎(chǔ)。
預(yù)訓(xùn)練模:可以按原樣使用或根據(jù)企業(yè)相關(guān)數(shù)據(jù)進(jìn)行微調(diào)的模型。
人工智能工作流:預(yù)先打包的參考示例,說明如何利用人工智能框架和預(yù)先訓(xùn)練的模型來構(gòu)建人工智能解決方案,以解決常見的業(yè)務(wù)問題。這些工作流程提供了關(guān)于微調(diào)預(yù)訓(xùn)練模型和人工智能模型創(chuàng)建的指導(dǎo),以建立在 NVIDIA 框架上。重點(diǎn)介紹了創(chuàng)建應(yīng)用程序的管道,以及關(guān)于如何部署定制應(yīng)用程序并將其與企業(yè)環(huán)境中常見的各種組件集成的意見,例如用于編排和管理、存儲、安全和網(wǎng)絡(luò)的軟件。可用的人工智能工作流包括:
智能虛擬助理:全天候提供聯(lián)絡(luò)中心協(xié)助,以降低運(yùn)營成本。
音頻轉(zhuǎn)錄:基于 GPU 優(yōu)化模型的世界級準(zhǔn)確轉(zhuǎn)錄本。
數(shù)字指紋威脅檢測:網(wǎng)絡(luò)安全威脅檢測和警報優(yōu)先級,以更快地識別和采取行動。
下一項(xiàng)預(yù)測:個性化產(chǎn)品推薦,提高客戶參與度和忠誠度。
路線優(yōu)化:車輛和機(jī)器人路線優(yōu)化,以減少行程時間和燃油成本。
支持的帶有發(fā)布分支的軟件
使用 NVIDIA AI Enterprise 中可用軟件的主要好處之一是,它得到了 NVIDIA 的支持,以安全性和穩(wěn)定性為指導(dǎo)原則。 NVIDIA AI Enterprise 包括三個發(fā)布分支,以滿足不同行業(yè)和用例的不同需求:
最新發(fā)布分支:針對那些需要頂級軟件優(yōu)化的用戶,該分支將每月發(fā)布一次,確保用戶能夠獲得最新的功能和改進(jìn)。 CVE 補(bǔ)丁以及錯誤修復(fù)也將包含在前滾版本中。
生產(chǎn)發(fā)布處:該分支機(jī)構(gòu)專為優(yōu)先考慮 API 穩(wěn)定性的環(huán)境設(shè)計(jì),將每月收到 CVE 補(bǔ)丁和錯誤修復(fù),每年推出兩個新分支機(jī)構(gòu),每個分支機(jī)構(gòu)的使用壽命為 9 個月。為了確保無縫過渡和支持,兩個連續(xù)的生產(chǎn)分支機(jī)構(gòu)之間將有 3 個月的重疊期。生產(chǎn)分支機(jī)構(gòu)將于 2023 年下半年投入使用。
長期釋放處:該分支機(jī)構(gòu)專為長期支持至關(guān)重要的高度監(jiān)管行業(yè)量身定制,每季度將收到 CVE 補(bǔ)丁和錯誤修復(fù),并為特定版本提供長達(dá) 3 年的支持。與這種長期穩(wěn)定性互補(bǔ)的是 6 個月的重疊期,以確保版本之間的平穩(wěn)過渡,從而為這些高度監(jiān)管的行業(yè)提供所需的壽命和一致性。
圖 1 。 NVIDIA AI Enterprise 的三個發(fā)布分支滿足不同行業(yè)和用例的不同需求
如何將 NVIDIA AI Enterprise 與 Microsoft Azure 機(jī)器學(xué)習(xí)結(jié)合使用
Microsoft Azure Machine Learning是一個用于在云端和本地進(jìn)行人工智能開發(fā)的平臺,提供用于訓(xùn)練、實(shí)驗(yàn)、部署和監(jiān)控模型的服務(wù),以及為大型語言模型設(shè)計(jì)和構(gòu)建提示流的服務(wù)。Azure 機(jī)器學(xué)習(xí)是一個開放平臺,支持所有流行的機(jī)器學(xué)習(xí)框架和工具包,包括 NVIDIA AI Enterprise 的框架和工具包。
此次合作通過將 NVIDIA AI 軟件與 Azure 機(jī)器學(xué)習(xí)培訓(xùn)和推理平臺集成,優(yōu)化了運(yùn)行 NVIDIA 人工智能軟件的體驗(yàn)。用戶不再需要花費(fèi)時間設(shè)置培訓(xùn)環(huán)境、安裝軟件包、編寫培訓(xùn)代碼、記錄培訓(xùn)指標(biāo)和部署模型。通過這種集成,用戶將能夠利用 NVIDIA 企業(yè)級軟件的強(qiáng)大功能,補(bǔ)充 Azure 機(jī)器學(xué)習(xí)的高性能和安全基礎(chǔ)設(shè)施,構(gòu)建生產(chǎn)級人工智能工作流
要從今天開始,請執(zhí)行以下步驟:
1 .登錄 Microsoft Azure 并啟動 Azure 機(jī)器學(xué)習(xí)工作室。
2 .從 NVIDIA AI 企業(yè)預(yù)覽注冊表中查看和訪問所有預(yù)構(gòu)建的 NVIDIA 人工智能企業(yè)組件、環(huán)境和模型(圖 2 )。
圖 2 。 Azure 機(jī)器學(xué)習(xí)上的 NVIDIA AI 企業(yè)預(yù)覽注冊表
3 .在工作空間中使用這些資產(chǎn),通過簡單的拖放在設(shè)計(jì)器中創(chuàng)建 ML 管道(圖 3 )
圖 3 。使用 NVIDIA AI Enterprise 組件的 Azure 機(jī)器學(xué)習(xí)中的管道
在 Azure 機(jī)器學(xué)習(xí)注冊表中查找 NVIDIA AI Enterprise 示例資產(chǎn)。您可以在 NVIDIA_AI_Enterprise_AzureML GitHub 上查看預(yù)覽資產(chǎn)的代碼。
用例:身體姿勢估計(jì)
使用 NVIDIA AI 企業(yè)預(yù)覽注冊表中的各種元素非常容易。此示例展示了使用 NVIDIA DeepStream 進(jìn)行身體姿勢估計(jì)的計(jì)算機(jī)視覺任務(wù)。NVIDIA TAO 工具包 提供了身體姿勢模型的基礎(chǔ),以及使用新數(shù)據(jù)對其進(jìn)行細(xì)化的能力。
圖 4 顯示了一個視頻分析管道示例,該示例運(yùn)行 NVIDIA DeepStream 示例應(yīng)用程序進(jìn)行身體姿勢估計(jì)。它在 GPU 集群上運(yùn)行,可以輕松調(diào)整以利用更新的模型和視頻,釋放 Azure 機(jī)器學(xué)習(xí)平臺的力量。
圖 4 。使用 Azure 機(jī)器學(xué)習(xí)進(jìn)行身體姿勢估計(jì)的 NVIDIA TAO 工具包和 NVIDIA DeepStream
該示例包括為存儲 DeepStream 示例應(yīng)用程序命令組件的輸入而創(chuàng)建的兩個基于 URI 的數(shù)據(jù)資產(chǎn)。數(shù)據(jù)資產(chǎn)利用了 NVIDIA AI Enterprise Registry 中現(xiàn)成的預(yù)訓(xùn)練模型。它們還包括額外的校準(zhǔn)和標(biāo)簽信息。
DeepStream 身體姿勢命令組件配置為使用 Microsoft Azure blob 存儲。該組件會檢查輸入目錄中是否有需要推斷的新視頻文件。當(dāng)發(fā)現(xiàn)新文件時,組件會拾取該文件并執(zhí)行身體姿勢推斷。輸出的視頻中包含邊界框和跟蹤線,并存儲在輸出目錄中。
您可以通過基于 TAO 工具包的訓(xùn)練管道對這些樣本中的每一個進(jìn)行改進(jìn),該管道可以執(zhí)行遷移學(xué)習(xí),從而改變模型輸出以適應(yīng)特定的用例。您可以在 NGC 上的 TAO Toolkit 計(jì)算機(jī)視覺樣本工作流 中找到它們。
開始在 Azure 機(jī)器學(xué)習(xí)上使用 NVIDIA AI Enterprise
NVIDIA AI Enterprise 和 Azure Machine Learning 共同打造了 GPU 加速計(jì)算和全面的基于云的機(jī)器學(xué)習(xí)平臺的強(qiáng)大組合,使企業(yè)能夠更高效地開發(fā)和部署 AI 模型。這種協(xié)同效應(yīng)使企業(yè)能夠利用云資源的靈活性,同時利用 NVIDIA GPU 和軟件的性能優(yōu)勢
要在 Azure 機(jī)器學(xué)習(xí)上使用 NVIDIA AI Enterprise,請注冊一個技術(shù)預(yù)覽版。這將使您能夠訪問 Azure 機(jī)器學(xué)習(xí)上 NVIDIA AI 企業(yè)預(yù)覽注冊表中的所有預(yù)構(gòu)建組件、環(huán)境和模型。
-
NVIDIA
+關(guān)注
關(guān)注
14文章
4978瀏覽量
102987 -
人工智能
+關(guān)注
關(guān)注
1791文章
47183瀏覽量
238247 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8406瀏覽量
132561
發(fā)布評論請先 登錄
相關(guān)推薦
評論