具有并行處理架構的平臺，例如FPGA和GPU，在快速分析大型數(shù)據(jù)集方面得到了廣泛應用。這兩項技術可以減輕運算密集型算法對CPU造成的負擔，在高度并行的平臺上進行處理。FPGA靈活性高、處理延遲低，但是由于容量不足，在浮點運算方面具有一定的局限性。GPU因為其靈活性、便捷性以及低成本的特點，已經(jīng)成為并行處理的普遍選擇。它們可以成功地與FPGA協(xié)同工作，優(yōu)化一個算法的執(zhí)行速度。舉例來說，在一個算法中，當 GPU分析浮點數(shù)據(jù)時，內聯(lián)（Inline）計算能夠在FPGA上快速地執(zhí)行。NVIDIA?計算統(tǒng)一設備架構（Compute Unified Device Architecture）CUDA?,，可以幫助創(chuàng)建基于GPU計算的算法，CUDA?允許用戶使用C編程語言及其NVIDIA擴展創(chuàng)建程序代碼。

?

?

圖1.FPGA和GPU可以與CPU協(xié)同工作，優(yōu)化性能。

對于實時高性能計算領域的許多應用來說，都可以將數(shù)據(jù)和任務需求很好地映射到GPU中進行處理。高強度算術運算的算法應用非常適合在GPU上進行處理；如果一個應用中的算術運算相對于內存運算的比例較高，則表明當在GPU架構上解決這個計算任務可以帶來明顯的速度提升。舉例來說，對于處理多通道運算的應用，（如可以并行計算幾個FFT變換），或者數(shù)學運算（如大型的矩陣運算），都可以有效地映射到GPU中。

LabVIEW GPU分析工具包讓開發(fā)人員能夠在LabVIEW應用框架中充分利用GPU并行架構。該工具包利用了NVIDIA的CUDA工具包的功能，以及CUBLAS和CUFFT庫，同時允許開發(fā)人員直接調用那些在LVGPU SDK已經(jīng)寫好的GPU代碼。

LabVIEW GPU 分析工具包

LabVIEW GPU分析工具包允許開發(fā)人員利用NVIDIA CUDA以及CUBLAS和CUFFT方法的核心資源，可以在LabVIEW中調用這些庫中封裝的函數(shù)。對于高級的運算，利用在CUDA中已經(jīng)被開發(fā)的代碼，可以使用LabVIEW GPU分析工具包，將計算任務轉移到GPU中。請注意，該工具包將無法編譯LabVIEW代碼用于GPU，但是它可以在LabVIEW中使用封裝好的CUDA函數(shù)或者自定義的CUDA內核代碼。在唯一的設備執(zhí)行環(huán)境中（即CUDA環(huán)境），通過處理CUDA核心程序運算及其參數(shù)，高級的自定義內核代碼可以在LabVIEW執(zhí)行過程中安全地調用。該環(huán)境還確保了所有的GPU資源和功能要求得到妥善管理。

LabVIEW GPU分析工具包的出現(xiàn)能夠使科學家和工程師執(zhí)行大規(guī)模的數(shù)據(jù)采集、將數(shù)據(jù)塊轉移到GPU進行快速處理，并在統(tǒng)一的LabVIEW應用程序中查看處理的數(shù)據(jù)。常見的信號處理技術和數(shù)學運算，例如信號的快速傅立葉變換，可以通過直接調用NVIDIA庫中相應的VI來實現(xiàn)，非常方便。這樣，開發(fā)人員可以使用所有可用的計算資源快速開發(fā)應用的原型。對于那些已經(jīng)在CUDA出來的復雜的應用程序，能夠被用于LabVIEW當中，使用自定義的算法快速地處理數(shù)據(jù)。

在GPU上快速處理FFT運算

一般情況下，使用LabVIEW GPU 分析工具包與GPU通信可以被細分為三個階段：GPU初始化、在GPU上執(zhí)行運算，以及釋放GPU資源。下面的部分將討論使用LabVIEW GPU分析工具包將一個FFT運算任務從CPU FFT轉移到GPU中。

?

?

圖2. 將一個FFT運算任務從CPU轉移到GPU進行分析的程序流程。

本范例對來自多個仿真通道的仿真信號進行FFT運算，來模擬來自DAQ設備或日志文件的多通道輸入數(shù)據(jù)的采集。該工作流程是典型的將一個FFT運算任務從CPU轉移到GPU進行分析的過程。

I. 初始化GPU資源

?

?

圖3. 初始化GPU資源

首先，選擇一個GPU設備是很有必要的。接著，將創(chuàng)建CUDA環(huán)境，用于實現(xiàn)LabVIEW和GPU間的通信。這是通過使用Initialize Device VI來完成的。接下來，GPU將通過選擇FFT的類型為FFT運算做準備。該類型包括FFT大小、在GPU上并行執(zhí)行FTT的數(shù)量，以及輸入信號或者譜線的數(shù)據(jù)類型等信息。該過程將預定GPU上的資源，實現(xiàn)最高的性能。Allocate Memory VI在GPU上創(chuàng)建一個內存緩沖區(qū)，用于CPU和GPU間的數(shù)據(jù)傳輸，以便進行FFT運算。它將存儲用于下載到GPU的通道數(shù)據(jù)，以及GPU上計算完成后準備上傳到CPU的數(shù)據(jù)結果。

II. 在GPU上執(zhí)行FFT計算

?

?

圖4. 在GPU上執(zhí)行FFT通信

首先，從CPU傳輸數(shù)據(jù)到GPU的緩沖區(qū)上來執(zhí)行計算。在GPU上執(zhí)行FFT計算時，將利用其大規(guī)模的并行架構來同時計算每個通道的FFT。當計算完成后，數(shù)據(jù)從GPU的緩沖區(qū)傳輸回CPU中的數(shù)組中。Download Data VI將存儲在LabVIEW數(shù)組中的多通道數(shù)據(jù)從CPU傳輸?shù)皆诔跏蓟A段已經(jīng)分配的緩沖區(qū)中。FFT VI為每一個下載的通道數(shù)據(jù)并行計算其頻譜。最后，Upload Data VI將存儲在GPU緩沖區(qū)中的頻譜數(shù)據(jù)傳輸回LabVIEW數(shù)組，用于CPU進一步處理。

III. 釋放GPU資源

?

?

圖5.釋放GPU資源

最后一步的操作是釋放第一步中初始化的GPU資源。Free Memory VI釋放GPU上用來存儲FFT數(shù)據(jù)的緩沖區(qū)。Release Library VI釋放GPU上在FFT運算初始化過程中保留的資源。最后，Release Device VI釋放CUDA環(huán)境初始化過程中為建立GPU通信所保留的GPU資源。

結論

使用LabVIEW GPU 分析工具，開發(fā)人員能夠將重要的運算轉移到GPU中進行處理，從而釋放CPU資源用于其它任務。這為LabVIEW用戶提供了一個非常強大的、前所未有的處理資源?，F(xiàn)在，無論使用FPGA和CPU，還是GPU，采集到的數(shù)據(jù)可以快速地被處理，并可以從一個單一的LabVIEW應用程序中查看。因此，用戶能夠更有效地利用系統(tǒng)資源，同時最大限度地減少高度并行的數(shù)據(jù)處理運算和轉換所帶來的計算成本。