近日，全球最大的光子技術(shù)盛會(huì)Photonics West 2023在舊金山舉行。曦智科技光子副總裁蘇湛博士受邀做了題為《利用光子集成電路實(shí)現(xiàn)伊辛模型加速》(Ising Model Acceleration Using Integrated Photonics Circuits)的技術(shù)演講。他表示，隨著機(jī)器學(xué)習(xí)繼續(xù)快速滲透人類生活的方方面面，萬億參數(shù)大模型正在興起，而光子芯片憑借高通量、低延遲、低功耗的特點(diǎn)，將在計(jì)算端與互聯(lián)端都擁有巨大的發(fā)展?jié)摿?。基于此，他詳?xì)展示了曦智科技第二代光子計(jì)算處理器PACE如何通過重復(fù)矩陣乘法和巧妙利用受控噪聲組成的緊密回環(huán)來實(shí)現(xiàn)低延遲，從而在處理伊辛問題時(shí)，展示出顯著優(yōu)于目前高端GPU的表現(xiàn)。

蘇湛

Dr. Zhan Su

蘇湛博士目前擔(dān)任曦智科技光子副總裁，致力于利用硅光技術(shù)優(yōu)化機(jī)器學(xué)習(xí)工作負(fù)載。他擁有麻省理工學(xué)院電氣工程學(xué)碩士和博士學(xué)位，期間專攻開發(fā)無源和有源硅光子學(xué)集成組件，包括偏振分離器和旋轉(zhuǎn)器、基于微腔的光學(xué)廣播濾波器、光電探測(cè)器和片上激光器。

Photonics West

Photonics West是由國(guó)際光電學(xué)工程協(xié)會(huì)(SPIE)主辦的全球最大的光子技術(shù)盛會(huì)。其通過將科學(xué)會(huì)議、行業(yè)研討會(huì)和技術(shù)展覽會(huì)相結(jié)合，展示生物醫(yī)學(xué)光學(xué)、生物光子學(xué)、工業(yè)激光、光電子學(xué)、微加工、MOEMS-MEMS、顯示器、量子技術(shù)等領(lǐng)域的前沿技術(shù)與研究。

一、機(jī)器學(xué)習(xí)市場(chǎng)開啟萬億級(jí)大模型

2022年末，人工智能聊天機(jī)器人ChatGPT再次掀起了一波機(jī)器學(xué)習(xí)應(yīng)用的高潮。它不僅能對(duì)話、寫詩(shī)、撰文、編碼……，還時(shí)而幽默時(shí)而深沉，讓用戶一時(shí)之間難以分辨到底對(duì)方是人還是機(jī)器。

機(jī)器學(xué)習(xí)正經(jīng)歷著前所未有的高速發(fā)展，這些進(jìn)展對(duì)包括金融、電信、零售等人類生活的各方面都產(chǎn)生了比以往更深遠(yuǎn)的影響。

未來幾年，這種增長(zhǎng)趨勢(shì)預(yù)計(jì)還將繼續(xù)保持。根據(jù)Tractica數(shù)據(jù)，深度學(xué)習(xí)芯片組的全球市場(chǎng)將在2025年超過700億美元。此外，從OpenAI發(fā)布的具有1750 億個(gè)機(jī)器學(xué)習(xí)參數(shù)的GPT-3，到微軟和英偉達(dá)聯(lián)合發(fā)布的Megatron-Turing自然語言生成模型(MT-NLG)包含5300億個(gè)參數(shù)，研究人員將訓(xùn)練比以往規(guī)模更大、能力更強(qiáng)的機(jī)器學(xué)習(xí)模型。

二、硅光技術(shù)讓機(jī)器學(xué)習(xí)更進(jìn)一步

AI模型的訓(xùn)練時(shí)間在過去10年間出現(xiàn)了指數(shù)級(jí)增長(zhǎng)：平均每3-4個(gè)月，AI模型規(guī)模就會(huì)翻一番；AI模型訓(xùn)練的計(jì)算能力需求以每年10倍的速度提升。而另一邊，電子芯片正接近其物理極限，并在功耗、容量、帶寬等方面遭遇瓶頸，已無法滿足AI模型發(fā)展需求。

光具有高通量、低延遲、低能耗的優(yōu)勢(shì)，可在計(jì)算端與互聯(lián)端同時(shí)助力算力的提升和可持續(xù)發(fā)展：用光運(yùn)算單元代替電模塊時(shí)，光運(yùn)算單元在線性計(jì)算中可實(shí)現(xiàn)比晶體管更低功耗、更低延遲和更高算力；用光網(wǎng)絡(luò)代替電互聯(lián)時(shí)，由于光介質(zhì)中的信號(hào)損耗遠(yuǎn)低于電介質(zhì)，通量高且對(duì)距離不敏感，可以實(shí)現(xiàn)不同距離間更低功耗，更高帶寬的信息傳輸。

基于這個(gè)技術(shù)原理，曦智科技發(fā)布了光計(jì)算+光網(wǎng)絡(luò)的技術(shù)路線，以支撐未來計(jì)算趨勢(shì)。其中包括三部分技術(shù)：首先，曦智科技致力于開發(fā)利用光子矩陣計(jì)算(oMAC)優(yōu)勢(shì)的光電混合計(jì)算芯片；其次是連接片上chiplet的開創(chuàng)性片上光網(wǎng)絡(luò)系統(tǒng)(oNOC)；第三是用來更有效地連接包括曦智科技的光電混合計(jì)算芯片，及其他生態(tài)合作伙伴的存儲(chǔ)和計(jì)算單元的片間光網(wǎng)絡(luò)系統(tǒng)(oNET)。

曦智科技技術(shù)路線

三、硅光技術(shù)讓機(jī)器學(xué)習(xí)更進(jìn)一步

在光電混合計(jì)算芯片方面，2021年，曦智科技團(tuán)隊(duì)發(fā)布了包含64 x 64光學(xué)矩陣，單個(gè)光子芯片中集成超過10000個(gè)集成光子元器件的高性能光子計(jì)算處理器PACE（Photonic Arithmetic Computing Engine，光子計(jì)算引擎）。

高性能光子計(jì)算處理器PACE

PACE的核心部分由一塊集成硅光芯片和一塊CMOS微電子芯片以3D封裝形式堆疊而成。對(duì)于每個(gè)光學(xué)矩陣乘法，輸入向量值首先從片上存儲(chǔ)中提取，由數(shù)模轉(zhuǎn)換器轉(zhuǎn)換為模擬值，通過電子芯片和光子芯片之間的微凸點(diǎn)應(yīng)用于相應(yīng)的光調(diào)制器，形成輸入光矢量。接著，輸入光矢量通過光矩陣傳播，產(chǎn)生輸出光矢量，并達(dá)到一組光電探測(cè)器陣列，從而將光強(qiáng)轉(zhuǎn)換為電流信號(hào)。最后，電信號(hào)通過微凸點(diǎn)返回到電子芯片，通過跨阻放大器和模數(shù)轉(zhuǎn)換器返回?cái)?shù)字域。

光子矩陣計(jì)算實(shí)現(xiàn)方式

PACE旨在解決組合問題，這種問題多應(yīng)用于生物信息學(xué)、交通調(diào)度、電路設(shè)計(jì)、材料發(fā)現(xiàn)等領(lǐng)域。這類問題通常屬于“NP-complete Problem”（多項(xiàng)式復(fù)雜程度的非確定性問題），意味著在多項(xiàng)式時(shí)間尺度下無法通過數(shù)學(xué)方法解決的問題。然而，一旦一個(gè)NP-complete問題得到解決，就可以相對(duì)容易地將解決方案映射到另一個(gè)NP-complete問題上。 伊辛問題(Ising problem)本身就是一個(gè)NP-complete問題，從理論上來說，求解伊辛問題的方式也可以用來嘗試求解其他的 NP-complete 問題。伊辛模型是一個(gè)描述臨界現(xiàn)象的基本模型，它考慮每一個(gè)自旋有兩種可能的狀態(tài)，自旋和自旋之間存在相互作用。這一模型可被推廣用于描述廣泛的物理現(xiàn)象甚至社會(huì)經(jīng)濟(jì)活動(dòng)。 解決這類問題需要用到大量的連續(xù)矩陣乘法，而光子芯片非常適合這種計(jì)算。首先，光學(xué)矩陣具有低功耗、低延遲的特點(diǎn)；其次，NP-complete 算法具有迭代性，連續(xù)的矩陣乘法取決于先前的結(jié)果，這將有助于最大限度減少由系統(tǒng)中電子部件帶來的瓶頸。因此在做矩陣乘法時(shí)不需要頻繁的內(nèi)存讀??；此外，噪聲在這類算法里的必要性反而剛好利用了光作為模擬運(yùn)算的劣勢(shì)。

PACE架構(gòu)

曦智科技將PACE系統(tǒng)時(shí)鐘設(shè)置為 1GHz 頻率，每個(gè)循環(huán)中的延遲配置為 1 ns 至 30 ns，所有迭代的解決方案都記錄在系統(tǒng)內(nèi)存中。結(jié)果顯示，在 50 次測(cè)試運(yùn)行中，在啟發(fā)式遞歸計(jì)算下收斂到最佳解決方案的收斂率為98% - 100%，最低延遲為 3ns。 由于光學(xué)矩陣的超低延遲特性，測(cè)試顯示，PACE可在3納秒內(nèi)完成伊辛問題單次迭代計(jì)算，速度可達(dá)傳統(tǒng)GPU的數(shù)百倍。

寫在最后

過去幾年，隨著傳感、AI等光子應(yīng)用領(lǐng)域的蓬勃發(fā)展，光子集成電路的優(yōu)越性正受到越來越多人的關(guān)注。與此同時(shí)，隨著收發(fā)器產(chǎn)品的大批量出貨，及制造工藝成熟度不斷提高，硅光技術(shù)的生產(chǎn)成本呈下降趨勢(shì)。通過光子集成電路 (PIC)和電子集成電路 (EIC)更緊密的集成，光域和電域之間的數(shù)據(jù)轉(zhuǎn)換已變得更快、更高效，人們開始將重點(diǎn)放在了信號(hào)處理上——將電域中的高延遲過程轉(zhuǎn)移到光域中，以實(shí)現(xiàn)特定領(lǐng)域的加速。

機(jī)器學(xué)習(xí)就是一個(gè)非常合適的應(yīng)用領(lǐng)域。雖然光不擅長(zhǎng)邏輯運(yùn)算，但卻可以高效地進(jìn)行如矩陣乘法的線性運(yùn)算。由于機(jī)器學(xué)習(xí)需要進(jìn)行大量矩陣乘法運(yùn)算，因此可以通過開發(fā)特定的硬件來針對(duì)特定領(lǐng)域?qū)崿F(xiàn)加速。

審核編輯 ：李倩