實現(xiàn)PCIe Gen5光互連、CXL光互連

現(xiàn)場演示內(nèi)存光互連擴展方案

榮獲2023全球閃存峰會大獎，入選峰會年度大事記

?
美國舊金山時間8月8日，全球光電混合計算領軍企業(yè)曦智科技（Lightelligence）攜全新光互連技術產(chǎn)品亮相2023全球閃存峰會（Flash Memory Summit，F(xiàn)MS），發(fā)布了曦智科技首款適用PCIe和CXL（Compute Express Link）協(xié)議的數(shù)據(jù)中心光互連硬件產(chǎn)品——Photowave，并現(xiàn)場演示了內(nèi)存擴展光互連解決方案。
?
作為首個通過光互連實現(xiàn)CXL內(nèi)存擴展的產(chǎn)品，Photowave在FMS峰會上一經(jīng)亮相即斬獲了大會最高榮譽（Best of Show），并因此被列入了FMS全球閃存峰會2023年度大事記。
?
Photowave采用曦智科技三大核心技術之一的片間光網(wǎng)絡技術（Optical Networking，oNET），借助光子技術低延遲和高能效的特性，實現(xiàn)遠距離間高效數(shù)據(jù)傳輸，提升數(shù)據(jù)中心內(nèi)不同計算硬件的工作負載效率，從而賦能可重構解耦架構數(shù)據(jù)中心的資源池化和橫向擴展，實現(xiàn)算力網(wǎng)絡的最終愿景。
?
曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示：“我們對這一重大突破非常興奮。Photowave會很快建立工作負載效率的標準，助力可擴展的計算卡和加速卡集群實現(xiàn)優(yōu)化配置?！?br /> ?

曦智科技的Photowave產(chǎn)品榮獲FMS Most Innovative Memory Technology獎項

?
對于獲得FMS2023大獎，沈亦晨博士又補充道：“這個獎項是對Photowave的極大認可，它肯定了光互連在資源池化和可擴展算力集群中的價值，并將成為新一輪算力基礎設施建設中的關鍵技術。我們非常高興能夠將這項技術推向市場，也期待通過曦智科技的光互連技術，提高數(shù)據(jù)中心算力基礎設施的性能和效率?！?br /> ?
“電子芯片的功耗、通信和內(nèi)存等方面都在接近其物理極極限，隨著人工智能和大型語言模型將消耗越來越多的算力，我們需要新的方法和技術來支持算力的持續(xù)擴展，”FMS全球閃存峰會獎項計劃主席， Network Storage Advisors Inc.總裁Jay Kramer表示：“我們很榮幸將這一獎項頒給曦智科技的Photowave產(chǎn)品，它作為首款為CXL互連協(xié)議（Compute Express Link）設計的光互連硬件，提供了在機架內(nèi)或跨機架擴展內(nèi)存的高效解決方案，并體現(xiàn)出了光子在延遲和能效等方面的顯著優(yōu)勢?！?br /> ?
FMS全球閃存峰會大獎旨在表彰各個細分市場的行業(yè)創(chuàng)新技術領導者，以及他們?yōu)橥黄平鉀Q數(shù)據(jù)中心和企業(yè)基礎設施瓶頸的關鍵問題所研發(fā)的產(chǎn)品。
?
當前，數(shù)據(jù)中心為應對工作負載中計算資源和內(nèi)存閑置問題所付出的成本正越來越高，因此，業(yè)界開始推動CXL協(xié)議標準，以解耦計算卡、加速卡和內(nèi)存等硬件資源，減少閑置，從而提升基礎架構的使用效率。然而目前基于以太網(wǎng)的基礎架構延遲過高，難以滿足解耦數(shù)據(jù)中心的性能要求。Photowave光互連產(chǎn)品則提供了一種全新的解決方案。
?
在本次FMS峰會上，Ron Swartzentruber，曦智科技工程總監(jiān)、Photowave產(chǎn)品技術負責人還發(fā)表了專題演講，詳細介紹了Photowave的產(chǎn)品細節(jié)和曦智科技光互連解決方案的優(yōu)勢。
?

曦智科技工程總監(jiān)Ron Swartzentruber發(fā)表演講

?
Photowave產(chǎn)品系列有多種外觀尺寸類型，包括標準PCIe卡、OCP 3.0 SFF卡和有源光纜等形態(tài)，設計數(shù)據(jù)傳輸延遲低于20納秒，其中有源光纜延遲低至1納秒以下，功耗也降至15瓦以下。該產(chǎn)品系列適用于服務器平臺、CXL交換機、存儲應用以及xPU之間的互連。
?
Photowave通過光學器件實現(xiàn)CXL 2.0/PCIe Gen 5的連接，可配置x16、x8、x4、x2等不同通道數(shù)，覆蓋多種部署場景。除了高速數(shù)據(jù)信號，Photowave還可以傳輸邊帶信號，完美兼容標準協(xié)議，幫助數(shù)據(jù)中心實現(xiàn)更高效、更可靠的可重構解耦架構。
?

Photowave產(chǎn)品具有多種形態(tài)，通用性強

?
在FMS現(xiàn)場，曦智科技演示了如何通過Photowave顯著提升大語言模型（LLM）推理中的工作負載效率。在大語言模型OPT-66B推理中，當使用兩張Photowave PCIe Gen5 卡分別連接AMD Genoa CPU服務器和三星CXL可擴展內(nèi)存時，CXL可擴展內(nèi)存的LLM推理吞吐量相較于SSD/NVMe磁盤卸載體現(xiàn)出了2.4倍的穩(wěn)定優(yōu)勢。
?
今年以來，曦智科技不斷加快產(chǎn)品市場化進程，致力于建立完整的光電混合計算新生態(tài)。此次發(fā)布的全新光互連產(chǎn)品從用戶痛點出發(fā)，由發(fā)揮光電混合計算優(yōu)越性的場景切入，為客戶提供了低延時、低功耗的算力提升解決方案。
?