浪潮信息宣布旗下NF5468系列AI服務器率先支持英偉達最新推出的L40S GPU，可為人工智能大模型訓練和推理、元宇宙及圖形視頻處理等應用提供強大算力。實際測試表明，搭載8顆NVIDIA L40S的浪潮信息NF5468服務器大幅提升了LLaMA大模型的微調(diào)訓練性能。目前該產(chǎn)品已具備交付能力，客戶可以進行下單采購。

本次浪潮信息推出的算力系統(tǒng)是兼具訓練和推理能力的NF5468系列AI服務器，包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型號，產(chǎn)品可以在4U空間內(nèi)搭載2顆高性能通用處理器、8張L40S GPU加速器及多顆高速互聯(lián)網(wǎng)絡，從而滿足大模型計算對高算力、高互聯(lián)的極致性能需求。在軟件上，產(chǎn)品支持浪潮信息最新推出的OGAI大模型智算軟件棧，為客戶提供高效的大模型生產(chǎn)力支撐。

針對業(yè)界廣泛使用的LLaMA開源大型語言模型，浪潮信息NF5468服務器搭載8顆L40S GPU進行了大模型訓練性能測試，得益于浪潮信息在NF5468服務器的優(yōu)秀設計和大模型算法上的專業(yè)經(jīng)驗，L40S GPU的強大性能得以充分發(fā)揮，實際測試數(shù)據(jù)表明LLaMA大模型微調(diào)訓練性能優(yōu)異。

浪潮信息NF5468系列AI服務器搭載L40S GPU可以很好地完成LLaMA大模型訓練任務，并具備良好的性能擴展，將幫助客戶迅速部署高性能的AI算力系統(tǒng)、采納強大的GPU加速器和領先的軟件生態(tài)，加速生成式AI的產(chǎn)業(yè)創(chuàng)新和發(fā)展。

審核編輯：彭菁