近期，2024 世界移動通信大會（MWC 2024）展出的一系列先進(jìn)通信技術(shù)引人矚目，炙手可熱的生成式AI技術(shù)更引發(fā)各界廣泛關(guān)注。展會上，聯(lián)發(fā)科首次展示了優(yōu)化的Meta Llama 2生成式AI應(yīng)用，該演示充分發(fā)揮了天璣 9300和8300芯片的獨立AI處理器APU，在硬件加速引擎的加持下，可以在終端側(cè)生成文章和摘要。

聯(lián)發(fā)科還重點展出了支持SDXL Turbo（Stable Diffusion XL Turbo）文本到圖像的生成引擎、Diffusion視頻生成技術(shù)，以及端側(cè)生成式AI技能擴(kuò)充（LoRA Fusion）等創(chuàng)新AI技術(shù)。

在生成式AI技術(shù)加速普及的大趨勢下，一大波端側(cè)AI技術(shù)正撲面而來。相較于云端AI，端側(cè)AI在保護(hù)用戶隱私安全、無需聯(lián)網(wǎng)、高速低延遲等方面具有顯著優(yōu)勢，而手機所具備的移動便攜性、個人專屬化、多模態(tài)感知、以及通信計算能力，讓它成為端側(cè)AI應(yīng)用普及的最佳載體。

端側(cè)AI手機應(yīng)用的發(fā)展離不開聯(lián)發(fā)科等頭部芯片廠商帶來的先進(jìn)硬件和軟件技術(shù)，移動芯片的生成式AI能力決定了手機端側(cè)AI能力上限，作為邊緣端側(cè)AI技術(shù)的行業(yè)領(lǐng)軍者，聯(lián)發(fā)科很早就前瞻性地布局了端側(cè)生成式AI技術(shù)，在尤為關(guān)鍵的端側(cè)AI芯片能力上下足了功夫。聯(lián)發(fā)科天璣9300旗艦移動芯片的獨立AI處理器APU具有業(yè)界第一的移動端AI算力，并通過AI開發(fā)平臺NeuroPilot構(gòu)建了豐富的AI生態(tài)，所以能在業(yè)界最早實現(xiàn)支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川、vivo藍(lán)心大模型BlueLM、OPPO AndesGPT等諸多全球先進(jìn)的AI大模型。

早在去年，聯(lián)發(fā)科就聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃，共同推進(jìn)聯(lián)發(fā)科硬件平臺與飛槳和文心大模型適配。

聯(lián)發(fā)科還利用Meta新一代開源大語言模型Llama 2以及聯(lián)發(fā)科AI處理器APU、AI開發(fā)平臺NeuroPilot建立完整的端側(cè)AI計算生態(tài)，加速智能手機、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設(shè)備的應(yīng)用開發(fā)。經(jīng)過全面適配和優(yōu)化，目前天璣9300和天璣8300芯片已實現(xiàn)支持Meta Llama 2的70億參數(shù)大模型應(yīng)用。

近期，聯(lián)發(fā)科再次宣布：天璣9300和8300已針對Google Gemini Nano大語言模型進(jìn)行芯片和算法的適配優(yōu)化，聯(lián)發(fā)科與Google還計劃攜手推出可在天璣9300和8300上運行的APK，以助力開發(fā)者和OEM廠商部署Gemini Nano應(yīng)用，加速端側(cè)AI應(yīng)用落地。

不僅如此，聯(lián)發(fā)科還與手機廠商深度合作，推動生成式AI在手機端側(cè)落地應(yīng)用。聯(lián)發(fā)科已攜手vivo在vivo X100系列手機上落地端側(cè)70億參數(shù)大語言模型，并在端側(cè)實驗環(huán)境跑通130億參數(shù)模型。在天璣9300芯片強大的AI算力和軟件技術(shù)支持下，用戶可以體驗到vivo AI藍(lán)心大模型諸多實用的生成式AI功能，包括超能語義搜索、超能問答、超能寫作、超能創(chuàng)圖、超能智慧交互等。

聯(lián)發(fā)科還攜手OPPO共建輕量化大模型端側(cè)部署方案，共同推動大模型能力在端側(cè)落地，共同開啟“AI手機”新時代。在天璣9300芯片的先進(jìn)生成式AI能力加持下，OPPO AndesGPT大語言模型實現(xiàn)了更優(yōu)的性能、更快的速度。基于天璣9300芯片的出色AI算力，OPPO Find X7在AI-Benchmark排行榜上取得了業(yè)界第一的AI性能成績，并為用戶帶來了AIGC消除、AI通話摘要等多種手機功能。

聯(lián)發(fā)科天璣9300和天璣8300芯片對全球主流大模型的支持，不僅將有力推動端側(cè)AI生態(tài)完善和應(yīng)用創(chuàng)新，更可助力手機廠商的生成式AI技術(shù)出海，讓“AI手機”惠及全球更多用戶。

天璣9300集成聯(lián)發(fā)科第七代AI處理器APU 790，性能和能效顯著提升，生成式AI處理速度是上一代的8倍，可1秒內(nèi)生成圖片。在聯(lián)發(fā)科混合精度INT4量化技術(shù)和內(nèi)存硬件壓縮技術(shù)加持下，天璣9300最高支持終端運行330億參數(shù)AI大語言模型。APU 790還支持生成式AI模型端側(cè)“技能擴(kuò)充”技術(shù)NeuroPilot Fusion，利用業(yè)界先進(jìn)的LoRA技術(shù)賦予基礎(chǔ)大模型更加全面的能力，滿足端側(cè)AI用戶個性化體驗需求。天璣8300在同級產(chǎn)品中率先支持生成式AI，至高支持100億參數(shù)AI大語言模型，加速端側(cè)AI體驗向主流市場普及。

可以看到，聯(lián)發(fā)科正在從芯片架構(gòu)革新、軟硬件協(xié)同和生態(tài)創(chuàng)新三個層面全力推動端側(cè)AI能力進(jìn)化和普及，加速AI手機時代到來，讓全球更多手機用戶體驗生成式AI的魅力和魔力。相信在全生態(tài)系統(tǒng)的共同努力下，我們將很快迎來一個全新的移動“智能體”時代，科幻電影般的全場景智慧生活將成為現(xiàn)實。

審核編輯 黃宇