RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從Apple Intelligence到IoT Intelligence,端側(cè)生成式AI時(shí)代加速到來

美格智能 ? 2024-09-11 08:01 ? 次閱讀

9月10日凌晨1點(diǎn),蘋果新品發(fā)布會(huì)如期舉行,全新iPhone16系列成為蘋果生態(tài)中真正意義上的第一款原生AI手機(jī),在第二代3nm工藝A18和A18 Pro芯片的加持下,iPhone16系列能夠容納并快速運(yùn)行以Apple Intelligence為中心的生成式AI功能在手機(jī)端側(cè)運(yùn)行。用庫克的話說:“新一代iPhone徹徹底底為Apple Intelligence打造”。

f10c9a90-6fd0-11ef-bb4b-92fbcf53809c.jpg

本次發(fā)布會(huì)的主要亮點(diǎn)除蘋果新增的相機(jī)控制按鈕外,主要集中在蘋果對(duì)AI生態(tài)的全面構(gòu)建方面。在理解蘋果發(fā)布會(huì)的新功能之前,先帶大家回顧一下蘋果在生成式AI方面的主要成果。

具體來說,蘋果開發(fā)了兩種全新基礎(chǔ)語言模型,構(gòu)成了蘋果Apple Intelligence的核心:一個(gè)是可以在蘋果云服務(wù)器中運(yùn)行的較大參數(shù)的大語言模型(LLM),稱為AFM-server,專為密集型任務(wù)設(shè)計(jì),并使用私人云計(jì)算(Private Cloud Compute)的系統(tǒng)來保護(hù)用戶數(shù)據(jù);另一個(gè)是端側(cè)小語言模型(SLM)AFM-on-device,大約有30億參數(shù),通過對(duì)大語言模型進(jìn)行剪枝、蒸餾,并通過精選的高質(zhì)量數(shù)據(jù)訓(xùn)練和架構(gòu)調(diào)整而來,優(yōu)化后可以在iPhone和其他終端設(shè)備上運(yùn)行,具備更高效率和響應(yīng)能力。

蘋果為何可以稱為重新定義了AI手機(jī)?

蘋果的AI戰(zhàn)略通過整合操作系統(tǒng)、軟件、模型和數(shù)據(jù),強(qiáng)化了對(duì)應(yīng)用場景的理解,訓(xùn)練出了能夠深刻洞察用戶需求并幫助用戶決策的AI Agent。

簡單來講,相較于各類傳統(tǒng)的生成式AI應(yīng)用工具,蘋果將AI功能融合到用戶使用手機(jī)的每一個(gè)環(huán)節(jié),通過手機(jī)端側(cè)運(yùn)行的小語言模型能力讓智能手機(jī)真正成為日常生活、辦公、娛樂的私人管家,它會(huì)收集整理手機(jī)端本地的各類信息,在用戶使用或有需要時(shí)主動(dòng)提供建議或直接幫助實(shí)現(xiàn)。

并且因?yàn)槠涠藗?cè)模型在本地運(yùn)行的特性,可以充分保護(hù)用戶的隱私信息安全、提升信息反饋效率??梢哉f每一個(gè)搭載了AI功能的蘋果手機(jī)都是一個(gè)獨(dú)立的個(gè)體。

為何大廠們最終選擇了端側(cè)AI賽道?

在大語言模型產(chǎn)品的實(shí)際應(yīng)用中,從業(yè)者們逐漸意識(shí)到大模型存在產(chǎn)品訓(xùn)練成本高、算力需求高、資源消耗大等難點(diǎn),以及應(yīng)用適配性差、網(wǎng)絡(luò)傳輸不穩(wěn)定等缺點(diǎn)。在此背景下,AI模型的發(fā)展正在著力擺脫網(wǎng)絡(luò)、參數(shù)的多方限制,努力向更簡單、更小體量,為應(yīng)用場景量身定制和跨應(yīng)用生態(tài)的智能化轉(zhuǎn)變。

在端側(cè)AI的實(shí)際應(yīng)用方面,2023年3月谷歌推出參數(shù)規(guī)模達(dá)5620億的PaLM-E的大模型,并在同年10月發(fā)布搭載Google AI基礎(chǔ)功能的Pixel 8系列手機(jī)。2023年11月,vivo發(fā)布1750億規(guī)模的自研藍(lán)心大模型,落地終端側(cè)70億參數(shù)大語言模型;2024年9月6日,榮耀CEO趙明在2024德國柏林消費(fèi)電子展IFA上面向全球推出行業(yè)首個(gè)跨應(yīng)用開放生態(tài)AI Agent。

f142abc6-6fd0-11ef-bb4b-92fbcf53809c.jpg

不難看出,端側(cè)小模型將成為未來智能手機(jī)乃至各類智能終端的語言模型應(yīng)用樣本。IDC(國際數(shù)據(jù)公司)預(yù)計(jì)2024年全球新一代 AI 手機(jī)的出貨量將超過1.7億部,約占智能手機(jī)整體出貨量的15%,Counterpoint預(yù)計(jì)2027年出貨量達(dá)到5.22億部,滲透率達(dá)到40%。從大廠們的選擇不難看出,隨著端側(cè)算力的提升,端側(cè)AI成為大模型終端落地的最優(yōu)解,模型語言與應(yīng)用生態(tài)融合發(fā)展的AI Agent成為未來的趨勢。

隨著軟硬件技術(shù)的高速發(fā)展,相信除智能手機(jī)外,各類IoT終端產(chǎn)品也將逐步落地端側(cè)AI,相關(guān)硬件算力和通信交互需求也將持續(xù)增長。

美格智能持續(xù)加碼高算力AI模組研發(fā)

與行業(yè)伙伴共建端側(cè)AI新生態(tài)

洞察到端側(cè)AI的優(yōu)勢和廣闊前景,美格智能圍繞高算力、大帶寬、低功耗、廣鏈接,打造多款高算力AI模組產(chǎn)品,為端側(cè)小語言模型落地提供12Tops~48Tops算力支持。

在模組強(qiáng)大算力的支持下,不僅能夠在模組上成功運(yùn)行Stable Diffusion、LLaMA-2、通義千問Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna等大模型產(chǎn)品,展現(xiàn)出卓越的邊緣端大模型部署能力,同時(shí)模組產(chǎn)品豐富的外圍接口,能夠以AI模組的形式將語音識(shí)別、機(jī)器視覺、導(dǎo)航、定位、避障和多模態(tài)技術(shù)通過各種傳感器植入到終端側(cè),幫助終端產(chǎn)品快速收集和整合信息,打造不斷學(xué)習(xí)進(jìn)步的智能“大腦”,助力客戶快速實(shí)現(xiàn)端側(cè)AI落地應(yīng)用,節(jié)約開發(fā)成本。

同時(shí),面對(duì)端側(cè)AI與物聯(lián)網(wǎng)生態(tài)融合發(fā)展的新趨勢,美格智能以智能車載為切入打造端云協(xié)作的智能物聯(lián)網(wǎng)解決方案。以美格智能在2023年即已發(fā)布的車規(guī)級(jí)5G R16/R17 + C-V2X系列模組為例,該模組具備的5G通信能力和高算力成為端側(cè)+云端結(jié)合的混合式AI的落地形式之一,可廣泛應(yīng)用于AI Agent智能座艙、高階輔助駕駛、無人駕駛、車路云一體化相關(guān)領(lǐng)域。

在通信方面,相關(guān)模組產(chǎn)品符合3GPP Release 16/17標(biāo)準(zhǔn),支持5G NR 獨(dú)立組網(wǎng)(SA)和非獨(dú)立組網(wǎng)(NSA),兼容全球主流國家和地區(qū)的頻段,支持選配C-V2X功能,使用全球統(tǒng)一的ITS 5.9GHz頻段部署V2X應(yīng)用,可采用PC5 Mode4模式直連通信,內(nèi)置ECDSA硬件引擎,可實(shí)現(xiàn)高達(dá)6000次/秒的C-V2X驗(yàn)簽性能,具備在高速移動(dòng)環(huán)境中提供遠(yuǎn)距離傳輸、大帶寬、低延時(shí)連接的優(yōu)越性能;在算力方面,模組內(nèi)置多核心CPU處理器,最大支持22K的算力,在充足算力的支持下,車輛可基于C-V2X構(gòu)建網(wǎng)聯(lián)智能,實(shí)現(xiàn)由端側(cè)車載計(jì)算、路側(cè)邊緣計(jì)算和中心云計(jì)算構(gòu)成的分級(jí)、網(wǎng)絡(luò)化智能決策與控制,快速進(jìn)行如車輛碰撞預(yù)警、車速引導(dǎo)、紅綠燈信息獲取等應(yīng)用。

端側(cè)AI是大模型技術(shù)落地的最優(yōu)解,而端側(cè)AI與云側(cè)大模型協(xié)同的混合式AI被行業(yè)從業(yè)者稱為“大模型時(shí)代的終極范式”,充分適配智能座艙、智能機(jī)器人、手持終端、AR/VR眼鏡等產(chǎn)品,成為人工智能落地應(yīng)用的新方向。同時(shí)混合式AI生態(tài)的發(fā)展又對(duì)終端的無線通信能力和算力提出了新的要求,集成了4G/5G 通信能力和高算力芯片以及眾多功能接口的智能模組和高算力AI模組,或?qū)⒊蔀橹悄芙K端廠商們的首選。

從蘋果的選擇來看,隨著端側(cè)算力的不斷增長和大模型技術(shù)的持續(xù)演進(jìn),終端側(cè)AI與混合式AI或許將成為大模型時(shí)代的最終選擇。美格智能也將持續(xù)不斷推出高算力模組和智能模組解決方案,以模組+解決方案雙輪驅(qū)動(dòng),支持更廣泛的垂直領(lǐng)域和合作伙伴共同引領(lǐng)生態(tài)發(fā)展,以先進(jìn)的無線通信和AI技術(shù)加快實(shí)現(xiàn)萬物智聯(lián)的美好愿景。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • iPhone
    +關(guān)注

    關(guān)注

    28

    文章

    13460

    瀏覽量

    201645
  • Apple
    +關(guān)注

    關(guān)注

    1

    文章

    929

    瀏覽量

    52792
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268875
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    中信建投建議關(guān)注側(cè)AI模組機(jī)會(huì)

    析,OpenAI在其“連續(xù)12天直播發(fā)布”的第5天宣布,支持Apple Intelligence的蘋果設(shè)備現(xiàn)已能夠開啟ChatGPT功能。這一消息不僅顯示了AI技術(shù)在消費(fèi)級(jí)市場的廣泛應(yīng)用潛力,也預(yù)示著
    的頭像 發(fā)表于 12-17 14:05 ?219次閱讀

    炬芯科技周正宇:Actions Intelligence 側(cè)AI音頻芯未來

    的全部潛力,AI計(jì)算必須合理的分配在云端服務(wù)器和側(cè)裝置(如PC,手機(jī),汽車, IoT裝置),而不是讓云端承載所有的AI負(fù)荷。這種云端和
    的頭像 發(fā)表于 11-08 10:22 ?258次閱讀

    蘋果發(fā)布Apple Intelligence開發(fā)者測試版

    此下跌超過3%。 據(jù)蘋果官方介紹,Apple Intelligence預(yù)覽版已經(jīng)面向開發(fā)者和部分用戶開放,但正式的公開版本將作為iOS 18.1的一部分,在下周正式發(fā)布。屆時(shí),備受矚目的生成
    的頭像 發(fā)表于 10-24 09:57 ?313次閱讀

    庫克訪華透露Apple Intelligence國內(nèi)上線進(jìn)展

    10月23日,蘋果CEO庫克到訪新浪總部,期間有現(xiàn)場觀眾詢問關(guān)于Apple Intelligence服務(wù)在國內(nèi)何時(shí)上線的問題。庫克對(duì)此回應(yīng)稱,蘋果正在積極推進(jìn)相關(guān)工作,但這一服務(wù)上線背后涉及一個(gè)具體的監(jiān)管流程,需要完成所有必要步驟,并希望能盡快為中國消費(fèi)者帶來這一服務(wù)。
    的頭像 發(fā)表于 10-23 11:47 ?437次閱讀

    Apple Intelligence未達(dá)預(yù)期,iPhone 16銷量受挫,AI全球化挑戰(zhàn)浮現(xiàn)

    蘋果公司今年的重頭戲——Apple Intelligence本應(yīng)成為推動(dòng)iPhone 16銷量飆升的“殺手锏”,然而現(xiàn)實(shí)卻給市場潑了一盆冷水。iPhone 16系列的首周末預(yù)售銷量較去年iPhone
    的頭像 發(fā)表于 09-20 14:45 ?628次閱讀

    蘋果布局未來AI戰(zhàn)略,Apple Intelligence引領(lǐng)智能新紀(jì)元

    在科技界不斷探索人工智能前沿的浪潮中,蘋果公司于8月27日通過外媒宣布了一項(xiàng)重大決定:將在人工智能領(lǐng)域開辟新徑,獨(dú)立于現(xiàn)有的Siri系統(tǒng)之外,全力研發(fā)新一代AI技術(shù)——Apple Intelligence。這一舉措標(biāo)志著蘋果公司
    的頭像 發(fā)表于 08-27 15:03 ?533次閱讀

    蘋果Apple Intelligence功能將暫不支持中國市場

    據(jù)報(bào)道,研究人員最新的iOS 18.1及macOS 15.1 Sequoia Beta1升級(jí)代碼中發(fā)現(xiàn),即將面世的Apple Intelligence功能在中國市場尚未規(guī)劃。以下細(xì)述
    的頭像 發(fā)表于 08-07 17:08 ?890次閱讀

    蘋果揭示AI新動(dòng)向:Apple Intelligence模型在谷歌云端芯片上預(yù)訓(xùn)練

    蘋果公司在最新的技術(shù)論文中披露了一項(xiàng)重要信息,其全新的人工智能系統(tǒng)Apple Intelligence所依賴的模型并非傳統(tǒng)上大型科技公司首選的NVIDIA GPU,而是選擇了在谷歌設(shè)計(jì)的云端芯片上進(jìn)行預(yù)訓(xùn)練。這一決定不僅打破了行業(yè)常規(guī),還預(yù)示著大型科技公司在
    的頭像 發(fā)表于 07-30 15:00 ?526次閱讀

    蘋果Intelligence或與原本預(yù)定iOS 18亮相的時(shí)間有所延遲

    蘋果公司精心打造的人工智能(AI)功能——Apple Intelligence或許會(huì)與原本預(yù)定的iOS 18首次亮相的時(shí)間有所延遲。   據(jù)了解,蘋果公司本有意將Apple
    的頭像 發(fā)表于 07-29 15:16 ?543次閱讀

    Atlassian Intelligence工具集解析:自然語言JQL處理,虛擬代理到AI摘要等

    ,利用合乎道德的AI模型來加速組織的現(xiàn)有能力。通過人機(jī)協(xié)作,用戶可以卸下繁瑣、重復(fù)的任務(wù),專注于自己的實(shí)際技能,并執(zhí)行更有影響力的工作。 Atlassian Intelligence旨在通過以下方式釋放
    的頭像 發(fā)表于 07-22 10:49 ?290次閱讀

    深入解析Atlassian Intelligence最新AI功能:編輯器中的生成AI、智能摘要、AI工作分解、虛擬代理等

    。他們表示,平均每周可節(jié)省45分鐘以上的時(shí)間,展示了AI是如何提高人類工作表現(xiàn)的。 但正如我們從一開始就說過的,這僅僅是個(gè)開始。更多Atlassian Intelligence功能將在Atlassian
    的頭像 發(fā)表于 07-16 18:23 ?561次閱讀
    深入解析Atlassian <b class='flag-5'>Intelligence</b>最新<b class='flag-5'>AI</b>功能:編輯器中的<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>、智能摘要、<b class='flag-5'>AI</b>工作分解、虛擬代理等

    Siri更新預(yù)告:Apple Intelligence AI系統(tǒng)預(yù)計(jì)2025年春隨iOS 18.4面世

    在于,蘋果將通過iOS 18.4的系統(tǒng)更新,向全球用戶全面推出其自主研發(fā)的Apple Intelligence AI系統(tǒng),為Siri賦予前所未有的智能能力。
    的頭像 發(fā)表于 07-08 16:27 ?891次閱讀

    蘋果Apple Intelligence功能受限:側(cè)AI發(fā)展的存儲(chǔ)瓶頸凸顯

    Intelligence功能,因受到存儲(chǔ)限制的影響,無法在其所有設(shè)備上全面使用,這一狀況無疑揭示了蘋果在側(cè)AI發(fā)展上的存儲(chǔ)瓶頸。
    的頭像 發(fā)表于 06-14 14:15 ?641次閱讀

    生成AI加速向終端側(cè)演進(jìn),NPU、異構(gòu)計(jì)算提供強(qiáng)大算力支持

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)生成AI是一種通過學(xué)習(xí)大規(guī)模數(shù)據(jù)集生成新的原創(chuàng)內(nèi)容的新型AI。Bloomberg
    的頭像 發(fā)表于 03-16 00:16 ?2862次閱讀

    榮耀引領(lǐng)側(cè)AI時(shí)代

    在今年的MWC盛會(huì)上,榮耀宣布與高通、Meta攜手,將70億參數(shù)大模型引入側(cè),這一創(chuàng)新舉措預(yù)示著側(cè)AI
    的頭像 發(fā)表于 03-01 10:28 ?630次閱讀
    RM新时代网站-首页