RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

成都匯陽投資關(guān)于跨越帶寬增長極限,HBM 賦能AI新紀(jì)元

話說科技 ? 來源:話說科技 ? 作者:話說科技 ? 2024-07-04 10:55 ? 次閱讀

AI 時代新需求,HBM 應(yīng)運而生】

隨著人工智能技術(shù)的快速發(fā)展,傳統(tǒng)的 GDDR 內(nèi)存逐漸達到其技術(shù)發(fā)展的瓶頸:

1)GDDR5 無法跟上 GPU 性能發(fā)展:AI 訓(xùn)練的參數(shù)量每兩年增長 410 倍,而單 GPU 內(nèi)存僅以每兩年 2 倍的速度增長;硬件的峰值計算能力 20 年中提升了 60,000 倍,但 DRAM 帶寬的增長卻僅提高了 100 倍,互連帶寬只提升了 30 倍。 內(nèi)存難以跟上AI硬件的計算速度,限制了AI 芯片性能發(fā)揮,形成了“ 內(nèi)存墻 ” ;

2)GDDR5限制了外形尺寸:為實現(xiàn)高帶寬,越來越多的 GDDR5 和電路要集成在一起會限制產(chǎn)品的尺寸;

3)片上集成并非萬能:片上集成的兼容和可拓展性受到限制。

HBM 的出現(xiàn)克服傳統(tǒng) GDDR 在帶寬上的局限,并突破內(nèi)存墻的限制,以適應(yīng)AI 時代對高算力和高帶寬內(nèi)存的需求。

在HBM出現(xiàn)之前,DRAM按照產(chǎn)品分類主要分為 DDR、LPDDR 和 GDDR。其中 DDR 適用于計算機、服務(wù)器和其他高性 能計算設(shè)備等領(lǐng)域;LPDDR 適合移動設(shè)備和嵌入式系統(tǒng)等需要長時間使用的場景,如手機、平板、穿戴等;GDDR是為了 設(shè)計高端顯卡而特別設(shè)計的高性能 DDR存儲器規(guī)格,它比主內(nèi)存中使用的普通 DDR存儲器時鐘頻率更高,發(fā)熱量更小,所以更適合搭配高端顯示芯片。

HBM全稱為 High Bandwidth Memory,即高帶寬內(nèi)存,它將多個DDR 芯片垂直堆疊在一起后和GPU封裝在一起。與傳統(tǒng)的DRAM相比,它確保了更多的 I/O (Input/Output,輸入/輸出)通道,一次可以傳輸大量的數(shù)據(jù),在較小的物理空間內(nèi)實現(xiàn)高帶寬、低延遲和低功耗,從而成為數(shù)據(jù)中心等應(yīng)用場景的新一代內(nèi)存解決方案。

【國內(nèi)HBM 初起步,三大巨頭推進產(chǎn)線建設(shè)】

全球 HBM 市場長久以來都由三大存儲原廠牢牢占據(jù)龍頭地位。根據(jù)高盛的數(shù)據(jù),2023 年 HBM市場的競爭格局中,海力士約占 54%,三星占 41%,美光占 5%。 海力士目前占據(jù)市場主導(dǎo)地位,三星緊隨其后追擊,而美光雖然目前市場份額較 小,但正在積極擴大產(chǎn)能和技術(shù)。由于HBM3E 產(chǎn)能不足,三大巨頭或都進入英偉達供應(yīng)鏈,目前美光搶先獲得英偉達 H200 訂單,海力士也開始量產(chǎn)供貨英偉達, 三星已通過 AMD MI350 的驗證,英偉達方面的驗證時間稍晚于其他兩家。

內(nèi)DRAM 市場大部分份額仍然被三星、海力士和美光等占據(jù),還有部分臺灣廠商南亞科技、華邦電子等角逐市場份額,國內(nèi)廠商的市場份額相對較小,主要DRAM 廠商有兆易創(chuàng)新、北京君正、東芯股份、長鑫存儲、紫光國微、福建晉華等。

國內(nèi)存儲廠商武漢新芯和長鑫存儲正處于 HBM 制造的早期階段,主要是為了應(yīng)對未來人工智能(AI)和高性能計算(HPC)領(lǐng)域的應(yīng)用需求。其中武漢新芯正在針對 HBM 建造月產(chǎn)能 3000 片晶圓的 12 英寸工廠,長鑫存儲則與封裝和測試廠通富微電合作開發(fā)了HBM 樣品,并向潛在的客戶展示。

除存儲大廠以外,華為也準(zhǔn)備建立其內(nèi)部 HBM 供應(yīng)鏈。據(jù) The Information 報道,華為已開始將其重點轉(zhuǎn)移到有吸引力的HBM 市場。該聯(lián)盟現(xiàn)在與從事存儲器業(yè)務(wù)的公司合作。HBM在AI 市場的動態(tài)中發(fā)揮著至關(guān)重要的作用,特別是在 制造AI加速器時,HBM 在中國的供應(yīng)受到更大程度的限制下,建立 HBM 內(nèi)部生產(chǎn)鏈將有利提振未來國內(nèi)AI 能力。

【AI 需求強勁驅(qū)動,HBM 量價齊升】

AI和高性能計算(HPC)領(lǐng)域的需求是 HBM 增長的主要驅(qū)動力。HBM顯著的高速、高帶寬和低功耗特性使得它在AI和高性能計算領(lǐng)域中具有廣泛的應(yīng)用前景。AI 服務(wù)器主流 GPU 如 H100、 A100、A800 以及 AMD MI250、MI250X 等基本都配備了 HBM。后續(xù)推出的王牌產(chǎn)品也持續(xù)升級 HBM 最新迭代版本,對 HBM 需求居高不下。

全球各大科技巨頭都在競購 HBM,AI 浪潮下HBM 市場規(guī)模將快速增長。根據(jù)騰訊科技的測算,2024 年全年,全球經(jīng)由CoWoS 封裝的 GPU 產(chǎn)品,產(chǎn)能約為 900 萬顆。按照單顆 GPU 邏輯芯片搭配 6 顆 HBM內(nèi)存顆粒的標(biāo)準(zhǔn)計算(部分搭配8 顆 HBM),全球 2024年的 GPU,對 HBM 內(nèi)存的需求就在 5400 萬顆以上(12 層為主)。TrendForce 預(yù)估 2023 年全球 HBM 需求量將年增近 60%,2024 年將再成長 30%。

《2023-2024 中國人工智能計算力發(fā)展評估報告》指出,中國AI 算力市場規(guī)模正在快速成長擴大,2023 年中國AI服務(wù)器市場規(guī)模將達 91 億美元,同比增長 82.5%;智能算力規(guī)模預(yù)計達到 414.1EFLOPS(每秒百億億次浮點運算), 同比增長 59.3%;2022-2027 年期間,年復(fù)合增長率預(yù)計達 33.9%。

隨著美國將限制 HBM 芯片對華出口,這種情況疊加 HBM 供不應(yīng)求使得國內(nèi)廠商購買到 HBM 的可能性大大下降,企業(yè)將轉(zhuǎn)向國內(nèi)HBM 廠商,未來中國 HBM 市場空間廣闊。根據(jù) IDC 的數(shù)據(jù),2022 年上半年到 2023 年上半年,中國AI 加速卡出貨約 109 萬張,英偉達市場份額為 85%,華為市占率為 10%,百度市占率為 2%、 寒武紀(jì)和燧原科技均為 1%。隨著國內(nèi)HBM 從 0 到 1 實現(xiàn)突破后,市占約 15%的國產(chǎn)算力芯片廠商將會逐步切換為國產(chǎn) HBM,替代空間廣闊。

DRAM 市場經(jīng)歷了 2022 年平均銷售單價的下滑后,三星在 2023 年 Q4 大幅減產(chǎn),庫存壓力改善后 DRAM 出貨拉升帶動價格從 2023 年 9 月中旬開始持續(xù)上漲, 2024 年 Q1 投片量開始回升,產(chǎn)能利用率達到80%左右,下半年是旺季,需求預(yù)期將較上半年明顯增加,產(chǎn)能會持續(xù)提升至 Q4。而 HBM 此前受ChatGPT 的 拉動同時受限產(chǎn)能不足,HBM 價格一路上漲,與性能最高的DRAM 相比,HBM3 的價格 上漲了五倍,預(yù)計 2024 年 HBM 價格還會再上漲 5-10%。HBM 呈現(xiàn)量價齊升的態(tài)勢, SEMI 預(yù)計 2024 年市場規(guī)模達 70 億美元,2030 年達 400 億美元,2022- 2030 年CAGR 達 63.85%。

我們篩選出以下潛力標(biāo)的

雅克科技(002409)公司是全球著名的磷酸酯阻燃劑生產(chǎn)企業(yè),海力士為其前驅(qū)體業(yè)務(wù)第一大客戶,配套供應(yīng) HBM 所需前驅(qū)體。

長電科技(600584)半導(dǎo)體存儲市場領(lǐng)域,公司的封測服務(wù)覆蓋 DRAM、Flash 等各種存儲芯片產(chǎn)品,擁有 20 多年 Memory 封裝量產(chǎn)經(jīng)驗,16 層 NAND Flash 堆疊,35um 超薄芯片制程能力,Hvbrid 異型堆疊等,都處于國內(nèi)行業(yè)領(lǐng)先的地位。

盛美上海(688082)公司有刷洗設(shè)備、涂膠設(shè)備等 7 款產(chǎn)品用于先進封裝。產(chǎn)品可覆蓋完整的工藝流程,包括清洗、涂膠、顯影、電鍍、平坦化電拋光、光刻膠去除及濕法蝕刻等。年初以來盛美上海已多次收到先進封裝清洗設(shè)備的采購訂單, 及電鍍設(shè)備的批量訂單,最近又推出升級版的涂膠設(shè)備,該款設(shè)備在性能和外觀進行了優(yōu)化,應(yīng)用于先進晶圓級封裝。

參考資料華鑫證券-HBM 專題報告:跨越帶寬增長極限,HBM 賦能AI新紀(jì)元.pdf

免責(zé)聲明:本文由投資顧問: 馮利勇(執(zhí)業(yè)證書編碼:A1280620060001)、羅力川(登記編號:A1280622110002)等編輯整理,僅代表團隊觀點,任何投資建議不作為您投資的依據(jù),您須獨立作出投資決策,風(fēng)險自擔(dān)。請您確認(rèn)自己具有相應(yīng)的權(quán)利能力、行為能力、風(fēng)險識別能力及風(fēng)險承受能力,能夠獨立承擔(dān)法律責(zé)任。 所涉及個股僅作投資參考和學(xué)習(xí)交流,不作為買賣依據(jù)。投資有風(fēng)險,入市需謹(jǐn)慎!


審核編輯 黃宇


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 帶寬
    +關(guān)注

    關(guān)注

    3

    文章

    926

    瀏覽量

    40911
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268882
  • HBM
    HBM
    +關(guān)注

    關(guān)注

    0

    文章

    379

    瀏覽量

    14744
收藏 人收藏

    評論

    相關(guān)推薦

    HBM4到來前夕,HBM熱出現(xiàn)兩極分化

    電子發(fā)燒友網(wǎng)報道(文/黃晶晶)高帶寬存儲器HBM由于生成式AI的到來而異軍突起,成為AI訓(xùn)練不可或缺的存儲產(chǎn)品。三大HBM廠商SK海力士、三
    的頭像 發(fā)表于 09-23 12:00 ?2588次閱讀

    HBM4需求激增,英偉達與SK海力士攜手加速高帶寬內(nèi)存技術(shù)革新

    隨著生成式AI技術(shù)的迅猛發(fā)展和大模型參數(shù)量的急劇增加,對高帶寬、高容量存儲的需求日益迫切,這直接推動了高帶寬內(nèi)存(HBM)市場的快速增長,并
    的頭像 發(fā)表于 11-05 14:13 ?344次閱讀

    高精度3D Hall搖桿專用芯片,開啟操控新紀(jì)元

    在飛控領(lǐng)域中的3D霍爾搖桿,開啟操控新紀(jì)元!
    的頭像 發(fā)表于 10-30 09:29 ?275次閱讀
    高精度3D Hall搖桿專用芯片,開啟操控<b class='flag-5'>新紀(jì)元</b>

    倒計時1天 | 第三屆OpenHarmony技術(shù)大會——明天,上海見!

    技術(shù)引領(lǐng)筑生態(tài),萬物智聯(lián)創(chuàng)未來 OpenHarmony 開源生態(tài) 繁榮于各方共建,又于千行百業(yè) 開創(chuàng)了萬物智聯(lián)的新紀(jì)元,開源盛事,亦是開源盛世!
    發(fā)表于 10-11 23:29

    跨越地理限制:動態(tài)海外住宅IP技術(shù)引領(lǐng)全球化網(wǎng)絡(luò)新紀(jì)元

    跨越地理限制:動態(tài)海外住宅IP技術(shù)引領(lǐng)全球化網(wǎng)絡(luò)新紀(jì)元這一主題,凸顯了動態(tài)海外住宅IP技術(shù)在全球化網(wǎng)絡(luò)環(huán)境中的重要作用。
    的頭像 發(fā)表于 09-27 08:30 ?303次閱讀

    能耗管理系統(tǒng)新紀(jì)元:智能科技引領(lǐng)綠色生活風(fēng)尚

    能耗管理系統(tǒng)新紀(jì)元:智能科技引領(lǐng)綠色生活風(fēng)尚 在科技日新月異的今天,我們的生活正經(jīng)歷著前所未有的變革,而能耗管理系統(tǒng)作為連接環(huán)保與可持續(xù)發(fā)展的橋梁,正步入一個由智能科技引領(lǐng)的新紀(jì)元。這一變革不僅重塑
    的頭像 發(fā)表于 08-15 18:17 ?512次閱讀

    比爾·蓋茨展望AI:耳機與智能眼鏡引領(lǐng)人機交互新紀(jì)元

    我們描繪了一幅人工智能(AI)技術(shù)普及后,生活與工作方式的全新圖景。他特別指出,耳機與智能眼鏡將成為AI硬件領(lǐng)域的兩大焦點,引領(lǐng)人機交互進入前所未有的新紀(jì)元
    的頭像 發(fā)表于 07-04 16:34 ?937次閱讀

    技嘉科技推出GIGABYTE AI TOP,引領(lǐng)本地AI訓(xùn)練新紀(jì)元

    技嘉科技在COMPUTEX 2024前夕推出GIGABYTE AI TOP,引領(lǐng)本地AI訓(xùn)練新紀(jì)元   在即將到來的COMPUTEX 2024科技盛會前夕,全球知名的計算機硬件制造商技嘉
    的頭像 發(fā)表于 06-11 14:11 ?892次閱讀

    一圖看懂2024華為智能充電網(wǎng)絡(luò)開啟超充新紀(jì)元

    一圖看懂2024華為智能充電網(wǎng)絡(luò)開啟超充新紀(jì)元
    的頭像 發(fā)表于 04-29 10:27 ?607次閱讀
    一圖看懂2024華為智能充電網(wǎng)絡(luò)開啟超充<b class='flag-5'>新紀(jì)元</b>

    高通重磅發(fā)布第三代驍龍7+,引領(lǐng)AI與性能新紀(jì)元

    近日,科技界掀起一陣狂潮,高通技術(shù)公司盛大發(fā)布第三代驍龍7+移動平臺,此舉不僅將終端側(cè)生成式AI技術(shù)首次引入驍龍7系,更在性能上實現(xiàn)飛躍,CPU性能飆升15%,GPU性能更是驚人提升45%。這一革命性的移動平臺,無疑將引領(lǐng)智能手機行業(yè)進入全新的AI與性能
    的頭像 發(fā)表于 03-25 09:46 ?1412次閱讀

    HBM:突破AI算力內(nèi)存瓶頸,技術(shù)迭代引領(lǐng)高性能存儲新紀(jì)元

    HBM制造集成前道工藝與先進封裝,TSV、EMC、鍵合工藝是關(guān)鍵。HBM制造的關(guān)鍵在于TSV DRAM,以及每層TSV DRAM之間的連接方式。
    發(fā)表于 03-14 09:58 ?1224次閱讀
    <b class='flag-5'>HBM</b>:突破<b class='flag-5'>AI</b>算力內(nèi)存瓶頸,技術(shù)迭代引領(lǐng)高性能存儲<b class='flag-5'>新紀(jì)元</b>

    HBM、HBM2、HBM3和HBM3e技術(shù)對比

    AI服務(wù)器出貨量增長催化HBM需求爆發(fā),且伴隨服務(wù)器平均HBM容量增加,經(jīng)測算,預(yù)期25年市場規(guī)模約150億美元,增速超過50%。
    發(fā)表于 03-01 11:02 ?1413次閱讀
    <b class='flag-5'>HBM</b>、<b class='flag-5'>HBM</b>2、<b class='flag-5'>HBM</b>3和<b class='flag-5'>HBM</b>3e技術(shù)對比

    芯原成都獲評“年度技術(shù)企業(yè)”

    成都市集成電路行業(yè)協(xié)會在成都天府皇冠假日酒店召開了“成都集成電路產(chǎn)業(yè)發(fā)展大會”。大會上,芯原微電子 (成都) 有限公司 (以下簡稱:芯原成都
    的頭像 發(fā)表于 01-22 10:23 ?764次閱讀

    高通和三星為首個Galaxy AI的智能手機帶來最先進的驍龍移動平臺

    此次發(fā)布標(biāo)志著高通和三星戰(zhàn)略合作伙伴關(guān)系的又一里程碑,將開啟移動AI體驗新紀(jì)元。
    的頭像 發(fā)表于 01-18 09:06 ?560次閱讀

    AI的突破與融合:2024年中國智能技術(shù)的新紀(jì)元

    隨著人工智能領(lǐng)域的不斷突破,2024年注定將成為中國智能技術(shù)發(fā)展的一個新紀(jì)元。當(dāng)下,AI技術(shù)不僅在理論研究上取得了重大進展,其在商業(yè)應(yīng)用、社會服務(wù)等領(lǐng)域的融合也日益深入。本文將結(jié)合近期網(wǎng)絡(luò)上的AI熱點,展望中國在
    的頭像 發(fā)表于 01-03 15:41 ?870次閱讀
    <b class='flag-5'>AI</b>的突破與融合:2024年中國智能技術(shù)的<b class='flag-5'>新紀(jì)元</b>
    RM新时代网站-首页