HBM即高帶寬內(nèi)存，是一款新型的CPU/GPU內(nèi)存芯片。如果說傳統(tǒng)的DDR就是采用的"平房設(shè)計"方式，那么HBM則是采用"樓房設(shè)計"方式。

目前，HBM產(chǎn)品以HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）、HBM3E（第五代）的順序開發(fā)。

可以看到，HBM每一次更新迭代都會伴隨著處理速度的提高。

HBM3自2022年1月誕生，便憑借其獨特的2.5D/3D內(nèi)存架構(gòu)，迅速成為高性能計算領(lǐng)域的翹楚。HBM3不僅繼承了前代產(chǎn)品的優(yōu)秀特性，更在技術(shù)上取得了顯著的突破。它采用了高達1024位的數(shù)據(jù)路徑，并以驚人的6.4 Gb/s的速率運行，實現(xiàn)了高達819 Gb/s的帶寬，為高性能計算提供了強大的支持。

而今，SK海力士、美光等廠商將這一標準再度提升，HBM3E一經(jīng)問世便迅速贏得市場的熱烈追捧。

01三大存儲巨頭的HBM3E技術(shù)特點
HBM3E技術(shù)的主要引領(lǐng)者依然是美光、SK海力士與三星這三大巨頭，它們繼續(xù)在這一領(lǐng)域發(fā)揮重要作用，共同推動著技術(shù)的創(chuàng)新與進步。以下是這三大廠商在HBM3E技術(shù)方面的精彩呈現(xiàn)。

SK海力士-獨創(chuàng)的MR-MUF技術(shù)等

2023年8月21日，SK海力士宣布成功開發(fā)出面向AI的超高性能DRAM新產(chǎn)品HBM3E，并開始向客戶提供樣品進行性能驗證。

據(jù)悉，SK海力士采用了先進的MR-MUF（Molding with Rubberand UFP）技術(shù)，使得HBM3E的散熱性能比上一代產(chǎn)品提高10%。這種技術(shù)通過在半導(dǎo)體芯片堆疊后的空間中注入液體形態(tài)的保護材料并進行固化，與每堆疊一個芯片時鋪上薄膜型材料的方式相較，工藝效率更高，散熱方面也更加有效；其HBM3E的最高數(shù)據(jù)處理速度可達每秒1.18TB（太字節(jié)），這意味著它能夠在極短的時間內(nèi)處理大量數(shù)據(jù)。相當于在1秒內(nèi)處理230部全高清（FHD）級別的電影。

另外，其HBM3E提供高達8Gbps的傳輸速度，這是相較于前一代HBM3的顯著提升。這種高速度對于需要快速數(shù)據(jù)處理的應(yīng)用場景，如高性能計算和人工智能，尤為重要。

美光-1β、先進的硅通孔（TSV）技術(shù)等

2023年9月，SK 海力士的 HBM3E 內(nèi)存迎來新競爭對手-美光。

美光也利用其 1β（1-beta）技術(shù)、先進的硅通孔（TSV）和其他實現(xiàn)差異化封裝解決方案的創(chuàng)新技術(shù)開發(fā)出業(yè)界領(lǐng)先的 HBM3E 設(shè)計。

憑借其卓越的性能、出色的能效等優(yōu)勢，美光的HBM3E收獲內(nèi)存市場的諸多青睞。比如美光 HBM3E 引腳速率超過 9.2Gb/s，提供超過 1.2TB/s 的內(nèi)存帶寬，助力人工智能加速器、超級計算機和數(shù)據(jù)中心實現(xiàn)超高速的數(shù)據(jù)訪問；美光 HBM3E 目前提供 24 GB 容量，使數(shù)據(jù)中心能夠無縫擴展其人工智能應(yīng)用。無論是用于訓(xùn)練海量神經(jīng)網(wǎng)絡(luò)還是加速推理任務(wù)，美光的解決方案都提供了必要的內(nèi)存帶寬。

三星-先進的熱壓非導(dǎo)電薄膜技術(shù)等

三星也一直在致力于提供更為優(yōu)秀的產(chǎn)品以滿足人工智能時代對高性能和大容量解決方案的更高要求。

2023年10月21日，三星在其一年一度的“存儲器技術(shù)日”活動中，發(fā)布了名為“Shinebolt”的新一代HBM3E DRAM。

三星Shinebolt支持新一代AI應(yīng)用，可提高總體擁有成本，加速數(shù)據(jù)中心的AI模型訓(xùn)練和推理。HBM3E的每個引腳速度高達9.8Gbps，這意味著整體傳輸速率可超過1.2TBps。為實現(xiàn)更高的堆疊層數(shù)并改善熱特性，三星優(yōu)化了非導(dǎo)電薄膜(NCF)技術(shù)，以消除芯片層之間的間隙并盡可能提高導(dǎo)熱性。

2024年2月，三星成功發(fā)布其首款12層堆疊HBM3E DRAM——HBM3E 12H，這是三星目前為止容量最大的HBM產(chǎn)品。

三星HBM3E 12H支持全天候最高帶寬達1280GB/s，產(chǎn)品容量也達到了36GB。相比三星8層堆疊的HBM3 8H，HBM3E 12H在帶寬和容量上大幅提升超過50%。

HBM3E 12H采用了先進的熱壓非導(dǎo)電薄膜（TC NCF）技術(shù)，使得12層和8層堆疊產(chǎn)品的高度保持一致，以滿足當前HBM封裝的要求。HBM3E 12H產(chǎn)品的垂直密度比其HBM3 8H產(chǎn)品提高了20%以上。三星先進的熱壓非導(dǎo)電薄膜技術(shù)還通過允許在芯片之間使用不同尺寸的凸塊（bump）改善HBM的熱性能。

相比HBM3 8H，HBM3E 12H搭載于人工智能應(yīng)用后，預(yù)計人工智能訓(xùn)練平均速度可提升34%，同時推理服務(wù)用戶數(shù)量也可增加超過11.5倍。

02各家的量產(chǎn)進度

2024年3月19日，SK海力士宣布，公司率先成功量產(chǎn)超高性能用于AI的存儲器新產(chǎn)品HBM3E，將在3月末開始向客戶供貨。

SK海力士作為全球首家推出HBM3E的供應(yīng)商，自去年8月宣布開發(fā)計劃至今，僅用了短短七個月時間便實現(xiàn)了量產(chǎn)。據(jù)悉，SK海力士的首批HBM3E產(chǎn)品將按照預(yù)定計劃準時交付給英偉達。

2024 年 2 月 26 日，美光宣布開始量產(chǎn)其 HBM3E 高帶寬內(nèi)存解決方案。據(jù)悉，英偉達 H200 Tensor Core GPU 將采用美光 8 層堆疊的 24GB 容量 HBM3E 內(nèi)存，并于 2024 年第二季度開始出貨。

目前，三星已開始向客戶提供HBM3E 12H樣品，預(yù)計于今年下半年開始大規(guī)模量產(chǎn)。

03競購HBM3E，英偉達既要又要還要隨著AI服務(wù)器的流行，AI加速卡的需求也呈現(xiàn)出強勁的增長勢頭。而作為AI加速卡的重要組成部分，高頻寬存儲器HBM正逐漸成為其不可或缺的DRAM模塊。

英偉達的下一代AI加速卡B100（Blackwell架構(gòu)）的存儲器規(guī)格，將采用HBM3E。而這種規(guī)格的存儲器，目前只有SK海力士、三星電子和美光能提供。為了保障HBM的穩(wěn)定供應(yīng)，英偉達甚至需要以大量預(yù)付款的形式提供資金支持內(nèi)存供應(yīng)商研發(fā)HBM產(chǎn)品。要知道客戶向內(nèi)存供應(yīng)商大規(guī)模預(yù)付款項的情況是很少見的。

畢竟，急切需要HBM3E產(chǎn)能的并非只有英偉達一家，眾多企業(yè)都競相爭奪這一稀缺資源，比如 AMD、微軟、亞馬遜等都在排隊購買。

據(jù)悉，AMD 將在今年晚些時候推出采用 HBM3e 內(nèi)存的升級版 MI300 AI 加速器，隨后于 2025 年推出新一代 Instinct MI400。除英偉達和AMD之外，亞馬遜和微軟則是云服務(wù)領(lǐng)域的兩大巨頭，之前已引入生成式人工智能技術(shù)，并大幅追加了對于AI領(lǐng)域的投資。報道稱，SK海力士正忙于應(yīng)對客戶對HBM3E樣品的大量請求，但滿足英偉達首先提出的樣品數(shù)量要求非常緊迫。

在這場競賽的伊始，兩大HBM供應(yīng)商的產(chǎn)能迅速被搶購一空。

近日，SK海力士副總裁Kim Ki-tae在一篇博文中表示，雖然2024年才剛開始，但今年SK海力士旗下的HBM已經(jīng)全部售罄。同時，公司為了保持市場領(lǐng)先地位，已開始為2025年預(yù)作準備。美光科技也表示今年HBM產(chǎn)能已銷售一空，2025年絕大多數(shù)產(chǎn)能已被預(yù)訂。

此前英偉達聯(lián)合創(chuàng)始人兼CEO黃仁勛在GTC 2024大會上表示，英偉達正在測試三星的HBM芯片，可能會在未來采用。

這也意味著，在當前供需關(guān)系異常緊張的背景下，英偉達不僅依賴SK海力士和美光兩家提供HBM3E產(chǎn)能，還急需三星的加入以滿足其日益增長的需求。

如此來看，在AI發(fā)展如日中天的當下，HBM3E的2024年產(chǎn)能存在嚴重不足。

04

2024年HBM供給位元年增長率有望高達260%

據(jù)集邦咨詢，截至 2024 年底，整體 DRAM 產(chǎn)業(yè)規(guī)劃生產(chǎn) HBM TSV 的產(chǎn)能約為 250K/m，占總 DRAM 產(chǎn)能（約 1,800K/m）約 14%，原廠持續(xù)加大投入，供給位元年增長率有望高達 260%。 占比方面，HBM 需求持續(xù)旺盛，2024 年訂單已基本被買家鎖定，占 DRAM 總產(chǎn)值比重有望從 2023 年的 8.4%提升至 2024 年的 20.1%，成長迅速。

該機構(gòu)同時預(yù)估了三大HBM廠商的HBM/TSV產(chǎn)能，其中三星HBM TSV年產(chǎn)能將在2024年達到130K/m。SK海力士次之，可達120~125K/m；美光相對較少，僅為20K/m、目前三星、SK海力士規(guī)劃提高HBM產(chǎn)能最積極，其中SK海力士在HBM3市場的占有率逾90%，而三星將連續(xù)數(shù)個季度緊追，未來將受惠于AMD MI300芯片的逐季放量。

HBM高帶寬存儲芯片晶圓的尺寸相比同容量、同制程的DDR5大35%~45%，然而良率（包含TSV封裝良率）要低20%~30%。生產(chǎn)周期方面，HBM的制造工藝（包含TSV）較DDR5長1.5~2個月不等。由于HBM芯片生產(chǎn)周期更長，從投片到產(chǎn)出、封裝完成需要兩個季度以上。因此，急需取得充足供貨的買家更早鎖定訂單。

去年6月有媒體報道稱，SK海力士正在準備投資后段工藝設(shè)備，將擴建封裝HBM3的利川工廠，預(yù)計到今年年末，該廠后段工藝設(shè)備規(guī)模將增加近一倍。

近日，SK海力士正計劃投資大約40億美元，在美國印第安納州西拉斐特新建大型的先進芯片封裝工廠，力爭擴張HBM存儲產(chǎn)能以滿足英偉達龐大需求。該大型先進封裝工廠可能于2028年開始運營。

為了縮小差距，美光也對其下一代產(chǎn)品 HBM3E 下了很大的賭注。據(jù)悉，美光科技位于中國臺灣的臺中四廠已于2023年11月初正式啟用。美光表示，臺中四廠將整合先進探測與封裝測試功能，量產(chǎn)HBM3E及其他產(chǎn)品，從而滿足人工智能、數(shù)據(jù)中心、邊緣計算及云端等各類應(yīng)用日益增長的需求。

三星電子從去年第四季度開始擴大第四代HBM即HBM3的供應(yīng)，目前正進入一個過渡期。負責(zé)三星美國半導(dǎo)體業(yè)務(wù)的執(zhí)行副總裁 Han Jin-man 在今年1月表示，公司對包括 HBM 系列在內(nèi)的大容量存儲芯片寄予厚望，希望它能引領(lǐng)快速增長的人工智能芯片領(lǐng)域。他在CES 2024的媒體見面會上對記者說，“我們今年的 HBM 芯片產(chǎn)量將比去年提高 2.5 倍，明年還將繼續(xù)提高 2 倍?！?/p>

三星官方還透露，公司計劃在今年第四季度之前，將 HBM 的最高產(chǎn)量提高到每月 15 萬至 17 萬件，以此來爭奪2024年的HBM市場。此前三星電子斥資105億韓元收購了三星顯示位于韓國天安市的工廠和設(shè)備，以擴大HBM產(chǎn)能，同時還計劃投資7000億至1萬億韓元新建封裝線。

然而值得注意的是，日前，海外分析師表示，三星HBM3芯片的生產(chǎn)良率約為10%~20%，而SK海力士的HBM3良率可達60%~70%。最大的原因就在于三星堅持使用熱壓非導(dǎo)電薄膜（TC NCF）制造技術(shù)，這會導(dǎo)致一些生產(chǎn)問題。而SK海力士則大規(guī)模采用回流模制底部填充（MR-MUF）技術(shù)，可以克服NCF的弱點。為提高產(chǎn)量，三星正在積極與材料制造商展開談判，其中包括日本的Nagase等公司，旨在獲取MUF材料的穩(wěn)定供應(yīng)。據(jù)悉，盡管三星已經(jīng)下達了用于MUF技術(shù)的芯片制造設(shè)備采購訂單，但由于需要進行更多的測試和優(yōu)化，使用MUF技術(shù)大規(guī)模生產(chǎn)高端芯片最早可能要到明年才能準備就緒。

05HBM量價齊升，國產(chǎn)廠商迎頭趕上國內(nèi)存儲廠商也在入局HBM市場。

根據(jù)采招網(wǎng)，近日，武漢新芯發(fā)布《高帶寬存儲芯粒先進封裝技術(shù)研發(fā)和產(chǎn)線建設(shè)》招標項目，利用三維集成多晶圓堆疊技術(shù)，打造更高容量、更大帶寬、更小功耗和更高生產(chǎn)效率的國產(chǎn)高帶寬存儲器產(chǎn)品，推進多晶圓堆疊工藝產(chǎn)業(yè)化，新增生產(chǎn)設(shè)備約17臺/套，擬實現(xiàn)月產(chǎn)出能力≥3000片（12英寸）。

面對海外大廠對于 HBM3E 的量產(chǎn)，國內(nèi)存儲廠商也在 HBM 技術(shù)上進行著加速突破，有望在 AI 大浪潮的需求下提升競爭實力。

例如中國臺灣的華邦電于去年8月介紹了其類HBM高帶寬產(chǎn)品CUBEx， 采用1~4層TSV DRAM堆疊，I/O速度500M~2Gbps，總帶寬最高可達1024GB/s，顆粒容量為0.5~4GB，功耗低至不足1pJ/bit。這種比常規(guī)HBM擁有更高帶寬的CUBEx可用于AR、VR、可穿戴等領(lǐng)域。

中國大陸方面，目前國際一線廠商DRAM制程在1alpha、1beta水平，國產(chǎn)DRAM制程在 25~17nm水平，中國臺灣DRAM制程在25~19nm水平。國內(nèi)DRAM制程接近海外，且國內(nèi)擁有先進封裝技術(shù)資源和GPU客戶資源，有強烈的國產(chǎn)化訴求，未來國產(chǎn)DRAM廠商有望突破HBM。

目前中國大陸只有長電科技、通富微電和盛合晶微等一線封裝廠商擁有支持HBM生產(chǎn)的技術(shù)（如TSV硅通孔）和設(shè)備。長電科技在投資者互動中表示，其XDFOI高密度扇出封裝解決方案也同樣適用于HBM的Chip to Wafer 和Chip to Chip TSV堆疊應(yīng)用；通富微電此前表示，南通通富工廠先進封裝生產(chǎn)線建成后，公司將成為國內(nèi)最先進的2.5D/3D先進封裝研發(fā)及量產(chǎn)基地，實現(xiàn)國內(nèi)在HBM高性能封裝技術(shù)領(lǐng)域的突破，對于國家在集成電路封測領(lǐng)域突破“卡脖子”技術(shù)具有重要意義。

在其余供應(yīng)鏈上，芯片設(shè)計企業(yè)國芯科技則表示已與合作伙伴一起正在基于先進工藝開展流片驗證相關(guān)chiplet芯片高性能互聯(lián)IP技術(shù)工作，和上下游合作廠家積極開展包括HBM技術(shù)在內(nèi)的高端芯片封裝合作。

紫光國微表示，公司HBM產(chǎn)品為公司特種集成電路產(chǎn)品，目前還在研發(fā)階段。

香農(nóng)芯創(chuàng)此前表示，公司作為SK海力士分銷商之一具有HBM代理資質(zhì)。公司未來根據(jù)下游客戶需求，在原廠供應(yīng)有保障的前提下形成相應(yīng)銷售。

飛凱材料表示，環(huán)氧塑封料是HBM存儲芯片制造技術(shù)所需要的材料之一，MUF材料按性狀和工藝分不同品種，目前公司MUF材料產(chǎn)品包括液體封裝材料LMC及GMC顆粒封裝料，液體封裝材料LMC已經(jīng)量產(chǎn)并形成少量銷售，顆粒填充封裝料GMC尚處于研發(fā)送樣階段。

興森科技表示，公司的FCBGA封裝基板可用于HBM存儲的封裝，但目前尚未進入海外HBM龍頭產(chǎn)業(yè)鏈。

HBM3和HBM3E，作為HBM芯片的最新迭代版本，正逐漸成為市場的寵兒。它們與核心微處理器芯片的緊密結(jié)合，為生成式人工智能處理海量數(shù)據(jù)提供了強有力的支持。未來，隨著HBM3和HBM3E技術(shù)的不斷完善和成熟，我們有理由相信，它們將在更多領(lǐng)域大放異彩，成為推動人工智能發(fā)展的重要力量。無論是國內(nèi)還是國際的廠商，都將在這一領(lǐng)域中迎來新的發(fā)展機遇和挑戰(zhàn)。