AI應用持續(xù)發(fā)展，內(nèi)存技術隨之進步。

隨著人工智能的發(fā)展，市場對內(nèi)存的要求更高，三星正在向市場推出基于特定應用要求的存儲組合產(chǎn)品。

據(jù)悉，三星最近正在研發(fā)新型存儲器LLW DRAM，將高帶寬、低延遲、低功耗的特性結合在一起。三星將新的內(nèi)存技術定位在需要運行大型語言模型（LLM）的設備上，未來也可能出現(xiàn)在各種客戶端工作負載中。

LLW DRAM作為一種低功耗內(nèi)存，擁有寬I/O、低延遲、每個模塊/堆棧提供了128GB/s的帶寬，與一個128位DDR5-8000內(nèi)存子系統(tǒng)的帶寬相同。同時，LLW DRAM還有另一個重要特性，就是1.2pJ/bit的超低功耗，不過三星沒有告知該功耗下的具體數(shù)據(jù)傳輸速率。

據(jù)了解，LLW DRAM在設計上可能會借鑒GDDR6W，并采用扇出晶圓級封裝（FOWLP）技術將多個DRAM集成到一個封裝中。

目前，三星已公布技術的預期性能細節(jié)，根據(jù)過往經(jīng)驗，LLW DRAM很可能到了開發(fā)階段的尾聲。

LLW芯片將與CPU一起工作，而不是完全取代傳統(tǒng)的DRAM。Galaxy S24系列可能會成為第一款使用該技術的智能手機。

三星已經(jīng)在為下一款旗艦產(chǎn)品準備新的人工智能功能，包括人工智能實時翻譯通話，該公司確認將于明年早些時候推出。三星將展示S24作為一款“AI手機”，2024年1月17日在圣何塞推出。

傳聞基礎版Galaxy S24將僅配備8GB RAM，并且無法選擇通過更昂貴的型號升級內(nèi)存。不過，Galaxy S24+將有一個配備12GB RAM，但其入門級版本仍將使用8GB RAM。Galaxy S24 Ultra入門級型號仍將配備8GB RAM，更高規(guī)格型號將配備12GB RAM。

如果這個信息是正確的，那么對三星來說看起來并不好。消費者不會喜歡三星削減成本，并且連續(xù)四年不在其旗艦智能手機系列中提供更多內(nèi)存。

與競爭對手的Android品牌智能手機相比，它看起來特別糟糕，這些智能手機在某些型號上提供16GB RAM甚至高達24GB RAM。

LLW DRAM將成為AI智能手機時代的“搖錢樹”

據(jù)業(yè)內(nèi)人士透露，三星電子正在開發(fā)的LLWDRAM，計劃于2024年底實現(xiàn)量產(chǎn)。

2020年以來，三星電子一直在開發(fā)輕量級 On-Device AI 算法，并將其應用于片上系統(tǒng) (SoC)、內(nèi)存和傳感器，增強其在 On-Device AI 半導體領域的競爭力。該公司預計將于2024年開始全面占領市場，首先是其內(nèi)部開發(fā)的生成人工智能三星高斯的移動產(chǎn)品部署。

SK 海力士還準備為蘋果公司定于2024年初發(fā)布的下一代增強現(xiàn)實 (AR) 設備 VisionPro 提供其特殊 DRAM。該DRAM與Apple新開發(fā)的VisionPro R1芯片相結合，支持實時高清視頻處理。在開發(fā)階段，蘋果公司在 R1 芯片上改用 SK 海力士的高帶寬 DRAM，繼續(xù)保持合作關系。

設備端人工智能在智能手機、自動駕駛汽車和擴展現(xiàn)實、增強現(xiàn)實等 IT 設備中執(zhí)行各種功能，例如對話識別、文檔摘要、位置識別和操作控制。與通過云處理復雜計算的服務器人工智能不同，設備端人工智能直接在設備上執(zhí)行數(shù)億次操作。為了快速處理大量數(shù)據(jù)而不消耗過多電量，增強輔助計算的 DRAM 的性能至關重要。

業(yè)內(nèi)人士預計，繼HBM之后，LLW DRAM市場的擴張將預示著定制內(nèi)存時代的開始。由于配備On-Device AI的設備差異很大，并且每種設備需要不同的功能，因此，需要從開發(fā)階段與客戶密切合作，以確定生產(chǎn)方法和數(shù)量。存儲器制造商不再大規(guī)模生產(chǎn)少量品種的產(chǎn)品，而是可以采用基于訂單的業(yè)務模式，保持定價能力并確保穩(wěn)定的性能。

具有AI處理能力的高帶寬內(nèi)存

三星電子還開發(fā)出了集成人工智能處理能力的高帶寬內(nèi)存 (HBM)——HBM-PIM。新款內(nèi)存內(nèi)處理 (PIM) 架構將強大的 AI 計算能力引入高性能內(nèi)存，加速數(shù)據(jù)中心、高性能計算 (HPC) 系統(tǒng)和支持 AI 的移動應用程序中的大規(guī)模處理。

三星電子內(nèi)存產(chǎn)品規(guī)劃高級副總裁 Kwangil Park 表示：“HBM-PIM 是針對各種 AI 驅動的工作負載（如 HPC、訓練和推理）量身定制的可編程 PIM 解決方案。我們計劃通過與 AI 解決方案供應商進一步合作，實現(xiàn)這一突破，實現(xiàn)更優(yōu)質的 PIM 支持應用?！?/p>

Argonne 計算、環(huán)境和生命科學實驗室副主任 Rick Stevens 評論：“我很高興看到三星正在解決 HPC 和 AI 計算內(nèi)存帶寬挑戰(zhàn)。HBM-PIM 設計在重要 AI 應用類別上展現(xiàn)了令人印象深刻的性能和能力提升，因此我們期待在 Argonne 國家實驗室感興趣的其他問題上共同評估其性能。”

如今的大多數(shù)計算系統(tǒng)都基于馮·諾依曼?(von Neumann) 架構，該架構使用單獨的處理器和內(nèi)存單元來執(zhí)行數(shù)百萬個復雜的數(shù)據(jù)處理任務。這種順序處理方法要求數(shù)據(jù)不斷往復移動，從而造成系統(tǒng)速度減慢的瓶頸，尤其是在處理不斷增加的數(shù)據(jù)量時。

與之不同的是，HBM-PIM 通過將經(jīng)過DRAM優(yōu)化的 AI 引擎置于每個內(nèi)存庫（存儲子單元）內(nèi)，將處理能力直接引入到數(shù)據(jù)存儲位置，從而實現(xiàn)并行處理并盡可能減少數(shù)據(jù)移動。當應用于三星現(xiàn)有的 HBM2 Aquabolt 解決方案時，新架構能夠提供超過兩倍的系統(tǒng)性能，同時將能耗降低 70% 以上。HBM-PIM 也不需要任何硬件或軟件變更，從而可以更快地集成到現(xiàn)有系統(tǒng)中。

審核編輯：黃飛

?