60%成本都花在記憶體！ Rubin帳單暴增2.5倍 一座要吞「4500支手機」

輝達下一代Vera Rubin伺服器的記憶體用量與成本創下歷史新高。在上一代Grace Blackwell架構伺服器中，記憶體費用占總物料成本的53%，到了Vera Rubin世代，這一比重進一步攀升至62%。雖然整體伺服器成本成長至前代的2.1倍，但光是記憶體的支出就暴增了2.5倍。

記憶體占據絕大部分成本

根據Wccftech引述瑞銀報告數據，輝達每顆Vera Rubin Superchip的總成本為38,902美元，其中光是HBM4與SOCAMM2 LPDDR5X記憶體就占據了24,297美元。若分開來看，Rubin GPU晶片成本約9,247美元（含GPU、HBM4、封裝、中介層與周邊元件），其搭戴的288 GB HBM4記憶體估計價值4,943美元，占該GPU晶片成本的53.4%。

而Vera CPU晶片成本約為20,059美元，但其搭配的SOCAMM2 LPDDR5X記憶體成本高達19,355美元，占比高達Vera CPU總價的96.4%。換言之，如果扣除記憶體費用，Vera CPU本體的成本僅有704美元，顯示出DRAM已幾乎決定了整顆晶片的絕大部分造價。

★【理財達人秀】投信開鍘 中小不妙? 回血又解套 清單勝利組 ★

單一機架等同4500支手機

名為Oberon的Vera Rubin NVL72機架，共配置了72顆Rubin GPU與36顆Vera CPU（由36組Superchip構成）。整座NVL72機架配備了20.7 TB的HBM4記憶體與54 TB的LPDDR5X記憶體，總記憶體池容量達到74.7 TB。這樣的記憶體用量，相當於單一機架就消耗掉了約4,500支智慧型手機所需的DRAM總量。

AI巨頭爭相包產能

這項拆解分析揭示了全球DRAM嚴重短缺的主要原因。除了輝達之外，超微推出的Helios平台每顆GPU也配備高達432 GB的HBM4記憶體，並同樣搭戴龐大的LPDDR5X記憶體。各大AI巨頭在Agentic AI時代紛紛推出新一代加速器與伺服器平台，加上三大記憶體原廠表示供應短缺將持續數年，並優先透過長期協議供應給AI客戶，這將讓全球記憶體市場的供需持續承受巨大壓力。

（封面圖／翻攝自輝達官網）