GPU九成時間都在瞎等？ HBM之父：AI的本質是記憶體

「GPU有九成時間在空轉等待！」被譽為HBM之父的南韓金正浩教授大膽定義「AI等於記憶體」，直言未來將由百層3D記憶體大樓取代傳統架構，顛覆製程迷思。

GPU工作時間只有20～10%

被譽為「HBM之父」的南韓科學技術院（KAIST）金正浩教授在接受節目專訪時指出，當前全球科技巨頭雖由NVIDIA展現壓倒性性能，但GPU的技術成長已幾乎停滯。金正浩教授在節目中直言：「即使安裝了100萬個GPU，實際工作時間可能只有20%，甚至10%。」他解釋，這是因為GPU需要從記憶體獲取數據才能計算，但數據從記憶體傳輸不過來，當ChatGPT快速吐出單詞時，幾乎全部時間都花在讀寫上，導致GPU在等待。因此不論如何改進演算法，GPU實際工作最多只有30%，其餘時間都在空轉。

★【理財達人秀】大跌大買 控盤吃貨 壓不住快飆 假殺大戶股 ★

AI的本質就是記憶體

金正浩教授進一步定義：「我定義AI = 記憶體。」他回顧自己從1990年代博士期間研究物理與超快雷射示波器，到1994年加入三星電子記憶體事業部，並於2010年代初期與SK海力士、NVIDIA及AMD共同參與第一代HBM開發。當時HBM被誤以為只能用在顯卡或電視上，但隨著AI演算法需要大量矩陣運算，兩者成了天作之合。金正浩教授強調，進入Agentic AI與Physical AI時代，記憶體使用量將暴增1000倍，未來不論是AI工廠、AIPC或AI手機，記憶體的能力與價格都將決定AI的性能與競爭力。

百層3D大樓的終極半導體架構

針對未來的電腦架構，金正浩教授拋出了由HBM、HBF與全新概念「HBS」組成的「百層大樓」構想。他主張，既然數據傳輸讓GPU在等待，不如轉向「以記憶體為中心的計算」，從HBM4開始在記憶體內部整合運算功能，讓GPU靠邊站。他描繪的未來藍圖是：HBM、HBF、HBS將組成一棟百層大樓，而GPU則位於最頂層。在這個架構中，除了負責快速傳輸的DRAM堆疊（HBM）外，為了應付暴增的影片與上下文工程，大廠也正著手堆疊NAND Flash以製造容量巨大的HBF，他預測10年後HBF的市場需求增長可能會超過HBM。此外，金正浩教授更提出「高頻寬SRAM（HBS）」的新概念，主張將整個12英吋晶圓鋪滿SRAM並垂直堆疊10到16層，徹底解決晶圓級晶片記憶體不足的痛點。

供電與散熱將成核心關鍵

在這棟3D半導體大樓中，最困難的挑戰將不再是製程奈米數。金正浩教授指出：「其中最困難的技术之一就是供電，其次則是散熱，由於在一樓記憶體層整合了運算功能，記憶體就像坐在「暖炕」上，誰能有效排出熱量將決定效能。他的實驗室目前正研究在HBM5頂層加裝冷卻塔，直接從頂部冷卻。未來如何供電與冷卻，將直接決定半導體企業的生存。

記憶體週期消失與大廠轉變

談到產業格局，金正浩教授認為全球唯二能同時做好DRAM與NAND Flash的三星電子與SK海力士擁有絕對優勢，有機會超越NVIDIA。他透露，今年兩家公司的合計營業利潤預估在500到600萬億韓元之間是現實的目標，因為從HBM4開始，市場已轉向「客製化HBM」，大廠根據客戶需求在開發初期便簽訂長期供貨協議，沒有訂單就不開發。這種由供方定價的賣方市場，已徹底打破了過去隨庫存波動的傳統「記憶體週期」。

（封面示意圖/AI生成）