3月21日消息，NVIDIA近日宣布了未來三代AI服務器，不但規格、性能越來越強，HBM內存也是同步升級，容量、頻率、帶寬都穩步前進。

其中，基于GB300芯片的Blackwell Ultra NVL72今年下半年發布，繼續采用HBM3E內存；明年下半年的Vera Rubin NVL144升級為下一代HBM4內存；后年下半年的Rubin Ultra NVL576繼續升級為加強版HBM4E內存；而到了2028年的Feynman全新架構有望首次采用HBM5內存。

與此同時，SK海力士、三星、美光三大原廠也紛紛展示了自己的HBM內存發展規劃，包括HBM4、HBM4e。

SK海力士如今作為HBM內存的領袖，直接擺出了一顆48GB大容量的HBM4，是世界第一顆，也是最強的一顆。

它采用單Die 24Gb(3GB)的設計，16Hi也就是16顆堆疊而成，數據傳輸率8Gbps，IO位寬2048-bit，也就是一顆的帶寬就有2TB/s。

美光的沒有做過多介紹，只是說性能比HBM3e提升了50％，而量產時間安排在2026年。

三星的資料最為詳盡，不但有具體參數，還有規劃路線圖。

三星這次展示的HBM4密度也是單Die 24Gb，單顆容量則有36GB(12堆疊)、24GB(8堆疊)兩種，不如SK海力士。

不過，數據傳輸率最高9.2Gbps，帶寬最高2.3TB/s。

它采用MPGA封裝，尺寸12.8x11毫米，堆疊高度775微米，能效為每bit 2.3PJ。

對于下代HBM4E，三星規劃單Die容量提高到32Gb(4GB)，支持8/12/16堆疊，因此單顆容量最大可以做到64GB，而且高度維持不變。

同時數據傳輸率提高到10Gbps，繼續搭配2048-bit位寬，帶寬可達2.56TB/s。

HBM內存現階段和可預見的未來都會主要用于AI服務器，應該是不會下放到消費級顯卡了，當年的AMD Fiji、Vega恐怕成為絕唱。

目前，中國在DRAM內存、NAND閃存方面都已經基本追上了國際領先水平或者差距不大，HBM則還需要大大努力。

消息稱，多家中國廠商已經搞定了第二代HBM2，并已供貨給客戶，搭配國產AI GPU加速器，倒也相得益彰。