11月5日消息，在SK AI Summit 2024上，SK 海力士領先三星和美光，發布了業界首款16層堆疊（16Hi）的 HBM3E內存，并確保“技術穩定性”，計劃最早在明年年初提供樣品。
在幾周之前，SK 海力士才推出了12層堆疊的 HBM3E內存，獲得了AMD MI325X和英偉達Blackwell Ultra的合同。而最新的16層堆疊的 HBM3E內存的容量為 48GB（每個芯片 3GB）。這種密度的增加，可以使得 AI 加速器能夠在8個HBM堆棧配置中擁有高達 384GB 的HBM3E容量。
SK 海力士聲稱，16層堆疊的 HBM3E 的AI訓練性能提高了 18%，推理性能提高了 32%。與 12層對的的HMB3E一樣，新的16層堆疊的HBM3E采用了 MR-MUF 等封裝技術，該技術通過熔化芯片之間的焊料來連接芯片。
SK 海力士預計16層堆疊HBM3E 樣品將于2025 年初準備好。然而，這種內存可能只是短暫的過渡產品，因為SK海力士計劃2025下半年推出首批12層堆疊的HBM4產品，16層堆疊的HBM4將會在2026年推出。
同時，SK海力士還透露，英偉達CEO黃仁勛要求其提前6個月供應HBM4，SK海力士也愿意嘗試，將加強與英偉達合作。這也意味著HM4有可能提前量產。
有報道稱，SK 海力士早在今年10月就已經實現了HBM4的流片。遵循傳統的芯片開發生命周期，預計英偉達和AMD將在2025年第一季度/第二季度收到認證樣品。
資料顯示，HBM4 將通道寬度從 1024 位增加到 2048 位，同時支持超過 16 個垂直堆疊的 DRAM 芯片，每個芯片的內存高達 4GB。這將帶來巨大的升級，應該足以滿足即將推出的 AI GPU 的需求。
此外，SK海力士還在積極開發 PCIe 6.0 SSD、針對 AI 服務器的大容量 QLC（四層單元）eSSD 和用于移動設備的 UFS 5.0。SK海力士還在開發一種LPCAMM2模塊，并使用其1c nm制程節點開發焊接的LPDDR5/6存儲器。
為了克服“內存墻”，SK海力士還正在開發近內存處理 （PNM）、存內處理 （PIM） 和計算存儲等解決方案。三星此前已經演示了其 PIM 版本——其中數據在內存中處理，因此數據不必移動到外部處理器。
