NVIDIA今年將在其AI產品中使用多達80萬個SOCAMM模組

這家GPU龍頭將為其用於AI產品的模組化記憶體解決方案 (SOCAMM) 生產大量庫存，從而更輕鬆地升級設備記憶體以獲得卓越的效能和高效率。

NVIDIA GTC大會上展出的全新SOCAMM，預計今年的庫存將有所增加，因為NVIDIA致力於在其AI產品上實現卓越的性能和更低的功耗。在GTC大會上我們看到 NVIDIA的GB300平台採用了美光科技開發的SOCAMM，這與伺服器和行動平台等AI產品上使用的HBM和LPDDR5X截然不同。

SOCAMM記憶體採用LPDDR DRAM，後者傳統上用於行動裝置和低功耗裝置。但與HBM和LPDDR5X不同，SOCAMM可升級。它並非焊接在PCB上，而是透過三個螺絲固定。根據韓國媒體ETNews最新報導NVIDIA今年計劃生產約60萬至80萬塊SOCAMM記憶體。此次新記憶體的增產將用於NVIDIA的AI產品。

首批搭載SOCAMM記憶體的產品之一是最新的GB300 Blackwell平台，這已經暗示了NVIDIA打算為其眾多AI產品過渡到新的記憶體規格。雖然今年80萬片的目標產量遠低於NVIDIA記憶體合作夥伴在2025年向NVIDIA交付的HBM記憶體數量，但明年這一規模將開始擴大，尤其是在SOCAMM 2記憶體上市之後。

SOCAMM記憶體採用客製化外形，不僅小巧模組化，而且比RDIMM更節能。我們尚不清楚特定的節能改善幅度，但從報告中得知SOCAMM將提供卓越的效率，同時帶來比RDIMM以及LPDDR5X和LPCAMM更高的頻寬，而LPDDR5X和LPCAMM是行動平台最受歡迎的記憶體解決方案之一。

SOCAMM記憶體頻寬約為150-250GB/s，並且可交換，為AI PC和AI伺服器提供了多功能選擇，並且可以輕鬆升級。在不久的將來SOCAMM有望成為低功耗AI設備的標準配備。目前美光公司是NVIDIA的SOCAMM製造商，而三星和SK Hynix據稱也正在與NVIDIA洽談，希望為NVIDIA生產SOCAMM模組。

消息來源