NVIDIA及其合作夥伴正在推動AI記憶體的下一階段發展,根據一份新報告Kioxia計劃開發比傳統SSD速度快100倍的商用SSD。
看來NVIDIA正在著眼於HBM技術的替代方案,並致力於改進傳統SSD,使其效能超越當今的HBM解決方案。根據日經新聞報導Kioxia正與NVIDIA合作開發AI SSD,其速度可能比傳統解決方案快100倍,旨在透過提供更高的容量並直接安裝在GPU上來取代HBM。
NVIDIA聲稱希望透過Kioxia打造的解決方案實現2億IOPS,而這家SSD製造商可能會使用兩塊不同的SSD,每塊SSD的IOPS均為1億。該解決方案據稱將提供PCIe 7.0連接,以達到NVIDIA期望的速度。更重要的是需要從零開始進行改造,用類似SSD的解決方案取代HBM。根據Kioxia過去披露的訊息,我們很可能會關注該公司推出的HBF(高頻寬快閃記憶體)。
HBF解決了NAND的局限性,而SanDisk最初開發了這項標準。 HBF的關鍵優勢在於它可以提供極高的容量,每個裝置可擴展到數TB的記憶體容量,這意味著傳統資料中心可以利用龐大的記憶體池來處理推理工作負載。然而HBF並非Kioxia實現NVIDIA設定目標的唯一途徑,該公司更看好XL-Flash等高性能NAND技術的解決方案。
有趣的是見證業界克服了HBM的局限性並擴展到更新的解決方案,而且從目前的情況來看NAND將在未來的AI記憶體中發揮至關重要的作用。
消息來源 |