隨著HBM缺貨阻礙人工智慧熱潮，Sandisk押注在High Bandwidth Flash(HBF)上

SanDisk 正在尋找更具創新性的解決方案來解決記憶體限制問題，例如在晶片內堆疊NAND快閃記憶體。

人工智慧的快速發展以及對運算能力的相應需求，暴露出了瓶頸問題，迫使DRAM和NAND製造商採用創新方法。過去晶片製造商推出新型儲存技術就萬事大吉了，而DRAM則是其中最主要的零件。但成本上升、開發/良率低以及功耗增加，促使他們開始關注其他可行的解決方案。 HBM曾穩定發展，但由於供應短缺，正迅速成為瓶頸。

HBM也存在其他缺點，例如容量較低。儘管DRAM製造商每一代都在努力提高速度和容量，但迄今仍無法滿足市場需求。此外HBM位於主晶片旁邊，這意味著存在晶片間延遲的缺點。還有NAND快閃記憶體，它容量更大、成本更低，但其儲存位置距離晶片更遠，資料傳輸速度也更慢。此外NAND快閃記憶體的讀寫速度也尚未達到DRAM（HBM）的水平。

為了克服這個難題，NAND快閃記憶體製造商SanDisk早前公佈了其HBF（高頻寬快閃記憶體）解決方案的計畫。據悉HBF採用了與HBM類似的架構，即將多層NAND快閃記憶體堆疊在一起。每一層都透過多個TSV（矽通孔）連接，最終將所有NAND封裝熔合為單一的堆疊結構。目前HBM的單堆疊容量為32-64GB，而 HBF的容量最高可達4TB。

雖然這解決了容量和速度方面的問題，但未來人工智慧和高效能運算的需求遠不止於此。而這正是SanDisk最新專利US 12,430,274 B2的用武之地。該專利探討了一種利用CBA（CMOS 鍵結陣列）技術將NAND快閃記憶體晶片以3D堆疊的方式放置在主運算晶片（可以是AI加速器或GPU）下方的方案。此方案仍使用同一中介層上的HBM DRAM，但其用途有所不同。

這就像一石二鳥：HBM 負責需要立即處理的記憶體工作，而記憶體單元上的NAND快閃記憶體則用於讀取和寫入操作和處理更大的資料集。 NAND快閃記憶體提供了計算晶片和記憶體單元之間更寬的連接，從而降低了速度、成本和功耗。

處理核心包括一個直接整合到高頻寬、高容量非揮發性記憶體上的多核心處理器。此處理器例如可以是大型圖形處理器 (GPU) 或人工智慧 (AI) 處理器。此非揮發性記憶體可以包括一個CBA（CMOS鍵結陣列）記憶體單元，該單元具有一個大型NAND記憶體單元和一個CMOS邏輯電路單元。整合的處理器和CBA記憶體單元可以固定在中介層上。處理核心還可以包括堆疊的高頻寬記憶體 (HBM) 半導體晶片，這些晶片固定在中介層上，圍繞處理器和 CBA 記憶體單元的一側或多側。

雖然這項技術或許能讓我們一窺未來克服記憶體瓶頸的方法，但需要注意的是，它目前仍處於專利階段。在它真正成為現實之前，還有許多問題需要解決，例如功耗、製造這種晶片的成本（將NAND快閃記憶體和DRAM封裝在單一晶片上）等等。

這項專利為這種採用NAND快閃記憶體的處理器架構打造了一道實實在在的護城河——尤其是難以複製的介面、貫穿式佈線技術。然而如今正朝著標準化方向發展的產品卻採用了更簡單、更易於市場接受的旁路方案。最引人入勝的故事仍在繼續：SanDisk最終能否彌合其專利保護範圍與實際出貨產品之間的差距。公告是頭條新聞，而專利本身則是更深層的策略藍圖。

消息來源