三星宣布首次與Xilinx Alveo AI加速器成功整合HBM-PIM

HBM-PIM與Xilinx Alveo AI加速器系統的整合將使整體系統性能提高2.5倍，同時將能耗降低60%以上。PIM架構將廣泛使用在HBM之外，包括主流DRAM和行動記憶體。

三星電子是先進儲存技術的全球領導者，今天在Hot Chips 33上展示了其在記憶體中處理 (PIM) 技術的最新進展——這是一個領先的半導體會議，每年都會公佈最引人注目的微處理器和IC創新。三星的曝光包括首次將其支援PIM的高頻寬記憶體 (HBM-PIM) 成功整合到商業化加速器系統中，並將PIM應用擴展到包含 DRAM和行動記憶體，以加速記憶體和邏輯的融合。

2月三星推出了業界首款 HBM-PIM（Aquabolt-XL），將AI處理功能融入三星的HBM2 Aquabolt中，以增強超級電腦和AI應用中的高速數據處理能力。此後HBM-PIM在Xilinx Virtex Ultrascale+ (Alveo) AI加速器中進行了測試，系統性能提升了近2.5倍，能耗降低了60%以上。

Acceleration DIMM (AXDIMM) 為DRAM本身帶來處理能力，最大限度地減少CPU和DRAM之間的大量數據移動，從而提高AI加速器系統的能效。透過緩衝晶片內建的AI引擎，AXDIMM可以並行處理多個記憶體(一組DRAM晶片），而不是一次只訪問一個，大大提高了系統性能和效率。由於該模組可以保留其傳統的 DIMM外形，AXDIMM便於直接更換，而無需修改系統。目前正在客戶伺服器上進行測試，AXDIMM可以在採用AI的推薦應用中提供大約兩倍的性能，並將系統範圍的能源使用量減少40%。

消息來源