AMD發表MI350P，這是其四年來首款PCIe Instinct－ 4.6 PFLOPs AI Compute, 144 GB HBM3E at 600W

AMD發表了全新的Instinct MI350P PCIe GPU加速器，這是多年來的首款PCIe設計，旨在滿足AI工作負載的需求。

AMD推出的Instinct MI350P PCIe GPU為企業用戶提供了一個無需投資昂貴基礎設施即可擴展其AI運算能力的解決方案。 MI350P採用PCIe設計，是一款易於使用且即插即用的解決方案，在標準的雙槽伺服器設計中實現了卓越的效能。

為了幫助您迎接人工智慧時代的到來，AMD Instinct MI350P PCIe卡是專為標準風冷伺服器設計的雙槽即插即用型顯示卡。它們旨在利用您現有資料中心的電力、散熱和機架基礎設施，在本地部署推理能力。經濟高效的PCIe卡整合了AMD Instinct GPU，完善了AMD AI運算產品組合，為您的企業在應對獨特的AI應用挑戰時提供了豐富的選擇。

以下是Instinct MI350P PCIe GPU的一些亮點：

• 原生支援低精度MXFP6和MXFP4可提供高吞吐量。
• 透過稀疏性支援加速大多數主流8位元和16位元精度。
• 預計效能可達2,299兆次浮點運算 (TFLOPS)，在MXFP4模式下峰值可達4,600 TFLOPS，是目前企業級PCIe卡所能達到的最高效能。
• 預計配備144GB高頻寬記憶體3e (HBM3E)，運行速度高達4TB/s。
• 開放的生態系統提供低成本甚至零成本的開發堆疊選項，簡化了部署，並有助於降低營運成本。
  

從規格來看，AMD Instinct MI350P採用CDNA 4架構，採用台積電3nm製程，採用4個XCD核心的配置，是MI350X核心數量的一半。它還配備了一個採用台積電 6nm FinFET製程的單I/O晶片。此晶片包含128個計算單元，相當於8192個處理器和512個矩陣核心。核心峰值頻率為2200MHz。整個晶片包含730億個電晶體。

在記憶體方面，Instinct MI350P整合了128MB的LLC（以Infinity Cache的形式整合在GPU內部），並配備144GB高速HBM3E，透過4096位元位寬的匯流排運行，提供4TB/s的速度。相較之下，MI350X則配備了288GB的HBM3E，並透過8192位元位寬的匯流排運作。這款PCIe顯示卡長度為10.5吋（267cm），採用被動散熱設計，非常適合伺服器應用。 AMD還為其配備了16針電源，以滿足600W的總功耗要求。此外此顯示卡的功耗也可透過配置降低至450W。

就效能而言，AMD Instinct MI350P有以下特點：

• 4.6 PFLOPs MXFP4
• 4.6 PFLOPs MXFP6
• 2.3 PFLOPs MXFP8
• 2.3 PFLOPs FP16 (Sparsity)
• 1.15 PFLOPs FP16
• 72 TFLOPs FP16
• 72 TFLOPs FP32
• 36 TFLOPs FP64
• 2.3 POPs INT8
• 4.6 POPs INT8 (Sparsity)
• 1.15 PFLOPs BFloat16
• 2.30 PFLOPs BFloat16 (Sparsity)
  

如您所見AMD Instinct MI350系列（包括MI350P）可為各種企業級AI精確格式（如 MXFP6 和 MXFP4）提供原生加速。

MI350P 的競爭對手是H200 NVL，它是NVIDIA最後一款採用PCIe的GPU加速器，配備141GB HBM3E，並搭載Hopper H200 GPU。 NVIDIA也發布了RTX PRO 6000 Blackwell伺服器版，但它採用標準的GB202晶片，而不是真正的伺服器級GB200。 RTX PRO 6000 Blackwell配備96GB GDDR7記憶體。 H200 NVL GPU 的售價約為3萬至4萬美元。

AMD Instinct MI350P PCIe GPU現已透過多個合作夥伴推出，並提供完全開放的生態系統和支援ROCm的企業級AI軟體。

消息來源