Microsoft Azure 推出首款可擴充 AI VM 服務 ND A100 v4 VM 系列採用 NVIDIA A100 GPU

微軟宣布將 AI 帶進 Azure Innovation，新款 ND A100 v4 VM 系列有著強大且高擴充性的 AI VM 虛擬機，可擴充內部互連的上千顆 NVIDIA GPU。

ND A100 v4 VM 系列採用 NVIDIA Ampere A100 Tensor Core GPU，並可擴充至上千顆 GPU 互連，並有著 1.6 Tb/s 內部頻寬（per VM），此外每顆 GPU 採用 NVIDIA Mellanox HDR InfiniBand 連接可達到 200 Gb/s 的頻寬。

任何 AI 系統規模都可透過專屬的 GPU 至 GPU 頻寬更快完成，其頻寬比任何公有雲端方案高 16 倍；大多數用戶能立即體驗到相較於先前搭載 NVIDIA V100 GPU 的系統 2 到 3 倍的效能，而且無需額外的研發工程。客戶在新的執行個體上能獲得高達 20 倍的效能提升，這要歸功於新增的 A100 功能，像是結合稀疏編碼加速 (sparsity acceleration) 技術的多重精度 Tensor 核心與多執行個體 GPU (MIG)。

NVIDIA加速運算部門副總裁暨總經理 Ian Buck表示：「利用 NVIDIA 最先進的運算與連網技術，Azure 專為雲端的大規模 AI 設計出一個卓越的平台。透過 NVIDIA Mellanox Infiniband 互連技術，其彈性架構能使單一 NVIDIA A100 GPU 的一個分區擴充成數千個 A100 GPU，Azure用戶將能執行全球各種要求最嚴苛的 AI 作業負載。」

新款叢集現已開放客戶評測，更多詳細資訊請參閱 Microsoft 部落格文章。