重大變革！ NVIDIA AI伺服器明年預計將首次採用插槽設計

里昂證券的最新報告顯示，NVIDIA的AI伺服器將首次採用插槽設計，預計從明年下半年的GB200 Ultra開始。

這項變革意味著，NVIDIA的GPU產品將首次採用過去僅用於CPU產品的插槽設計將有助於簡化售後服務和伺服器板維護，並優化運算板的製造良率。

根據里昂證券的研究，採用插槽設計後，運算子將整合四顆NVIDIA GPU，每顆GPU都將配備一個插槽和一顆NVIDIA CPU

插槽設計主要應用於傳統的CPU伺服器市場，其優勢在於便於更換和升級處理器，簡化主機板製造並實現模組化。

目前，AMD的MI300A是目前AI GPU伺服器中唯一採用插槽設計的案例，隨著NVIDIA的加入，這項設計可能會成為未來AI伺服器的新標準。

里昂證券分析，NVIDIA的GPU出貨量持續擴大，預計到今年底將超過300萬顆，隨著NVIDIA模組化伺服器設計（MGX）的趨勢和對更便捷售後服務的需求，採用插槽設計成為可能。

來源