Intel與NVIDIA Blackwell生態系統合作，打造混合式機架式AI平台，為其AI晶片找到生命線

Intel已將其Gaudi 3機架規模解決方案與NVIDIA的技術整合，利用其自己的AI晶片與Blackwell相結合，實現令人印象深刻的性能升級。

我們都知道Intel的人工智慧晶片，尤其是Gaudi系列已在業界廣泛應用。但與NVIDIA和AMD等競爭對手相比，Intel在人工智慧市場的收入一直處於困境。現在Intel似乎正在尋找新的Gaudi平台銷售方式。根據SemiAnalysis報導Intel計畫為其客戶提供一款全新的Gaudi 3機架式系統，該系統將採用混合配置的NVIDIA Blackwell B200 GPU以及Connect-X網路。

這似乎是OCP全球高峰會上最引人注目的公告之一，Intel計劃以獨特的方式利用機架級AI領域。讓我們來討論一下這個系統將如何發展。這是一個獨特的實現，其中Intel的Gaudi 3 AI晶片將專注於推理工作負載的解碼部分，而B200將負責更激進的預填充階段。由於Blackwell GPU平台的高效能特性，該平台在整個環境中的大型矩陣乘法突發運算中表現最佳，因此分配預填工作負載是正確的選擇。

在此配置中，Intel的Gaudi 3將更加重視記憶體頻寬和以乙太網路為中心的橫向擴展，因此這種配置看起來比較合理。在網路方面，該機架在計算托盤上使用 NVIDIA的ConnectX-7 400GbE網路卡，並在機架規模上使用博通的Tomahawk 5 51.2Tb/s交換機，以確保全連接。 SemiAnalysis表示該計算托盤配備兩個 Xeon CPU、四個Gaudi 3 AI晶片和四個網卡，以及1個NVIDIA BlueField-3 DPU，每個機架總共有16個托盤。

在NVIDIA主導的生態系統中，Gaudi平台是一款經濟高效的解碼引擎，因此其策略至少可以說是如果無法擊敗他們，那就加入他們。據稱在小型高密度型號上，這款機架級配置的預填充性能比僅採用B200的標準提高了1.7倍；然而這一性能聲明尚未經過獨立測試。這種方法對Intel來說非常有效，因為他們現在可以透過將Gaudi平台捆綁到機架級系統中來實現盈利。對NVIDIA來說這意味著他們現在知道自己的網路能力是一流的。

雖然這種混合配置聽起來很樂觀，但Gaudi AI平台的軟體堆疊仍然不成熟，這將限制其普及。由於Gaudi架構將在幾個月內逐步淘汰，我們懷疑這種機架規模的配置能否達到與其他方案相同的主流普及水準。

消息來源