Intel Gaudi 3 AI加速器現已在IBM Cloud上線；效能比NVIDIA的H100和H200 AI GPU更快

Intel Gaudi 3人工智慧加速器已正式被IBM Cloud採用。這是CSP首次將Gaudi 3納入其產品組合，這是一個令人興奮的發展。

由於Intel早期沒有利用好人工智慧的熱潮，因此其人工智慧投資並不像競爭對手那麼出色。該公司至今仍未在該行業中佔據一席之地，這就是為什麼Intel Gaudi AI 系列的採用率要低得多。不過IBM Cloud已成為第一家使用Intel  Gaudi 3 AI加速器可用性的CSP，該CSP表示此舉是為了向客戶提供具有成本效益的解決方案。

透過將Intel  Gaudi 3 AI加速器導入IBM Cloud，我們協助企業擴展生成性AI工作負載，並優化推理和微調效能。這項合作凸顯了我們共同的承諾，讓全球企業更方便、更經濟地使用人工智慧。

- Intel副總裁Saurabh Kulkarni

客戶可以使用IBM的雲端虛擬伺服器存取Gaudi 3 AI加速器的運算能力，有趣的是Signal65已成功在平台上測試了該加速器，並展示了相對於NVIDIA的H100和H200的GPU的效能。這也標誌著Intel  Gaudi 3首次在內部之外進行測試，結果向我們表明如果Intel打好牌，他們可以在AI領域競爭。

測試顯示，Intel最新的加速器在IBM的Granite（8B）和Meta的Llama-3.1型號上的表現均優於NVIDIA H100和H200 AI加速器。每次測試運行的參數都是特定的，這意味著在實際使用情況下，Intel的Gaudi 3可能不會反映相同的性能，但這些結果很有趣。可變輸入大小進一步進行了測試，以下是Signal65得出的結論：

Gaudi 3在各種配置中均保持與NVIDIA H200和H100高度競爭的效能，展示了其對各種AI用例的廣泛適用性。

此外與NVIDIA的產品相比，Intel的Gaudi 3在IBM Cloud中的售價更低，這使其成為尋求經濟高效的運算選項的客戶的理想選擇。總括來說可以肯定地說只要獲得正確的營銷和採用，Intel的Gaudi 3可能是一款令人印象深刻的產品。雖然在受歡迎程度和性能方面它無法接近NVIDIA的選擇，但Gaudi 3是一個可行的替代方案。

消息來源