根據MLPerf測試，Intel的Gaudi2晶片是用於LLM訓練的NVIDIA GPU的唯一替代品

Intel和Habana今天發布了MLPerf訓練測試，其中包含一些非常有趣的結果。Intel的Gaudi2現在是用於訓練LLM的NVIDIA GPU的唯一替代品。NVIDIA的股價在最近的AI（又名LLM）淘金熱中飆升，因為該公司的GPU被用來訓練幾乎所有流行的LLM（如ChatGPT）。然而Intel Gaudi2現在是NVIDIA GPU的唯一可行替代品，並且他們已經發布了測試來證明這一點。

ChatGPT可能是世界上一段時間以來最具顛覆性的力量，很明顯LLM是未來的方向。ChatGPT（免費）採用GPT 3.5模型，而GPT 3.5模型又採用GPT-3基本模型。ChatGPT 4採用GPT-4，但相關訊息極其稀疏，並且不存在相關測試。因此在確定使用什麼作為訓練CPU/GPU時，將GPT-3訓練到足夠的準確度（或減少損失函數）將是最相關的測試。NVIDIA使用其Hopper GPU在這一領域佔據主導地位，但最終還有一個替代方案：Intel Gaudi2。

Intel聲稱目前在FP16工作負載中比A100有更好的CP值，併計劃在9月份（在FP8工作負載中）擊敗NVIDIA的H100。這是一個相當雄心勃勃的目標，但該公司有測試來支援這一目標。

消息來源