Google正在繼續推廣其人工智慧張量處理單元 (TPU),並與NVIDIA競爭,而目前業界正糾結於是使用NVIDIA昂貴的人工智慧GPU,還是依賴相對便宜的自研人工智慧晶片。Amazon第二季財報顯示雲端運算營收下降,股價收盤下跌9.8%。分析師將這一下跌歸因於該公司決定依賴其自研的Trainium人工智慧晶片,而非NVIDIA的人工智慧GPU。現在The Information的報告顯示Google正在與規模較小的雲端運算供應商接洽,希望他們除了提供NVIDIA的人工智慧GPU外,還提供其TPU晶片。
今日The Information的報導是在6月的一份報告之後發布的,該報告稱OpenAI正在使用Google的TPU來支援其ChatGPT和其他AI產品。該出版物引用了該報告的單一來源,即使該報告屬實,OpenAI很可能將其一小部分計算轉移到了Google的產品上。 The Information補充說這種轉移是由於NVIDIA產品的成本高昂,並概述了Google正在尋求其他雲端供應商將其TPU晶片納入其產品中。
現在該出版物在其先前的報道基礎上進行了補充。這次它引用了七個消息來源,概述了Google正在與小型雲端運算基礎設施供應商接洽,要求他們將其TPU與NVIDIA的AI GPU一起部署在資料中心。這些計算公司為AI軟體公司提供基礎設施,以滿足其運算需求,而Google的舉動似乎旨在為其內部晶片創造需求。
然而The Information補充道,與NVIDIA的競爭或許並非Google向雲端服務供應商推廣其TPU的唯一原因。另一個原因可能是儘管Google擁有充足的晶片供應,但它無法快速建立資料中心基礎設施來容納GPU。因此該公司可能更傾向於依賴配備TPU的外部基礎設施來滿足內部AI運算需求。
Amazon最新財報發布後,圍繞NVIDIA AI GPU以及大型科技公司試圖依賴內部晶片的討論愈演愈烈。由於該公司難以應對投資者對雲端運算成長的預期,以及Amazon試圖依賴內部Trainium晶片是否會降低需求,財報導致其股價下跌近10%。
New Street 的最新報告指出,這些問題仍然存在,並指出AWS仍然面臨採用方面的挑戰,我們聽說Anthropic(Trainium的主要大規模用戶)更傾向於使用 GPU。Amazon和Anthropic是關鍵合作夥伴,因為後者為Amazon提供了基礎的人工智慧模型,透過該模型,Amazon可以向企業提供人工智慧服務。
雖然內部晶片的成本效益吸引了大型科技公司,但NVIDIA仍然聲稱其晶片提供最佳性能。
消息來源
|