Amazon希望透過提升能源效率和效能,使其AI晶片在與NVIDIA Blackwell GPU的競爭中佔據優勢。 NVIDIA的Blackwell GPU是市場上最高階的AI晶片。然而,其價格(部分原因是需求旺盛導致供應緊張,預計在3萬至4萬美元之間)一直是限制其發展的主要因素。 NVIDIA CEO黃仁勳駁斥了客製化AI晶片蠶食公司市佔率的擔憂,因為他對其產品的性能優勢充滿信心。然而根據AWS客戶和產品工程高級總監加迪·赫特(Gadi Hutt)在接受CNBC採訪時透露,Amazon的目標是透過其Trainium晶片系列實現卓越的能源效率。
NVIDIA Blackwell晶片的成本一直是AI GPU領域最受關注的議題之一。分析師認為單一Blackwell AI GPU的價格至少為3萬美元,而Blackwell GB200晶片的價格則在6萬至7萬美元之間。因此這些晶片的供應量本來就有限,大多數AI公司無法大量購買,這限制了AI訓練和推理軟體的傳播。
在這方面,Amazon認為其Trainium2晶片在成本分析方面表現更佳。與其他幾家大型科技公司一樣,Amazon也自主研發客製化AI晶片。這些晶片主要在內部使用,並與NVIDIA的先進晶片協同使用。Amazon的Trainium於2020年首次推出,並於去年12月推出了Trainium2。該公司聲稱Trainium2的性能是第一代晶片的四倍,CP值比當時市場上的AI GPU高出40%。
Amazon的加迪赫特 (Gadi Hutt) 在接受CNBC採訪時分享了該公司即將推出的Trainium3晶片的細節。他相信這款晶片將比Trainium2節省額外50%的能耗,性能也將比上一代提升一倍。Amazon的Amazon網路服務 (AWS) 表示其Trainium2 GPU已經訓練了與Amazon合作的Anthropic的Claud Opus 4 AI模型。這些晶片也為Anthropic的Rainier超級電腦提供動力。
Hutt概述Trainium晶片的CP值也優於NVIDIA的Blackwell GPU,而Blackwell仍然是性能最佳的晶片。 NVIDIA的AI GPU是AI運算的支柱,甲骨文等公司已經收購了這些晶片,並將AI運算能力出租給軟體公司。
Amazon的AWS業務也依賴雲端容量租賃。該公司也正在向客戶推廣其用於人工智慧運算的Trainium晶片,力求凸顯自主研發半導體的成本優勢。除了Amazon和 Trainium,其他公司也參與了客製化人工智慧晶片的設計。
晶片設計公司Marvell和Broadcom已確認這些計劃,而Alphabet也已推出用於AI運算的TPU晶片。另一方面NVIDIA CEO黃仁勳則對客製化晶片蠶食市佔率的擔憂不以為然,因為他相信NVIDIA的產品在性能方面處於市場領先地位。
消息來源 |