AMD認為資料中心的推理功能很快就會變得過時,而將被手機和筆記型電腦等針對消費者的設備所採用。
人工智慧狂潮的開始標誌著對模型訓練的狂熱,以及公司如何建立巨大的計算能力來訓練各自的LLM,但似乎市場正在轉向推理,而AMD認為它處於這一轉變的最前端。 AMD技術長Mark Papermaster在接受商業內幕採訪時透露,推理正在朝著邊緣設備邁進,並且鑑於AMD認為它可以在這一領域給NVIDIA帶來困難。
問題:好的,假設是2030年——在邊緣進行多少推理?
AMD首席技術長:隨著時間的推移,它將成為多數。我無法說出何時會發生這種轉變,因為它是由應用程式驅動的——可以在邊緣設備上運行的殺手級應用程式的開發。我們現在才剛看到苗頭,但我認為進展很快。
Papermaster認為資料中心人工智慧運算成本的飆升最終將迫使微軟、Meta和Google等科技龍頭重新考慮他們的方法,使邊緣人工智慧變得更加普遍。他認為,這就是AMD比Intel和高通等競爭對手更重視AI PC炒作的主要原因之一。AMD的最新APU系列,例如Strix Point和Strix Halo,證明了該公司致力於將AI運算能力融入小尺寸產品,而且成本也只是其一小部分。
當被問及計算資源的累積以及最終結果如何時,AMD的首席技術長回答說,他們特別注重提高模型的準確性和效率,隨著DeepSeek的發布,科技龍頭們正在採取優化的替代方案。最終在更長的時間跨度內,設備將有能力在本地運行複雜的人工智慧模型,讓使用者能夠充分體驗人工智慧的能力。
消息來源 |