隨著OpenAI的GPT-OSS 20B和120B AI模型的發布,AMD宣布其Ryzen AI MAX和Radeon GPU全面支援這些模型並提供增強的功能。
昨天OpenAI 發布了兩款全新的AI模型GPT-OSS 20B和GPT-OSS 120B,它們是2019年GPT-2的繼任者。 AMD宣布其Ryzen AI CPU和Radeon GPU為這些模型提供Day-0支援,並可透過LM Studio進行試用。
那麼GPT-OSS是什麼呢?它們是開放權重模型,旨在處理複雜的推理和代理能力。雖然大多數AI PC和AI晶片都能處理20B模型,但120B模型需要更多硬體資源。 AMD的Strix Halo或Ryzen AI MAX晶片正是為此而生。這些晶片擁有最高128GB的記憶體池,旨在原生處理此類AI模型。
GGML轉換後的MXFP4權重大約需要61GB記憶體,這可以輕鬆裝入AMD Ryzen AI Max+ 395處理器的96GB獨立記憶體中。請注意需要AMD Software: Adrenalin Edition 25.8.1 WHQL或更高版本的驅動程式才能解鎖此功能。
AMD也分享了OpenAI GPT-OSS模型的產品支援清單。其Ryzen AI MAX+ 395是唯一支援120B模型的晶片,其餘晶片,包括Radeon RX 9000、Radeon AI PRO R9000和Radeon RX 7000 GPU(至少配備16GB記憶體)都可以相對輕鬆地支援GPT-OSS 20B模型。
消息來源
|