NVIDIA和OpenAI為消費者帶來了最新的gpt-oss系列AI開放式模型，在RTX GPU上提供最高效能。
新聞稿：今天NVIDIA宣布與OpenAI合作將全新的GPT-OSS系列開放模式帶給消費者，讓曾經專屬於雲端資料中心的先進AI能夠在搭載RTX的PC和工作站上以驚人的速度運作。
NVIDIA創辦人兼CEO黃仁勳強調了此次發布的重要性：
NVIDIA創辦人兼CEO黃仁勳表示OpenAI向世界展示了採用NVIDIA AI的潛力——現在他們正在推動開源軟體的創新。gpt-oss模型讓世界各地的開發者能夠在最先進的開源基礎上進行打造，從而鞏固美國在AI領域的技術領先地位——所有這一切都建立在全球最大的AI運算基礎架構之上。
此次發布標誌著新一代更快、更智慧的裝置端AI技術正式發布，並由GeForce RTX GPU和PRO GPU的強大效能驅動。目前提供兩種全新版本，旨在服務整個生態系統：
gpt-oss-20b模型經過最佳化，可在有至少16GB VRAM的NVIDIA RTX AI PC上以最佳效能運行，在RTX 5090 GPU上每秒可提供多達250個tokens。
這些模型在NVIDIA H100 GPU上進行訓練 ，是第一批在NVIDIA RTX上支援MXFP4精確度的模型。與舊方法相比，這項技術可在不增加效能成本的情況下提高模型品質和準確率。兩種模型均支援高達131,072個上下文長度，是本地推理領域中可用的最長上下文長度之一。它們採用靈活的混合專家 (MoE) 架構打造，有思路鏈功能，並支援指令追蹤和工具使用。
本週的RTX AI Garage重點介紹了AI愛好者和開發人員如何在NVIDIA RTX GPU上使用新的OpenAI模型：
- Ollama App：測試這些模型最簡單的方法是使用全新的Ollama App。其使用者界面包含對gpt-oss模型的開箱即用支持，並針對RTX GPU進行了全面優化。
- Llama.cpp：NVIDIA正在與開源社群合作，優化RTX GPU的效能，最近的貢獻包括導入CUDA Graphs來降低開銷。開發者可以從Llama.cpp GitHub程式碼庫開始使用。
- Microsoft AI Foundry：Windows開發者可以透過Microsoft AI Foundry Local（公開預覽版）存取模型。入門非常簡單，只需在終端機中執行命令Foundry model run gpt-oss-20b即可。
消息來源 |
收藏
分享
分享
提升卡
置頂卡
沉默卡
喧囂卡
變色卡
顯身卡
