找回密碼註冊
作者: ellen
查看: 7650
回復: 0

文章標籤:

文章分享:

+ MORE精選文章:

    + MORE活動推薦:

    Micron Crucial T710 SSD 玩家開箱體驗分享

    進入疾速前進! 快速邁向終局勝利 使用 Crucial® T710 Gen5 NVMe® ...

    COUGAR ULTIMUS PRO玩家開箱體驗分享活動

    ULTIMUS PRO 終極功能,無限連接 Ultimus Pro 採用簡潔的 98% 鍵盤佈 ...

    COUGAR AIRFACE 180 玩家開箱體驗分享活動

    AIRFACE 180 180mm 風扇,威力加倍 Airface 180 預裝兩顆 180mm PWM ...

    COUGAR GR 750/GR 850 玩家開箱體驗分享活

    ATX 3.1 兼容,穩定供電無憂 COUGAR GR 系列通過 80 PLUS 金牌認證 ...

    打印 上一主題 下一主題

    [業界新聞] 輝達揭最新AI晶片「H200」股價連9漲 性能較H100提升近一倍

    [複製鏈接]| 回復
    跳轉到指定樓層
    1#
    ellen 發表於 2023-11-15 11:37:34 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
    在2023年全球超算大會(SC2023)上,晶片巨頭輝達發佈了H100晶片的繼任者,也是目前世界最強的AI晶片——H200。相比於其前任產品H100,H200的性能直接提升了60%到90%。
    不僅如此,H200與H100一樣都是基於輝達Hopper架構打造,這也意味著兩款晶片可以互相相容,對於使用H100企業而言,可以無縫更換成新的H200。同時H200還是輝達首款使用HBM3e記憶體的晶片,速度更快容量更大,更適合用於大語言模型的訓練或者推理。

    除了HBM3e記憶體外,H200的記憶體容量為141GB,頻寬從H100的3.35TB/s增加到了4.8TB/s。H200的性能提升最主要體現在大模型推理表現上,H200 在700億參數的Llama2大模型上的推理速度比H100快了一倍,而且在推理能耗上H200相比H100直接降低了一半。

    對於顯存密集型HPC應用,H200更高的顯存頻寬能夠確保高效地訪問運算元據,與CPU相比,獲得結果的時間最多可提升110倍。輝達表示H200預計將於2024年第二季度出貨,售價還暫未公佈,不過在算力荒下,大科技公司們估計還是會瘋狂囤貨

    更多圖片 小圖 大圖
    組圖打開中,請稍候......
    您需要登錄後才可以回帖 登錄 | 註冊 |

    本版積分規則

    小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

    GMT+8, 2025-12-19 09:53 , Processed in 0.112710 second(s), 64 queries .

    專業網站主機規劃 威利 100HUB.COM

    © 2001-2018

    快速回復 返回頂部 返回列表