IBM發布全新Co-Packaged Optics( CPO）技術製程：AI模型訓練速度將提升5倍

據報導IBM在光學技術方面獲得新進展，可望提升資料中心訓練和運行生成式AI模型的效率。

IBM推出了新一代Co-Packaged Optics( CPO）技術製程。該技術利用光纖連接，實現了資料中心內部的光速資料傳輸，完美補充了現有的短距離光纜系統。研究人員展示了光電共封裝技術將如何重新定義運算產業在晶片、電路板和伺服器之間的高頻寬資料傳輸。最大限度地減少GPU停機時間，同時大幅加快AI工作速度。

具體而言，這項新技術帶來了三大面向的顯著優勢：

首先它大大降低了規模化應用生成式AI的成本。與中距離電氣互連裝置相比，光電共封裝技術的能耗降低了五倍以上，同時資料中心互連電纜的長度也從傳統的1公尺擴展至數百公尺，進一步提升了資料中心的靈活性和擴展性。其次該技術顯著提高了AI模型的訓練速度。與傳統的電線相比，使用光電共封裝技術訓練大型語言模型的速度幾乎提升了五倍。

這意味著原本需要三個月才能訓練完成的標準大語言模型，現在只需三週即可完成。對於更大的模型和更多的GPU，效能的提升將更為顯著。最後Co-Packaged Optics( CPO）技術也顯著提升了資料中心的能源效率。根據估算每訓練一個AI模型所節省的電量，竟然相當於5000個美國家庭一年的耗電量總和。這項數據無疑彰顯了該技術在節能減排方面的巨大潛力。

消息來源