NVIDIA的矽光子互連技術有望取代傳統的光互連,而Spectrum-X乙太網路光子學的概述顯示了它將在擴展AI運算方面發揮多大的作用。
當業界談論矽光子學時,其實施更側重於D2D互連以及AMD或Intel等硬體製造商將如何使用它。然而NVIDIA還有其他計劃。
在Hot Chips 2025的詳細介紹中,NVIDIA展示了其下一代Spectrum-X乙太網路光子互連,該互連在擴展AI工廠方面具有巨大的改進,更重要的是確保實施後能夠有效替代傳統的光學互連。
NVIDIA首先討論了共封裝光子學的需求,以及它如何顯著提升AI工廠的規模。該公司提到與傳統的雲端資料中心相比,AI工廠的光功率消耗大約是其17倍,這主要是因為GPU叢集的增加需要數十個光收發器來與其他GPU通訊。因此僅網路光子學的成本就佔AI工廠總運算能力的10%左右,而NVIDIA計劃透過Spectrum-X 乙太網路光子學技術來降低這一巨大的成本。
Spectrum-X乙太網路光子學是一種獨特的實施方案,據稱是第一個採用200G/通道SerDes的技術,這是電訊號傳輸領域的尖端標準。與可插拔收發器相比,Spectrum-X光子學有更好的訊號完整性和更低的DSP要求,因為在該方案中光子引擎 (PIC) 緊鄰交換器ASIC。這意味著無需較長的PCB走線,雷射數量也大幅減少。例如1.6Tb/s鏈路的雷射數量從8個減少到2個,這意味著更低的功耗和更高的傳輸可靠性。
NVIDIA的矽光子解決方案採用矽光子CPO晶片,傳輸速率高達1.6T。該解決方案整合了MRM(微環調製器),可提供更高的頻寬,同時降低功耗和佔用空間。更重要的是NVIDIA Photonics率先在光子層和電子層之間採用3D堆疊技術,從而降低了佈線複雜性並提高了頻寬密度。 NVIDIA團隊與台積電在矽光子領域展開合作,因為這家台灣龍頭是滿足光子學需求的首選。
據稱資料中心採用的NVIDIA光子技術相比光學標準,其能源效率提高了3.5倍,彈性提高了10倍,運行時間提高了1.3倍。這表明一旦光子技術成為主流互連,AI 計算將獲得巨大的發展。該公司還展示了其首款整合光子技術的全尺寸交換器Spectrum-6 102T,這將是NVIDIA的旗艦產品。
如果用幾句話來概括上述技術,NVIDIA Photonics旨在降低功耗,確保更輕鬆地擴展,更重要的是透過利用光子的能量來加速互連過程。共封裝矽光學元件支援在 ISO功率下將GPU效能提高3倍,並將雷射總數減少約4倍,這意味著您的大量功率將從網路轉移到實際的板載GPU集群,從而提高效能。
消息來源 |