Intel推出7nm Habana Gaudi2和Greco深度學習加速器，性能是NVIDIA Ampere A100的2倍

Intel今天正式發布了其7nm Habana Gaudi2和Greco深度學習加速器，與NVIDIA的Ampere A100 GPU相比其吞吐量性能高達2倍。

最新的數據中心深度學習加速器由Intel Habana實驗室設計。這些是最新的專用深度學習平台，提供高比例的DL訓練和/或推理。所以從細節開始，我們首先要指出的是Habana Gaudi2和Greco都是採用7nm製程，可惜的是這個細節對我們並沒有太大幫助，因為7nm可能指的是台積電、Intel 7（以前的Intel 10nm）或Intel 4（以前的Intel 7nm，可能性最小）上的N7製程。

最初的Habana Gaudi處理器是採用16nm TSMC製程打造的，這使得該晶片更有可能在N7或Intel 7上執行。無論如何考慮到Gaudi 2平台顯然位於比16nm小得多的製程上（在本身提供了大約50%的密度增加），至於規格Gaudi2有24個TPC，用於在FP8格式上執行的媒體解碼和處理（相對於8個TPC）。記憶體配置包括96GB HBM2e，提供2.45TB/s頻寬和額外的48MB SRAM。透過24個100GbE交換機提供網路連接。如此大的性能飛躍也意味著TDP會大幅提高，而Gaudi2的 TDP為600W（相對於350W）。

在性能方面與單個A100 80GB GPU相比，Intel Habana Gaudi2加速器的ResNet-50訓練吞吐量提高了1.9倍。在NLP BERT Phase-1 Training中，該晶片在Phase-2訓練中有1.7倍的吞吐量和2.8倍的吞吐量。最後Intel還匯總了BERT訓練吞吐量比較，結果顯示Gaudi2比其競爭對手NVIDIA A100提高了2.0倍。總體而言與NVIDIA解決方案相比，新加速器可節省高達75%的培訓成本。

還有Intel Habana Greco，它是一種深度學習推理，旨在實現最高效率，也採用相同的7nm製程。該加速器提供16GB記憶體、240 GB/s LPDDR5記憶體和額外的128 MB of on-chip SRAM。計算能力包括用於媒體解碼和處理的BF16、FP16和INT4格式。

TDP的額定功率僅為75W。與Gaudi2採用的OAM模組相比，Greco採用單插槽HHHL外形。由於其TDP額定為75W，因此卡上無需外部電源連接器。Intel還宣布從現在開始向客戶提供7nm Gaudi2加速器，而Greco將在2022年下半年向選定客戶提供樣品。

消息來源