Intel的新AI硬體：NNP-T1000，NNP-I1000

在2019年AI高峰會上Intel推出了其新的AI加速硬體。這些主要是Nervana神經網路處理器（NNP）。NNP-T1000用於訓練神經網路，而NNP-I1000用於推理。Intel最近幾個月已經發布了這兩種產品的技術數據。

NNP-T1000別名Spring Crest由270億個電晶體管組成，擁有32GB的HBM2。所有這些Intel都用面積為1.200 mm²的進行包裝。ASIC由24 Tensor Prozessor (TPCs)組成。這些計算能力可達到119 TOPS。SoC還擁有60MB的SRAM。為了使盡可能多的數據盡可能接近TPC，Intel安裝了四個HBM2，每個晶片的容量為8 GB總共為32GB。並搭配擁有16個通道和64個SerDes(Serialisierer/Deserialisierer)的PCIe 4.0匯流排。NNP-T由TSMC用16nm製程（CLN16FF +）打造。

NNP-T包裝為60 x 60 mm封裝，採用BGA設計擁有3,325跟根針腳。但NNP-T不能在插槽中使用，而是使用焊接的。NNP-T的速率為1.1 GHz，可以配置150至250W的TDP。

NNP-I1000又名Spring Hill。Intel使用兩個10nm Sunny Cove核心。DL-Boost加速了相應的推理指令。還有12個推理和計算單元（ICE）。NNP-I1000可以配置10至50W的TDP。在INT8中性能可在48至92 TOPS之間移動。

記憶體中有3MB的Tightly-Coupled Memory（TCM），其頻寬為68TB/s。此外還有48MB的SRAM，其數據速率為6.8TB/s。以680GB/秒的速度連接了額外的24MB Low Latency Cache（LLC）。最後最多可以安裝32GB的LPDDR4，以67.2GB/s的速度連接。Intel將晶片和記憶體打包為M.2格式。因此加速器可以用非常容易的裝到系統中。

消息來源