sxs112.tw 發表於 2019-10-22 16:50:18

未來的AMD GPU架構將實現BFloat16浮點功能,將為AI機器帶來豐厚的回報

未來的AMD GPU架構可以在晶片上實現BFloat16浮點功能。GitHub上對AMD ROCm庫的更新大大降低了該公司實施計算標準的暗示,該標準相對於當前AMD GPU實現的FP16擁有明顯優勢。BFloat16的範圍比FP16大得多,後者的上限僅為6.55x10^4,這迫使某些AI研究人員“後退”到效率相對較低的FP32數學硬體。

BFloat16使用的有效位數比FP16少三位(8位對11位),提供8個指數位,而FP16僅提供5位。BFloat16本質上是截斷的FP32,因此與FP16相比,BFloat16對FP32的轉換具有更強的上溢和下溢能力。BFloat16的添加更多地是“針對未來” 由AMD測量。與FP16相比,BFloat16不太可能使現代3D遊戲渲染中的原子操作受益。但是BFloat16將為AI機器學習社區帶來豐厚的回報。

消息來源
頁: [1]
查看完整版本: 未來的AMD GPU架構將實現BFloat16浮點功能,將為AI機器帶來豐厚的回報