lin.sinchen 發表於 2024-9-9 21:05:11

Procyon AI 圖片生成測試支援 INT8 精準度讓 NPU 也可測試

https://news.xfastest.com/wp-content/uploads/2024/09/Procyon_AI_IG_Banner.jpg

AI 應用中精度的高低掌握著生成的品質,但也因為圖片生成多半以 FP16高精度計算,因此對於省電的 NPU 來說並無法正常運行。

有鑑於此 Procyon AI Image Generation Benchmark 加入 Stable Diffusion 1.5 INT8 精準度的選擇,讓各家的 NPU 可藉由測試工具獲得一致可量化的性能比較,這也是目前為數不多可比較 GPU、iGPU 與 NPU 的測試工具。

AI 圖片生成根據採用的精度不同也會影像圖片的細節呈現,下圖採用 Stable Diffusion 1.5 模型透過 Intel OpenVINO 引擎生成的圖片,可見下圖右有著較好的城堡與樹蔭的細節表現。

https://news.xfastest.com/wp-content/uploads/2024/09/Procyon-AI-SD-1.5-INT8-FP16-comparison-shots.png

更高精度的 FP16 能生成更高細節的影像,但需要獨立 GPU 才能順利執行。精度改用 INT8 則可有較快的執行速度、使用較小的視訊記憶體,以及讓 NPU 有能力運行等好處。

未來測試 NPU 時也會加入這功能,讓玩家更容易量化 AI 效能。

source: benchmarks.ul.com
頁: [1]
查看完整版本: Procyon AI 圖片生成測試支援 INT8 精準度讓 NPU 也可測試