UL Procyon AI Text Generation Benchmark 提供 ONNX 模型包含 Phi-3.5-mini、Llama-3.1-8B、Mistral-7B 與 Llama-2-13B 測試,每個模型測試 7 個 Prompts 包含 RAG 與非 RAG 的查詢,通過權重後的總分與平均 Time To First Token(TTFT)、平均 Output Token Speed(OTS)提供專業用戶橫量電腦的 AI LLM 推論效能。
迷你主機的溫度與功耗測試,分別使用 AIDA64 CPU 與 Cinebench R23 測試 CPU 溫度,而 Speed Way Stress test 與《電馭叛客 2077》則針對 GPU 測試。功耗測量時使用 HWINFO 軟體偵測數值。
待機時 CPU 溫度約在 62°C 左右、GPU 則是 45.5°C,通過 AIDA64 CPU 測試 CPU 溫度達到 97°C,接著 Cinebench R23 測試 CPU 則達到 99°C。可見 CPU 的溫度相對難壓制,這也是 Intel HX 筆電處理器一直以來的表現。
Speed Way Stress test 時 CPU 約在 82°C 左右、GPU 反而較低 68.3°C,使用實際遊戲《電馭叛客 2077》測試,這時 CPU 溫度 86°C、GPU 溫度則是 69.8°C。相比之下 GPU 溫度控制的較好,至於同散熱器之下 CPU 溫度表現確實較高,或許換成 AMD 處理器可能就有不同的溫度狀況。
↑ 溫度測試。
功耗測試時則多加入 Total System Power 資訊,首先 CPU 壓力測試下撇除前 56 秒的 Turbo 時間(CPU 功耗最高來到 170W),CPU 穩定維持在 120W 左右的功耗;而在 GPU 壓力測試時,GPU 幾乎維持在 174W 左右,也符合官方提到的 150+25W DynamicBoost 的功耗表現。
當然有趣的是 GPU 測試項目,相對 CPU 所需的功耗不高,但溫度還是相對難降低這也反應出 CPU 溫度表現確實相比 GPU 還要難壓制。