推論效能至關重要,因為它會直接影響人工智慧(AI)工廠的經濟效益。AI 工廠基礎設施的輸送量越高,就能以高速產生更多詞元(token),進而提高營收、降低總擁有成本(TCO),並提升整體系統的生產力。 採用 NVID ...