Arm 發表二款可打造人工智慧基礎設施的 Neoverse 運算子系統並更新產品發展藍圖

針對人工智慧基礎設施需求，Arm 發表次世代 Arm Neoverse 技術，並推出二款延續運算子系統的 Neoverse CSS N3 與 CSS V3，讓效能與能源使用效率都提升。



人工智慧(AI)並不是新的名詞，不過近年來在軟、硬體技術進步以及許多新應用讓人們更為重視與瞭解。在眾多的應用當中，不論是智慧手機或是其它智慧應用，從感測器、邊緣運算至伺服器等各種基礎設施，都需要不同的人工智慧運算支援。


（左起）Arm 首席應用工程師徐煥昇、台灣總裁曾志光及應用工程總監徐達勇

傳統採用通用處理器的伺服器或其它裝置，並無法發揮人工智慧運算最佳能力，再加上全球重視永續及能源、環保議題下，也讓許多人思考運用不同的設計來執行特定的應用，以擁有更好的效能以及更低的功耗，或是更好的能源使用效率。不過想針對不同應用打造特別的處理器，在過往並不容易，畢竟新處理器從開發到生產上市，需要投入許多的製造與人工成本，更無法快速上市。


不同工作負載有不同的特性，搭配專用的處理器可發揮最大性能

從行動裝置、邊緣運算到後端伺服器都可見蹤影的 Arm 架構處理器，在通用型處理器無法滿足基礎設施需求下成為最佳的選擇。包括 AWS、NVIDIA以及 Microsoft 等皆採用 Arm 架構推出相關產品，以滿足不同的工作負載，達到效能、用電效率及成本等效益。

針對人工智慧基礎設施的需求，Arm 發表次世代的 Arm Neoverse 技術，同時也延續 Neoverse CSS (Compute SubSystems，運算子系統)設計，推出更高性能與能源效率的 Neovers CSS V3 與 N3，其中 Neoverse CSS V3 也是 CSS 系列中首款以性能為主的 V 系列產品，它以 Neoverse V3 為基礎，每個插槽效能比前代 Neoverse CSS產品大幅高出 50%。而 Neoverse CSS N3 則擁有比前一代產品更好的每瓦效能，幅度提升達到 20%。

過往許多採用 Arm 架構做新產品設計，在取得 Arm 的 IP 後，還得自行再加上周邊的系統，如不同的 I/O、記憶體技術等，許多耗用許多人力與成本。為此 Arm 推出的 Neoverse CSS 運算子系統，包括 Neoverse 核心、CMN 網狀結構和系統 IP 等，並預先整合、預先驗證，同時具有功耗、效能與面積最佳化，快速提供市場效能最佳化運算所需的系統管理、電源管理、軟體和開發工具，而設計者可直接加以利用或進一步客製化。

去年推出的 Arm Neoverse CSS N2 是 Neoverse CSS 的第一款產品，受到市場的歡迎與採用，範圍涵蓋從超大規模運算業者到新創公司，應用則包括雲端運算、網路、資料中心基礎設施及人工智慧，像 Microsoft Cobalt 100 就是以 Neoverse CSS 為基礎而推出的產品。


Neoverse CSS N3 是性能與能源效率兼具的設計

為了進一步滿足不同的運算需求，Arm 宣布 Neoverse CSS 加上二款新成員，即 Neoverse CSS N3 與 Neoverse CSS V3。Neoverse CSS N3 是以效能與能源效率兼具的設計，其運算能力可選擇 8-32個 Neoverse N3 核心組成，在 32 核心組態下，其 TDP 功耗可低於 40W，擁有極佳的每瓦效能表現，比前一代的 Neoverse N2 提升 20%。Neoverse N3 CSS 用於電信、資料處理器、網路及雲端等應用。



以高性能為訴求的 Neoverse CSS V3 可支援更多的記憶體與高速 I/O

由於現在有更多的應用需要高運算性能，包括人工智慧與機器學習、高性能運算電腦以及雲端等應用，Arm 在 Neoverse CSS 系列中首度加入以高運算能力為訴求的 Neoverse CSS V3。Neoverse CSS V3 每個插槽擁有 64 個最多 128個 Neoverse V3 運算核心，並支援更多的記憶體技術，包括多通道 DDR5/LPDDR5、HBM3，同時也支援更高速的新一代 I/O，包括 PCIe Gen5 與 CXL 3.0等。


與前一代產品相比，Neoverse N3 與 V3 的性能都提高許多


Neoverse CSS V3 可搭配 AI 加速器提供人工智慧極佳的解決方案

此外，Arm 最強大的資產之一就是生態系，為了協助合作夥伴迅速成功地提供客製化解決方案，Arm 推出了 Arm 全面設計（Arm Total Design）。Arm 全面設計是合作夥伴生態系，以 Neoverse CSS 為基礎提供客製化系統單晶片。


Arm Neoverse 平台新的產品藍圖

Arm 全面設計在過去幾個月就集結各種技術的合作夥伴，現在更擁有 20 家以上合作夥伴，共同確保各界能夠廣泛取得高效能及高效率的解決方案，協助因應人工智慧加速未來的運算需求。合作夥伴已經開始合作開發各種項目，例如驗證 IP、客製化韌體，甚至是全球最先進的製程建構小晶片，這些都是使用 Neoverse CSS。Arm 更運用全面設計生態系夥伴的回饋而發表小晶片系統架構（CSA），定義強健及可互換的小晶片生態系。