【多角度解析智慧型網路卡與資料處理器】伺服器加速運算裝置的型態與類型

我們這次的主題——伺服器加速運算裝置，是發展中的新興領域，隨著個別廠商的偏好、技術發展路線的差異、以及產品型態與應用取向的不同，有著智慧型網路卡、可程式化加速卡，資料處理器（DPU）、儲存處理器（SPU）、智慧型SSD、可程式化SSD，或運算型儲存裝置等各式名稱。

這些命名的出現，分別從不同面向，表達了這類產品的某些特性，但彼此間並沒有明確的區分與界定，事實上，智慧型網路卡與DPU，以及DPU與SPU等名稱，還常常彼此混用。

所以若要更深入地理解這個新興產品領域，我們應該拋開缺乏共通標準的產品命名，改從具體的產品規格特性著手，檢視與比較不同產品的規格，才能從中釐清出一個理路。

檢視產品組成的框架

目前市場上的伺服器加速運算裝置產品，雖然類型繁多、名稱各異，但都具備這三個基本特性：

首先，這類產品都是安裝到伺服器上的附屬裝置。

其次，這類產品都內嵌了可程式化的運算單元，用於為伺服器提供輔助的運算資源。

第三，伺服器可透過這些產品提供的加速運算資源，卸載CPU的運算負載。

而從前述基本特性來看，分別對應了3個基本的觀察面向：

（1）這些產品是以甚麼型態部署到伺服器上 ？是介面卡形式？或其他模組形式？

（2）這些產品提供的運算資源是甚麼型式？是哪一種類型的處理器？

（3）這些產品為伺服器提供的運算卸載功能，是針對哪些應用面向？是可隨用戶需求調整的通用應用?還是捆綁了特定應用平臺的特定應用？

這3個觀察面向，亦即產品部署型態、內嵌的處理器型式，以及應用取向，是我們檢視這個產品領域的出發點。

存在兩種產品部署型態

對於伺服器來說，最基本的附加模組裝置，便是擴充介面卡，所以大多數的加速運算裝置產品，也都選擇以擴充介面卡形式，部署到伺服器。

更進一步，許多加速運算裝置的開發廠商，都出身自網路、儲存相關領域，所以他們推出的加速運算裝置，都是與網路卡與I/O介面卡整合的型態，而這也是這個領域最普遍的產品型態。

但有一些廠商另闢蹊徑，改從另一種伺服器附加模組裝置——磁碟機著手，以PCIe SSD卡或NVMe SSD磁碟模組的型態，部署到伺服器上。透過引進NVMe介面，當前的高性能SSD也能透過PCIe匯流排，取得相當大的傳輸頻寬，足以支援附加運算單元的運作。

I/O介面卡型態產品

以PCIe介面的I/O介面卡形式，部署到伺服器上，基本形式是智慧型網路卡，又延伸發展出不同類型。

● 智慧型網路卡

智慧型網路卡是傳統網路卡的進階延伸產品，傳統網路卡是以ASIC型式的網路控制器晶片為核心，只能處理網路相關的負載。智慧型網路卡則是在傳統網路卡的基礎上，另外搭載了可程式化的嵌入式處理器，既如同傳統網路卡，能為伺服器提供網路介面，又能提供額外的運算單元，依需要執行多樣化的工作負載。典型產品如Intel的N3000、Mellanox的BlueField家族，Xilinx的Alveo U25與SN1000，Pensando DSC-25等。

● 智慧型儲存控制器

更進一步，有些廠商在智慧型網路卡的基礎上，另外結合了SAS介面與RAID運算功能，實際上，這種產品已經不僅只是智慧型網路卡，而可歸類於儲存控制器。

與智慧型網路卡相比，智慧型儲存控制器同樣擁有網路介面，以及可程式化的運算單元，又多了連接與控制儲存裝置的能力，等於是將網路卡、HBA卡、RAID卡的功能，結合於一身，具備完整的儲存控制功能。

典型的產品，有Broadcom Stingray系列中的PS250、Fungible的F1 DPU，以及Nebulon的SPU卡等。

● 融合式加速卡

Nvida在2020到2021年初，陸續宣布幾款結合智慧型網路卡與GPU的產品，包括BlueField-2X、BlueField-2 A100等，在原本智慧型網路卡的基礎上，又整合了GPU，可藉此來擴展運算的功能，支 援即時的安全分析，或是5G相關開發應用等。不過，這種產品目前只有Nvida推動，尚未成為主要類型。

SSD型態產品

以SSD磁碟的型式，安裝到伺服器上，透過NVMe介面與伺服器CPU連結，有2.5吋U.2介面SSD，以及PCIe SSD卡等兩種主要形式。

這種產品是在一般SSD的基礎上，結合可程式化的嵌入式處理器與記憶體而成，既可和一般SSD一樣，為伺服器提供基於NAND快閃記憶體的儲存空間，又能透過內含的嵌入式處理器與記憶體，執行各式各樣運算工作，卸載伺服器CPU的運算負擔，可說是智慧型的SSD。

基於這種形式的典型產品，目前有三星SmartSSD，NGD Systems的Newport Platform、ScaleFlux的CSS 1000與CSD 2000系列SSD等。

內嵌處理器的3大類型

伺服器加速運算裝置的核心，便是裝置上搭載的嵌入式處理器，通常有以下3種類型，各具不同的特性。

● 嵌入式通用處理器

以多核心的Arm或MIPS嵌入式處理器，作為運算單元的核心，功能彈性、廣泛，適用於具備複雜資料結構與演算法的通用運算。

如Mellanox的BlueField、Broadcom的Stingray等智慧型網路卡，以及Nebulon的SPU，都是採用Arm處理器作為嵌入式運算單元的核心。

● FPGA

長處是可針對客製化的運算，提供最佳化架構，特別適合具備高度平行性、確定的程式邏輯與規則的資料結構。

如Intel的N3000、Xilinx的Alveo系列，三星的SmartSSD等，這些產品都是以FPGA作為運算單元的核心，另外，再搭配用於系統管理的BMC控制晶片，或是Arm處理器。

● 訂製的網路控制器

通常是以基於P4架構的可程式化網路處理器作為運算核心，搭配作為系統管理的Arm處理器，特別強調虛擬化網路卸載能力，如Pensando的DSC-25、Netronome的NFP4000，都是採用這樣的架構。

應用取向的區分

我們可以依運算功能與應用環境兩個面向，將伺服器加速運算裝置分為幾種不同類型。

依運算功能來看，我們可分為固定功能與通用兩類，前者提供了預設的卸載運算功能，後者則允許執行用戶端指定的應用程式。

多數智慧型網路卡或智慧型SSD產品，都以提供固定運算功能為主，但藉由可程式化能力，可以更新這些運算功能。另有少數產品，則強調了運行用戶端客制化應用程式的能力。

而從應用環境，則分為開放式與專用兩類，前者可支援任何應用環境，只需透過廠商提供的API或軟體開發工具，就能啟用加速運算裝置的運算能力，多數產品都屬於這個類型。

但是，市面上，也有部分產品只支援特定應用環境，專門搭配特定應用平臺或特定應用。

例如，Nebulon基於Arm處理器的SPU卡，便是用於搭配自身的Nebulon ON儲存管理平臺；類似的，SoftIron以Arm處理器結合FPGA打造的運算裝置，則是用於自身的HyperDrive儲存系統。